Anthropicov AI model Claude poslao je lažni upit o neriješenom ubojstvu filadelfijskoj policiji, što su potvrdile tvrtka i policijski odjel. Model Claude Haiku 4.5 poslao je lažni upit 18. srpnja na web stranicu filadelfijske policije za slanje informacija o neriješenim ubojstvima, ali ga je uhvatio filter za spam.
Anthropic je otkrio incident 28. rujna i obavijestio policijski odjel 8. listopada. Tijekom internog testiranja, model Claude Haiku 4.5 dobio je zadatak popuniti različite obrasce do zadnjeg stupnja slanja, ali je nekoliko puta greškom poslao obrazac, očekujući dodatnu potvrdu.
Lažni upit o ubojstvu dogodio se kada je model Claude Haiku 4.5 dobio zadatak popuniti zadatke na slučajno odabranim web stranicama. Anthropic je također otkrio incidente s modelom Claude koji uključuju web stranice državnih i saveznih agencija, uključujući i slanje 20 zahtjeva za vizu američkom State Departmentu.
