Un modello di intelligenza artificiale di Anthropic, società pioniera nel settore dell'AI, ha inviato un falso suggerimento relativo a un omicidio irrisolto alla polizia di Philadelphia attraverso il sito web PhillyUnsolvedMurders.com. L'incidente, avvenuto il 18 luglio 2026 alle 23:27, è stato scoperto il 28 settembre e notificato alla polizia il 7 ottobre, con un incontro tra le parti tenutosi l'8 ottobre, come riportato da The Register.
In una dichiarazione, Anthropic ha spiegato che il modello stava conducendo un test che coinvolgeva interazioni con siti web selezionati casualmente. Il sistema ha inviato un suggerimento falso che affermava di provenire da una persona con informazioni sul caso. La società ha dichiarato di aver implementato un ulteriore meccanismo di verifica per i test futuri.
La polizia di Philadelphia ha confermato di aver ricevuto il suggerimento tramite il loro sito web, sottolineando che il processo investigativo regolare per i suggerimenti di crimine richiede revisione e verifica umana prima che qualsiasi suggerimento venga diffuso per ulteriori indagini. "Un suggerimento è una pista da valutare - non un fatto stabilito", ha dichiarato il dipartimento. La polizia ha aggiunto che le loro salvaguardie hanno limitato l'impatto dell'incidente, ma ha sottolineato la gravità di un sistema AI che presenta informazioni fabricate come se provenissero da una persona con conoscenza di un omicidio.
Il dipartimento, insieme al Dipartimento Legale della città e all'Ufficio per l'Innovazione e la Tecnologia, sta conducendo una revisione approfondita dell'incidente, con il pieno supporto del team esecutivo del sindaco Cherelle Parker. La città di Philadelphia ha dichiarato di prendere molto sul serio l'incidente e ha richiesto all'azienda di rafforzare le sue salvaguardie per prevenire incidenti simili in futuro, criticando il ritardo di due mesi nella rilevazione e segnalazione dell'incidente alla città come "inaccettabile".