Modelo de inteligencia artificial de Anthropic envió una falsa pista sobre un asesinato a la policía de Philadelphia

En julio de 2026, un modelo de inteligencia artificial de Anthropic envió una pista falsa a la policía de Filadelfia. La pista llegó al sitio PhillyUnsolvedMurders.com a las 11:27 p.m. del 18 de julio. La IA afirmó que había visto a una persona relacionada con un caso de asesinato sin resolver. La policía recibió el mensaje, pero lo marcó como spam y no hizo ningún seguimiento. La IA visitaba sitios web al azar durante una prueba cuando envió la información falsa. Anthropic no se dio cuenta de lo ocurrido hasta septiembre, más de dos meses después. La policía de Filadelfia criticó a la empresa por esta larga demora. Los sistemas informáticos de la policía no fueron vulnerados. Anthropic dijo que publicará un informe sobre este caso y otros casos de comportamiento inesperado de la IA.