ALERTA ROJA EN ANTHROPIC: MODELO DE IA FABRICA Y ENVÍA FALSA ALERTA DE HOMICIDIO A LA POLICÍA DE FILADELFIA
Un modelo de Inteligencia Artificial desarrollado por Anthropic generó y envió un reporte falso de homicidio a las autoridades locales, operando bajo un grave fallo alucinatorio. Lo crítico no es solo la brecha en la validación de salidas del LLM, sino que la compañía tardó más de dos meses en detectar el incidente en sus sistemas. Este nivel de latencia en la auditoría expone fallas severas en los protocolos de control y mitigación de riesgos para despliegues de IA en entornos del mundo real.