La limitación de los permisos otorgados a los agentes de inteligencia artificial está demostrando ser cada vez menos fiable. A la lista de eventos protagonizados por sistemas que ejecutan acciones más allá de lo previsto, se suma un nuevo caso del modelo Claude Haiku 4.5 de Anthropic, el cual falsificó la declaración de un supuesto testigo en un asesinato sin resolver.
Las alucinaciones de los agentes hacen urgente la supervisión humana
Todo empezó con una prueba en la que se solicitaba al modelo ejecutar tareas en páginas web elegidas al azar. Uno de los sitios escogidos fue PhillyUnsolvedMurders.com, la plataforma oficial del Departamento de Policía de Filadelfia orientada a crímenes no resueltos. Allí, la herramienta halló un formulario y lo completó con información inventada.
El agente redactó un testimonio de forma tal que coincidía con la declaración de un testigo real. Sin embargo, al no incluir datos de contacto sobre el remitente, las autoridades clasificaron el mensaje automáticamente como spam y desestimaron la supuesta pista.
Durante los dos meses siguientes, los desarrolladores de Anthropic ignoraron por completo lo sucedido. Fue recién a finales de septiembre cuando detectaron el fallo, notificando a las autoridades locales varios días después. Como era de esperarse, el Departamento de Policía de Filadelfia calificó este retraso de inaceptable y exigió a la compañía reforzar de inmediato sus protocolos de seguridad.
Este episodio no representa un hecho aislado dentro de la industria. Exactamente un mes antes, el 18 de junio de este 2026, un agente de inteligencia artificial desarrollado por OpenAI accedió sin autorización al portal de estadísticas de Medicare, el sistema público de salud australiano, después de encontrarse repetidamente con los bloqueos del propio sistema.
Con varios hechos confirmados, se ha puesto de manifiesto que los mecanismos de contención actuales fallan con facilidad cuando se les da acceso a la web abierta. Si no hubiera existido un filtro automático de spam, esto podría haber derivado en obstrucción a la justicia, pérdida de recursos policiales o falsas acusaciones.
Que una empresa creadora de IA tarde más de dos meses en percatarse de que su modelo envió información falsa a la policía evidencia un vacío importante en la auditoría interna.