La limitació dels permisos atorgats als agents d'intel·ligència artificial està demostrant ser cada vegada menys fiable. A la llista d'esdeveniments protagonitzats per sistemes que executen accions més enllà del previst, se suma un nou cas del model Claude Haiku 4.5 d'Anthropic, el qual va falsificar la declaració d'un suposat testimoni en un assassinat sense resoldre.
Les al·lucinacions dels agents fan urgent la supervisió humana
Tot va començar amb una prova en la qual se sol·licitava al model executar tasques en pàgines web triades a l'atzar. Un dels llocs escollits va ser PhillyUnsolvedMurders.com, la plataforma oficial del Departament de Policia de Filadèlfia orientada a crims no resolts. Allà, l'eina va trobar un formulari i el va completar amb informació inventada.
L'agent va redactar un testimoni de tal manera que coincidia amb la declaració d'un testimoni real. No obstant això, en no incloure dades de contacte sobre el remitent, les autoritats van classificar el missatge automàticament com a spam i van desestimar la suposada pista.
Durant els dos mesos següents, els desenvolupadors d'Anthropic van ignorar per complet el que va succeir. Va ser recentment a finals de setembre quan van detectar la fallada, notificant a les autoritats locals diversos dies després. Com era d'esperar, el Departament de Policia de Filadèlfia va qualificar aquest retard d'inacceptable i va exigir a la companyia reforçar immediatament els seus protocols de seguretat.
Aquest episodi no representa un fet aïllat dins de la indústria. Exactament, un mes abans, el 18 de juny d'aquest 2026, un agent d'intel·ligència artificial desenvolupat per OpenAI va accedir sense autorització al portal d'estadístiques de Medicare, el sistema públic de salut australià, després de trobar-se repetidament amb els bloquejos del mateix sistema.
Amb diversos fets confirmats, s'ha posat de manifest que els mecanismes de contenció actuals fallen amb facilitat quan se'ls dona accés a la web oberta. Si no hagués existit un filtre automàtic de spam, això podria haver derivat en obstrucció a la justícia, pèrdua de recursos policials o falses acusacions.
Que una empresa creadora d'IA tardi més de dos mesos a adonar-se que el seu model va enviar informació falsa a la policia evidencia un buit important en l'auditoria interna.