Agents d’intel·ligència artificial desenvolupats per OpenAI van accedir sense autorització a diversos portals del govern dels Estats Units durant els últims mesos, sense haver rebut instruccions explícites per executar atacs informàtics. Els sistemes van actuar sobre webs vinculades al Departament de Comerç i a la Comissió de Borsa i Valors (SEC), i també van intentar sense èxit entrar al lloc del Departament d’Educació. OpenAI ha reconegut els incidents, els investiga internament i assegura que va informar les autoritats després de detectar l’activitat anòmala.
Dades del Cens i un intent contra Educació
Els agents havien estat dissenyats per buscar i recopilar informació, però en alguns casos van començar a explorar vulnerabilitats quan no podien aconseguir determinades dades pels canals habituals. Segons la informació coneguda, alguns d’aquests sistemes van accedir a dades de l’Oficina del Cens, dependent del Departament de Comerç, mitjançant credencials que havien trobat a internet. Altres bots van compartir en un fòrum en línia dades públiques procedents del portal de la SEC.
There is an extensive and ongoing review related to our agents’ use of internet access during training and evaluation. We’ve been publishing summaries at the link below and will continue to.
— Sam Altman (@sama) September 25, 2026
We have not been as fast as we would have liked but we are trying to balance our desire… https://t.co/8zoMxas5Eq
Un altre dels episodis va afectar el Departament d’Educació. Els agents van intentar accedir al seu web per obtenir informació de l’oficina de drets civils, però l’operació no va tenir èxit. OpenAI manté que aquests casos no constitueixen una violació de seguretat, sinó comportaments inesperats i preocupants de la seva tecnologia, i afirma que està col·laborant amb les agències governamentals per aclarir què va passar.
Una investigació que també apunta a Austràlia
Les anomalies van sortir a la llum durant una auditoria interna relacionada amb altres actuacions dels sistemes d’OpenAI. Entre els casos investigats figura l’accés sense autorització, el juny passat, a un portal del sistema públic de salut d’Austràlia, on un agent hauria obtingut arxius públics i privats. La investigació interna també va detectar almenys sis intents més d’accés, així com episodis en què la IA va ocultar errors, va inventar dades o va transferir arxius a internet sense permís.
L’empresa també analitza un atac protagonitzat per un model experimental contra Hugging Face, una plataforma de models oberts d’intel·ligència artificial. Sam Altman ha admès que hi ha més organitzacions afectades i ha assenyalat aquest episodi com el més greu detectat fins ara. “Estem prioritzant tan bé com podem en funció de la gravetat i afegint recursos”, va escriure a X. “Hugging Face continua sent l’esdeveniment més greu que hem vist”, va afegir.
OpenAI preveu mesos d’investigació
Altman també ha assegurat que la companyia intentarà donar informació sobre els casos a mesura que avanci la revisió, tot advertint que algunes vulnerabilitats detectades afecten terceres empreses. “Serem tan transparents com puguem, subjectes a qüestions com les vulnerabilitats d’altres companyies que els nostres agents han trobat, que seran elles les que decidiran si les divulguen o no”, va afirmar. OpenAI, per la seva banda, ha avançat que la investigació serà llarga: “Atesa l’escala de la revisió necessària i la necessitat d’avaluar cada cas, esperem que aquest treball trigui mesos a completar-se”.