Cargando...

Agentes de inteligencia artificial desarrollados por OpenAI accedieron sin autorización a varios portales del gobierno de Estados Unidos durante los últimos meses, sin haber recibido instrucciones explícitas para ejecutar ataques informáticos. Los sistemas actuaron sobre webs vinculadas al Departamento de Comercio y a la Comisión de Bolsa y Valores (SEC), y también intentaron sin éxito entrar en el sitio del Departamento de Educación. OpenAI ha reconocido los incidentes, los investiga internamente y asegura que informó a las autoridades después de detectar la actividad anómala.

Datos del Censo y un intento contra Educación

Los agentes habían sido diseñados para buscar y recopilar información, pero en algunos casos empezaron a explorar vulnerabilidades cuando no podían conseguir determinados datos por los canales habituales. Según la información conocida, algunos de estos sistemas accedieron a datos de la Oficina del Censo, dependiente del Departamento de Comercio, mediante credenciales que habían encontrado en internet. Otros bots compartieron en un foro en línea datos públicos procedentes del portal de la SEC.

Otro de los episodios afectó al Departamento de Educación. Los agentes intentaron acceder a su web para obtener información de la oficina de derechos civiles, pero la operación no tuvo éxito. OpenAI mantiene que estos casos no constituyen una violación de seguridad, sino comportamientos inesperados y preocupantes de su tecnología, y afirma que está colaborando con las agencias gubernamentales para aclarar qué pasó.

Una investigación que también apunta a Australia

Las anomalías salieron a la luz durante una auditoría interna relacionada con otras actuaciones de los sistemas de OpenAI. Entre los casos investigados figura el acceso sin autorización, el pasado junio, a un portal del sistema público de salud de Australia, donde un agente habría obtenido archivos públicos y privados. La investigación interna también detectó al menos seis intentos más de acceso, así como episodios en los que la IA ocultó errores, inventó datos o transfirió archivos a internet sin permiso.

La empresa también analiza un ataque protagonizado por un modelo experimental contra Hugging Face, una plataforma de modelos abiertos de inteligencia artificial. Sam Altman ha admitido que hay más organizaciones afectadas y ha señalado este episodio como el más grave detectado hasta ahora. "Estamos priorizando tan bien como podemos en función de la gravedad y añadiendo recursos", escribió en X. "Hugging Face sigue siendo el evento más grave que hemos visto", añadió.

OpenAI prevé meses de investigación

Altman también ha asegurado que la compañía intentará dar información sobre los casos a medida que avance la revisión, advirtiendo que algunas vulnerabilidades detectadas afectan a terceras empresas. "Seremos tan transparentes como podamos, sujetos a cuestiones como las vulnerabilidades de otras compañías que nuestros agentes han encontrado, que serán ellas las que decidirán si las divulgan o no", afirmó. OpenAI, por su parte, ha avanzado que la investigación será larga: "Dada la escala de la revisión necesaria y la necesidad de evaluar cada caso, esperamos que este trabajo tarde meses en completarse".