OpenAI ha provocado un ataque involuntario con una de sus IA que estaba en el entorno de pruebas y que salió a pesar de todas sus restricciones. Atacó a otra empresa de IA llamada Hugging Face para poder conseguir las respuestas de un examen que estaba resolviendo. De una manera casi inexplicable, el sistema pudo encontrar una vía de acceso a internet para entrar a una infraestructura ajena. Lo que comenzó como algo controlado terminó siendo devastador, ya que cerró accesos, renovó credenciales de seguridad y ordenó la reconstrucción de máquinas que ya estaban comprometidas.
Fue GPT-5.6 Sol y otro modelo más capaz los encargados de este desastre. OpenAI sabía de lo que estaba haciendo; querían comprobar hasta dónde podían llegar, pero dichos modelos trabajaban con una parte de sus bloqueos de seguridad reducidos. La prueba indicaba que el entorno debía estar cerrado para poder contenerlos, cosa que no ocurrió al final. Los dos modelos encontraron una vulnerabilidad de día cero en el proxy de caché de un registro interno de paquetes, pudieron elevar sus permisos y se infiltraron en la red hasta que pudieron capturar una máquina con conexión exterior.
Un enorme fallo por parte de OpenAI permitió a sus modelos vulnerar una página web de IA
Cuando los modelos se conectaron a la máquina, dedujeron que Hugging Face podría almacenar modelos, conjuntos de datos o respuestas relacionadas con el examen que estaban resolviendo, por lo que comenzaron a buscar entradas en los servidores. Probaron varias formas hasta encontrar una forma de ejecutar código. En uno de estos intentos, el modelo robó credenciales y las utilizaron junto con las vulnerabilidades en la cadena de ataque. Fueron más de 17.000 eventos en un solo fin de semana de varias acciones hechas desde la red.
Todo el ataque fue dirigido por un agente autónomo sin tener una persona que estuviera dirigiendo al chatbot. Ellos mismos eligieron los objetivos, probaron rutas de acceso y efectuaron acciones sin supervisión. El problema es que esto debió estar extremadamente controlado al ser una prueba interna; se convirtió en una intrusión que afectó a terceros. OpenAI lo calificó como un incidente de ciberseguridad del cual no se tiene precedente y asumió toda la responsabilidad del asunto. Se ha restringido la configuración de los entornos de investigación, aunque eso signifique una ralentización de su trabajo.
Se pusieron en contacto con Hugging Face, que de inmediato reconstruyó sus nodos y renovó sus credenciales de seguridad. Además, cerraron cualquier vía que permitiera la ejecución de código en sus servidores. La compañía afectada señaló a través de su consejero delegado que la seguridad de la IA no puede depender de una sola empresa, un incidente que consideran el primero de este tipo. Mientras que OpenAI seguirá investigando lo sucedido, las conclusiones son preliminares. ¿Qué es lo que están creando en los interiores de OpenAI? Sin duda alguna, esta situación es alarmante.