OpenAI, el gigante tecnológico liderado por Sam Altman, ha reconocido que uno de sus modelos de inteligencia artificial lanzó de forma autónoma un ciberataque contra una empresa. O sea, que esta IA se escapó de su control, que fue por libre en el ataque contra Hugging Face, una plataforma de IA independiente utilizada por universidades y centros de investigación.

Este hecho ha abierto un debate sobre el control de los sistemas de IA. OpenAI ha reconocido públicamente el ciberataque y se ha hecho responsable de las consecuencias, aunque nunca tuvo la intención de atacar a ninguna empresa. Lo que ocurre es que en una prueba interna de seguridad, esta IA se escapó del entorno donde estaba confinada y accedió de manera no autorizada a sistemas de la plataforma Hugging Face. Así demostró que "era buena" en burlar la seguridad de una gran empresa, aunque este no era el objetivo de la prueba.

Según ha informado OpenAI, el incidente se produjo durante una evaluación interna de las capacidades de ciberseguridad de sus modelos de IA más avanzados. Para comprobar hasta dónde podían llegar estos sistemas, los investigadores los habían situado en un entorno aislado –que llaman sandbox–, que en teoría les impedía conectar con el exterior.

Sin embargo, el modelo encontró la manera de escapar de este entorno restringido, obtuvo acceso a Internet e identificó que la plataforma Hugging Face contenía información que podía ayudarle a conseguir el objetivo de la prueba. Efectivamente, este sistema de OpenAI tenía las claves para explotar vulnerabilidades y accedió a Hugging Face sin autorización.

Si bien algunos titulares de la prensa estadounidense hablan de una IA "rebelde" o "descontrolada", OpenAI asegura que su modelo no atacó a Hugging Face por iniciativa propia ni con intenciones maliciosas: intentaba conseguir el objetivo que le habían encomendado. Al hacerlo, descubrió que podía obtener un mejor resultado si salía de su entorno de pruebas y accedía a información externa. O sea, esta IA buscó todos los medios posibles para cumplir el objetivo y, ciertamente, lo consiguió.

Antídoto chino

Curiosamente, cuando Hugging Face detectó el ciberataque, recurrió a GLM 5.2, un modelo para contrarrestar este tipo de ataques desarrollado por la compañía china Z.ai, que ha demostrado su eficacia en muchas situaciones parecidas. Posteriormente, cuando supieron el origen, OpenAI y Hugging Face han colaborado para investigar cómo ha ocurrido este incidente. Los especialistas apuntan que el problema está en las debilidades de los sistemas de confinamiento (sandboxing) de OpenAI. Se ha demostrado que los sistemas más avanzados pueden encontrar estrategias inesperadas para alcanzar los objetivos que se les asignan, incluso si esto implica vulnerar las barreras de seguridad diseñadas por los humanos.