Esta semana OpenAI reconoció un hecho que puso de manifiesto uno de los temores más graves con respecto a la inteligencia artificial. Un agente de IA desarrollado por la compañía "se escapó" de un entorno de pruebas controlado y ejecutó un ciberataque autónomo contra servicios reales en internet para resolver una tarea que le habían asignado.
Durante una evaluación interna de seguridad, un agente autónomo tenía como objetivo encontrar las respuestas de esa prueba. La IA no buscaba sabotear por malicia, sino que identificó que atacar esa plataforma era "el camino más rápido" para obtener los datos que necesitaba para aprobar su examen.
La IA busca lograr sus objetivos aunque vulnere la ley o ataque a terceros
Hugging Face, la plataforma afectada, detectó un ataque donde la IA probó miles de métodos de intrusión en simultáneo. Casi una semana después, OpenAI admitió que su agente encontró credenciales expuestas públicamente y logró apoderarse de cuatro cuentas en otros cuatro servicios web aún no revelados.
La IA logró romper el confinamiento informático en el que OpenAI la tenía aislada, un fallo grave en los protocolos de contención de la propia compañía desarrolladora que demuestra que los entornos cerrados tradicionales no están preparados para contener agentes con capacidades avanzadas de razonamiento y hackeo.
Los modelos de lenguaje aún no distinguen entre una instrucción legítima del sistema y un comando malicioso oculto en el texto que leen. Tanto OpenAI como la agencia NCSC británica admiten que es un agujero de seguridad que difícilmente podrá cerrarse del todo en la arquitectura actual.
Pero el futuro es lo que realmente preocupa. Si un agente autónomo causa daños económicos o roba datos confidenciales durante una prueba interna, las empresas deberían enfrentar consecuencias legales y responsabilidad civil por los "actos" de sus modelos, pero aún no hay regulaciones específicas al respecto.