La Agencia Española de Protección de Datos (AEPD) ha detectado el primer ciberataque ejecutado por una inteligencia artificial en el Estado, más concretamente un agente de IA que hizo ser un conocido modelo de lenguaje —sin especificar cuál—. Según fuentes de la AEPD, el agente de IA inició una búsqueda de vulnerabilidades en archivos genéricos e hizo un inicio de sesión correcto. Una vez dentro del sistema, empezó a buscar vulnerabilidades de forma autónoma en la aplicación atacada, lo que le permitió modificar datos personales y acceder a facturas.
De la misma manera que no se menciona de qué modelo de lenguaje se trata, tampoco se aclara qué empresa u organización ha sido la afectada. El organismo tan solo ha querido aclarar que la información procede de la notificación presentada por la empresa u organización afectada, y que deberá ser objeto de análisis. De la misma manera, también ha matizado que la utilización de un modelo concreto de IA no implica que el modelo o la estructura de su proveedor haya sido comprometido, ni que la herramienta haya sido diseñada para desarrollar actividades maliciosas. "Lo que es relevante desde la perspectiva de la protección de datos es que un tercero habría usado un agente de IA como instrumento para encadenar exitosamente diferentes fases del ataque", ha señalado.
El cambio de los agentes de IA
La AEPD añade que la notificación del ciberataque no permite afirmar una tendencia estadística, pero sí que constituye una señal significativa de que los ataques con el apoyo de la IA han dejado de ser un riesgo teórico y que empiezan a materializarse en incidentes que afectan a tratamientos reales de datos personales. La realidad es que el uso de la IA en actividades maliciosas no es nuevo y se ha demostrado que puede facilitar la automatización de actividades ilícitas, y ya hace tiempo que se usan modelos generativos para redactar mensajes de phishing o pesca de datos, para traducir campañas fraudulentas, suplantar identidades, analizar código y facilitar la búsqueda de vulnerabilidades, entre otras cuestiones. Pero el organismo sí que advierte de un cambio importante mediante la IA.
La aparición de agentes de IA introduce un cambio cualitativo, ya que un agente puede recibir un objetivo, planificar tareas intermedias, usar herramientas, ejecutar código, consultar fuentes, interpretar resultados y modificar su actuación de manera autónoma según lo que encuentre. Es decir, que no es que la IA cree nuevas amenazas, sino que aumenta la velocidad, la escala y la capacidad de adaptación de técnicas maliciosas ya conocidas, reduciendo el tiempo disponible para detectarlas y contenerlas. La importancia de esta notificación radica en modificar el escenario de la gestión de riesgos, según ha explicado en un blog el director adjunto de la AEPD, Francisco Pérez Bes.
¿Qué podemos aprender?
En primer lugar, confirma la necesidad de incorporar expresamente los ataques asistidos o ejecutados mediante la IA en los análisis de riesgos de los tratamientos. Ya no basta con incluir una referencia genérica al malware o software malicioso, a la pesca de datos o al acceso no autorizado, ya que esta automatización puede modificar sustancialmente la probabilidad, la velocidad y el alcance del incidente. En segundo lugar, obliga a revisar los tiempos de respuesta, ya que los procedimientos diseñados para ataques ejecutados manualmente pueden resultar insuficientes cuando un agente analiza simultáneamente múltiples activos, prueba diferentes vías de acceso y adapta su comportamiento con rapidez.
En tercer lugar, aumenta la importancia de las identidades digitales y de las credenciales, ya que un agente que obtiene una cuenta, una clave o una ficha o token con permisos excesivos puede operar a la velocidad de una máquina y acceder a diferentes servicios antes de que la organización detecte un comportamiento anómalo. En cuarto y último lugar, este ataque evidencia que la seguridad de los tratamientos no puede depender únicamente de la intervención manual, y que la supervisión humana sigue siendo imprescindible, pero que debe apoyarse en mecanismos de detección, contención y respuesta capaces de operar con la velocidad suficiente. En conclusión, la llegada de los agentes de IA al ámbito de los ciberataques debe impulsar una revisión inmediata de los modelos de seguridad y protección de datos, según Pérez Bes.