L'Agència Espanyola de Protecció de Dades (AEPD) ha detectat el primer ciberatac executat per una intel·ligència artificial a l'Estat, més concretament un agent d'IA que va fer ser un conegut model de llenguatge —sense especificar quin. Segons fonts de l'AEPD, l'agent d'IA va iniciar una cerca de vulnerabilitats en arxius genèrics i va fer un inici de sessió correcte. Un cop dins del sistema, va començar a buscar vulnerabilitats de forma autònoma en l'aplicació atacada, fet que li va permetre modificar dades personals i accedir a factures.
De la mateixa manera que no s'esmenta de quin model de llenguatge es tracta, tampoc s'aclareix quina empresa o organització ha estat l'afectada. L'organisme tan sols ha volgut aclarir que la informació procedeix de la notificació presentada per l'empresa o organització afectada, i que haurà de ser objecte d'anàlisi. De la mateixa manera, també ha matisat que la utilització d'un model concret d'IA no implica que el model o l'estructura del seu proveïdor hagi estat compromès, ni que l'eina hagi estat dissenyada per desenvolupar activitats malicioses. "El que és rellevant des de la perspectiva de la protecció de dades és que un tercer hauria fet servir un agent d'IA com a instrument per encadenar exitosament diferents fases de l'atac", ha assenyalat.
El canvi dels agents d'IA
L'AEPD afegeix que la notificació del ciberatac no permet afirmar una tendència estadística, però sí que constitueix un senyal significatiu que els atacs amb el suport de la IA han deixat de ser un risc teòric i que comencen a materialitzar-se en incidents que afecten tractaments reals de dades personals. La realitat és que l'ús de la IA en activitats malicioses no és nou i s'ha demostrat que pot facilitar l'automatització d'activitats il·lícites, i ja fa temps que es fan servir models generatius per redactar missatges de phishing o pesca de dades, per traduir campanyes fraudulentes, suplantar identitats, analitzar codi i facilitar la cerca de vulnerabilitats, entre altres qüestions. Però l'organisme sí que adverteix d'un canvi important mitjançant la IA.
L'aparició d'agents d'IA introdueix un canvi qualitatiu, ja que un agent pot rebre un objectiu, planificar tasques intermèdies, fer servir eines, executar codi, consultar fonts, interpretar resultats i modificar la seva actuació de manera autònoma segons el que trobi. És a dir, que no és que la IA creï noves amenaces, sinó que augmenta la velocitat, l'escala i la capacitat d'adaptació de tècniques malicioses ja conegudes, reduint el temps disponible per detectar-les i contenir-les. La importància d'aquesta notificació radica en modificar l'escenari de la gestió de riscos, segons ha explicat en un blog el director adjunt de l'AEPD, Francisco Pérez Bes.
Què en podem aprendre?
En primer lloc, confirma la necessitat d'incorporar expressament els atacs assistits o executats mitjançant la IA a les anàlisis de riscos dels tractaments. Ja no n'hi ha prou d'incloure una referència genèrica al malware o programari maliciós, a la pesca de dades o a l'accés no autoritzat, ja que aquesta automatització pot modificar substancialment la probabilitat, la velocitat i l'abast de l'incident. En segon lloc, obliga a revisar els temps de resposta, ja que els procediments dissenyats per a atacs executats manualment poden resultar insuficients quan un agent analitza simultàniament múltiples actius, prova diferents vies d'accés i adapta el seu comportament amb rapidesa.
En tercer lloc, augmenta la importància de les identitats digitals i de les credencials, ja que un agent que obté un compte, una clau o una fitxa o token amb permisos excessius pot operar a la velocitat d'una màquina i accedir a diferents serveis abans que l'organització detecti un comportament anòmal. En quart i últim lloc, aquest atac evidencia que la seguretat dels tractaments no pot dependre únicament de la intervenció manual, i que la supervisió humana continua sent imprescindible, però que ha de recolzar-se en mecanismes de detecció, contenció i resposta capaços d'operar amb la velocitat suficient. En conclusió, l'arribada dels agents d'IA a l'àmbit dels ciberatacs ha d'impulsar una revisió immediata dels models de seguretat i protecció de dades, segons Pérez Bes.