L'omnipotència de la intel·ligència artificial continua expandint-se en tots els aspectes de la nostra vida, per a bé i per a mal. Aquesta setmana Google ha compartit al seu bloc un informe extens en què explica com la IA és utilitzada pels ciberdelinqüents per perpetrar atacs cada cop més sofisticats.
Google va detectar, per primera vegada, un actor d'amenaces fent servir un exploit de dia zero que creuen que va ser desenvolupat amb l'ajuda d'IA. Tradicionalment, trobar aquest tipus d'amenaces requeria mesos d'investigació humana. Paradoxalment, la companyia ha fet servir models d'IA com Big Sleep i CodeMender per analitzar codi massivament per trobar errors de lògica que els escàners automàtics normals no veuen.
La IA contra la IA lliuren una batalla de ciberseguretat
L'informe destaca l'avanç del programari maliciós polimòrfic. Es tracta d'un virus que utilitza la IA per evolucionar constantment. Aquesta tecnologia permet als atacants crear xarxes de camuflatge i codis d'esquer de forma automàtica, fent que les amenaces siguin molt més difícils de detectar per als sistemes de defensa tradicionals.
En les mans equivocades, la IA ajuda a desenvolupar exploits i malwares, l'execució autònoma d'ordres, la realització de reconeixements més específics i exhaustius, i la millora de l'eficàcia de les operacions d'enginyeria social i d'informació.
Una de les amenaces trobades pel Grup d'Intel·ligència d'Amenaces de Google (GTIG) és l'"Operació Overload", una campanya prorussa que utilitza IA per generar notícies falses i contingut multimèdia sintètic (deepfakes) a gran escala per crear una sensació de "consens digital" fals.
Segons el document, actors maliciosos associats amb la República Popular de la Xina (RPC) i la República Popular Democràtica de Corea (RPDC) també han demostrat un gran interès a aprofitar la IA per al descobriment de vulnerabilitats. Per aconseguir-ho, usen intents de jailbreaking basats en perfils d'usuari i la integració de conjunts de dades de seguretat especialitzats i d'alta fidelitat.
El blog esmenta que l'avantatge de Google és la visibilitat. En gestionar tantes dades (Gmail, Cloud, Cerques), la seva IA pot aprendre d'un atac que passa en una part del món i protegir tots els seus usuaris gairebé instantàniament.
En definitiva, s'ha començat a lliurar una guerra d'IA contra IA. El desafiament ja no és l'accés a l'eina, sinó aconseguir qui tingui el model més ràpid i amb millors dades per guanyar-la.