Com a usuaris podem prendre mesures per evitar atacs informàtics als nostres dispositius i serveis, però això no sempre ens manté fora de perill. L'assistent de programació amb IA generativa d'Amazon, Amazon Q, va ser compromès, un incident que va exposar gairebé un milió d'usuaris a un risc potencial d'esborrat del sistema. A principis d'aquest mes, un hacker va aconseguir injectar codi no autoritzat al repositori de codi obert de GitHub d'Amazon Q. Aquest codi maliciós contenia instruccions explícites perquè l'agent d'IA «netegés el sistema a un estat gairebé de fàbrica i eliminés el sistema de fitxers i els recursos al núvol».
El més preocupant és que el canvi es va introduir a través d'una sol·licitud d'extracció aparentment rutinària, i una vegada acceptada, es va distribuir públicament en la versió 1.84.0 de l'extensió Amazon Q el 17 de juliol, arribant a gairebé un milió d'usuaris abans que la companyia notés l'atac.
Exposen la baixa seguretat d'Amazon Q en un ciberatac
La resposta inicial d'Amazon, que no va detectar la bretxa immediatament i va optar per retirar la versió compromesa sense un anunci públic, ha generat crítiques considerables per part d'experts en seguretat i desenvolupadors. Corey Quinn, economista en cap del núvol a The Duckbill Group, va assenyalar a Bluesky que això no es tracta de "moure's ràpid i trencar coses, sinó de moure's ràpid i deixar que desconeguts escriguin la teva fulla de ruta".
El hacker responsable de la bretxa es va burlar públicament de les "insuficients mesures de seguretat" d'Amazon, qualificant les seves defenses d'IA com "un teatre de seguretat". El seu objectiu, segons declaracions a 404 Media, era una demostració intencional per visibilitzar les laxes pràctiques de seguretat d'Amazon, no causar un dany real. De fet, el codi dissenyat per esborrar sistemes va ser intencionalment inutilitzat, servint com un advertiment en lloc d'una amenaça operativa.
Després d'una investigació interna del seu equip de seguretat, Amazon va concloure que el codi no s'hauria executat com es pretenia a causa d'un error tècnic en el codi mateix. La companyia va respondre revocant les credencials compromeses, eliminant el codi no autoritzat i llançant una nova versió (1.85.0 o posterior) de l'extensió, recomanant als usuaris actualitzar. En un comunicat escrit, Amazon va reiterar que la seguretat és la seva màxima prioritat i va afirmar que cap recurs dels seus clients es va veure afectat.
Aquestes pràctiques comunes en els sistemes digitals és una crida d'atenció crucial sobre la necessitat d'equilibrar l'avanç de les innovacions amb una seguretat inquebrantable, especialment quan es tracta d'eines d'IA que poden influir directament en els sistemes de milions d'usuaris.