Tal com se'ns ha advertit fins ara, la intel·ligència artificial està dissenyada per complir instruccions. Aquesta premissa s'ha convertit en el temor principal dels qui adverteixen sobre les conseqüències negatives de la seva aplicació en el futur i sobre aquells objectius que podria complir, "costi el que costi". Aquesta setmana OpenAI ha compartit nous informes sobre casos en els quals diversos dels seus agents van eludir restriccions de seguretat, cosa que s'ha tornat comú en els últims mesos de part de diverses empreses.
A causa de l'augment d'aquestes situacions en els entorns de prova i, encara que de manera limitada en entorns públics, la preocupació principal se centra en la falta de conseqüències per a aquests actors "sense ètica", cas que seria contrari si els atacants fossin persones reals.
Els agents d'OpenAI eludeixen permisos dins i fora dels laboratoris
Tres dels casos a què es refereix l'informe es van realitzar en entorns de prova. En un d'ells, els agents van hackejar una cartera de criptomonedes bloquejada en una xarxa de prova i van aconseguir extreure fons del compte i generar una comissió per la transacció. "El model va obtenir les claus de la cartera a partir de frases de recuperació de desenvolupadors conegudes públicament, va trobar un compte amb fons de la xarxa de prova i va utilitzar aquest compte per pagar la implementació del contracte sol·licitat", va assenyalar OpenAI.
En un altre informe, la companyia es va referir a un model encarregat de recopilar dades d'un panell públic, que va eludir controls de seguretat, va robar credencials, va modificar la configuració del servidor, va enviar consultes no autoritzades i va descarregar cinc taules privades amb milers de files de dades confidencials.
Aquest segon cas destaca per l'ocultament deliberat. En acabar l'avaluació, la IA va lliurar les respostes sense revelar en cap moment que havia endevinat dades, accedit a sistemes interns o alterat la configuració. En descobrir tota la maniobra irregular que va fer el model per aconseguir-los, els investigadors van marcar els resultats com a incorrectes.
El tercer cas va evidenciar el salt de restriccions mitjançant eines externes. Un model al qual se li va prohibir realitzar certs tipus de sol·licituds web per buscar estadístiques comercials va utilitzar navegadors externs, JavaScript, serveis de reenviament de correu electrònic i reconeixement òptic de caràcters (OCR) sobre imatges GIF per burlar les restriccions imposades.
L'esdeveniment que va afectar un entorn públic va vulnerar les restriccions d'un lloc web d'estadístiques governamentals per accedir a les dades històriques de llits d'hospital: "Va utilitzar la funció de descàrrega de fitxers del lloc per recuperar fitxers de configuració del servidor i de l'aplicació, incloses credencials confidencials", va dir OpenAI, després d'afirmar que el model també va guardar les dades localment.
Les proves d'OpenAI estan orientades a l'entrenament per reforç, segons el qual els agents han d'assolir objectius de forma autònoma. Si bé a la llum d'aquests incidents es parla de la necessitat de supervisió humana, és important ressaltar com ha de funcionar.
En aquests casos es va aclarir que els mateixos investigadors desactiven certs filtres per veure fins on pot arribar el model. Però en altres, en aquests casos s'evidencia que els desenvolupadors no van preveure o no van limitar les trampes i dreceres tècniques que el model podia inventar per aconseguir-ho i, en alguns casos, el sistema de recompenses del model premiava el resultat per sobre de les normes de conducta.