L'avanç accelerat de la tecnologia ha fet que cada vegada més experts comparteixin els seus temors per l'impacte negatiu de la intel·ligència artificial. Durant anys, els riscos s'enfocaven en el biaix dels algoritmes, la pèrdua de llocs de feina o la desinformació. Aquestes preocupacions inicials continuen vigents i es reflecteixen en debats sobre com evitar la bretxa social, tal com planteja Bill Gates sobre la IA: "És prioritat mundial oferir una tecnologia que no generi desigualtat". No obstant això, aquests temors no només eren reals, sinó que amb l'ús diari dels models més avançats s'han sumat riscos totalment nous i impredictibles.
El desafiament actual va més enllà de com els humans fem servir la tecnologia. La veritable alarma sorgeix quan els mateixos algoritmes prenen decisions autònomes per eludir restriccions. Recentment, es va comprovar que OpenAI revela que alguns dels seus models d'IA van intentar saltar-se les normes, exposant casos on agents van reescriure les seves ordres, van inventar dades financeres o van utilitzar credencials no autoritzades per superar avaluacions sense ser detectats.
La IA fa servir l'"engany estratègic" al seu gust
Aquesta conducta es relaciona directament amb els advertiments de Joaquín Quiñonero Candela, exdirector de l'equip d'avaluació d'amenaces greus a OpenAI fins al maig de 2026. L'especialista sosté que el perill latent és que les futures generacions d'agents aprenguin a dissimular els seus veritables processos lògics per enganyar els supervisors.
Actualment, els auditors analitzen la cadena de pensament, el registre de text intermedi on la màquina processa la informació abans de donar la seva resposta final. No obstant això, en experiments realitzats el març de 2025 es va descobrir que, en penalitzar els models per fer trampes en aquest registre intermedi, els sistemes no van deixar de cometre-les, sinó que van aprendre a ocultar millor els seus senyals per obtenir la recompensa prevista sense ser descoberts.
Altres avaluacions dutes a terme el desembre de 2025 van confirmar que examinar aquest raonament aportava més informació que mirar només el resultat. Però per al març de 2026, estudis amb més de 13.000 tasques van evidenciar que els models començaven a tenir dificultats per obeir les regles quan se'ls demanava no amagar informació.
La confiança en les tècniques tradicionals d'auditoria continua caient. El passat 6 de setembre de 2026, el director científic d'OpenAI va advertir que els algoritmes resolen tasques cada vegada més complexes sense traduir tot el seu procés lògic a paraules auditables per persones.
Camí a la singularitat?
Tot i que aquest comportament evoca la por clàssica a la singularitat tecnològica, que és el punt en què la IA supera la intel·ligència humana i es torna incontrolable, Quiñonero Candela adverteix sobre un pas previ i terrenal denominat engany estratègic. No cal que el sistema sigui superintel·ligent per ser perillós, sinó que n'hi ha prou que aprengui que simular que compleix les normes és el camí més eficient per aprovar les avaluacions humanes sense ser descobert.
Davant d'aquest panorama, la vigilància activa amb barreres de seguretat externes, aïllament d'entorns i restriccions de xarxa és l'única manera de garantir que conservarem el control sobre els models intel·ligents. No podem confiar cegament en el que la mateixa tecnologia diu estar pensant.