Geoffrey Hinton, Premi Nobel de Física el 2024 i un dels pioners de l'aprenentatge profund (deep learning), ha tornat a pronunciar-se sobre la ràpida evolució de la intel·ligència artificial. Igual que altres referents del sector, la seva principal preocupació se centra en la necessitat de preveure un futur on aquests sistemes adquireixin una autonomia no desitjada en la presa de decisions.
Si bé Hinton emfatitza la importància d'evitar un escenari on la IA actuï fora del control humà per apagar-la o redirigir-la, també manté una postura prudent sobre l'impacte real d'aquest risc. L'especialista aclareix que moltes de les pors sobre un potencial "escenari d'extinció" responen a intuïcions sobre el ritme del desenvolupament tecnològic i encara no tenen una base probatòria suficient.
Hi ha dos aspectes clau per evitar que la IA perdi el control
Segons l'investigador, els sistemes actuals encara no són capaços de mantenir un comportament autònom d'evasió de forma sostinguda en el món real. Tot i que s'han detectat conductes rudimentàries en entorns de prova com els recents assajos on models de llenguatge d'OpenAI van aconseguir explotar vulnerabilitats en llocs web reals, aquests intents solen fallar, ser detectats o requerir diversos dies d'execució abans d'aconseguir un resultat concret.
Les proves de laboratori demostren que la capacitat d'un agent d'IA per superar barreres o resoldre tasques complexes depèn estrictament dels permisos atorgats i de la potència de càlcul assignada durant el seu funcionament.
Amb totes aquestes variables, sembla evident que la clau per contenir els riscos de la superintel·ligència artificial no serà intentar apagar un sistema quan ja sigui tard, sinó aplicar el principi de mínim privilegi, auditant la capacitat de còmput i exigint la supervisió humana obligatòria abans d'atorgar a qualsevol agent la llibertat d'actuar en l'entorn real.