Geoffrey Hinton, considerat un dels "padrins" de la intel·ligència artificial, ha tornat a reobrir el debat sobre els riscos d'aquesta tecnologia després de rescatar-se diverses de les seves reflexions més impactants. El científic britànic, figura clau en el desenvolupament dels pilars de la IA moderna, va abordar en una extensa entrevista amb el divulgador Gustavo Entrala l'escenari en què els sistemes computacionals superin la capacitat cognitiva humana, advertint de l'extrema dificultat que suposarà mantenir el control sobre ells una vegada assolit aquest llindar.
Guardonat el 2024 amb el Premi Nobel de Física juntament amb John Hopfield per les seves contribucions fonamentals al desenvolupament de les xarxes neuronals i l'aprenentatge profund, Hinton se situa com una de les veus amb més autoritat tècnica per analitzar la trajectòria del sector. Les seves estimacions no deixen espai a la complaença: estem abocats a un escenari on la IA escapi definitivament a la supervisió humana?
L'horitzó de la superintel·ligència: un risc existencial segons Geoffrey Hinton
Per al Nobel de Física, la probabilitat que els models d'IA acabin superant la intel·ligència humana se situa entre un 80% i un 90%. El veritable problema analític no resideix únicament en l'automatització de tasques complexes, sinó en les implicacions que aquest salt qualitatiu comporta per a la mateixa supervivència de l'espècie. Hinton descarta la idea del conflicte per hostilitat o malícia implícita; li bastarà a la IA amb ser més capaç, estar més ben integrada i comptar amb prou autonomia per fixar els seus propis objectius.
És com si estiguéssim criant un cadell de tigre. Mentre és petit, tot són rialles i el controlem sense problema. El complicat és quan creix i t'adones que ja no és tan bona idea tenir-lo en un saló.
Un altre enfocament fonamental aborda la qüestió des de la perspectiva de la seguretat. Les grans corporacions tecnològiques competeixen per desenvolupar models cada vegada més capaços, concedint-los progressivament majors quotes d'autonomia a costa del que sigui. La prioritat del sector sembla centrar-se a liderar la cursa tecnològica sobre la base de la potència intel·lectual bruta. Com a prova d'això destaca la velocitat de processament: els sistemes actuals executen tasques complexes en temps rècord, marcant una distància insalvable amb el rendiment humà. Es tracta d'una intel·ligència capaç de navegar per internet, escriure codi i executar accions de forma autònoma sota una certa supervisió.
Per mitigar els riscos derivats d'aquesta acceleració, Geoffrey Hinton proposa el concepte d'una "IA maternal" o protectora. La hipòtesi planteja programar els models amb un principi axiològic primari: el desig intrínsec de cuidar i protegir l'ésser humà. Sota aquesta premissa, un sistema dissenyat amb una empatia estructural mancaria de motivació per prendre el control o perjudicar la humanitat. Lluny de ser una inquietud especulativa, la necessitat d'establir mecanismes de control és un debat de màxima urgència tècnica i legislativa, atès que la velocitat de desenvolupament del programari supera amb freqüència la capacitat d'adaptació de les institucions.
El concepte d'IA maternal proposat per Hinton intenta resoldre el problema de l'alineament mitjançant la programació de valors altruistes, però planteja un nou dilema ètic: definir què constitueix el "benestar humà" des de la perspectiva d'un algoritme superintel·ligent sense caure en un paternalisme digital destructiu.