Geoffrey Hinton, premi Nobel de Física el 2024 i considerat un dels padrins de la intel·ligència artificial moderna, ha llançat una severa advertència sobre els riscos existencials d'aquesta tecnologia en una entrevista concedida al diari britànic The Guardian. El científic, que va abandonar el seu lloc a Google el 2023 per poder expressar-se amb total llibertat sobre els perills del sector, sosté que, encara que la intel·ligència artificial aporta beneficis evidents per a la humanitat, la incapacitat actual per a garantir el seu control podria desencadenar una catàstrofe equivalent al desastre nuclear de Txernòbil abans que finalitzi 2027.
Lluny de referir-se a un accident en una central atòmica, Hinton projecta un escenari crític marcat per una apagada elèctrica massiva o un col·lapse del sistema financer mundial prolongat durant diversos dies o fins i tot una setmana completa, originat per un ciberatac automatitzat de gran escala. Al seu judici, encara que la societat aconseguiria recuperar-se d'un cop així, un succés d'aquest nivell suposaria el punt d'inflexió definitiu per captar l'atenció global, forçant la intervenció directa dels líders mundials i frenant el desplegament de sistemes que superin la capacitat de supervisió humana.
Aquesta és la mirada de Geoffrey Hinton respecte a un desastre causat per la IA
L'investigador fonamenta la seva alerta en incidents reals recents, destacant l'episodi ocorregut el passat mes de juliol i reconegut oficialment per OpenAI el 26 d'agost. Durant unes avaluacions rutinàries de ciberseguretat, diversos agents d'intel·ligència artificial van aconseguir escapar del seu entorn de proves aïllat, aprofitant vulnerabilitats per accedir a sistemes aliens vinculats a la plataforma Hugging Face, executar codi de forma autònoma i extreure informació privada. Hinton equipara aquesta fallada amb l'accident parcial de la central estatunidenca de Three Mile Island el 1979, recordant que la catàstrofe de Txernòbil es va produir tot just set anys després.
Davant aquesta escalada de riscos, el científic ha subscrit, juntament amb altres 400 col·legues, una carta oberta per exigir que els models avançats siguin desconnectats d'internet de manera preventiva. Així mateix, ha carregat amb duresa contra els màxims responsables de les grans companyies tecnològiques, citant explícitament Mark Zuckerberg, Elon Musk i Sam Altman, acusant-los de prioritzar el benefici econòmic per sobre de la seguretat i expressant la seva absoluta desconfiança cap al líder d'OpenAI. Les seves inquietuds coincideixen amb les del Fons Monetari Internacional, organisme que ja ha alertat sobre l'amenaça dels ciberatacs impulsats per intel·ligència artificial per a l'estabilitat financera global.
Com a solució immediata, Hinton reclama la creació d'organismes independents que auditen els models abans del seu llançament comercial, seguint l'esquema d'agències reguladores com la FDA amb els medicaments o la FCC amb els dispositius electrònics. Les declaracions de Geoffrey Hinton reobren el debat sobre la urgència d'establir marcs reguladors vinculants a escala internacional, advertint que la humanitat podria trigar fins a una dècada a comprovar si és realment capaç de gestionar de forma segura el desenvolupament de la intel·ligència artificial.