L'informàtic i psicòleg cognitiu britànic Geoffrey Hinton, un dels pares de la intel·ligència artificial (IA), afirma que "se'n penedeix" del treball de la seva vida i ha deixat la seva feina a Google, a on ha treballat durant més d'una dècada, "per poder parlar lliurement sobre els riscos de la IA". Segons ha explicat a The New York Times en una entrevista, Hinton està "preocupat" pels "danys greus" que pugui causar la tecnologia que ell mateix ha dedicat bona part de la seva vida a desenvolupar.
El 2012, Geoffrey Hinton i el seu equip a la Universitat de Toronto van crear una tecnologia que es va convertir en la base dels sistemes d'IA que les grans tecnològiques desenvolupen actualment. Però el doctor britànic s'ha unit als crítics que consideren que aquestes empreses s'aboquen al perill en la carrera per fer productes basats en la IA generativa, com el popular xatbot ChatGPT. Hinton, que ara lamenta el treball de la seva vida, ha expressat que es consola dient-se que si no ho hagués fet ell, "algú altre ho hauria fet".
Segons Hinton i altres líders del sector tecnològic, les noves intel·ligències artificials han estat "el punt d'inflexió més important en dècades" i "poden ser tan importants com la introducció del navegador web a principis dels anys 90". I, per això, ara mostren por del que pot suposar deixar en llibertat al món quelcom perillós. Hinton alerta que la IA generativa "ja pot ser una eina de desinformació", que "aviat podria ser un risc per als llocs de treball" i que en algun moment podria convertir-se en "un risc per la humanitat". A l'expert li preocupen l'ús que poden donar-li a la tecnologia els "actors dolents".
"Mireu com era fa cinc anys i com està ara", ha dit Hinton sobre la IA, que afirma que si s'agafa la diferència i es multiplica en endavant "fa por". L'informàtic adverteix que els sistemes que desenvolupen OpenIA o Google "poden estar eclipsant la intel·ligència humana en alguns aspectes". També mostra preocupació per com s'ha "inundat" Internet de vídeos, fotos i textos falsos fets amb IA. "La persona mitjana ja no podrà saber què és veritat", afirma Hinton. "Vaig pensar que estaven a 30 o 50 anys que les IA poguessin ser més intel·ligents que les persones, però ara ja no ho penso", afirma Hinton.
L'informàtic té por que la tecnologia suposi una amenaça per la humanitat si es permet que generi i executi el seu propi codi informàtic, ja que podrien ser realment autònomes i executar comportaments inesperats o perillosos.
Més de 1.000 experts signen una carta oberta per parar l'avenç de la IA
El passat març, més de 1.000 experts investigadors i tecnòlegs van signar una carta oberta per demanar una moratòria de sis mesos sobre el desenvolupament de nous sistemes d'IA generativa encara més potents que ChatGPT. Els signants alertaven que la IA suposa "riscos profunds per a la societat i la humanitat". També ho van fer 19 membres de l'Associació per a l'Avenç de la Intel·ligència Artificial, amb una carta pròpia, i entre els quals es troba el director científic de Microsoft, Eric Horvitz.
Hinton no va signar aquestes cartes mentre treballava a Google, però recentment ha notificat a l'empresa la seva baixa. El cap científic de Google, Jeff Dean, va dir en un comunicat que estan "compromesos amb un enfocament responsable de la IA" i que "aprenem contínuament a entendre els riscos emergents i alhora innovar amb valentia". Segons alerta Hinton, Google es troba en una carrera amb Microsoft, que recentment va incorporar un xatbot al seu cercador, Bing, per aplicar la tecnologia d'IA als seus respectius motors de cerca. L'expert creu que l'única forma d'aturar aquesta carrera és una regulació global i pensa que hauríem d'aturar el desenvolupament fins que no puguem entendre si ho podem controlar.
Geoffrey Hinton, "el padrí de la intel·ligència artificial"
El britànic Geoffrey Hinton, nascut el 1947, és considerat per molts com "el padrí de la intel·ligència artificial" i encara avui dia és un referent en la matèria. El 1972, com a investigador a la Universitat d'Edimburg, Hinton va desenvolupar la idea de la xarxa neuronal, un sistema matemàtic que aprèn mitjançant l'anàlisi de dades, i que és la llavor sobre la qual es desenvolupen els sistemes d'IA generativa actuals.
El 2012, juntament amb els seus estudiants a la Universitat de Toronto, l'informàtic va construir una xarxa neuronal que podia analitzar milers de fotografies i aprendre a identificar objectes que apareixien. Amb les seves investigacions van guanyar el premi Turing, el més prestigiós del camp de la informàtica, el 2018. Google va comprar l'empresa que va crear amb els seus estudiants per 44 milions de dòlars i amb això van crear tecnologies com els seus xatbots.