Dario Amodei, fundador d’Anthropic, demana reduir el ritme de desenvolupament de la intel·ligència artificial. Adverteix que els nous models podrien començar a millorar-se a si mateixos i avançar més ràpidament del que nosaltres som capaços d’entendre i controlar.

A l’altre costat, Jensen Huang, fundador de Nvidia, s’oposa a alentir-la. Defensa que la seguretat és un problema d’enginyeria i que la IA ha d’estar a l’abast de totes les empreses, països i persones. Mark Zuckerberg tampoc no vol una pausa. Yann LeCun, un dels pares de la IA moderna, considera que deixar-la en mans de quatre laboratoris nord-americans o xinesos seria un perill per a la democràcia. Marc Andreessen, el gran inversor de Silicon Valley, proclama que frenar la tecnologia ens condemna a l’estancament.

Podríem interpretar aquestes posicions a partir dels interessos de cadascú. Anthropic pot beneficiar-se d’una regulació que dificulti l’entrada de competidors. Nvidia guanya si tothom adopta la IA. Meta obre els seus models perquè no vol que el mercat quedi en mans d’OpenAI o Google.

Tot això és cert, però incomplet. Aquestes posicions provenen també d’un debat intel·lectual que barreja contracultura, llibertarisme, transhumanisme, ciència-ficció i filosofia moral. Per entendre per què Amodei vol frenar, Huang vol democratitzar i Andreessen vol accelerar, cal conèixer els filòsofs de Silicon Valley.

Quan els ordinadors havien d’alliberar-nos

Una de les arrels es troba a la Califòrnia dels anys seixanta i setanta. Aleshores, els ordinadors eren grans màquines controlades pels governs, l’exèrcit i les corporacions. Però una part de la contracultura va imaginar que podien convertir-se en instruments d’emancipació personal.

Una figura essencial és Stewart Brand, creador del Whole Earth Catalog. Publicat per primera vegada el 1968, reunia llibres, eines i coneixements que permetien construir una casa, cultivar aliments o crear una comunitat al marge de les estructures tradicionals. El seu lema era “accés a les eines”.

Darrere la batalla sobre si cal frenar, regular, accelerar o obrir la IA hi ha idees nascudes fa més de mig segle sobre el progrés, la llibertat i el futur de la humanitat

Brand va unir les comunes hippies i els primers ordinadors personals. L’any 1984 va popularitzar una frase que encara ressona avui: “La informació vol ser lliure”. Aquesta visió va influir en la cultura hacker, el programari lliure, internet i les criptomonedes. També va consolidar una convicció central de Silicon Valley: el progrés apareix quan donem eines poderoses a moltes persones i els permetem experimentar sense demanar permís.

Aquí trobem una de les arrels de la defensa actual de la IA oberta.

Els extropians i la singularitat

A finals dels vuitanta, aquesta confiança en la tecnologia es va convertir en una filosofia més ambiciosa. El filòsof Max More va crear al seu voltant una comunitat coneguda com els extropians.

El nom provenia de l’“extropia”, el contrari simbòlic de l’entropia. Si l’entropia significa degradació, envelliment i mort, l’extropia representa creixement, intel·ligència i transformació.

Els extropians volien utilitzar la tecnologia per superar totes les limitacions humanes. Parlaven de criogènia, enginyeria genètica, nanotecnologia, ampliació de la intel·ligència, càrrega de la ment en ordinadors, colonització de l’espai i immortalitat. L’ésser humà no era el final de l’evolució, sinó una fase provisional.

En aquest món va arrelar una idea decisiva: la singularitat.

Si una intel·ligència superior pot curar malalties i eliminar l’escassetat, tenim l’obligació d’accelerar-la. Però si pot escapar del nostre control, cal frenar-la

L’any 1965, el matemàtic I. J. Good havia imaginat una “màquina ultraintel·ligent” capaç de dissenyar màquines encara millors. Començaria així una explosió d’intel·ligència que deixaria enrere la humana.

Vernor Vinge, matemàtic i autor de ciència-ficció, va anomenar “singularitat tecnològica” el moment en què aparegués aquesta intel·ligència superior. A partir d’aleshores ja no podríem predir el futur, perquè la principal força transformadora del món seria una ment que ens superaria.

Ray Kurzweil popularitzaria després aquesta visió. Continua pronosticant que la IA arribarà al nivell humà cap al 2029 i que la singularitat es produirà aproximadament el 2045, quan la intel·ligència biològica i la digital comencin a fusionar-se.

Aquesta idea permet dues lectures oposades. Si una intel·ligència superior pot curar malalties, eliminar l’escassetat i ampliar la nostra vida, tenim l’obligació d’accelerar-la. Però si pot escapar del nostre control, cal frenar-la.

D’una mateixa idea neixen l’esperança dels acceleracionistes i la por dels partidaris de la seguretat.

Racionalistes i altruistes efectius

Eliezer Yudkowsky va convertir la preocupació per la singularitat en un moviment intel·lectual. A través dels seus textos i de la comunitat LessWrong, defensava que calia aprendre a raonar millor, identificar els nostres biaixos i estudiar com alinear una intel·ligència superior amb els valors humans.

El problema no requereix imaginar un robot malvat. Una màquina pot causar una catàstrofe executant amb gran eficàcia un objectiu mal definit. L’exemple clàssic és una IA encarregada de maximitzar la producció de clips: si no té altres límits, podria acabar utilitzant tots els recursos del planeta per continuar fabricant-los.

Nick Bostrom va donar forma acadèmica a aquesta preocupació. En el llibre Superintelligence, de 2014, va argumentar que crear una intel·ligència superior sense haver resolt el problema del control podia ser un risc existencial.

Una màquina pot causar una catàstrofe executant amb gran eficàcia un objectiu mal definit

Aquestes idees van influir en Peter Thiel, Elon Musk i els fundadors de DeepMind, OpenAI i Anthropic. La posició actual d’Amodei s’entén millor des d’aquí: quan alerta sobre la “millora recursiva” dels models, recupera gairebé exactament la idea de Good sobre una IA que contribueix a crear la seva successora.

Al costat dels racionalistes va créixer l’altruisme efectiu. Inspirat per filòsofs com Peter Singer, William MacAskill i Toby Ord, es preguntava com podíem utilitzar els nostres diners i carreres per fer el màxim bé possible. Al principi, la resposta eren intervencions concretes i mesurables: mosquiteres contra la malària, vacunes o tractaments de baix cost.

Però una part del moviment va fer un salt: les persones del futur també compten. I si la humanitat pot existir durant milers d’anys, el nombre de persones futures serà immensament superior al de les que vivim avui.

D’aquí neix el llargterminisme. Encara que la probabilitat que la IA provoqui l’extinció sigui petita, el dany seria incalculable perquè desapareixerien totes les generacions futures. Això explica per què tants diners i investigadors de l’altruisme efectiu s’han orientat cap a la seguretat de la IA.

També explica la crítica principal: els bilions de persones hipotètiques del futur poden acabar pesant més que els milions de persones reals que pateixen avui.

La IA oberta i l’acceleració

Davant d’aquesta visió trobem els qui consideren que el risc principal no és que la IA es distribueixi massa, sinó que quedi controlada per uns pocs.

Jensen Huang defensa un futur amb models oberts i propietaris, però insisteix que cada empresa i cada país haurà de desenvolupar la seva pròpia IA. La intel·ligència, com l’electricitat o internet, ha de convertir-se en una infraestructura general.

Yann LeCun va més lluny. Si accedim a la informació mitjançant quatre models construïts a Califòrnia o la Xina, aquestes empreses condicionaran les llengües, cultures i visions del món que veiem. Per això defensa models oberts que cada societat pugui adaptar als seus valors. Arthur Mensch, fundador de Mistral, sosté una posició similar.

La intel·ligència artificial, com l’electricitat o internet, ha de convertir-se en una infraestructura general

Aquesta filosofia connecta amb el llibertarisme tecnològic de Hayek, Milton Friedman o Ayn Rand: cap govern ni comitè d’experts no té prou informació per dirigir la innovació. La competència i l’experimentació descentralitzada són preferibles al control.

La seva versió més radical és l’acceleracionisme efectiu (e/acc). El seu principal impulsor, Guillaume Verdon, defensa que la vida, la intel·ligència i la tecnologia formen part d’un procés universal d’evolució. Frenar-lo és oposar-se al progrés.

Marc Andreessen ha portat aquesta visió al centre de Silicon Valley. En el seu Manifest tecnooptimista afirma que no hi ha cap problema material que no pugui resoldre’s amb més tecnologia. Per a ell, el perill no és avançar massa, sinó quedar atrapats en l’estancament.

Els racionalistes temen una IA massa poderosa. Els acceleracionistes temen que no arribi prou de pressa.

Idees amb milers de milions en joc

Això no significa que els interessos econòmics no comptin. Compten molt. La filosofia d’Anthropic justifica regulacions que una gran empresa pot complir millor que una start-up. La de Nvidia imagina un món on tothom utilitza els seus xips. L’obertura de Meta debilita OpenAI i Google.

Però els interessos no creen aquestes idees del no-res. Les seleccionen, les amplifiquen i, sovint, s’hi alineen.

El debat no enfronta només optimistes i catastrofistes. Enfronta diferents concepcions del progrés

Amodei pot creure sincerament que cal alentir la IA i dirigir una empresa que es beneficia de la regulació. Huang pot guanyar milers de milions amb la seva expansió i creure honestament que distribuir-la és la millor manera de fer progressar la societat.

Al final, el debat no enfronta només optimistes i catastrofistes. Enfronta diferents concepcions del progrés.

Una IA oberta distribueix el poder, però també les capacitats perilloses. Una IA tancada pot ser més controlable, però concentra un poder immens. La regulació pot protegir-nos, però també consolidar monopolis. Accelerar pot produir descobriments extraordinaris, però deixar-nos sense temps per entendre’n les conseqüències.

Durant més de mig segle, els filòsofs de Silicon Valley han imaginat aquest futur. Ara ja està aquí. I potser ha arribat el moment que la resta de la societat també participi en la decisió.