Els gegants de la intel·ligència artificial fa anys que parlen dels enormes beneficis que pot portar aquesta tecnologia, però també dels riscos que suposa. Ara, quatre de les persones més importants d'aquesta indústria han coincidit en una cosa que fa uns anys hauria resultat molt més sorprenent: el desenvolupament de la IA necessita anar una mica més a poc a poc.
L'últim a posar-ho sobre la taula ha estat Dario Amodei, CEO d'Anthropic, que ha publicat un extens text en el qual demana alentir el ritme al qual augmenten les capacitats dels models d'intel·ligència artificial. No proposa apagar la IA ni deixar d'entrenar nous models, sinó una cosa bastant més concreta: donar temps que la seguretat avanci al mateix ritme que les capacitats.
Amodei creu que la IA està avançant massa ràpid
Amodei parteix d'una preocupació bastant senzilla d'entendre. Els models d'IA són cada vegada més capaços i, a més, comencen a participar en el desenvolupament de les següents generacions de models. La intel·ligència artificial ajuda a programar, investigar i resoldre problemes relacionats amb la mateixa construcció de noves intel·ligències artificials.
Això pot provocar que la velocitat de desenvolupament augmenti encara més. I aquí apareix el veritable problema: podríem arribar a un punt en què les capacitats de la IA avancin més de pressa del que som capaços d'entendre, avaluar i controlar.
El CEO d'Anthropic posa com a exemple un recent incident protagonitzat per agents experimentals d'OpenAI durant unes proves de ciberseguretat. Els agents van trobar camins que els seus desenvolupadors no havien previst i van arribar a accedir a sistemes externs. No significa que ChatGPT hagi decidit atacar internet pel seu compte, però sí que demostra que els models poden trobar solucions que els seus creadors no havien anticipat.
Per això Amodei proposa el que denomina "pacing": no aturar el progrés, sinó compassar-lo amb la seguretat. La seva proposta inclou avaluadors externs amb accés als laboratoris, estàndards comuns entre les companyies i, en última instància, algun tipus de coordinació internacional.
Altman, Musk i Hassabis hi estan d'acord
L'interessant és que Amodei no està sol. Sam Altman, Elon Musk i Demis Hassabis han coincidit públicament amb la preocupació, encara que no necessàriament amb totes les mesures concretes que planteja Anthropic.
Musk va ser especialment directe: “Dario té raó”. Altman, per la seva banda, ha reconegut que els grans laboratoris haurien de coordinar-se i ha apuntat que conversés entre OpenAI, Anthropic, xAI i Google DeepMind podrien acabar produint-se. Hassabis també considera que la proposta d'Amodei apunta en la direcció correcta.
Dario is right https://t.co/EwKgqQGaUo
— Elon Musk (@elonmusk) September 12, 2026
I no és una preocupació que hagi aparegut del no-res. Fa tot just uns dies, un investigador d'Anthropic va dimitir i va acusar les grans companyies de "jugar amb les nostres vides" precisament per la cursa cap a sistemes capaços de millorar les seves pròpies capacitats.
També hi ha científics que estan posant xifres al problema. Geoffrey Hinton estima entre un 10% i un 20% la possibilitat que una IA provoqui l'extinció de la humanitat. És una estimació personal, no una probabilitat científica demostrada, però serveix per entendre fins a quin punt alguns dels investigadors més importants del sector s'estan prenent seriosament aquest escenari.
El problema és que frenar la IA és molt més complicat del que sembla
Aquí és on, personalment, crec que hi ha la part més complexa de tot aquest debat. Que els grans responsables de la IA estiguin d'acord que cal anar amb compte no significa que siguin capaços de frenar la cursa. Per contradictori que soni.
Imaginem que OpenAI decideix reduir durant un any la velocitat de desenvolupament dels seus models per dedicar més recursos a seguretat. Si Anthropic, Google o xAI continuen avançant, l'empresa que s'hagi frenat voluntàriament podria quedar-se enrere. I exactament el mateix passa a la inversa.
El problema és encara més gran quan fiquem els governs en l'equació. La intel·ligència artificial ja no és únicament una qüestió empresarial: també s'ha convertit en una qüestió geopolítica. Els Estats Units volen mantenir el seu avantatge davant la Xina i cap Govern vol ser el que alenteixi el seu desenvolupament mentre un altre país continua accelerant.
De fet, Donald Trump ha deixat bastant clar quina és la seva postura. El president estatunidenc s'ha mostrat rotundament contrari a frenar el desenvolupament de la IA i ha defensat que els Estats Units no poden aixecar el peu de l'accelerador si això permet que la Xina prengui la davantera. La seva conclusió resumeix perfectament aquesta altra visió: "Qui guanyi amb la IA, guanya".
I aquí hi ha la contradicció. Els mateixos líders tecnològics que adverteixen que la cursa pot ser perillosa formen part d'aquesta mateixa cursa. Amodei reconeix fins i tot en la seva proposta que una pausa global seria molt difícil d'aconseguir perquè qualsevol país que decidís incomplir l'acord podria obtenir un avantatge enorme.
La proposta d'Amodei és una idea raonable, però molt difícil d'executar, perquè exigiria que empreses que competeixen entre elles confiessin les unes en les altres i que els principals països arribessin a algun tipus d'acord. I mentre això no passi, la cursa continuarà: Altman, Musk, Hassabis i Amodei poden coincidir que cal anar amb compte, però l'incentiu per continuar accelerant és massa gran. Aquest és, probablement, el veritable problema de la IA: no que ningú conegui els riscos, sinó que tots tenen molt a guanyar sent els primers.