La RAND Corporation va publicar un informe sobre els riscos que planteja el desenvolupament de l'anomenada intel·ligència general artificial (AGI, per la seva sigla en anglès). El títol del document és pretensiós: La cursa per la intel·ligència general artificial i la seguretat internacional. El signen sis autors de diferents universitats estatunidenques, alguns d'ells vinculats a centres de poder acadèmic com Stanford i Cornell, dues de les institucions més prestigioses del sistema universitari nord-americà, i d'altres amb filiació en llocs més perifèrics, com Temple University o l'Escola Naval de Postgrau.

Tots reunits per RAND com a experts en intel·ligència artificial, política internacional i estratègia. El que van lliurar, però, és una sèrie d'assajos especulatius que no tenen el rigor mínim exigible per a una conversa seriosa. El més preocupant no és el que diuen, sinó que ho diguin com si ho sabessin.

RAND no és una institució menor, fundada el 1948, va ser un dels pilars intel·lectuals de la Guerra Freda. Van escriure per al Pentàgon, van participar en la doctrina de dissuasió nuclear, van formar generacions d'estrategs militars i assessors de seguretat. Moltes de les seves idees centrals van modelar el pensament nord-americà sobre la guerra, la competència tecnològica i l'equilibri global. RAND té, o va tenir, autoritat. Per això aquest document sorprèn per la manera en què es dissolen en una barreja de futurisme difús, llenguatge acadèmic inflat i absència de definicions clares. És, literalment, un text que no sap de què parla.

L'objecte del document és la intel·ligència general artificial, o AGI. Però en cap moment els autors expliquen amb precisió què entenen per aquest terme i cadascú usa una definició diferent. Alguns es refereixen a sistemes autònoms amb capacitats cognitives àmplies o la descriuen com una infraestructura de predicció estratègica. Altres directament eviten definir-la.

A la pràctica, cadascú parla d'una cosa diferent. És com si es debatés sobre el continent americà el 1420: alguns l'imaginen com una ruta cap a les Índies, altres com una extensió d'Àsia i altres no saben si existeix. I, així i tot, s'atreveixen a escriure tractats sobre com s'han d'organitzar els imperis que encara no l'han descobert.

La crítica de fons és davant del desconeixement sobre la intel·ligència general artificial, llavors no se sap de què es parla. Per tant, l'únic resultat possible és un castell de conjectures muntat sobre la ignorància. Un dels autors, Miles Brundage, sosté que per al 2027 gairebé totes les tasques que avui es fan amb un ordinador seran realitzades millor per sistemes automàtics.

No ofereix proves, ni descriu quines capacitats serien necessàries per aconseguir això, ni explica com passem dels models actuals, incapaços de raonar sobre la seva sortida, a aquesta omnipresència digital. Però des d'aquesta premissa llança recomanacions de política global, estratègies de contenció i esquemes de verificació. Construeix un mausoleu sense saber com es col·loquen dos maons junts.

Una altra autora, Sarah Kreps, planteja que una carrera accelerada cap a la intel·ligència artificial milloraria l'estabilitat internacional, perquè obligaria tots els actors a mostrar les seves cartes. El seu argument és que la transparència redueix el risc de malentesos. Però no explica com es fa evident una cosa que no es pot observar. Avui dia, els qui construeixen models de llenguatge poden explicar com funcionen. Es tracta de sistemes opacs, no per decisió política, sinó per limitació tècnica. Pretendre que els estats comparteixin entre si informació sobre tecnologies que no entenen ni els seus creadors és desconèixer la naturalesa del problema.

Els altres autors aporten especulacions: guerres preventives provocades per la por de perdre la supremacia, atacs no estatals amb intel·ligència artificial suficient per fabricar armes biològiques, sabotatges i desplegaments estratègics automatitzats. Tots aquests escenaris comparteixen un mateix vici: es basen en conjectures sobre capacitats inexistents, sense entendre com funcionen les actuals. No hi ha una línia que es basi en proves. No hi ha ni una sola simulació ni modelització matemàtica. Tot es construeix amb paraules.

I això és, potser, el més revelador. El que s'observa en aquest informe no és un problema aïllat, sinó un símptoma d'una malaltia més profunda. Es tracta d'experts que ja no entenen el que passa, però que no estan disposats a admetre-ho. Omplen la ignorància de terminologia i reemplacen el saber pel prestigi. Parlen amb naturalitat de coses que no existeixen, com si fos natural fer-ho.

I com que són professors en universitats reconegudes, les seves paraules no es discuteixen. El problema, però, no és només la ignorància. És que tampoc sembla que sàpiguen que no entenen. En un altre temps, un acadèmic seriós hauria dit: “aquest tema em supera”, o “si suposem que això fos així, llavors…”. Aquí no, es construeix sobre el no-res. I aquesta falta de rigor té una explicació simple: el que està en joc no és la veritat, sinó la feina.

Tots els autors d'aquest informe s'enfronten a una amenaça directa. La intel·ligència artificial transforma indústries i també amenaça la funció tradicional de l'expert, interpretant allò que els altres no entenen. Però en aquest cas, els sistemes automàtics fan el mateix que fan molts d'aquests acadèmics, amb més velocitat, més dades i sense necessitat d'inventar argot. La desesperació es nota. Escriuen no per explicar el fenomen, sinó per demostrar que encara són necessaris. 

Aquesta desesperació els porta a escriure qualsevol cosa. I com que l'entorn intel·lectual actual premia més l'aparença que la profunditat, es genera una espiral on tots fingeixen entendre, se citen entre si, organitzen trobades, presenten papers i construeixen marcs teòrics sobre una tecnologia que cap d'ells podria explicar davant d'una pissarra.

Mentrestant, els que sí que treballen amb aquests sistemes són els que entrenen models, optimitzen tasques i fan negocis reals. Aquests, no necessiten entendre què és la intel·ligència general artificial, els n'hi ha prou que funcioni. I per això avancen. Mentre els experts escriuen informes sobre mons que no existeixen, el món real continua girant.

L'informe de RAND és important pel que revela. Mostra un ecosistema intel·lectual que es queda enrere i una institució que va ser central en el disseny de l'estratègia estatunidenca, i que avui publica documents que no resisteixen una avaluació tècnica bàsica. I una generació d'experts que, en lloc de reconèixer els seus límits, els cobreix amb retòrica. El que més ens hauria de preocupar és que quan els cecs creuen veure-hi, el que veuen no és el món, només són visions. I aquestes visions, quan s'imposen com a guia, mai no acaben bé.

Les coses com són