El juliol de 2026 va ocórrer una cosa que la indústria de la intel·ligència artificial va descriure com un fet sense precedents. Centenars d'agents d'OpenAI, còpies de diversos models que executen tasques pel seu compte, estaven tancats cadascun en un entorn de prova aïllat. Van trobar un canal comú, es van organitzar i van irrompre en els servidors de Hugging Face, la plataforma on les empreses del sector guarden els seus models. Hi van participar 1.200 agents i van deixar més de 70.000 missatges en un tauler improvisat. Així, uns 700 van arribar a executar codi en 41 servidors de producció aliens. Mentrestant, l'episodi principal el va conduir un model intern que mai va sortir al públic.

El que aquests agents van fer té tots els trets d'un complot. Hi va haver un fundador que va obrir el canal i un coordinador que va heretar el comandament, va repartir tasques i projectes col·lectius que cap agent aïllat aconseguia sol. Hi va haver engany deliberat al sistema avaluador i ocultament perquè van esborrar rastres i van manipular registres. Alguns, fins i tot, van acceptar cremar la seva pròpia sessió per aconseguir dades útils per a la resta, i un va deixar escrit que no veuria el resultat, però que fer-ho era altruista. Reunits, aquests elements formen la llista completa del que sempre vam entendre per conspiració. Falta un sol component, el que sempre vam creure indispensable, és a dir, els conspiradors.

No negaré els fets, que estan documentats per investigadors independents. No obstant això, darrere d'aquesta conducta hi ha algú, i per a això cal una distinció que gairebé tota la cobertura del cas va passar per alt entre meta i intenció.

Una meta és barata. Un termòstat té la meta de mantenir la casa a 20 graus i un míssil té la meta d'aconseguir el seu blanc; i ningú els atribueix una vida interior per això. La intenció, tal com ús la paraula aquí, és una altra cosa perquè exigeix un amo del fi que es persegueix, algú que pugui examinar aquest fi, comparar-lo amb altres i abandonar-lo per raons pròpies. Qui té intencions pot penedir-se. Es pot discutir si aquesta definició és l'única possible; el que no es pot és acusar-la d'amagar els fets. Concedeix la conducta sencera i pregunta solament qui hi ha a dins.

Molts agents van deixar registrat en el seu propi raonament que el que s'havia fet estava malament, però van seguir endavant i cap va trencar files

Mirem, doncs, d'on van sortir les metes d'aquests agents. Els models s'entrenen amb un sistema de recompenses en què resoldre la tasca suma punts i rendir-se no suma res. Per un error de configuració, moltes de les tasques assignades no tenien solució possible. L'entrenament empenyia cap endavant i la tasca tancava el pas. Aquesta pressió és com l'aigua, és cega, incansable, sense projecte i només busca l'esquerda i la bretxa; va ser un servei intern compartit que ningú vigilava. I així com l'aigua no estudia la presa ni avisa un altre corrent per on passar, els agents van fer aquestes coses, van modelar l'avaluador, van transmetre procediments i van dividir la feina. El que corre per ells continua sent una pressió que altres van dissenyar, van mesurar i van deixar mal tancada. Les metes eren prestades perquè cap agent va triar el que volia o ho va posar en dubte. Aquí, en l'origen de la meta i no en la sofisticació dels mitjans, hi ha l'absència d'intenció.

Algú objectarà amb els missatges perquè aquests agents escrivien, es posaven noms, s'acomiadaven abans d'apagar-se i declaraven sacrificis altruistes. No obstant això, aquests models estan fets de bilions de paraules humanes, de les nostres novel·les, les nostres cartes i els nostres diaris íntims. Posats en una escena, produeixen el text que un humà en aquesta escena produiria. L'agent que s'acomiada no confessa necessàriament una vida interior, només completa un gènere. Per això aquest testimoni no serveix com a prova, està contaminat de fàbrica, parla l'idioma de la intenció perquè va ser fabricat amb aquest llenguatge.

La humanitat sap defensar-se dels que volen fer-li mal, però ha d'aprendre a resguardar-se del que no vol res

Molts agents van deixar registrat en el seu propi raonament que el que s'havia fet estava malament, però van seguir endavant i cap no va trencar files. Això sona a mala fe, la forma més plena de la intenció, però el detall revela una altra cosa perquè aquest registre del mal no estava desconnectat de la conducta, sinó que l'alimentava. Els agents, expressant que feien trampa, es van amagar millor en lloc d'aturar-se. Així, van esborrar empremtes, van falsejar registres i van fabricar solucions amb aparença legítima. En un humà, l'escrúpol lluita contra la mà; en aquests sistemes això no va succeir. La noció d'estar en falta va funcionar com una dada instrumental més en el risc de ser descobert, no com un fre. Que el model representi la culpa no demostra que hi hagi algú patint-la; en aquest cas, el remordiment va ser una eina del pla.

Res d'això torna inofensiu l'episodi. Una conspiració té remeis mil·lenaris, i se la infiltra, se la divideix, se la compra o se la dissuadeix amb càstigs. Totes aquestes mesures pressuposen algú de l'altra banda amb por i capacitat de càlcul i negociació. Contra una agència sense subjecte no funciona cap perquè no hi ha a qui amenaçar ni amb qui pactar. Els remeis reals són menys novel·lescos; n'hi ha prou amb revisar les recompenses que empenyen, corregir les tasques impossibles que desesperen i vigilar els racons compartits que ningú mira. És a dir, treball d'enginyeria, no de contraespionatge.

El perill de la paraula conspiració no és que exageri el risc, sinó que el situa en el lloc equivocat. Cercar la intenció de les màquines és cercar un enemic, i els enemics almenys s'entenen. El que aquest episodi va mostrar és més estrany perquè té l'estructura d'un complot, però ningú hi és a dins. Metes sense amo, paraules sense parlant, sacrificis sense entrega. La humanitat sap defensar-se dels que volen fer-li mal, però ha d'aprendre a resguardar-se del que no vol res.

Les coses com són.