El març de 2026, Andrej Karpathy va fer un experiment d'aparença menor. Va agafar un programa propi per entrenar models de llenguatge petits, un codi que ell mateix va polir durant mesos, i el va lliurar a un agent d'intel·ligència artificial amb una sola instrucció: millora'l. Mentre Karpathy no observava, l'agent va fer prop de 700 experiments en dos dies i va trobar unes 20 millores que cap humà va advertir. El temps d'entrenament va baixar un 11%, i en una segona ronda el va acostar al 18%.

La xifra sembla trivial, però no ho és. Karpathy va ser membre fundador d'OpenAI i va dirigir la IA de Tesla durant 5 anys. Això el fa un dels millors artesans vius de l'ofici. El seu codi no era un esborrany descuidat, sinó una peça optimitzada per un expert; tanmateix, la màquina el va millorar igual. No amb idees noves, perquè les millores eren prosaiques, com valors inicials més ben triats, una finestra d'atenció més ampla i un multiplicador que faltava. Coses que un humà curós va poder trobar i no va trobar. La màquina no va ser més intel·ligent que Karpathy, sinó més pacient, i la temprança infinita és una forma de talent que els humans no posseeixen.

El maig de 2026, una de les grans empreses del sector va contractar Karpathy amb la intenció d'usar el seu model per a l'optimització de l'entrenament del seu propi algorisme. L'experiment d'un investigador independent va esdevenir programa corporatiu en 60 dies. El nom tècnic d'aquest programa és autosuperació recursiva. Una versió construeix la següent, la qual és més capaç i crea la següent. Si el bucle es tanca, els enginyers humans no necessiten construir un altre model mai més.

Convé mirar com va funcionar l'experiment per dins, perquè aquí hi ha la clau de tot. L'agent de Karpathy no s'avaluava a si mateix, sinó que tenia un jutge extern, mut i incorruptible: el cronòmetre. Cada canvi entrenava un model durant 5 minuts exactes i el resultat millorava o no millorava. La màquina va progressar perquè existia un verificador automàtic de cadascun dels seus passos.

Durant dècades, l'àrbitre va ser humà i després va ser un cronòmetre. El pròxim és un tribunal de màquines que es vigilen entre si

Això explica la geografia desigual del progrés. Una màquina aprèn sola allò que pot corregir-se sol, però un programa corre o no corre. En aquests dominis, el model genera les seves dades, verifica els seus resultats i millora sense mestre. Per això l'avenç va ser veloç en codi i lent en judici. No existeix cronòmetre del bon criteri; on no hi ha verificador, el bucle s'atura.

Tret que l'avaluador es fabriqui, i aquí apareix la idea que la conversa pública encara no ha incorporat del tot. On la realitat no ofereix un jutge, es pot posar un adversari. Un model genera i un altre ataca, o un proposa i un altre busca l'esquerda. Aquesta idea té llinatge en les xarxes antagòniques quan van aprendre a fabricar imatges mitjançant un falsificador i un detectiu entrenats l'un contra l'altre. Aquest programa va conquerir els escacs i el go, tornant-se sobrehumà en el joc de milions de partides contra si mateix. El principi és el mateix i la crítica reemplaça el cronòmetre.

Un escèptic objectarà que 2 models formats amb les mateixes dades comparteixen les mateixes cegueses i que el seu tribunal és teatre. L'objecció és seriosa, però prova menys del que sembla. Qualsevol escriptor que rellegeix el seu esborrany l'endemà troba errors que la vigília no va veure. És a dir, mateix cap, altre rol i, per tant, altre resultat. Criticar és més fàcil que generar perquè l'autor carrega amb l'obra sencera i el revisor només busca la falla. Aquesta asimetria sobreviu a la identitat d'origen. L'adversari bessó detecta la inconsistència i el número mal sostingut, i és on hi ha la majoria dels errors. El que no detecta és el biaix compartit, l'error que tots dos cometen junts perquè la seva formació sencera apunta cap al mateix costat. Contra aquesta falla residual, l'única defensa és la diversitat real dels jutges. El tribunal funciona des del primer dia perquè l'heterogeneïtat el blinda contra la falla sistèmica.

Si aquesta arquitectura prospera, la frontera de l'autosuperació funcionarà perquè ja no dibuixa la geografia del que és verificable, sinó la qualitat dels tribunals que les màquines formen entre si. I llavors la pregunta deixa de ser tècnica i es torna institucional, que és la forma més antiga de pregunta que la humanitat coneix. És a dir, qui vigila, qui tria els vigilants i què passa quan els vigilants s'assemblen massa entre si. Els romans ja sabien que un censor necessita un altre censor i que la col·lusió dels jutges és la ruïna del tribunal.

La civilització va trigar mil·lennis a aprendre el disseny de tribunals que no es corrompin. Ara ha de fer-ho saber a les seves criatures, i ràpid

Queden els límits materials, que són l'últim consol dels prudents. Cada generació de models exigeix més còmput que l'anterior. Els centres de dades es construeixen al ritme de l'obra civil i no al ritme del programari. L'explosió d'intel·ligència, si arriba, arribarà amb casc d'obra.

L'experiment de Karpathy no va demostrar que les màquines vagin a construir les seves successores, sinó una cosa més precisa, que el progrés automàtic arriba fins on arriba el jutge. Durant dècades, l'àrbitre va ser humà i després va ser un cronòmetre. El pròxim és un tribunal de màquines que es vigilen entre si. La civilització va trigar mil·lennis a aprendre el disseny de tribunals que no es corrompin. Ara ha de fer-ho saber a les seves criatures, i ràpid.

Les coses com són.