Dijous passat, Anthropic (l'empresa nord-americana que hi ha darrere de Claude, un dels models d'intel·ligència artificial més avançats del món) va publicar una nota sorprenent on demanava considerar seriosament la possibilitat de frenar el progrés de la mateixa tecnologia que ven. M’hi refereixo amb l’adjectiu sorprenent perquè no ho deia un comitè d'ètica ni un grup de filòsofs alarmats des de la barrera, sinó els mateixos enginyers que la construeixen, amb un cert to de preocupació sobre el que tenen entre mans. Entre els arguments utilitzats, en destaca un de contundent: més del 80% del codi que l'empresa incorpora als seus sistemes ja no l'escriu cap humà, sinó la seva pròpia IA. Per posar-ho en context, fa poc més d'un any, aquesta xifra no arribava al 5%. Per tant, l’empresa considera que aquesta qüestió és prou rellevant en si mateixa per a considerar si hauria de ser un llindar on aturar màquines i fer una reflexió col·lectiva.

El document descriu el que en diuen recursive self-improvement, és a dir, l'automillora recursiva: el moment en què un sistema esdevé prou capaç de dissenyar i entrenar la versió que el substituirà. Encara no hi som del tot, adverteixen, però la tendència és tan ràpida que els inquieta. Segons les mètriques publicades per l'organització independent METR, el temps de feina que aquests sistemes poden completar de manera fiable es duplica cada quatre mesos: el març del 2024 resolien tasques de quatre minuts; un any després, d'hora i mitja; aquesta primavera, de dotze hores. L'eina, en definitiva, ha començat a fabricar l'eina, i ho fa cada vegada més de pressa.

Tots recordem l'escena de la pel·lícula de Disney Fantasia en què l'aprenent de bruixot fa un encanteri a una escombra perquè li carregui l'aigua i, quan la vol aturar, ja s'ha multiplicat en un exèrcit d'escombres que inunden el taller. La gràcia del conte no és la màgia, sinó la pèrdua de control sobre un procés que es replica sol. Més enllà de la discussió tècnica sobre si arribarem o no a aquest punt, ja observem actualment unes determinades conseqüències econòmiques d’aquesta situació. El mateix article publicat per Anthropic ho exemplifica amb dades internes: l'abril passat, el seu model va resoldre vuit-centes incidències que a un equip humà li haurien costat quatre anys de feina. Quan el cost marginal de produir tendeix a zero, la pregunta deixa de ser quant produirem i passa a ser qui captura el valor del que es produeix i com el reassignem per mantenir l’estat del benestar. Anthropic ho formula sense embuts en uns càlculs que haurien de fer pensar més d'un govern: una empresa de cent persones podria arribar a fer la feina de cent mil, i és difícil predir quin aspecte tindrà l’economia un cop el treball humà deixa de ser competitiu. La promesa és extraordinària: progressos mai vistos en ciència, salut, tecnologia, indústria... però el repartiment d'aquesta abundància no està definit enlloc. I el mateix algoritme que podria trobar la cura de determinades malalties també pot servir per a la vigilància massiva o per a campanyes de manipulació personalitzades a una escala que cap equip humà podria igualar. El risc no és tant que la màquina es torni malèvola com que amplifiqui, a velocitat de vertigen, les nostres pròpies asimetries de poder.

El risc no és tant que la màquina es torni malèvola com que amplifiqui, a velocitat de vertigen, les nostres pròpies asimetries de poder

La manera com ho estem enfocant a casa nostra no ens permet ser gaire optimistes. Mentre als laboratoris de Califòrnia els seus propis creadors es plantegen si cal frenar una tecnologia capaç de reescriure's a si mateixa, a la Unió Europea fa anys que aboquem la nostra energia reguladora, que no és poca, a minúcies. El cas paradigmàtic és el botó d'acceptar les galetes, aquell rètol que tots cliquem mecànicament desenes de vegades al dia sense llegir-lo mai, fruit d'una normativa que pretenia protegir la nostra privacitat i que només ha aconseguit convertir la navegació en un calvari de finestres emergents. Hi hem afegit l'etiquetatge dels carregadors, el gruix de les bosses, la lletra petita de cada contracte digital i una llista inacabable de prescripcions. Convé dir que Espanya i Catalunya, lluny de ser-ne l'excepció, solem accentuar la tendència afegint capes pròpies de creativitat damunt la norma comunitària. El problema és que aquests arbres no ens deixen veure el bosc. Mentre discutim on ha d'anar exactament el botó de les cookies, no estem articulant cap resposta seriosa al fet que, en l'escenari que dibuixa la mateixa Anthropic, una part aclaparadora de la feina intel·lectual qualificada podria quedar, senzillament, fora del mercat laboral.

Potser la pausa és materialment impossible. El que no és optatiu és l'adaptació. Mentre debatem si la corba és exponencial o lineal, les nostres institucions –el sistema educatiu, el mercat laboral, la fiscalitat, la protecció social– continuen calibrades per a un món on pensar era car i lent. Aquest món s'està acabant a una velocitat que les institucions encara no han paït. La lliçó de l'aprenent de bruixot de Disney mai no va ser que no s'havia d'encantar l'escombra; va ser que convé saber l'encanteri per aturar-la abans de necessitar-lo. Val més que comencem a buscar-lo.