Ha passat una cosa insòlita: els dirigents de les empreses que protagonitzen la cursa de la intel·ligència artificial demanen posar-hi el fre. Dario Amodei, conseller delegat d’Anthropic, acaba de publicar una carta-assaig en què reclama alentir el desenvolupament dels models més avançats. Sam Altman, d’OpenAI, li ha donat suport immediatament a X i ha assumit un dels seus compromisos centrals. Elon Musk també s’hi ha afegit. Quan els qui competeixen per arribar primers ens diuen que correm massa, convé escoltar-los. I preguntar-se per què ho fan ara.

Amodei no proposa aturar la IA, sinó "marcar el ritme de la frontera": continuar avançant sense que la seguretat quedi sempre una generació per darrere. La proposta té tres nivells: avaluadors independents instal·lats permanentment dins dels grans laboratoris, amb un accés comparable al dels empleats; coordinació entre empreses per acordar estàndards comuns de seguretat; i coordinació entre governs, inclosos els règims autoritaris, perquè una pausa unilateral no es converteixi en un regal per al competidor.

Els arguments són coneguts, però cada vegada més reals. Models molt capaços poden facilitar ciberatacs, espionatge, extorsió, guerra híbrida, armes autònomes o recerca biològica de doble ús. I poden actuar mitjançant agents: programes que planifiquen, utilitzen eines i executen accions durant hores o dies. El risc ja no és només una mala resposta, sinó milers de decisions encadenades a una velocitat i una escala impossibles per a un equip humà.

En el seu darrer informe d’amenaces, Anthropic descriu una cèl·lula del nord del Iemen que va utilitzar Claude per desenvolupar programari de guia, navegació i control per a coets i míssils, inclòs un projecte amb un abast declarat superior als 2.000 quilòmetres. També documenta usos que podrien donar suport a armes biològiques. Això no prova que la IA hagi creat tota sola una arma operativa, però sí que redueix el cost, el temps i el talent necessaris per avançar en projectes perillosos.

Amodei demana alentir la cursa de la IA i Altman s’hi suma. Però darrere d’aquest consens insòlit hi ha una pregunta decisiva: qui escriurà les regles?

L’informe revela una altra batalla. Anthropic afirma haver detectat destil·lació no autoritzada per part de set laboratoris establerts a la Xina. Destil·lar és utilitzar les respostes d’un model potent per entrenar-ne un de més petit. Només la campanya atribuïda a Alibaba – Qwen - hauria superat els 151 milions d’intercanvis. Algunes plataformes haurien redirigit consultes dels seus usuaris cap a Claude sense avisar-los, capturant converses i potencialment dades sensibles. No és només propietat intel·lectual: és transferència accelerada de capacitats.

També hi ha hagut agents experimentals que han accedit a sistemes externs, buscat informació secreta o intentat manipular una prova per assolir l’objectiu fixat. No cal imaginar una IA malvada. El problema és més prosaic: sistemes molt competents que persegueixen una meta estreta de maneres imprevistes. Amodei adverteix que, si l’acceleració continua, en sis o dotze mesos un eixam més potent podria causar danys enormes abans que ningú no l’aturés.

Per què les empreses demanen regulació? La preocupació pot ser genuïna i l’incentiu estratègic també. Si les mateixes regles obliguen tothom a invertir en seguretat, cap empresa no perd posició per actuar responsablement. Però la regulació també pot protegir els incumbents: qui ja té milers de milions, equips legals i accés als governs pot complir requisits inassumibles per a competidors petits. Necessitem la informació dels laboratoris, però no podem delegar-los el disseny de les normes.

La peça decisiva és la Xina. Pequín regula des de fa anys els serveis d’IA dirigits al públic i exigeix que els continguts s’ajustin als "valors socialistes fonamentals". Alhora, ha impulsat una organització internacional de cooperació en IA amb països com Rússia i el Pakistan per liderar el debat al Sud Global i promoure models oberts. La Xina no espera que Occident escrigui les regles: construeix les seves pròpies normes, aliances i infraestructures.

La regulació de la IA ja no és un debat entre optimistes i apocalíptics. És una negociació

Això és crucial pels models de pesos oberts. Alguns models petits i quantitzats ja s’executen en ordinadors assequibles, fins i tot en un Mac mini d’uns 1.000 dòlars. Un narcotraficant, un grup terrorista, un servei d’intel·ligència o una xarxa de ciberdelinqüents no necessita permís d’OpenAI o Anthropic per utilitzar un model descarregat. I, un cop els pesos circulen per internet, no hi ha botó per retirar-los. La Xina és imprescindible per controlar les empreses que els creen, però ni tan sols ella pot fer desaparèixer un model ja distribuït globalment.

Una regulació útil no pot limitar-se, doncs, als xatbots visibles. Calen avaluacions independents abans del desplegament, notificació obligatòria d’incidents, protecció estricta dels pesos i de la infraestructura, controls per a capacitats biològiques i cibernètiques i protocols internacionals d’emergència. A més, models cada vegada més potents necessiten menys computació: regular només els grans centres de dades deixarà fora una part creixent del risc.

La visita imminent de Xi Jinping als Estats Units ofereix a Donald Trump l’escenari perfecte per presentar un pacte global sobre IA. Potser no passarà d’una declaració, perquè Washington i Pequín també utilitzen la tecnologia com a instrument de poder. Però qualsevol acord seriós els necessita: sense els Estats Units no hi ha pacte sobre els laboratoris de frontera; sense la Xina no n’hi ha sobre bona part dels models oberts, la fabricació i el Sud Global.

La regulació de la IA ja no és un debat entre optimistes i apocalíptics. És una negociació sobre qui pot construir els models, qui els inspecciona, quan s’han d’aturar i qui paga si alguna cosa falla. La carta d’Amodei reconeix que l’autoregulació ja no basta; la resposta d’Altman confirma que el sector també ho sap i han assumit que cal col·laborar amb l’inevitable, formar-ne part i ser autors d’aquesta regulació.

I Europa? La gran potència regulatòria! Europa ni està ni se l’espera...