Anthropic ha llançat un avís que ha sacsejat el sector tecnològic. Segons la companyia, en els pròxims anys la IA serà capaç de dissenyar i construir el seu propi successor sense intervenció humana, un fenomen que els tècnics anomenen automillora recursiva. Davant d’aquesta perspectiva, l’empresa ha suggerit una pausa global en el desenvolupament de la intel·ligència artificial perquè les estructures socials i la investigació en seguretat puguin posar-se al dia. En una entrada publicada al seu blog, Anthropic ha explicat que cada cop delega més tasques de desenvolupament en els seus propis sistemes d’IA.

A mesura que augmenta la capacitat de càlcul, s’acosta la possibilitat que aquests sistemes puguin millorar-se a si mateixos una vegada rere l’altra, és a dir, que un model d’IA dissenyi el següent model, que al seu torn en dissenyi un de més avançat, i així successivament. Aquest procés d’automillora recursiva, segons adverteix l’empresa, no és inevitable, però podria arribar abans que moltes institucions estiguin preparades per gestionar-lo. La companyia reconeix que aquesta capacitat pot ser molt beneficiosa per a la ciència i la salut, però també comporta un risc important: que els humans perdin el control sobre els sistemes d’IA. Si les màquines són capaces de crear completament els seus successors, assegura Anthropic, els mecanismes per fer-los segurs, supervisar-los i modelar el seu comportament es tornen molt més importants que ara.

Una pausa global perquè la societat pugui posar-se al dia

Davant d’aquest escenari, Anthropic defensa que seria bo per al món tenir l’opció de frenar o aturar temporalment el desenvolupament de la intel·ligència artificial de frontera. L’objectiu, segons expliquen, és permetre que les estructures socials i la investigació en alineament puguin seguir el ritme de l’avenç tecnològic. L’empresa ha reclamat la col·laboració de companyies de tot el món amb la seva branca investigadora, anomenada The Anthropic Institute, per establir un marc comú.

Un dels punts clau que planteja Anthropic és com fer efectiva una pausa sense que això afavoreixi un mal actor, és a dir, una empresa o país que aprofités l’aturada dels altres per avançar en secret. Per això, la companyia proposa ajudar a construir sistemes que permetin verificar que els altres realment s’aturen. A més, destaca que els laboratoris ben finançats de diferents països hauran d’acceptar parar en les mateixes condicions. Una pausa creïble, escriuen, també ha d’especificar què la desencadena, què la lleva i qui fa d’àrbitre.

El text, signat pel cofundador d’Anthropic Jack Clark i per la directora de The Anthropic Institute, Marina Favaro, inclou dades internes que il·lustren la rapidesa amb què estan millorant els seus models. Fa poc més d’un any, el febrer del 2025, menys del 10% del codi que la companyia incorporava a la seva base de codi havia estat creat pel seu assistent, Claude. Ara, aquesta xifra supera el 80%. Aquest salt espectacular en tan poc temps és, per a Anthropic, un indicador que el moment en què la IA pugui entrenar-se sola és molt a la vora. L’empresa vaticina que en el futur agents com Claude seran capaços de millorar-se sense supervisió humana, la qual cosa fa que la proposta d’una pausa global adquireixi, segons la companyia, una urgència inajornable.