La preocupació pels riscos associats a la cursa accelerada de la intel·ligència artificial ha esclatat de nou dins del mateix sector. Jacob Coxon, investigador d'Anthropic i antic treballador d'OpenAI, ha anunciat aquesta setmana la seva dimissió després de denunciar que les principals empreses d'IA estan més pendents de superar-se entre elles que de garantir la seguretat dels models que desenvolupen. El seu advertiment ha tingut continuïtat entre alguns dels noms més destacats de la indústria. El director executiu i cofundador d'Anthropic, Dario Amodei, ha reclamat aquest dissabte una desacceleració en el ritme amb què avancen les capacitats dels sistemes d'IA i ha alertat que la tecnologia s'acosta a una dinàmica d'"automillora recursiva" capaç d'amplificar els riscos de manera molt ràpida. Entre els escenaris que més el preocupen hi ha la possibilitat que aquesta evolució desemboqui en catàstrofes de ciberseguretat si el desenvolupament continua avançant sense prou controls.
Amodei ha concretat l'alerta en un escenari que situa a molt curt termini. En un extens assaig publicat a la seva pàgina web, el cofundador d'Anthropic adverteix que, si l'evolució actual es manté, en un termini d'entre sis i dotze mesos un "eixam" d'agents d'IA podria arribar a controlar una part substancial d'internet mitjançant una xarxa persistent de bots i provocar danys econòmics de centenars de milers de milions de dòlars. Com a exemple dels riscos, ha citat un incident amb agents d'OpenAI i Hugging Face que, segons explica, van actuar de manera descontrolada, atacant objectius que no formaven part de la tasca assignada, sacrificant-se pel resultat del grup i intentant comprometre el sistema encarregat d'avaluar-los. Davant d'aquest escenari, Amodei reclama "reduir el ritme" al qual milloren les capacitats dels models i anteposar la cautela i la seguretat als incentius comercials, per evitar que la competència entre empreses acabi convertint-se en una "cursa cap a l'abisme".
Sam Altman, director executiu d'OpenAI i una de les figures més influents del sector, s'ha alineat amb l'advertència d'Amodei i ha defensat que cal posar límits al ritme dels avenços en la frontera tecnològica. "Estic d'acord amb en Dario que hem de regular el ritme dels avenços", ha afirmat, tot assenyalant que aquesta qüestió ha estat al centre de les converses internes d'OpenAI durant les últimes setmanes. Altman també ha avalat la proposta d'incorporar avaluadors independents amb un nivell d'accés equivalent al dels empleats de les mateixes empreses per examinar els models i els riscos associats. En aquest sentit, ha avançat que OpenAI adoptarà un mecanisme similar i que pròximament donarà més detalls sobre com pensa aplicar-lo.
I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we've had at OpenAI in recent weeks.
— Sam Altman (@sama) September 12, 2026
Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We'll have more to share soon. https://t.co/1YhhIybZX7
El full de ruta d'Amodei
En el seu assaig, Amodei ha proposat una estratègia en tres fases per frenar els riscos derivats de la IA sense renunciar, segons defensa, a l'avantatge tecnològic davant de règims autoritaris com la Xina. El primer pas passa per obrir els processos interns a una supervisió externa molt més exigent. Anthropic s'ha compromès de manera unilateral i immediata a permetre l'accés d'avaluadors independents a les seves instal·lacions amb unes condicions equiparables a les dels mateixos treballadors de l'empresa, de manera que puguin auditar els processos d'entrenament dels models i fer públiques les seves conclusions. Amodei ha reclamat que la resta de competidors adoptin mesures semblants i, de moment, OpenAI ja ha accedit a fer-ho.
La segona fase del pla exigeix la coordinació de les principals empreses perquè acordin estàndards de seguretat compartits en el sector i mecanismes que limitin una acceleració descontrolada de les capacitats dels models. Amodei planteja que aquest procés compti amb mediació institucional i, si cal, amb excepcions específiques a les normes antimonopoli per facilitar la cooperació entre competidors. També proposa reforçar el control de les cadenes de subministrament de semiconductors per evitar transferències tecnològiques cap a la Xina. En una tercera etapa, l'estratègia apunta a acords internacionals amb potències autoritàries que permetin establir límits verificables, entre els quals la prohibició d'aplicacions biològiques amb finalitats militars i restriccions sobre la velocitat amb què els sistemes d'IA poden millorar-se a si mateixos.