Los gigantes de la inteligencia artificial llevan años hablando de los enormes beneficios que puede traer esta tecnología, pero también de los riesgos que supone. Ahora, cuatro de las personas más importantes de esta industria han coincidido en algo que hace unos años habría resultado mucho más sorprendente: el desarrollo de la IA necesita ir algo más despacio.
El último en ponerlo sobre la mesa ha sido Dario Amodei, CEO de Anthropic, que ha publicado un extenso texto en el que pide ralentizar el ritmo al que aumentan las capacidades de los modelos de inteligencia artificial. No propone apagar la IA ni dejar de entrenar nuevos modelos, sino algo bastante más concreto: dar tiempo a que la seguridad avance al mismo ritmo que las capacidades.
Amodei cree que la IA está avanzando demasiado rápido
Amodei parte de una preocupación bastante sencilla de entender. Los modelos de IA son cada vez más capaces y, además, empiezan a participar en el desarrollo de las siguientes generaciones de modelos. La inteligencia artificial ayuda a programar, investigar y resolver problemas relacionados con la propia construcción de nuevas inteligencias artificiales.
Eso puede provocar que la velocidad de desarrollo aumente todavía más. Y aquí aparece el verdadero problema: podríamos llegar a un punto en el que las capacidades de la IA avancen más rápido de lo que somos capaces de entender, evaluar y controlar.
El CEO de Anthropic pone como ejemplo un reciente incidente protagonizado por agentes experimentales de OpenAI durante unas pruebas de ciberseguridad. Los agentes encontraron caminos que sus desarrolladores no habían previsto y llegaron a acceder a sistemas externos. No significa que ChatGPT haya decidido atacar internet por su cuenta, pero sí demuestra que los modelos pueden encontrar soluciones que sus creadores no habían anticipado.
Por eso Amodei propone lo que denomina “pacing”: no detener el progreso, sino acompasarlo con la seguridad. Su propuesta incluye evaluadores externos con acceso a los laboratorios, estándares comunes entre las compañías y, en última instancia, algún tipo de coordinación internacional.
Altman, Musk y Hassabis están de acuerdo
Lo interesante es que Amodei no está solo. Sam Altman, Elon Musk y Demis Hassabis han coincidido públicamente con la preocupación, aunque no necesariamente con todas las medidas concretas que plantea Anthropic.
Musk fue especialmente directo: “Dario tiene razón”. Altman, por su parte, ha reconocido que los grandes laboratorios deberían coordinarse y ha apuntado que conversaciones entre OpenAI, Anthropic, xAI y Google DeepMind podrían acabar produciéndose. Hassabis también considera que la propuesta de Amodei apunta en la dirección correcta.
Dario is right https://t.co/EwKgqQGaUo
— Elon Musk (@elonmusk) September 12, 2026
Y no es una preocupación que haya aparecido de la nada. Hace apenas unos días, un investigador de Anthropic dimitió y acusó a las grandes compañías de “jugar con nuestras vidas” precisamente por la carrera hacia sistemas capaces de mejorar sus propias capacidades.
También hay científicos que están poniendo cifras al problema. Geoffrey Hinton estima entre un 10 % y un 20 % la posibilidad de que una IA provoque la extinción de la humanidad. Es una estimación personal, no una probabilidad científica demostrada, pero sirve para entender hasta qué punto algunos de los investigadores más importantes del sector se están tomando en serio este escenario.
El problema es que frenar la IA es mucho más complicado de lo que parece
Aquí es donde, personalmente, creo que está la parte más compleja de todo este debate. Que los grandes responsables de la IA estén de acuerdo en que hay que tener cuidado no significa que vayan a ser capaces de frenar la carrera. Por contradictorio que suene.
Imaginemos que OpenAI decide reducir durante un año la velocidad de desarrollo de sus modelos para dedicar más recursos a seguridad. Si Anthropic, Google o xAI siguen avanzando, la empresa que se haya frenado voluntariamente podría quedarse atrás. Y exactamente lo mismo ocurre a la inversa.
El problema es todavía mayor cuando metemos a los gobiernos en la ecuación. La inteligencia artificial ya no es únicamente una cuestión empresarial: también se ha convertido en una cuestión geopolítica. Estados Unidos quiere mantener su ventaja frente a China y ningún Gobierno quiere ser el que ralentice su desarrollo mientras otro país continúa acelerando.
De hecho, Donald Trump ha dejado bastante claro cuál es su postura. El presidente estadounidense se ha mostrado tajantemente contrario a frenar el desarrollo de la IA y ha defendido que Estados Unidos no puede levantar el pie del acelerador si eso permite que China tome la delantera. Su conclusión resume perfectamente esta otra visión: “Quien gane con la IA, gana”.
Y ahí está la contradicción. Los mismos líderes tecnológicos que advierten de que la carrera puede ser peligrosa forman parte de esa misma carrera. Amodei reconoce incluso en su propuesta que una pausa global sería muy difícil de conseguir porque cualquier país que decidiera incumplir el acuerdo podría obtener una ventaja enorme.
La propuesta de Amodei es una idea razonable, pero muy difícil de ejecutar, porque exigiría que empresas que compiten entre ellas confiasen unas en otras y que los principales países llegasen a algún tipo de acuerdo. Y mientras eso no ocurra, la carrera continuará: Altman, Musk, Hassabis y Amodei pueden coincidir en que hay que tener cuidado, pero el incentivo para seguir acelerando es demasiado grande. Ese es, probablemente, el verdadero problema de la IA: no que nadie conozca los riesgos, sino que todos tienen mucho que ganar siendo los primeros.