Anthropic ha lanzado un aviso que ha sacudido el sector tecnológico. Según la compañía, en los próximos años la IA será capaz de diseñar y construir su propio sucesor sin intervención humana, un fenómeno que los técnicos llaman automillora recursiva. Ante esta perspectiva, la empresa ha sugerido una pausa global en el desarrollo de la inteligencia artificial para que las estructuras sociales y la investigación en seguridad puedan ponerse al día. En una entrada publicada en su blog, Anthropic ha explicado que cada vez delega más tareas de desarrollo en sus propios sistemas de IA.
A medida que aumenta la capacidad de cálculo, se acerca la posibilidad de que estos sistemas puedan mejorarse a sí mismos una y otra vez, es decir, que un modelo de IA diseñe el siguiente modelo, que a su vez diseñe uno más avanzado, y así sucesivamente. Este proceso de automillora recursiva, según advierte la empresa, no es inevitable, pero podría llegar antes de que muchas instituciones estén preparadas para gestionarlo. La compañía reconoce que esta capacidad puede ser muy beneficiosa para la ciencia y la salud, pero también conlleva un riesgo importante: que los humanos pierdan el control sobre los sistemas de IA. Si las máquinas son capaces de crear completamente sus sucesores, asegura Anthropic, los mecanismos para hacerlos seguros, supervisarlos y modelar su comportamiento se vuelven mucho más importantes que ahora.
Una pausa global para que la sociedad pueda ponerse al día
Ante este escenario, Anthropic defiende que sería bueno para el mundo tener la opción de frenar o detener temporalmente el desarrollo de la inteligencia artificial de frontera. El objetivo, según explican, es permitir que las estructuras sociales y la investigación en alineamiento puedan seguir el ritmo del avance tecnológico. La empresa ha reclamado la colaboración de compañías de todo el mundo con su rama investigadora, llamada The Anthropic Institute, para establecer un marco común.
Uno de los puntos clave que plantea Anthropic es cómo hacer efectiva una pausa sin que esto favorezca a un mal actor, es decir, una empresa o país que aprovechara el parón de los demás para avanzar en secreto. Por ello, la compañía propone ayudar a construir sistemas que permitan verificar que los demás realmente se detienen. Además, destaca que los laboratorios bien financiados de diferentes países deberán aceptar parar en las mismas condiciones. Una pausa creíble, escriben, también debe especificar qué la desencadena, qué la levanta y quién hace de árbitro.
El texto, firmado por el cofundador de Anthropic Jack Clark y por la directora de The Anthropic Institute, Marina Favaro, incluye datos internos que ilustran la rapidez con la que están mejorando sus modelos. Hace poco más de un año, en febrero de 2025, menos del 10% del código que la compañía incorporaba a su base de código había sido creado por su asistente, Claude. Ahora, esta cifra supera el 80%. Este salto espectacular en tan poco tiempo es, para Anthropic, un indicador de que el momento en que la IA pueda entrenarse sola está muy cerca. La empresa vaticina que en el futuro agentes como Claude serán capaces de mejorarse sin supervisión humana, lo cual hace que la propuesta de una pausa global adquiera, según la compañía, una urgencia inaplazable.