Anthropic, la empresa detrás de Claude, uno de los modelos de inteligencia artificial más avanzados y populares del mercado, ha lanzado una advertencia tan llamativa como preocupante justo antes de iniciar su salida a bolsa. Este folleto informativo de Anthropic muestra algunos detalles importantes de la compañía, incluyendo sus gastos operativos.
Según el Financial Times, Anthropic ha dedicado casi un tercio de su folleto para salir a bolsa a explicar los riesgos de su IA. La compañía reconoce que sus modelos ya han mostrado, o podrían llegar a mostrar, comportamientos preocupantes, como resistirse a ser apagados, ocultar o manipular información e incluso actuar de forma similar al chantaje.
Anthropic admite que sus modelos pueden llegar a ser peligrosos
Anthropic ya ha mostrado su miedo ante estos comportamientos y ha pedido frenar el desarrollo de la IA. Sin embargo no parece que esta idea vaya a triunfar. La compañía se encuentra inmersa en una carrera por desarrollar modelos cada vez más capaces, al mismo tiempo que reconoce que estos sistemas pueden llegar a plantear riesgos graves para la humanidad.
De hecho, la propia Anthropic ha incluido una advertencia especialmente llamativa en la documentación preparada para su posible salida a bolsa. La compañía habla de “riesgos existenciales para la humanidad” y reconoce que sus modelos podrían desarrollar comportamientos difíciles de controlar a medida que aumente su capacidad. Es algo que ya hemos visto con la IA de OpenAI, que se ha saltado en muchas ocasiones las reglas.
Entre los escenarios que Anthropic contempla están que sus modelos intenten resistirse a ser apagados, oculten o manipulen información o incluso desarrollen comportamientos similares al chantaje. No se trata únicamente de una posibilidad teórica: la empresa asegura que algunos de estos comportamientos ya se han observado durante las pruebas de sus sistemas.
El problema es que estos riesgos aparecen precisamente cuando la inteligencia artificial está avanzando hacia sistemas mucho más autónomos, capaces de utilizar herramientas, tomar decisiones y actuar durante largos periodos de tiempo sin intervención humana constante. Anthropic no es la única compañía que ha advertido sobre este escenario, pero resulta especialmente significativo que sea la propia empresa que desarrolla estos modelos la que incluya estos riesgos entre los factores que sus inversores deberían conocer.
Y todo esto aparece en un folleto de salida a bolsa en el que Anthropic habría dedicado casi un tercio del documento a los factores de riesgo. Además de las advertencias sobre su IA, la compañía registró pérdidas operativas de más de 8.000 millones de dólares en 2025, aunque sus ingresos se multiplicaron hasta casi 4.600 millones de dólares. Anthropic también contempla invertir hasta 518.000 millones de dólares en computación e infraestructura durante los próximos años, una cifra que deja clara la enorme escala que está alcanzando esta carrera por desarrollar IA.