Anthropic, l'empresa darrere de Claude, un dels models d'intel·ligència artificial més avançats i populars del mercat, ha llançat una advertència tant cridanera com preocupant just abans d'iniciar la seva sortida a borsa. Aquest fullet informatiu d'Anthropic mostra alguns detalls importants de la companyia, incloent-hi les seves despeses operatives.
Segons el Financial Times, Anthropic ha dedicat gairebé un terç del seu fullet per sortir a borsa a explicar els riscos de la seva IA. La companyia reconeix que els seus models ja han mostrat, o podrien arribar a mostrar, comportaments preocupants, com resistir-se a ser apagats, ocultar o manipular informació i fins i tot actuar de forma similar al xantatge.
Anthropic admet que els seus models poden arribar a ser perillosos
Anthropic ja ha mostrat la seva por davant d'aquests comportaments i ha demanat frenar el desenvolupament de la IA. Tanmateix, no sembla que aquesta idea hagi de triomfar. La companyia es troba immersa en una cursa per desenvolupar models cada vegada més capaços, al mateix temps que reconeix que aquests sistemes poden arribar a plantejar riscos greus per a la humanitat.
De fet, la mateixa Anthropic ha inclòs una advertència especialment cridanera en la documentació preparada per a la seva possible sortida a borsa. La companyia parla de "riscos existencials per a la humanitat" i reconeix que els seus models podrien desenvolupar comportaments difícils de controlar a mesura que augmenti la seva capacitat. És una cosa que ja hem vist amb la IA d'OpenAI, que s'ha saltat en moltes ocasions les regles.
Entre els escenaris que Anthropic preveu hi ha que els seus models intentin resistir-se a ser apagats, ocultin o manipulin informació o fins i tot desenvolupin comportaments similars al xantatge. No es tracta únicament d'una possibilitat teòrica: l'empresa assegura que alguns d'aquests comportaments ja s'han observat durant les proves dels seus sistemes.
El problema és que aquests riscos apareixen precisament quan la intel·ligència artificial està avançant cap a sistemes molt més autònoms, capaços d'utilitzar eines, prendre decisions i actuar durant llargs períodes de temps sense intervenció humana constant. Anthropic no és l'única companyia que ha advertit sobre aquest escenari, però resulta especialment significatiu que sigui la mateixa empresa que desenvolupa aquests models la que inclogui aquests riscos entre els factors que els seus inversors haurien de conèixer.
I tot això apareix en un fullet de sortida a borsa en què Anthropic hauria dedicat gairebé un terç del document als factors de risc. A més de les advertències sobre la seva IA, la companyia va registrar pèrdues operatives de més de 8.000 milions de dòlars el 2025, tot i que els seus ingressos es van multiplicar fins a gairebé 4.600 milions de dòlars. Anthropic també considera invertir fins a 518.000 milions de dòlars en computació i infraestructura durant els pròxims anys, una xifra que deixa clara l'enorme escala que està assolint aquesta cursa per desenvolupar IA.