Estem en l'era de la intel·ligència artificial. Vulguem o no, aquestes eines estan presents en el nostre dia a dia, gairebé sense adonar-nos-en i encara que ens neguem a fer preguntes al ChatGPT. I la IA també està present, evidentment, en els conflictes bèl·lics. Segons un informe publicat aquest dijous per l'empresa Anthropic, fundada per exmembres d'OpenAI i que defensa l'ús responsable de la intel·ligència artificial, assegura que actors vinculats al govern de l'Iran van utilitzar el model Claude per planificar possibles atacs sobre objectius dels Estats Units. En aquest extens informe, de més de 150 pàgines, l'empresa assegura que aquesta eina pot ajudar a identificar objectius, processar grans quantitats d'informació relacionada amb dissidents, actives, periodistes o polítics. Això permet, asseguren, que els governs puguin reforçar els seus sistemes de vigilància i fer-los més eficients.
Claude no es troba disponible a l'Iran. Per tant, els usuaris que la van fer servir per millorar les seves operacions de vigilància van emprar xarxes privades virtuals i telèfons estrangers per accedir-hi, sempre segons Anthropic. Concretament, els iranians haurien emprat aquesta eina per obtenir recomanacions a l'hora d'atacar contra les forces navals que l'administració de Donald Trump ha anat desplegant a la regió des de finals de febrer. Aquests usos "indeguts" no es limiten només a l'Iran, sinó que també se n'han detectat a la Xina, Rússia o el Iemen.
Un fre a l'espera de límits?
A més, des d'Anthropic afirmen que s'han frustrat "diversos possibles complots" en els quals es van emprar els seus models d'intel·ligència artificials en investigacions que haurien pogut contribuir al desenvolupament d'armes biològiques. En l'informe no determinen si aquests estudis bloquejats tenien finalitats legítimes o no. Per això, van optar per frenar-los. "Les avaluacions són útils perquè proporcionen evidències de capacitat. No poden demostrar concretament que aquesta capacitat s'empraria per desenvolupar armes biològiques en el món real", reflexionen.
Aquesta notícia arriba al mateix temps que des d'OpenAI han posat sobre la taula la possibilitat de frenar el desenvolupament de les eines d'intel·ligència artificial, davant la preocupació creixent pels riscos que suposen els sistemes més avançats. Kakub Pachocki, un dels principals cervells darrere d'aquesta empresa, va publicar fa poc un article explicant els seus perills, tot defensant una coordinació entre les diferents empreses del sector per alentir el seu desenvolupament mentre no hi hagi uns límits de seguretat comuns. Anant més enllà, OpenAI afirma haver suspès entrenaments interns per motius de seguretat.