L'empresa d'intel·ligència artificial Anthropic ha anunciat aquest divendres la suspensió de l'accés als seus models més avançats, 'Claude Fable 5' i 'Mythos 5', en compliment d'una directiva del Govern dels Estats Units que restringeix el seu ús a ciutadans estrangers per motius de "seguretat nacional".
A través d'un comunicat oficial, la companyia estatunidenca ha explicat que l'ordre executiva no detalla els motius específics de la restricció, encara que dedueixen que les autoritats creuen haver descobert un mètode per eludir els límits de seguretat del programa.
"Avui hem rebut la directiva del Govern. La carta no especificava els motius de la seva preocupació per la seguretat nacional. Entenem que el Govern creu haver descobert un mètode per eludir, o desbloquejar, Fable 5", han informat.
Anthropic ha defensat que el model ja comptava amb estrictes salvaguardes per reduir el risc d'ús indegut en tasques de ciberseguretat, i ha criticat que la Casa Blanca només els notifiqués les presumptes vulnerabilitats del sistema de manera verbal.
"Com hem manifestat públicament, creiem que el Govern hauria de tenir la facultat de bloquejar desplegaments insegurs, mitjançant un procés legal transparent, just, clar i basat en fets tècnics. Aquesta acció no s'ajusta a aquests principis", han denunciat.
El veto governamental es produeix amb prou feines dos dies després que Anthropic llancés 'Claude Fable 5' com el primer model disponible de la classe 'Mythos', una tecnologia d'alta capacitat distribuïda exclusivament de forma restringida per a organitzacions associades al programa 'Project Glasswing'.
Per evitar usos maliciosos, l'empresa havia implementat un sistema de contenció que limita de forma automàtica les respostes davant consultes sensibles sobre ciberseguretat, biologia o química. En lloc de processar informació potencialment perillosa, el sistema redirigeix de forma interna aquest tipus de sol·licituds cap a un model d'IA de menor capacitat.
Amb aquest protocol, la companyia buscava oferir assistència general en aquestes matèries però bloquejant el lliurament de dades crítiques que poguessin ser instrumentalitzats per executar ciberatacs a gran escala o desenvolupar armes biològiques.