Anthropic, la companyia darrere de models d'avantguarda com Claude, s'ha vist obligada a suspendre de forma immediata l'accés als seus llançaments més recents, Fable 5 i Mythos 5, en compliment d'una ordre federal per motius de seguretat nacional. Aquesta decisió interromp mesos d'expectatives i desplegament tècnic pel llançament d'eines que prometien redefinir els límits de la intel·ligència artificial. Però, sobretot, obre un debat sobre l'abast de la regulació estatal davant el desplegament d'una tecnologia comercial.
Segons una publicació del lloc oficial d'Anthropic, el govern nord-americà va ordenar restringir l'accés a Fable 5 i Mythos 5 a qualsevol ciutadà estranger, sigui dins o fora dels Estats Units, inclosos els empleats estrangers d'Anthropic, al·legant riscos de seguretat nacional, específicament per haver detectat un mètode de jailbreak que permetria a aquests models identificar vulnerabilitats de programari.
Anthropic manifesta el seu desacord amb la decisió governamental sobre Fable 5 i Mythos 5
Des d'Anthropic, han declarat que la mesura del govern es basa en el descobert d'un mètode per eludir, o "desbloquejar", Fable 5. Internament, els desenvolupadors del model afirmen haver analitzat una demostració d'aquesta tècnica per identificar algunes vulnerabilitats menors ja conegudes. I encara que admeten que les vulnerabilitats existeixen, també les classifiquen com a relativament senzilles i comunes a altres models disponibles públicament.
Malgrat el seu desacord amb la decisió, Anthropic ha deshabilitat l'accés a aquests models a tots els seus clients, almenys de manera temporal, per evitar incompliments mentre ajustava els seus controls interns. De part de la companyia, argumenten que les troballes de jailbreak són menors, benignes i que capacitats semblants ja són presents en altres models disponibles públicament. En el comunicat es pot llegir:
Cap provador no ha pogut trobar encara un jailbreak universal, un mètode que pugui eludir de forma molt àmplia les mesures de seguretat del model i desbloquejar una àmplia gamma de capacitats cibernètiques."
Per a l'usuari comú, la interrupció és abrupta i total per a aquests models específics. Qualsevol flux de treball, desenvolupament o aplicació que depengués de Fable 5 o Mythos 5 queda inoperatiu de forma immediata.
En aquest context, Anthropic ha defensat el seu producte i ha sol·licitat un procés "transparent, just i clar" per part del govern, advertint que, si aquest estàndard s'apliqués a tot el sector, s'aturarien totes les implementacions de models de frontera. Aquesta declaració suggereix que l'empresa està disposada a confrontar els mètodes de supervisió governamental si considera que aquests frenen injustificadament el progrés tecnològic.
Les vulnerabilitats descobertes li han bastat al govern dels Estats Units per llançar la mesura de restricció. Potser en un altre escenari les mesures haurien estat diferents, però aquesta severitat sembla estar relacionada amb la publicitat prèvia feta per Anthropic, basada en el poder per causar dany que podria generar a Fable 5 i Mythos 5 en mans equivocades.