Anthropic, la companyia darrere de Claude, acaba de prendre una decisió bastant curiosa. Gairebé de la mateixa forma que si fos un nen, la companyia ha actualitzat els termes d'ús per prohibir als usuaris que sotmetin la seva IA a "comportaments abusius o cruels, sostinguts i innecessaris". Encara que, de moment, matisen que només s'aplica en casos extrems.
Tractar bé la IA serà un requisit
Anthropic ha actualitzat les seves polítiques d'ús de Claude, amb canvis que entraran en vigor el 12 de novembre de 2026. Encara que algunes de les novetats més cridaneres afecten el tracte cap a la IA, la companyia també introdueix aclariments i restriccions relacionades amb les campanyes de desinformació, les armes i la vigilància. Aquests són els punts principals:
- Prohibit ser cruel amb la IA: Anthropic prohibeix el comportament abusiu o cruel, reiterat i innecessari cap als seus models. La norma es dirigeix a casos extrems i no afecta les crítiques habituals, la frustració dels usuaris, les proves del model o la creació d'històries amb temes foscos.
- Claude pot acabar una conversa: la IA ja disposa de la capacitat de finalitzar converses quan un usuari manté un comportament persistentment abusiu. Aquesta continuarà sent la principal mesura per fer complir la nova norma.
- Prohibició de campanyes enganyoses: Anthropic agrupa les restriccions contra les campanyes polítiques i comercials basades en l'engany. Això inclou crear xarxes de comptes falsos, publicar ressenyes fraudulentes, simular identitats humanes o generar llocs web ficticis per manipular l'opinió pública.
- Més restriccions per interferir en eleccions: es prohibeix utilitzar Claude per enganyar els votants o alterar processos electorals, per exemple, difonent informació falsa sobre candidats o sobre com votar, suplantant responsables electorals o intentant reduir la participació.
- Ampliació de les restriccions sobre armes: la prohibició s'estén al desenvolupament de programari i components que permetin el funcionament d'armes, i també a accions com armar drons i altres vehicles autònoms. També es prohibeix modificar agents biològics o químics per augmentar la seva letalitat o capacitat de transmissió.
- Límits més clars a la vigilància: Claude no pot utilitzar-se per rastrejar persones sense el seu consentiment ni per desenvolupar o millorar eines de vigilància. Tampoc pot emprar-se per decidir o recomanar a qui investigar, detenir o acusar dins de processos policials o judicials.
- Supervisió humana en sistemes físics autònoms: quan Claude controli equips capaços de causar danys físics, una persona qualificada haurà de poder supervisar el seu funcionament i intervenir per aturar-los si calgués. A més, els equips hauran de poder romandre en un estat segur si es perd la connexió amb la IA.
- Protecció en àmbits d'alt risc: Anthropic aclareix els requisits per utilitzar els seus models en àmbits com la salut, les finances o les decisions que afecten els drets i l'accés a serveis essencials. En aquests casos, hi ha d'haver supervisió humana qualificada i s'ha d'informar les persones afectades que s'ha usat IA.
Sona bastant lògic tot, encara que caldrà veure on s'estableix el límit per ser cruel amb la IA. Encara que sembla que se centraran en el contingut reiterat. Tota la resta està destinat a fer que Cloude no prengui decisions que puguin afectar greument la societat sense l'aprovació d'un ésser humà. Cosa que té bastant sentit.