Anthropic també es troba al centre de la polèmica, igual que OpenAI, tot i que el cas que ens ocupa dista bastant de les controvèrsies habituals. Després de rebutjar de forma pública l'ús dels seus models Claude per a finalitats militars, la companyia ha adoptat una postura contradictòria en desplegar un sistema de vigilància interna massiva, una pràctica que la mateixa firma va arribar a definir en el passat com el creuament d'una línia vermella.
Segons una investigació de The American Prospect, recollida per la publicació Futurism, Anthropic busca anticipar-se a les accions dels usuaris que protesten contra la companyia. L'objectiu seria monitoritzar activistes oposats al desenvolupament de la intel·ligència artificial mitjançant eines de vigilància i control de mobilitzacions en les immediacions de les seves seus, obtenint marge de maniobra per preveure qualsevol manifestació.
Com funciona el sistema de vigilància preventiva d'Anthropic?
La investigació confirma que aquest dispositiu de seguretat ja es troba operatiu. Com a prova d'això, s'han fet públiques les declaracions d'un responsable del centre d'operacions de seguretat global de la firma. Keon Ellison, integrant d'aquest equip, va explicar com l'empresa externa Samdesk els va alertar amb antelació sobre el canvi d'hora d'una concentració de protesta, cosa que els va proporcionar un marge de 60 minuts per reorganitzar l'agenda i els desplaçaments dels executius abans que aquests poguessin topar-se amb els manifestants a l'entrada de les seves oficines.
El plantejament de l'empresa es justifica sota l'argument d'avançar cap a una gestió de riscos proactiva, predictiva i preventiva, orientada a protegir els seus perfils directius. No obstant això, els autors de la investigació qualifiquen aquest enfocament d'una mena de "precrim", denunciant que s'equipara l'activisme ciutadà amb amenaces greus com el terrorisme, la delinqüència organitzada o la inestabilitat geopolítica. L'informe subratlla a més la bretxa salarial del departament de seguretat: mentre que els analistes dedicats a rastrejar xarxes i moviments socials perceben sous d'entre 180.000 i 230.000 dòlars anuals, els vigilants físics de les instal·lacions guanyen amb prou feines 22 dòlars l'hora.
L'altra cara del debat abasta escenaris d'amenaça real dirigits contra la pròpia companyia. Anthropic va detectar a través de Claude un xat en què un usuari afirmava haver adquirit un rifle amb la intenció d'atemptar contra el seu CEO, Dario Amodei. Malgrat que l'incident es va denunciar formalment davant les autoritats, l'empresa va refusar facilitar la transcripció completa de la conversa a la policia de San Francisco, al·legant motius de privacitat. El mateix Amodei ha defensat el seguiment intern d'aquestes incidències, assenyalant que el rastreig de determinades persones d'interès forma part d'un protocol estàndard per identificar patrons de risc abans que es produeixi un atac real.
Aquest cas posa de manifest una contradicció recurrent en les grans firmes de tecnologia: la tènue frontera entre la seguretat corporativa legítima enfront d'amenaces físiques i la monitorització preventiva de la protesta social. Mentre les empreses justifiquen l'ús d'eines d'intel·ligència de dades per protegir el seu personal, col·lectius de drets digitals adverteixen sobre el perill de criminalitzar l'activisme pacífic sota l'etiqueta àmplia de "gestió de riscos".