Anthropic también se encuentra en el centro de la polémica, al igual que OpenAI, aunque el caso que nos ocupa dista bastante de las controversias habituales. Tras rechazar de forma pública el uso de sus modelos Claude para fines militares, la compañía ha adoptado una postura contradictoria al desplegar un sistema de vigilancia interna masiva, una práctica que la propia firma llegó a definir en el pasado como el cruce de una línea roja.
Según una investigación de The American Prospect, recogida por la publicación Futurism, Anthropic busca anticiparse a las acciones de los usuarios que protestan contra la compañía. El objetivo sería monitorizar a activistas opuestos al desarrollo de la inteligencia artificial mediante herramientas de vigilancia y control de movilizaciones en las inmediaciones de sus sedes, obteniendo margen de maniobra para prever cualquier manifestación.
¿Cómo funciona el sistema de vigilancia preventiva de Anthropic?
La investigación confirma que este dispositivo de seguridad ya se encuentra operativo. Como prueba de ello, se han hecho públicas las declaraciones de un responsable del centro de operaciones de seguridad global de la firma. Keon Ellison, integrante de dicho equipo, explicó cómo la empresa externa Samdesk les alertó con antelación sobre el cambio de hora de una concentración de protesta, lo que les proporcionó un margen de 60 minutos para reorganizar la agenda y los desplazamientos de los ejecutivos antes de que estos pudieran toparse con los manifestantes a la entrada de sus oficinas.
El planteamiento de la empresa se justifica bajo el argumento de avanzar hacia una gestión de riesgos proactiva, predictiva y preventiva, orientada a proteger a sus perfiles directivos. Sin embargo, los autores de la investigación califican este enfoque de una suerte de "precrimen", denunciando que se equipara el activismo ciudadano con amenazas graves como el terrorismo, la delincuencia organizada o la inestabilidad geopolítica. El informe subraya además la brecha salarial del departamento de seguridad: mientras que los analistas dedicados a rastrear redes y movimientos sociales perciben sueldos de entre 180.000 y 230.000 dólares anuales, los vigilantes físicos de las instalaciones ganan apenas 22 dólares la hora.
La otra cara del debate abarca escenarios de amenaza real dirigidos contra la propia compañía. Anthropic detectó a través de Claude un chat en el que un usuario afirmaba haber adquirido un rifle con la intención de atentar contra su CEO, Dario Amodei. Pese a que el incidente se denunció formalmente ante las autoridades, la empresa rehusó facilitar la transcripción completa de la conversación a la policía de San Francisco, alegando motivos de privacidad. El propio Amodei ha defendido el seguimiento interno de estas incidencias, señalando que el rastreo de determinadas personas de interés forma parte de un protocolo estándar para identificar patrones de riesgo antes de que se produzca un ataque real.
Este caso pone de manifiesto una contradicción recurrente en las grandes firmas de tecnología: la tenue frontera entre la seguridad corporativa legítima frente a amenazas físicas y la monitorización preventiva de la protesta social. Mientras las empresas justifican el uso de herramientas de inteligencia de datos para proteger a su personal, colectivos de derechos digitales advierten sobre el peligro de criminalizar el activismo pacífico bajo la etiqueta amplia de "gestión de riesgos".