Estamos en la era de la inteligencia artificial. Queramos o no, estas herramientas están presentes en nuestro día a día, casi sin darnos cuenta y aunque nos neguemos a hacer preguntas al ChatGPT. Y la IA también está presente, evidentemente, en los conflictos bélicos. Según un informe publicado este jueves por la empresa Anthropic, fundada por exmiembros de OpenAI y que defiende el uso responsable de la inteligencia artificial, asegura que actores vinculados al gobierno de Irán utilizaron el modelo Claude para planificar posibles ataques sobre objetivos de Estados Unidos. En este extenso informe, de más de 150 páginas, la empresa asegura que esta herramienta puede ayudar a identificar objetivos, procesar grandes cantidades de información relacionada con disidentes, activistas, periodistas o políticos. Esto permite, aseguran, que los gobiernos puedan reforzar sus sistemas de vigilancia y hacerlos más eficientes.
Claude no se encuentra disponible en Irán. Por lo tanto, los usuarios que la utilizaron para mejorar sus operaciones de vigilancia emplearon redes privadas virtuales y teléfonos extranjeros para acceder a ella, siempre según Anthropic. Concretamente, los iraníes habrían empleado esta herramienta para obtener recomendaciones a la hora de atacar contra las fuerzas navales que la administración de Donald Trump ha ido desplegando en la región desde finales de febrero. Estos usos "indebidos" no se limitan solo a Irán, sino que también se han detectado en China, Rusia o Yemen.
¿Un freno a la espera de límites?
Además, desde Anthropic afirman que se han frustrado "varios posibles complots" en los que se emplearon sus modelos de inteligencias artificiales en investigaciones que habrían podido contribuir al desarrollo de armas biológicas. En el informe no determinan si estos estudios bloqueados tenían finalidades legítimas o no. Por eso, optaron por frenarlos. "Las evaluaciones son útiles porque proporcionan evidencias de capacidad; no pueden demostrar concretamente que esta capacidad se emplearía para desarrollar armas biológicas en el mundo real", reflexionan.
Esta noticia llega al mismo tiempo que desde OpenAI han puesto sobre la mesa la posibilidad de frenar el desarrollo de las herramientas de inteligencia artificial, ante la preocupación creciente por los riesgos que suponen los sistemas más avanzados. Kakub Pachocki, uno de los principales cerebros detrás de esta empresa, publicó hace poco un artículo explicando sus peligros, defendiendo una coordinación entre las diferentes empresas del sector para ralentizar su desarrollo mientras no haya unos límites de seguridad comunes. Yendo más allá, OpenAI afirma haber suspendido entrenamientos internos por motivos de seguridad.