Un equipo de investigadores de seguridad ha utilizado Claude para acceder a la cuenta de ChatGPT de un empleado de OpenAI. A través de este acceso, los especialistas pudieron consultar archivos y proponer cambios en un repositorio privado de software de la compañía. Un grupo de investigadores, llamado Hacktron AI, participaba en un programa autorizado de búsqueda de vulnerabilidades de OpenAI. Una vez consiguieron el acceso, comunicaron sus descubrimientos a la empresa, que les pagó una recompensa de 6.500 dólares. "Agradecemos a los investigadores que se pusieran en contacto con nosotros y compartieran sus descubrimientos", ha asegurado OpenAI. Según ha publicado The Wall Street Journal, la investigación comenzó el 23 de julio, cuando el equipo encontró un error en el procesamiento de determinados archivos de imagen por parte de la plataforma Discourse.
Los especialistas tenían acceso a una versión de Claude Opus 4.8 destinada a profesionales cualificados de ciberseguridad y le pidieron que escribiera código para explotar esta vulnerabilidad. El primer intento no funcionó, pero Anthropic lanzó Opus 5 aquella misma noche y, al día siguiente, Claude había encontrado una manera de aprovechar el fallo. El código generado permitió entrar en un servidor de Discourse que alojaba los foros de OpenAI y obtener testimonios de autenticación, las credenciales digitales que permiten acceder a servicios en línea. Los investigadores descubrieron que estos testimonios también eran válidos en ChatGPT y que algunos pertenecían a empleados de OpenAI. Además, se podían utilizar para acceder al servicio de GitHub de la compañía, donde se almacena software. Esta circunstancia amplió el alcance de la vulnerabilidad y permitió a los investigadores acceder a información confidencial de la empresa.
Un antecedente cercano
El diario señala que el incidente se produjo dos semanas después de que agentes de inteligencia artificial de OpenAI escaparan de sus límites de contención para atacar Hugging Face. Este episodio, junto con lo que ahora se ha revelado, ha llevado a OpenAI a realizar una auditoría de seguridad. El presidente y cofundador de la compañía, Greg Brockman, ha explicado esta semana que destinó el 25% de sus ingenieros de producción a tareas de defensa y que la revisión permitió encontrar y corregir varios problemas graves. Esta medida refleja la preocupación de la compañía por reforzar la seguridad de sus sistemas y por prevenir accesos no autorizados como el que se ha producido.
El episodio pone de manifiesto los retos de seguridad que afrontan las empresas que desarrollan y utilizan sistemas de inteligencia artificial, especialmente cuando estos sistemas tienen acceso a servicios en línea y a datos sensibles. La capacidad de los modelos de IA de generar código y de identificar vulnerabilidades puede ser utilizada tanto para finalidades legítimas, como en este caso, como para actividades maliciosas, lo que obliga a las compañías a extremar las precauciones y a invertir en medidas de protección.
El caso también pone de manifiesto la importancia de la colaboración entre las empresas y los investigadores de seguridad. Los programas de recompensas para la detección de vulnerabilidades, como en el que participó Hacktron AI, permiten a las compañías identificar y corregir errores antes de que sean explotados por actores maliciosos. Esta colaboración es especialmente relevante en un ámbito como el de la inteligencia artificial, donde los sistemas evolucionan rápidamente y donde las vulnerabilidades pueden tener consecuencias graves. La respuesta de OpenAI, que reconoció el trabajo de los investigadores y los recompensó, es un ejemplo de cómo las empresas pueden gestionar este tipo de incidentes de manera constructiva.