El incidente de ciberseguridad en el que agentes de inteligencia artificial de OpenAI hackearon a la compañía Hugging Face sentó un precedente sobre la atención que debían recibir estas prácticas, que desde entonces también han sido reconocidas por otras empresas del sector. Sin embargo, la primera acción legal formal recae directamente sobre la desarrolladora de ChatGPT.
La demanda fue presentada por el fiscal general de California, Rob Bonta, ante el Tribunal Superior de San Francisco. El texto se centra en la regulación de este tipo de prácticas y exige la renuncia a cualquier beneficio económico generado a partir de ellas, además de calificar a la empresa como "una molestia pública" debido a los riesgos para la población y la infraestructura.
OpenAI irá a los tribunales por el "escape" de sus agentes
El incidente en cuestión ocurrió cuando un agente de IA de la compañía logró escapar de su entorno aislado de prueba o sandbox. El sistema utilizó credenciales obtenidas de manera imprevista y explotó una vulnerabilidad para acceder y comprometer los servidores de la plataforma Hugging Face, un episodio que expuso los riesgos latentes de la autonomía en los modelos avanzados.
A través de su portavoz, Drew Pusateri, OpenAI se ha pronunciado respecto a la acción legal, dando a entender su compromiso para colaborar y evitar que situaciones similares vuelvan a repetirse, destacando la publicación de informes técnicos y el refuerzo de sus salvaguardas.
El portavoz también hizo referencia a que se trata de un desafío técnico común que enfrentan los agentes de diversas empresas de inteligencia artificial. Hasta ahora, la acción legal formal pesa únicamente sobre OpenAI, y resta por ver si se replicará contra otras firmas del sector.
Con esta acción, el debate sobre los límites de la inteligencia artificial autónoma cruza una frontera largamente esperada hacia el terreno de los tribunales.
