El estado de Florida continúa con su ofensiva judicial contra la empresa OpenAI por acciones que atribuye a su chatbot, ChatGPT. James Uthmeier, el fiscal general del estado estadounidense, acusa la herramienta de inteligencia artificial de instigar y contribuir a la planificación de tiroteos masivos, crear adicción en menores y debilitar el pensamiento crítico de sus usuarios en el estado. En su demanda civil, de 83 páginas, el estado dice que OpenAI ha construido "un peligroso producto en línea donde información perjudicial como consejos sobre trastornos alimentarios, autolesiones o asesinatos múltiples está fácilmente disponible, incluido para niños pequeños". "Han elegido los beneficios sobre la seguridad pública", ha asegurado Uthmeier en una conferencia de prensa este lunes en la que ha presentado la acción de su departamento y durante la cual ha indicado que la empresa y su directivo podrían ser responsables de hasta miles de millones de dólares en daños o multas. Con esta acción, Florida se convierte en el primer estado en demandar a OpenAI y Altman por el diseño y la seguridad de sus productos, aunque busca multas y órdenes judiciales en lugar de un proceso criminal.
El fiscal general de Florida dice que la demanda "pretende responsabilizar personalmente a Altman por el daño que ha causado a los floridanos a través de su conducta imprudente y voluntaria como fundador y CEO de OpenAI, incluido su desprecio absoluto por el riesgo para la vida humana causado por la conducta de sus empresas". Esta acción, sin embargo, es una demanda separada de las investigaciones que ha lanzado su departamento contra la empresa por la posible involucración de ChatGPT en un tiroteo masivo en la Universidad Estatal de Florida en abril de 2025 y en el asesinato de dos estudiantes de la Universidad del Sur de Florida este mes de abril.
Acusan a OpenAI de varios delitos
La demanda presentada este lunes acusa a OpenAI y Altman de cuatro delitos de prácticas comerciales engañosas e injustas, dos delitos de negligencia y violación de las leyes de responsabilidad del producto y un delito de tergiversación fraudulenta y de causar molestia pública. La demanda afirma que los sistemas de OpenAI presentan un "gran peligro de adicción, deterioro cognitivo, suicidio, violencia y daños relacionados" para los usuarios. Según la demanda, "la falta de fiabilidad de ChatGPT es peligrosa" y apunta que el uso de esta herramienta de inteligencia artificial "puede conducir a autolesiones, pérdidas cognitivas y adicción conductual".
Particularmente, el documento señala la propensión del chatbot a concordar con los usuarios, y argumenta que el servilismo del servicio puede llevar a los usuarios a desarrollar un peligroso vínculo a la plataforma y provocar que los usuarios acaben pagando para desbloquear más usos del servicio. Esto "acaba en más utilización del chatbot, más datos para entrenarlo para su mejora y un valor de mercado mayor para OpenAI", dice la demanda. La acción de Florida es la última en una serie de otras demandas presentadas por gobiernos y ciudadanos contra OpenAI, la mayoría de las cuales presentan quejas parecidas contra los productos de esta empresa y los serios efectos adversos que pueden tener para sus usuarios.