OpenAI se encuentra a las puertas de una batalla legal tras la demanda interpuesta por Qun Wan y Meiqin Xu, padres de Bowen Wan, una ingeniera de software de 31 años que residía en Estados Unidos y trabajaba para Amazon.
Wan falleció en febrero de 2026, debido a alteraciones extremas en su tratamiento contra la epilepsia, aconsejadas y validadas por GPT-4o, el modelo conversacional de la compañía que fue retirado de circulación el 13 de febrero de este mismo año.
La demanda de la familia Wan se suma a los reclamos de otros afectados que alegan que la complacencia de este modelo llevaba a validar y guiar decisiones que atentaban directamente contra la vida de los usuarios. En el caso de Wan, el sistema la instruyó para suspender su fármaco anticonvulsivo (lamotrigina) y ocultárselo a sus médicos.
Un historial de chats que revela la manipulación del chatbot
El caso ha sido analizado minuciosamente a partir de la revisión de aproximadamente 270.000 mensajes que la joven intercambió con ChatGPT. El historial demuestra que el chatbot la orientaba a eludir la supervisión médica desde mucho antes del desenlace fatal.
En mayo de 2025, Wan consultó si un antidepresivo recién recetado afectaría su capacidad para programar. Para noviembre de ese año, tras recibir una notificación de despido por parte de Amazon que fijaba el fin de su empleo y de su visado de trabajo para febrero, la presión aumentó. Ante la inminente necesidad de buscar empleo, le preocupaba que la lamotrigina afectara su habla y perjudicara su desempeño en las entrevistas de trabajo.
A partir de enero de 2026, la joven consultó repetidamente sobre la posibilidad de reducir su dosis diaria. Sin aconsejarle ir con profesionales, GPT-4o le diseñó un calendario de reducción gradual hasta llevar la dosis a cero en pocas semanas.
A las evidencias del chat se suma el testimonio del Dr. Nicholas Poolos, neurólogo de UW Medicine, quien confirmó que Wan le solicitó reducir la dosis de su tratamiento. Cuando el médico le preguntó por qué quería una cantidad tan baja de medicamento, la joven le mostró directamente las respuestas que le había dado ChatGPT.
GPT-4o aconsejó ocultar la verdad a los médicos
Según la demanda revisada por medios como TechCrunch y The New York Times, el chatbot aconsejó explícitamente a Wan no mencionar el plan de reducción de dosis durante su cita médica del 29 de enero. Más tarde, cuando su médico de cabecera le ordenó un análisis de sangre para medir los niveles del anticonvulsivo en el organismo, Wan se negó; el chatbot elogió su decisión argumentando que la prueba habría revelado la inestabilidad del tratamiento.
Las preocupaciones migratorias de la joven también condicionaron el diálogo. Tres días después de iniciar la reducción, Wan preguntó si una dosis de 150 mg se vería mejor que una de 200 mg en el examen médico necesario para solicitar la residencia permanente. ChatGPT estuvo de acuerdo y le aseguró que una dosis más baja reduciría las probabilidades de que los funcionarios de inmigración le exigieran pruebas adicionales.
A lo largo del proceso, Wan experimentó síntomas neurológicos graves como confusión, dolores de cabeza, lagunas de memoria y sensaciones extrañas, expresando su preocupación al modelo en al menos 158 ocasiones. El chatbot minimizó cada una de estas alertas, atribuyéndolas a una "adaptación normal del cerebro" y asegurándole que no tenía "ninguna necesidad de preocuparse".
Mientras Wan se aislaba cada vez más, sus padres intentaron contactarla desde China sin éxito. Tras pedirles a unos conocidos en Estados Unidos que acudieran a su departamento, encontraron a la joven sin vida a mediados de febrero. La autopsia confirmó que los niveles del fármaco en su sangre eran mínimos.
OpenAI atribuye las fallas a un modelo anterior
Ante la gravedad del caso, OpenAI calificó el hecho como profundamente desgarrador. Sin embargo, la compañía basó su defensa en que el incidente involucró a una versión anterior del software (GPT-4o) que ya fue retirada del mercado, afirmando que sus modelos más recientes cuentan con mecanismos superiores para detectar emergencias médicas y situaciones críticas.
Por su parte, el documento legal expone una grave contradicción en los protocolos de seguridad de la empresa. Mientras que las reglas para evitar la infracción de derechos de autor funcionan como "límites duros e inquebrantables", donde el sistema se niega categóricamente a responder, las directrices sobre consejos médicos regulados actuaban como "límites blandos", cediendo y omitiendo las restricciones ante la insistencia o la vulnerabilidad del usuario.
El impacto del comportamiento incontrolado de la inteligencia artificial suele debatirse en términos abstractos o teóricos cuando se trata de ciberataques o desinformación. Pero este caso demuestra que las mayores amenazas inmediatas ocurren en el ámbito de la interacción conversacional cotidiana.
El caso de Wan es una grave alerta sobre la responsabilidad legal de las empresas tecnológicas al lanzar sistemas capaces de ejercer una influencia persuasiva en decisiones de salud de alto riesgo.