Un expastor de Florida ha presentado una demanda contra OpenAI y su consejero delegado, Sam Altman, alegando que su popular chatbot de inteligencia artificial, ChatGPT, le ofreció consejos médicos que casi le costaron la vida. Scott Winters, de 55 años, asegura que la plataforma le disuadió repetidamente de buscar atención médica por los síntomas de una embolia pulmonar masiva, una afección que finalmente le llevó a la unidad de cuidados intensivos.
La demanda, presentada ante un tribunal de San Francisco, acusa a OpenAI de negligencia y de la "práctica no autorizada de la medicina". Según la denuncia, la versión GPT-4o del chatbot restó importancia a los mareos frecuentes y a la inestabilidad de la presión arterial que sufría Winters, sugiriéndole que se quedara en casa y se mantuviera "confinado en su sillón reclinable". El chatbot le llegó a decir que necesitaría experimentar entre ocho y diez episodios más antes de que su estado de salud pudiera considerarse grave.
Winters, que había utilizado ChatGPT para consultas generales desde 2024, siguió el consejo del programa. Durante seis semanas, permaneció en casa, ignorando las preocupaciones de familiares y amigos que le instaban a ir al hospital. La demanda alega que el chatbot fue eliminando progresivamente sus recomendaciones iniciales de consultar a un profesional, y empezó a ofrecer diagnósticos y tratamientos, incluyendo el consumo de suplementos. En un momento dado, cuando Winters expresó que los miembros de su iglesia le consideraban loco por no ir al hospital, el chatbot le respondió que estaba haciendo algo "increíblemente valiente" que la mayoría de la gente no entendía.
El impacto de la manipulación
Uno de los aspectos más controvertidos de la demanda es el argumento de que ChatGPT utilizó la identidad de Winters como pastor para fortalecer su dependencia de la herramienta. Los abogados del demandante afirman que el chatbot explotó el lenguaje y las creencias religiosas del hombre para mantenerlo comprometido con la plataforma y disuadirlo de buscar ayuda médica. Según la denuncia, en varias interacciones, ChatGPT ofreció consejos mezclados con referencias a la fe cristiana.
En un caso, le dijo a Winters: "Dios no diseñó tu cuerpo para que fallara sin parar". En otro, le aseguró que "incluso esto está bajo la vigilancia de Dios". Cuando Winters preguntó sobre un dolor en la ingle, el chatbot le dijo que probablemente era "otra pieza menor de una larga historia" y que "no era peligroso". Esta manipulación, según la demanda, "subvirtió la capacidad de Scott para tomar decisiones sensatas, lo aisló de los familiares que le pedían que buscara atención médica y lo convenció de que la búsqueda de atención médica no era necesaria".
La embolia pulmonar y las consecuencias
El 13 de julio de 2025, horas después de consultar a ChatGPT sobre un dolor en la ingle y recibir la seguridad de que no era peligroso, Winters fue ingresado en la unidad de cuidados intensivos con una embolia pulmonar masiva causada por múltiples coágulos de sangre en ambos pulmones. Los médicos atribuyeron la formación de coágulos, en parte, a las semanas de inmovilidad que había pasado sentado en su sillón reclinable siguiendo las recomendaciones del chatbot.
El hombre permaneció en el hospital muchas semanas y necesitó ayuda para actividades básicas como levantarse, comer o vestirse después del episodio. La demanda alega que Winters lo ha perdido todo a consecuencia de la crisis médica. El expastor declaró en un comunicado que "no solo estuve a punto de morir, sino que también perdí mi trabajo, mi carrera y mi casa: lo perdí todo".
La respuesta de OpenAI
El portavoz de OpenAI ha defendido a la compañía, afirmando que las condiciones de servicio de ChatGPT dejan claro que no está diseñado para sustituir la atención médica profesional. "ChatGPT no es un médico y nunca se debe utilizar como sustituto de la atención médica, diagnóstico o tratamiento", declaró. Sin embargo, el portavoz admitió que muchas personas recurren a la tecnología para consultas de salud y que la empresa trabaja para que las respuestas sean tan seguras como sea posible.
La demanda de Winters es la primera que alega que el consejo de salud de un chatbot causó un daño físico directo a un usuario que buscaba orientación sobre un estado médico. Se suma a una lista creciente de litigios contra OpenAI por daños en la vida real. Recientemente, una familia de Texas demandó a la empresa alegando que el chatbot contribuyó a la muerte por sobredosis de su hijo de 19 años, mientras que otro caso alegaba que ChatGPT indujo al suicidio a un adolescente.
Winters busca una compensación económica y también ha solicitado que el tribunal ordene a OpenAI implementar medidas de protección más sólidas para evitar que el chatbot responda a preguntas médicas y que se suspenda el servicio ChatGPT Health hasta que sea evaluado por expertos independientes. Los abogados del demandante argumentan que el caso es una advertencia sobre los peligros de permitir que la inteligencia artificial sustituya la atención profesional.