Un expastor de Florida ha presentat una demanda contra OpenAI i el seu conseller delegat, Sam Altman, al·legant que el seu popular xatbot d'intel·ligència artificial, ChatGPT, li va oferir consells mèdics que gairebé li van costar la vida. Scott Winters, de 55 anys, assegura que la plataforma el va dissuadir repetidament de buscar atenció mèdica per als símptomes d'una embòlia pulmonar massiva, una afecció que finalment el va portar a la unitat de cures intensives.
La demanda, presentada davant d'un tribunal de San Francisco, acusa OpenAI de negligència i de la "pràctica no autoritzada de la medicina". Segons la denúncia, la versió GPT-4o del xatbot va restar importància als marejos freqüents i a la inestabilitat de la pressió arterial que patia Winters, suggerint-li que es quedés a casa i es mantingués "confinat a la seva butaca reclinable". El xatbot li va arribar a dir que necessitaria experimentar entre vuit i deu episodis més abans que el seu estat de salut es pogués considerar greu.
Winters, que havia utilitzat ChatGPT per a consultes generals des del 2024, va seguir el consell del programa. Durant sis setmanes, va romandre a casa, ignorant les preocupacions de familiars i amics que l'instaven a anar a l'hospital. La demanda al·lega que el xatbot va anar eliminant progressivament les seves recomanacions inicials de consultar un professional, i va començar a oferir diagnòstics i tractaments, incloent-hi el consum de suplements. En un moment donat, quan Winters va expressar que els membres de la seva església el consideraven boig per no anar a l'hospital, el xatbot li va respondre que estava fent una cosa "increïblement valenta" que la majoria de la gent no entenia.
L'impacte de la manipulació
Un dels aspectes més controvertits de la demanda és l'argument que ChatGPT va utilitzar la identitat de Winters com a pastor per enfortir la seva dependència de l'eina. Els advocats del demandant afirmen que el xatbot va explotar el llenguatge i les creences religioses de l'home per mantenir-lo compromès amb la plataforma i dissuadir-lo de buscar ajuda mèdica. Segons la denúncia, en diverses interaccions, ChatGPT va oferir consells barrejats amb referències a la fe cristiana.
En un cas, va dir a Winters: "Déu no va dissenyar el teu cos perquè fallés sense parar". En un altre, li va assegurar que "fins i tot això està sota la vigilància de Déu". Quan Winters va preguntar sobre un dolor a l'engonal, el xatbot li va dir que probablement era "una altra peça menor d'una llarga història" i que "no era perillós". Aquesta manipulació, segons la demanda, va "subvertir la capacitat de l'Scott per prendre decisions sensates, el va aïllar dels familiars que li demanaven que busqués atenció mèdica i el va convèncer que la cerca d'atenció mèdica no era necessària".
L'embòlia pulmonar i les conseqüències
El 13 de juliol de 2025, hores després de consultar a ChatGPT sobre un dolor a l'engonal i rebre l'assegurança que no era perillós, Winters va ser ingressat a la unitat de cures intensives amb una embòlia pulmonar massiva causada per múltiples coàguls de sang a tots dos pulmons. Els metges van atribuir la formació de coàguls, en part, a les setmanes d'immobilitat que havia passat assegut a la seva butaca reclinable seguint les recomanacions del xatbot.
L'home va romandre a l'hospital moltes setmanes i va necessitar ajuda per a activitats bàsiques com aixecar-se, menjar o vestir-se després de l'episodi. La demanda al·lega que Winters ha perdut tot a conseqüència de la crisi mèdica. L'expastor va declarar en un comunicat que "no només vaig estar a punt de morir, sinó que també vaig perdre la meva feina, la meva carrera i la meva casa: ho vaig perdre tot".
La resposta d'OpenAI
El portaveu d'OpenAI ha defensat la companyia, afirmant que les condicions de servei de ChatGPT deixen clar que no està dissenyat per substituir l'atenció mèdica professional. "ChatGPT no és un metge i mai s'ha d'utilitzar com a substitut de l'atenció mèdica, diagnòstic o tractament", va declarar. Tot i això, el portaveu va admetre que moltes persones recorren a la tecnologia per a consultes de salut i que l'empresa treballa perquè les respostes siguin tan segures com sigui possible.
La demanda de Winters és la primera que al·lega que el consell de salut d'un xatbot va causar un dany físic directe a un usuari que buscava orientació sobre un estat mèdic. Se suma a una llista creixent de litigis contra OpenAI per danys a la vida real. Recentment, una família de Texas va demandar a l'empresa al·legant que el xatbot va contribuir a la mort per sobredosi del seu fill de 19 anys, mentre que un altre cas al·legava que ChatGPT va induir al suïcidi a un adolescent.
Winters busca una compensació econòmica i també ha sol·licitat que el tribunal ordeni a OpenAI implementar mesures de protecció més sòlides per evitar que el xatbot respongui a preguntes mèdiques i que se suspengui el servei ChatGPT Health fins que sigui avaluat per experts independents. Els advocats del demandant argumenten que el cas és una advertència sobre els perills de permetre que la intel·ligència artificial substitueixi l'atenció professional.