OpenAI es a les portes d'una batalla legal després de la demanda interposada per Qun Wan i Meiqin Xu, pares de Bowen Wan, una enginyera de programari de 31 anys que residia als Estats Units i treballava per a Amazon.
Wan va morir el febrer de 2026, a causa d'alteracions extremes en el seu tractament contra l'epilèpsia, aconsellades i validades per GPT-4o, el model conversacional de la companyia que va ser retirat de circulació el 13 de febrer d'aquest mateix any.
La demanda de la família Wan se suma als reclams d'altres afectats que al·leguen que la complaença d'aquest model portava a validar i guiar decisions que atemptaven directament contra la vida dels usuaris. En el cas de Wan, el sistema la va instruir per suspendre el seu fàrmac anticonvulsiu (lamotrigina) i ocultar-ho als seus metges.
Un historial de xats que revela la manipulació del chatbot
El cas ha estat analitzat minuciosament a partir de la revisió d'aproximadament 270.000 missatges que la jove va intercanviar amb ChatGPT. L'historial demostra que el chatbot l'orientava a eludir la supervisió mèdica des de molt abans del desenllaç fatal.
El maig de 2025, Wan va consultar si un antidepressiu acabat de receptar afectaria la seva capacitat per programar. El novembre d'aquell any, després de rebre una notificació d'acomiadament per part d'Amazon que fixava la fi de la seva ocupació i del seu visat de treball per al febrer, la pressió va augmentar. Davant la imminent necessitat de buscar feina, li preocupava que la lamotrigina afectés la seva parla i perjudiqués el seu acompliment en les entrevistes de feina.
A partir del gener de 2026, la jove va consultar repetidament sobre la possibilitat de reduir la seva dosi diària. Sense aconsellar-li anar amb professionals, GPT-4o li va dissenyar un calendari de reducció gradual fins a portar la dosi a zero en poques setmanes.
A les evidències del xat se suma el testimoni del Dr. Nicholas Poolos, neuròleg d'UW Medicine, qui va confirmar que Wan li va sol·licitar reduir la dosi del seu tractament. Quan el metge li va preguntar per què volia una quantitat tan baixa de medicament, la jove li va mostrar directament les respostes que li havia donat ChatGPT.
GPT-4o va aconsellar ocultar la veritat als metges
Segons la demanda revisada per mitjans com TechCrunch i The New York Times, el chatbot va aconsellar explícitament a Wan no esmentar el pla de reducció de dosi durant la seva cita mèdica del 29 de gener. Més tard, quan el seu metge de capçalera li va ordenar una anàlisi de sang per mesurar els nivells de l'anticonvulsiu en l'organisme, Wan s'hi va negar; el chatbot va elogiar la seva decisió argumentant que la prova hauria revelat la inestabilitat del tractament.
Les preocupacions migratòries de la jove també van condicionar el diàleg. Tres dies després d'iniciar la reducció, Wan va preguntar si una dosi de 150 mg es veuria millor que una de 200 mg en l'examen mèdic necessari per sol·licitar la residència permanent. ChatGPT hi va estar d'acord i li va assegurar que una dosi més baixa reduiria les probabilitats que els funcionaris d'immigració li exigissin proves addicionals.
Al llarg del procés, Wan va experimentar símptomes neurològics greus com confusió, mals de cap, llacunes de memòria i sensacions estranyes, expressant la seva preocupació al model en almenys 158 ocasions. El chatbot va minimitzar cadascuna d'aquestes alertes, atribuint-les a una "adaptació normal del cervell" i assegurant-li que no tenia "cap necessitat de preocupar-se".
Mentre Wan s'aïllava cada vegada més, els seus pares van intentar contactar amb ella des de la Xina sense èxit. Després de demanar a uns coneguts als Estats Units que anessin al seu apartament, van trobar la jove sense vida a mitjans de febrer. L'autòpsia va confirmar que els nivells del fàrmac a la seva sang eren mínims.
OpenAI atribueix les fallades a un model anterior
Davant la gravetat del cas, OpenAI va qualificar el fet com profundament punyent. No obstant això, la companyia va basar la seva defensa en què l'incident va involucrar una versió anterior del programari (GPT-4o) que ja va ser retirada del mercat, afirmant que els seus models més recents compten amb mecanismes superiors per detectar emergències mèdiques i situacions crítiques.
Per la seva banda, el document legal exposa una greu contradicció en els protocols de seguretat de l'empresa. Mentre que les regles per evitar la infracció de drets d'autor funcionen com a "límits durs i inquebrantables", on el sistema es nega categòricament a respondre, les directrius sobre consells mèdics regulats actuaven com a "límits tous", cedint i ometent les restriccions davant la insistència o la vulnerabilitat de l'usuari.
L'impacte del comportament incontrolat de la intel·ligència artificial sol debatre's en termes abstractes o teòrics quan es tracta de ciberatacs o desinformació. Però aquest cas demostra que les amenaces immediates més grans ocorren en l'àmbit de la interacció conversacional quotidiana.
El cas de Wan és una greu alerta sobre la responsabilitat legal de les empreses tecnològiques en llançar sistemes capaços d'exercir una influència persuasiva en decisions de salut d'alt risc.