El fiscal general de Florida, als Estats Units, ha anunciat aquest dimarts que ha obert una investigació criminal contra ChatGPT i la seva empresa matriu, OpenAI, per, suposadament, “aconsellar” el responsable d’un tiroteig massiu que va deixar dues víctimes mortals al campus de la Universitat Estatal de Florida el 2025. En una roda de premsa a la ciutat de Tampa, el fiscal general, James Uthmeier, del Partit Republicà, ha declarat que “Florida està liderant el camí en prendre mesures enèrgiques contra l’ús de la IA en el comportament criminal” i ha indicat que “si ChatGPT fos una persona, estaria enfrontant-se a càrrecs per assassinat”. El principal responsable de l’acció jurídica de l’estat ha indicat els missatges que van intercanviar el tirador i l’agent d’IA suggerien que ChatGPT “va oferir consells importants al tirador abans que cometés crims tan atroços”, com el tipus d’arma que hauria de fer servir o les municions adequades per a cada pistola.

La investigació ha sorgit després d’una revisió inicial de l’historial de converses entre ChatGPT i Phoenix Ikner, un estudiant que aleshores tenia 20 anys i que és l’acusat del tiroteig que va deixar dues víctimes mortals i sis persones ferides, entre elles un estudiant, al centre estudiantil de la Universitat Estatal de Florida (FSU) —que té més de 43.000 estudiants— l’abril de 2025. Els fiscals han recopilat com a proves els missatges que el sospitós, que es troba a presó esperant ser jutjat per diversos càrrecs d’assassinat i assassinat en grau de temptativa, va intercanviar amb la missatgeria d’IA. El mateix dia del tiroteig, el tirador va preguntar al xatbot com reaccionaria el país a un tiroteig a FSU, quina seria l’hora amb més afluència al centre estudiantil o de quina manera castiga l’estat de Florida els tiradors escolars. Segons ha indicat el fiscal, les indagacions determinaran si OpenAI té responsabilitat criminal pel tiroteig, ja que la llei de Florida considera un delicte “ajudar, incitar o aconsellar” qualsevol que cometi un crim. La família d’una víctima del tiroteig va presentar una querella al·legant que el sistema d’IA va ajudar a facilitar l’atac al campus. 

Demanen informació a OpenAI

Les autoritats de Florida han demanat a OpenAI que lliuri “totes les polítiques i materials d'entrenament intern” sobre les amenaces d’usuaris que podrien danyar els altres o un mateix i sobre la cooperació amb les autoritats, així com una llista de directius, gerents i treballadors relacionats amb aquesta qüestió. Uthmeier ha reconegut aquest dimarts que OpenAI és una empresa i no una persona, i que explorar la seva potencial culpabilitat criminal obre un territori nou en la justícia. No obstant això, ha assegurat que és responsabilitat seva descobrir si “éssers humans poden haver estat involucrats en el disseny, la gestió i el funcionament” del bot de conversa fins al punt que “justificaria responsabilitat penal”.

El fet reflecteix el creixent combat legal de Florida contra les empreses d'IA, ja que al març va transcendir que una família de l'estat va demandar el xatbot de Gemini, que acusa d'induir un home al suïcidi en fer-lo creure que mantenien una relació romàntica i que la seva mort era necessària per estar junts. Per altra banda, Mark Glass, comissionat del Departament d’Aplicació de la Llei de Florida, ha exposat que “és important que siguem conscients dels riscos d’aquesta nova tecnologia, i els danys que pot causar i que ja ha causat a les nostres comunitats”. D’altra banda, el governador de Florida, Ron DeSantis, va anunciar al desembre que insistirà a regular la IA a l’estat, incloent-hi la instal·lació de centres de dades i proteccions per als usuaris, i ha demanat als legisladors locals que dissenyin normatives sobre l’ús de la IA en una sessió aquesta setmana. La seva posició xoca amb la postura més pro-IA del president dels Estats Units, Donald Trump, que insisteix en el fet que només hi hagi una normativa federal sobre aquesta tecnologia per evitar que es puguin imposar restriccions a nivell estatal.