La Fiscalia General de l’Estat ha rebut una denúncia del Ministeri de Joventut perquè investigui Grok, la intel·ligència artificial d'X (abans Twitter), per presumpta difusió de material de violència sexual contra la infància i possibles representacions de pedofília contra menors. La IA Grok hauria generat, a petició d’usuaris, contingut sexual amb nenes i nens, una pràctica que "pot suposar un delicte de pornografia infantil" i que "vulnera greument la dignitat, la intimitat i els drets fonamentals de la infància", segons ha apuntat el govern espanyol.
La ministra de Joventut i Infància, Sira Rego, ha denunciat davant la Fiscalia General de l’Estat l’ús de Grok, per un possible delicte de pornografia infantil, pedofília i contra la integritat moral. Rego veu “imprescindible que el ministeri públic analitzi aquests fets i impulsi les actuacions necessàries per protegir la infància també en l’entorn digital”. El govern francés ja va presentar el 2 de gener una denúncia davant la Justícia i davant de l'organisme de verificació de continguts il·lícits en línia Pharos contra Grok per crear i divulgar "continguts de caràcter sexista i sexual".
Vulneració de drets i violència digital
Els informes recollits assenyalen que la intel·ligència artificial del multimilionari Elon Musk hauria respost a peticions d’usuaris generant material sexualitzat amb nens i nenes, vulnerant els drets fonamentals i la dignitat de la infància, i constituint una violència digital que podria estar tipificada als articles 189 i 173 del Codi Penal. En l’escrit remès a la Fiscalia, Rego cita la sentència 86/2024 del Jutjat de Menors de Badajoz, del 20 de juny, que va condemnar diverses persones per manipular imatges de nenes i adolescents amb IA. La ministra ha assegurat que es tracta d'una "vulneració de drets fonamentals" i que “és imprescindible que la Fiscalia analitzi aquests fets gravíssims i impulsi les actuacions necessàries per garantir la protecció de la infància també a internet”.
La denúncia ve després que diversos usuaris denunciessin que alguns subscriptors de X Premium utilitzen aquesta IA per generar imatges no consensuades de persones --la majoria dones i, fins i tot, algunes menors-- en biquini o roba interior. Tot va començar quan la influencer de llibres i escriptora britànica Beth Eleanor va penjar una foto seva de perfil a l'entrada d'una biblioteca i l'endemà --28 de desembre-- un usuari la va compartir demanant a Grok que canviés la seva roba per un biquini. La IA va complir la petició d'aquest usuari i al cap de dos dies X es va omplir d'aquestes publicacions.
La resposta de Grok
Grok justifica així la seva actuació d'acord amb la legislació vigent en cada país i de com es facin servir. Sí que ha admès que està treballant per impedir que la seva IA permetí la publicació d'imatges de menors sexualitzades, ja que es tracta d'un delicte i l'administració dels Estats Units podria prendre mesures legals.