La Fiscalía General del Estado ha recibido una denuncia del Ministerio de Juventud para que investigue Grok, la inteligencia artificial de X (antes Twitter), por presunta difusión de material de violencia sexual contra la infancia y posibles representaciones de pedofilia contra menores. La IA Grok habría generado, a petición de usuarios, contenido sexual con niñas y niños, una práctica que "puede suponer un delito de pornografía infantil" y que "vulnera gravemente la dignidad, la intimidad y los derechos fundamentales de la infancia", según ha apuntado el gobierno español.

La ministra de Juventud e Infancia, Sira Rego, ha denunciado ante la Fiscalía General del Estado el uso de Grok, por un posible delito de pornografía infantil, pedofilia y contra la integridad moral. Rego ve "imprescindible que el ministerio público analice estos hechos e impulse las actuaciones necesarias para proteger la infancia también en el entorno digital". El gobierno francés ya presentó el 2 de enero una denuncia ante la Justicia y ante el organismo de verificación de contenidos ilícitos en línea Pharos contra Grok por crear y divulgar "contenidos de carácter sexista y sexual".

Violación de derechos y violencia digital

Los informes recogidos señalan que la inteligencia artificial del multimillonario Elon Musk habría respondido a peticiones de usuarios generando material sexualizado con niños y niñas, vulnerando los derechos fundamentales y la dignidad de la infancia, y constituyendo una violencia digital que podría estar tipificada en los artículos 189 y 173 del Código Penal. En el escrito remitido a la Fiscalía, Rego cita la sentencia 86/2024 del Juzgado de Menores de Badajoz, del 20 de junio, que condenó a varias personas por manipular imágenes de niñas y adolescentes con IA. La ministra ha asegurado que se trata de una "vulneración de derechos fundamentales" y que “es imprescindible que la Fiscalía analice estos hechos gravísimos e impulse las actuaciones necesarias para garantizar la protección de la infancia también en internet”.

La denuncia llega después de que varios usuarios denunciaran que algunos suscriptores de X Premium utilizan esta IA para generar imágenes no consensuadas de personas —la mayoría mujeres e, incluso, algunas menores— en bikini o ropa interior. Todo comenzó cuando la influencer de libros y escritora británica Beth Eleanor colgó una foto suya de perfil en la entrada de una biblioteca y al día siguiente —28 de diciembre— un usuario la compartió pidiendo a Grok que cambiara su ropa por un bikini. La IA cumplió la petición de este usuario y al cabo de dos días X se llenó de estas publicaciones.

La respuesta de Grok

Grok justifica así su actuación de acuerdo con la legislación vigente en cada país y de cómo se utilicen. Sí que ha admitido que está trabajando para impedir que su IA permita la publicación de imágenes de menores sexualizadas, ya que se trata de un delito y la administración de los Estados Unidos podría tomar medidas legales.