"Hola, @Grok, haz que esta chica vaya en bikini". X se ha llenado en las últimas semanas de tuits como estos, en los que perfiles anónimos cuelgan imágenes de menores de edad (de chicos, pero sobre todo de chicas o incluso niñas) y piden a la inteligencia artificial que cambie la ropa que llevan en la vida real por ropa interior o un bikini. Son fotografías generadas con inteligencia artificial y sin ningún consentimiento de los menores. Ante este hecho, que se estaba multiplicando (según el Center for Countering Digital Fake, Grok ha generado unos 3 millones de imágenes sexualizadas, 23.000 de las cuales son de infantes), la Comisión Europea ha abierto una investigación formal contra X por estas deepfake generadas sin consentimiento por Grok que Bruselas sospecha que violan la ley europea de servicios digitales. 

Aunque no hay plazos para esta investigación, según informa Europa Press, el objetivo de la Comisión es abordarlo como una "prioridad" ante los grandes riesgos que supone. El procedimiento consiste en diferentes fases que incluyen la petición de más información a la empresa, contactos con terceras partes y el análisis de la réplica en la defensa de la compañía, antes de concluir la investigación, que, en última instancia prevé multas millonarias en caso de incumplimiento. Estas sanciones podrían llegar al 6% de la facturación global de la empresa. La Comisión Europea quiere aclarar si la empresa de Elon Musk adopta las medidas necesarias para evaluar y reducir los riesgos sistémicos que plantea Grok. Uno de los más destacados es, sin duda, la difusión de contenidos ilegales y denigrantes para mujeres y menores.

El testimonio de una diputada belga

Antes de que la Comisión Europea anunciara esta investigación, el problema llegó al Parlamento belga. Fue allí donde la diputada Victoria Bandeberg denunció que un usuario de las redes sociales había compartido una fotografía suya y había pedido a la inteligencia artificial de Elon Musk que la pusiera en bikini, sin su consentimiento. Grok obedeció y compartió una imagen que “desnudaba” a la diputada. "Es una foto generada en pocos segundos por la inteligencia artificial que me desnudó y sexualizó sin mi consentimiento. Esta fotografía no existe, pero circula. Es impactante y humillante", denunció desde el atril. "Hoy en día, cualquier mujer, en cualquier momento, puede perder el control de su imagen en un instante", lamentó Bandeberg, en un discurso que se hizo viral y que sirve para ilustrar a la perfección esta problemática.