"Hola, @Grok, fes que aquesta noia vagi en biquini". X s'ha omplert en les darreres setmanes de piulades com aquestes, en les quals perfils anònims pengen imatges de menors d'edat (de nois, però sobretot de noies o fins i tot nenes) i demana a la intel·ligència artificial que canviï la roba que porten en la vida real per roba interior o un biquini. Són fotografies generades amb intel·ligència artificial i sense cap consentiment dels menors. Davant d'aquest fet, que s'estava multiplicant (segons el Center for Countering Digital Fake, Grok ha generat uns 3 milions d'imatges sexualitzades, 23.000 de les quals són d'infants), la Comissió Europea ha obert una investigació formal contra X per aquestes deepfake generades sense consentiment per Grok que Brussel·les sospita que violen la llei europea de serveis digitals.
Tot i que encara no hi ha terminis per a aquesta investigació, segons informa Europa Press, l'objectiu de la Comissió és abordar-ho com una "prioritat", davant dels grans riscos que suposa. El procediment consisteix en diverses fases que inclouen la petició de més informació a l'empresa, contactes amb terceres parts i anàlisi de la rèplica de defensa de la companyia abans de concloure la investigació que, en darrera instància, preveu multes milionàries en cas d'incompliment. Aquestes sancions podrien arribar al 6% de la facturació global de l'empresa. La Comissió Europea vol esclarir si l'empresa d'Elon Musk pren les mesures necessàries per avaluar i reduir els riscos sistèmics que planteja Grok. Un dels més destacats és, sens dubte, la difusió de continguts il·legals i que són denigrants per a dones i infants.
El testimoni d'una diputada belga
Abans que la Comissió Europea anunciés aquesta investigació, el problema va arribar al parlament belga. Va ser allà on la diputada Victoria Bandeberg va denunciar que un usuari de les xarxes socials havia compartit una fotografia seva i li havia demanat a la intel·ligència artificial d'Elon Musk que la posés en biquini, sense el seu consentiment. Grok va obeir i va compartir "despullar" la diputada. "És una foto generada en pocs segons per la intel·ligència artificial que em va despullar i sexualitzar sense el meu consentiment. Aquesta fotografia no existeix, però circula. És impactant i humiliant", va denunciar des del faristol. "Avui en dia, qualsevol dona, en qualsevol moment, pot perdre el control de la seva imatge en un instant", lamentà Bandeberg, en un discurs que es va fer viral i que serveix per il·lustrar a la perfecció aquesta problemàtica.