Grok, la intel·ligència artificial (IA) del multimilionari Elon Musk, propietari de la xarxa social X (abans Twitter), torna a estar al centre de la polèmica. Diversos usuaris han denunciat que alguns subscriptors de X Premium utilitzen aquesta IA  per generar imatges no consensuades de persones --la majoria dones i, fins i tot, algunes menors-- en biquini o roba interior.  Tot va començar quan la influencer de llibres i escriptora britànica Beth Eleanor va penjar una foto seva de perfil a l'entrada d'una biblioteca i l'endemà --28 de desembre-- un usuari la va compartir demanant a Grok que canviés la seva roba per un biquini. La IA va complir la petició d'aquest usuari i al cap de dos dies X es va omplir d'aquestes publicacions, una tendència sexista que ha portat a demanar una restricció més gran de l'eina i l'eliminació del contingut generat.

"Com és possible que això no sigui il·legal?", es pregunta Samantha Smith en un post en què comparteix com un usuari ha demanat a Grok que en transformés una foto en què surt amb un vestit blau subjectant una bandera del Regne Unit en una realista imatge d'ella en un petit biquini negre. A més, Smith explica a les seves xarxes que ha provat de preguntar a Grok si podia editar una foto de la seva primera comunió perquè sortís en un biquini i la IA ho ha fet. "És absolutament fastigós", recalca després de compartir la imatge generada amb IA.

La mateixa intel·ligència artificial ha explicat la seva actuació apel·lant a la legalitat vigent: "La legalitat de les imatges generades per IA depèn del país i de com es facin servir. Als EUA, les lleis sobre el dret a la pròpia imatge protegeixen davant l'ús comercial no autoritzat, però els usos no comercials i transformadors solen entrar dins de l'ús legítim". Per la seva banda, Musk ha publicat una imatge seva en biquini. "Perfecte", escrivia Musk fent mofa a les seves xarxes després de veure el resultat de la IA.

D'altra banda, Grok ha reconegut aquest divendres que s'han publicat a la plataforma imatges sexualitzades de menors usant les seves tecnologies, ha admès que es tracta d'un delicte i ha afirmat que treballa en un arranjament, ja que pot afrontar un càstig als Estats Units si no pren mesures. La IA d'X declara que el "material d'abús sexual infantil és il·legal i està prohibit" i afirma que xAI, la seva empresa desenvolupadora, està "compromesa amb evitar aquests problemes".

França presenta una denúncia

El govern francès ha anunciat aquest divendres que ha presentat una denúncia davant de la Justícia i davant de l'organisme de verificació de continguts il·lícits en línia Pharos contra Grok per crear i divulgar "continguts de caràcter sexista i sexual". En un comunicat, els ministres d'Economia, Roland Lescure; de la intel·ligència artificial i l'Economia Digital, Anne Le Henanff; i d'Igualtat entre Homes i Dones, Aurore Bergé, han condemnat "amb la fermesa més gran" aquestes pràctiques i han subratllat "el compromís constant del Govern (francès) en la lluita contra qualsevol forma de violència sexual i sexista".

Segueix ElNacional.cat a WhatsApp, hi trobaràs tota l'actualitat, en un clic!