Després de setmanes de controvèrsia per el ús de Grok, l'assistent d'IA de xAI, per manipular fotografies de figures públiques i usuaris particulars, la companyia d'Elon Musk ha anunciat restriccions severes. Aquest moviment no sorgeix d'una autoregulació, sinó d'una pressió asfixiant per part de reguladors i una coalició d'organitzacions que exigeixen a gegants com Apple i Google l'expulsió de X i Grok de les seves botigues d'aplicacions.

El conflicte va escalar quan una coalició de 28 organitzacions dedicades a la protecció dels drets de les dones, la seguretat infantil i els drets digitals va enviar una carta oberta als directius d'Apple i Google. En el document, les entitats insten a l'eliminació immediata de Grok i X de les seves plataformes, argumentant que la IA s'ha utilitzat per crear "quantitats massives d'imatges íntimes no consentides (NCII), incloent-hi material d'abús sexual infantil (CSAM)".

Grok suavitza les seves polítiques davant les crítiques de les autoritats i els usuaris

Davant l'amenaça real que X perdi la seva distribució en els sistemes iOS i Android, suposant un cop financer i operatiu devastador, xAI ha decidit implementar canvis tècnics per limitar la capacitat del seu model.

Segons la carta enviada a Apple:

Tal com estan les coses, Apple no només està permetent la NCII i el CSAM, sinó que se n'està beneficiant. Com a coalició [...] exigim que els líders d'Apple eliminin urgentment Grok i X de l'App Store per evitar més abusos i activitats delictives".

Les noves restriccions de xAI

La resposta de xAI s'ha materialitzat en una sèrie d'actualitzacions dissenyades per frenar la creació de contingut sexualitzat o degradant. Les mesures clau inclouen:

  • Bloqueig d'edició sobre peces reveladores: Grok ja no processarà sol·licituds per editar imatges de persones reals que vesteixin roba lleugera, com biquinis o roba interior, amb la finalitat d'evitar que la IA "completi" la imatge amb nuesa.
  • Accés exclusiu per a subscriptors: La generació i edició d'imatges queda restringida únicament a usuaris de pagament. L'empresa argumenta que això facilita la identificació i rendició de comptes dels qui intentin violar les lleis o polítiques d'ús.
  • Geobloqueig per jurisdicció: En aquells països on la generació d'aquest tipus de contingut és explícitament il·legal, xAI ha implementat bloquejos regionals específics per complir amb les normatives locals.

Malgrat aquestes barreres, la comunitat d'usuaris ja ha començat a buscar mètodes per eludir els filtres (jailbreaking), posant a prova la robustesa de les noves salvaguardes de xAI.

La decisió de limitar les capacitats de Grok marca una fita en la gestió de X sota el comandament de Musk, qui tradicionalment ha defensat una visió de llibertat d'expressió gairebé absoluta. Tot i que aquestes mesures representen un avenç, l'efectivitat real dependrà de la capacitat de xAI per anticipar-se als intents d'elusió dels usuaris. Mentrestant, Apple i Google tindran l'última paraula sobre si aquestes concessions són suficients perquè X mantingui el seu lloc en l'ecosistema mòbil.