A finals de l'any 2025, la UE, a través del seu portal d'estratègia digital, va publicar un informe de la Llei de Serveis Digitals sobre el panorama de riscos sistèmics en línia a nivell mundial. Aquests es poden trobar tant en plataformes com en motors de cerca. El que va cridar particularment l'atenció d'això són els riscos sistèmics que van des de difondre contingut il·legal o amenaces a drets i com es propaguen.

Es van trobar riscos per a la salut mental i com protegir els menors en línia davant tantes tecnologies emergents com l'ús de la IA generativa. Va sorprendre que els emojis poden ser utilitzats com un tipus de llenguatge codificat per promoure activitats il·legals en línia, alguns per a la venda de drogues.

Els emojis utilitzats com un nou llenguatge per promoure el mal

En les observacions detectades en els riscos sistèmics relacionats amb el contingut il·legal, es va apreciar diferent activitat sospitosa tant en botigues en línia com AliExpress i xarxes populars com són X i Facebook. En aquesta última, es va poder revisar que els ciberdelinqüents estan explorant formes per evitar la detecció i aplicació de la llei utilitzant emojis i insults. Insinuen coses en lloc d'afirmar de manera explícita. 

A X, grups extremistes eludeixen els controls amb aquest llenguatge codificat i actualitzen els símbols amb la finalitat de reduir els esforços de moderació. En aquest cas utilitzen paraules clau i manipulen imatges retallant-les i ajustant els colors. A AliExpress només manipulen imatges i text; en gran mesura utilitzen bots per a spamejar o assetjar els usuaris. 

Respecte al tema dels menors a internet, també es va poder notar que hi ha adults que es fan passar per menors per arribar a ells. La verificació d'edat continua sent un problema per als proveïdors; els tutors no han pogut gestionar de bona manera aquesta situació. De la mateixa manera, utilitzen emojis per suggerir alguns actes. La sopa de pollastre l'atribueixen a autolesions, la pizza, en referència a materials d'abús sexual infantil, entre d'altres.

Els moderadors humans són els únics que poden contribuir a contrarestar aquestes activitats

En aquest informe es destaca les organitzacions de la societat civil que estan emfatitzant la necessitat que els moderadors humans puguin estar capacitats en cadascun dels temes de cultura local, idiomes i contextos en xarxes socials. Indiquen que és necessari crear models de detecció primerenca per identificar tendències virals, per exemple, els reptes nocius. L'espectre és massa ampli: continguts il·legals, transcripcions automàtiques, ús de filtres en contingut i qualsevol cosa que estigui perjudicant l'experiència d'internet. 

Els moderadors haurien de fer front a l'activitat en línia a xarxes socials. Si bé és cert que Meta ja està començant a controlar l'activitat que poden veure els menors a Instagram, hauria d'ampliar-se a més xarxes i a internet en general. Google hauria de poder reglamentar l'ús del seu cercador, considerar l'edat de l'usuari que hi ha al davant. Veurem si s'actua al respecte, ja que internet continua creixent cada vegada més en usuaris i continguts; i no tot és apropiat per a totes les edats.