La intel·ligència artificial ha revolucionat el món, tal com el coneixíem, en molt pocs anys. Entre els canvis més significatius és la universalització d'aquesta eina i el fet que, pràcticament tothom, des de casa seva i amb molt poca informació, pugui crear un vídeo fals que pot passar perfectament per real. A les xarxes socials han proliferat els coneguts com a deep fake de persones despullades, sexualitzades o fins i tot, mantenint relacions sexuals. En alguns casos, les protagonistes d'aquests vídeos falsos són nenes i adolescents, totalment desprotegides, i plataformes com X estan a l'ull de l'huracà per aquesta qüestió. En aquest context, Alemanya vol fer una passa endavant per protegir la ciutadania d'aquests riscos i, el Ministeri de Justícia, ha anunciat que presentarà molt aviat un projecte de llei que permeti tancar buits existents en un Codi Penal que no està prou actualitzat per a afrontar els reptes que es deriven de l'evolució de la IA.
Erike Hosemann, portaveu del ministeri, el govern d'Olaf Scholz es pren molt seriosament la protecció contra la "violència digital" que, ha afegit, pateixen sobretot les dones, mentre que els seus autors acostumen a ser homes. "El dret penal va en paral·lel als avenços tecnològics. Les víctimes dels deep fakes no estan desprotegides, però el Codi Penal no està actualitzat", ha apuntat. L'objectiu darrere d'aquests canvis es castigar explícitament la creació i la distribució d'aquests vídeos, que ara mateix no està penada. Això sí, es pot condemnar un perpetuador si es demostra que el dret a la mateixa imatge ha estat violat. Amb el focus posat sobre les víctimes, la reforma vol que les afectades puguin fer valdre els seus drets en un context en el qual sol ser complicat poder determinar els culpables i els autors dels vídeos. El govern alemany també pretén que sigui més senzill poder bloquejar els comptes a les xarxes socials on es difonen aquesta mena de vídeos, sobretot quan es tracta d'usuaris amb un gran nombre de seguidors i amplia capacitat de difusió.
LA UE avança cap a la prohibició de part dels sistemes
La setmana passada, els països de la UE ja van acordar demanar la prohibició dels sistemes d'intel·ligència artificial que permetessin crear imatges sexualitzades sense consentiment i la generació de pornografia infantil. És una passa més en el procés legislatiu que té com a objectiu final, encara que sembli complicat, la simplificació de la regulació europea. Que aquesta mesura entri en vigor dependrà de la negociació amb el Parlament Europeu per a la reforma de la llei de l'IA que, si no hi ha res de nou, ha de començar a principis d'abril.