La inteligencia artificial ha revolucionado el mundo, tal como lo conocíamos, en muy pocos años. Entre los cambios más significativos está la universalización de esta herramienta y el hecho de que, prácticamente todo el mundo, desde su casa y con muy poca información, pueda crear un vídeo falso que puede pasar perfectamente por real. En las redes sociales han proliferado los conocidos como deep fake de personas desnudas, sexualizadas o incluso, manteniendo relaciones sexuales. En algunos casos, las protagonistas de estos vídeos falsos son niñas y adolescentes, totalmente desprotegidas, y plataformas como X están en el ojo del huracán por esta cuestión. En este contexto, Alemania quiere dar un paso adelante para proteger a la ciudadanía de estos riesgos y, el Ministerio de Justicia, ha anunciado que presentará muy pronto un proyecto de ley que permita cerrar vacíos existentes en un Código Penal que no está lo suficientemente actualizado para afrontar los retos que se derivan de la evolución de la IA. 

Erike Hosemann, portavoz del ministerio, el gobierno de Olaf Scholz se toma muy seriamente la protección contra la "violencia digital" que, ha añadido, sufren sobre todo las mujeres, mientras que sus autores suelen ser hombres. "El derecho penal va en paralelo a los avances tecnológicos. Las víctimas de los deep fakes no están desprotegidas, pero el Código Penal no está actualizado", ha apuntado. El objetivo detrás de estos cambios es castigar explícitamente la creación y la distribución de estos vídeos, que ahora mismo no está penada. Eso sí, se puede condenar a un perpetrador si se demuestra que el derecho a la propia imagen ha sido violado. Con el foco puesto sobre las víctimas, la reforma quiere que las afectadas puedan hacer valer sus derechos en un contexto en el cual suele ser complicado poder determinar a los culpables y a los autores de los vídeos. El gobierno alemán también pretende que sea más sencillo poder bloquear las cuentas en las redes sociales donde se difunden este tipo de vídeos, sobre todo cuando se trata de usuarios con un gran número de seguidores y amplia capacidad de difusión. 

LA UE avanza hacia la prohibición de parte de los sistemas 

La semana pasada, los países de la UE ya acordaron pedir la prohibición de los sistemas de inteligencia artificial que permitieran crear imágenes sexualizadas sin consentimiento y la generación de pornografía infantil. Es un paso más en el proceso legislativo que tiene como objetivo final, aunque parezca complicado, la simplificación de la regulación europea. Que esta medida entre en vigor dependerá de la negociación con el Parlamento Europeo para la reforma de la ley de la IA que, si no hay nada nuevo, debe empezar a principios de abril.