Los Estados miembros de la Unión Europea han dado luz verde a la reforma de la legislación comunitaria sobre inteligencia artificial, incorporando una disposición impulsada por España que prohíbe los sistemas capaces de generar contenido sexual o íntimo sin el consentimiento de las personas afectadas, así como el material de abuso sexual infantil. Esta decisión se enmarca en el proceso de revisión de la normativa europea y supone un paso adelante en la regulación de estas tecnologías emergentes.
La propuesta española ha surgido a raíz de la polémica generada por el asistente de la red social X, conocido como Grok, que permitió la creación de imágenes desnudas de mujeres y menores sin su consentimiento. La iniciativa ha contado con el apoyo de Francia, Alemania, Irlanda, Eslovenia, Bélgica, Eslovaquia y Hungría, configurando un frente común suficiente para sacar adelante la medida.
El alcance de las nuevas prohibiciones
El texto acordado en el Consejo de la UE incorpora dos nuevos supuestos de sistemas de inteligencia artificial prohibidos. Por un lado, se incluyen aquellos sistemas que puedan generar, manipular o reproducir imágenes, vídeos o audios realistas, conocidos como deepfakes, de partes íntimas o que identifiquen personas en actividades sexuales sin el consentimiento expreso de la persona afectada. Por otro, se prohíben los sistemas capaces de generar, manipular o reproducir pornografía infantil, una medida que refuerza la protección de los menores en el entorno digital.
Esta reforma responde a la necesidad de adaptar la legislación a las nuevas realidades tecnológicas y a los riesgos que conllevan para los derechos fundamentales. La generación de imágenes falsas con contenido sexual sin consentimiento se ha convertido en una práctica creciente que afecta especialmente a las mujeres y las niñas, y que requiere una respuesta contundente por parte de las instituciones.
El calendario de aplicación
Los miembros del consejo han acordado también un calendario definitivo para la aplicación aplazada de las normas relativas a los sistemas de inteligencia artificial considerados de alto riesgo. La primera fecha señalada es el 2 de diciembre de 2027, momento en que serán plenamente aplicables las obligaciones para los sistemas de IA de alto riesgo independientes.
La segunda fecha es el 2 de agosto de 2028, cuando entrarán en vigor las normas para los sistemas de inteligencia artificial de alto riesgo integrados en productos sujetos a otras regulaciones europeas. Este calendario escalonado responde a la complejidad técnica y organizativa que conlleva la adaptación a las nuevas exigencias normativas, y pretende dar tiempo suficiente tanto a las empresas como a las administraciones públicas para prepararse adecuadamente.
El registro obligatorio de sistemas de alto riesgo
El mandato del Consejo restablece, además, la obligación de que los proveedores registren los sistemas de inteligencia artificial en la base de datos de la Unión Europea para los sistemas considerados de alto riesgo. Esta obligación se aplica incluso en aquellos casos en que los proveedores consideren que sus sistemas están exentos de esta clasificación, introduciendo un elemento de control adicional que refuerza la capacidad supervisora de las autoridades comunitarias. Esta medida pretende evitar vacíos legales y garantizar que todos los sistemas que puedan tener un impacto significativo en los derechos de las personas estén debidamente identificados y sujetos a supervisión.
Una vez conseguido el acuerdo en el Consejo de la UE, la norma deberá superar ahora un nuevo trámite parlamentario antes de su aprobación definitiva. El texto pactado por los estados miembros se debatirá en el Parlamento Europeo, donde deberá recibir el visto bueno de la Eurocámara para poder entrar en vigor. Este proceso puede comportar nuevas modificaciones y negociaciones entre las diferentes instituciones comunitarias, en un ejercicio de diálogo legislativo que caracteriza el funcionamiento de la Unión Europea.
Las implicaciones para los proveedores de tecnología
La aprobación de esta reforma tendrá implicaciones significativas para las empresas que desarrollan o comercializan sistemas de inteligencia artificial en la Unión Europea. Los proveedores deberán asegurarse de que sus productos no incurren en ninguna de las prácticas prohibidas, lo cual comportará la necesidad de revisar los algoritmos y los sistemas de generación de contenido para garantizar que no pueden ser utilizados para crear imágenes o vídeos sexuales sin consentimiento. La normativa pretende establecer un equilibrio entre la innovación tecnológica y la protección de los derechos fundamentales, evitando que el desarrollo de la inteligencia artificial se haga a costa de la privacidad y la dignidad de las personas.
El objetivo final de esta reforma es reforzar la protección de las personas ante usos maliciosos de la inteligencia artificial, especialmente en ámbitos tan sensibles como la intimidad sexual. La generación de imágenes falsas con contenido sexual sin consentimiento constituye una vulneración grave de los derechos fundamentales, que puede tener consecuencias devastadoras para las víctimas, afectando su salud mental, su reputación y su vida personal y profesional.
Con el acuerdo alcanzado hoy en el Consejo, la Unión Europea da un paso decisivo para cerrar las lagunas legales que permitían el uso abusivo de la inteligencia artificial para generar contenido sexual no consentido. El camino aún no ha finalizado, dado que la norma deberá superar el debate en el Parlamento Europeo, pero la dirección está clara: Europa apuesta por una inteligencia artificial ética, centrada en las personas y respetuosa con los derechos fundamentales. La respuesta al escándalo de Grok puede acabar convirtiéndose en un precedente normativo de gran alcance para otras jurisdicciones.