La Unión Europea da este domingo un nuevo paso en la aplicación de su Reglamento de Inteligencia Artificial (AI Act) con la entrada en vigor de las primeras obligaciones de transparencia para los sistemas de IA. A partir de ahora, los proveedores de estas tecnologías deberán informar a los usuarios cuando estén interactuando con una máquina y facilitar la identificación de los contenidos generados o manipulados mediante inteligencia artificial.
Las nuevas medidas afectan tanto a los asistentes conversacionales como ChatGPT, Gemini o Claude, como a otros sistemas de IA utilizados en servicios públicos, atención al cliente o gestión de procesos automatizados. El objetivo es que los ciudadanos puedan reconocer cuándo una respuesta, una imagen, un vídeo o un audio han sido creados o alterados con esta tecnología.
Entre las principales novedades figura la obligación de que los sistemas de inteligencia artificial adviertan expresamente a los usuarios de que están interactuando con una IA y no con una persona. Asimismo, quienes empleen herramientas de reconocimiento de emociones o de categorización biométrica deberán informar a los ciudadanos cuando estén siendo analizados, salvo en los casos previstos por la legislación para la prevención o investigación de delitos.
La aplicación de estas normas marca además el inicio de una nueva etapa de supervisión. Desde este domingo, la Oficina Europea de Inteligencia Artificial asume competencias para vigilar los modelos de IA de propósito general, solicitar información a las empresas desarrolladoras, evaluar sus sistemas y exigir medidas correctoras cuando detecte riesgos o incumplimientos.
La Comisión Europea también podrá coordinar esta labor con las autoridades nacionales de vigilancia del mercado y con el Supervisor Europeo de Protección de Datos, mientras que un panel de expertos científicos y nuevos canales de denuncia reforzarán el control sobre el cumplimiento del reglamento.
Calendario
El calendario de implantación de la AI Act continuará el próximo 2 de diciembre, cuando entren en vigor nuevas obligaciones para identificar mediante marcas técnicas los contenidos generados o manipulados por inteligencia artificial, incluidos los conocidos como deepfakes. Además, se prohibirá la creación de imágenes sexualmente explícitas generadas con IA sin el consentimiento de las personas afectadas, una medida incorporada tras la preocupación generada por la difusión de este tipo de contenidos en distintas plataformas.
No obstante, el reglamento establece algunas excepciones. Los contenidos de carácter artístico, satírico o de ficción no estarán sujetos a determinadas obligaciones de identificación. También quedarán exentos aquellos contenidos sobre asuntos de interés público que hayan sido sometidos a una revisión humana efectiva y cuenten con un responsable editorial.
Sanciones
El incumplimiento de estas obligaciones podrá acarrear importantes sanciones. La Comisión Europea podrá imponer multas de hasta 15 millones de euros o el 3% de la facturación anual global de la empresa infractora, aplicándose la cuantía que resulte más elevada. En el caso de las instituciones y organismos de la propia Unión Europea, las sanciones podrán alcanzar los 750.000 euros.
La AI Act, considerada la primera regulación integral sobre inteligencia artificial a nivel mundial, continuará desplegándose de forma progresiva hasta 2028. Las próximas fases incluirán la aplicación de requisitos específicos para los sistemas de alto riesgo, utilizados en sectores como la sanidad, la educación, el empleo o determinados productos industriales, con el propósito de reforzar la protección de los derechos fundamentales, la seguridad y la confianza de los ciudadanos en el uso de esta tecnología.