Ha pasado más de un mes desde que la Unión Europea pactó la primera ley de inteligencia artificial (IA) del mundo, con el fin de permitir o prohibir el uso de la tecnología en función del riesgo de que suponga para las personas y de impulsar la industria europea ante potencias como China o Estados Unidos. Ahora, la ley de IA se vota en el Consejo de la UE este viernes de manera definitiva: ¿qué está en juego?

Tras tres años de negociaciones, los estados miembro votan para aprobar o rechazar el texto final. Un texto final que habría sufrido retrocesos, según reveló un periodista del medio de comunicación paneuropeo Euractiv la semana pasada y ya habían denunciado algunos eurodiputados. Las organizaciones de la sociedad civil agrupadas en EDRi (European Digital Rights) reconocen que "el texto final de la ley de IA está lejos de ser perfecto y quedan carencias importantes desde la perspectiva de los derechos humanos", pero desean que la norma sea aprobada este viernes: "Un rechazo total también supondría riesgos significativos para el futuro de la regulación de la IA".

La oposición de Francia y Alemania

La cuestión aquí es que hay países como Francia y Alemania que han posicionado contra la ley, intentando crear un frente de bloqueo —que necesita un mínimo de cuatro estados miembros—. Su oposición al texto no se debe a las insuficientes protecciones de los derechos humanos, sino a los intereses tanto de las agencias nacionales de seguridad como de la industria tecnológica: han argumentado que la ley será demasiado restrictiva, sobre todo con respecto a las normas sobre sistemas de IA de uso general.

En el caso francés, el objetivo principal ha sido limitar la transparencia y supervisión del uso de los sistemas de IA por parte tanto de la policía como de las agencias de control de la migración para la vigilancia en tiempo real. Así, la ley pactada permite el uso de cámaras de identificación biométrica en espacios públicos con previa autorización judicial para prevenir una amenaza terrorista "genuina y previsible" o "genuina y presente". De la misma manera, se podrán utilizar para localizar o identificar a una persona que haya cometido delitos de terrorismo, tráfico de personas, explotación sexual o un crimen medioambiental, así como para buscar a las víctimas de los delitos. Pero con eso no ha sido suficiente para los franceses, que en las últimas semanas han intentado conseguir concesiones.

Italia y Austria, claves para rechazar o no la ley

En el caso alemán, la oposición ha venido desde una parte del gobierno de coalición de Olaf Scholz: los liberales del Partido Democrático Libre, que han hecho campaña con el fin de asegurar que las empresas europeas no se verían obstaculizadas por una burocracia excesiva —mientras que los eurodiputados y las organizaciones de la sociedad civil habían argumentado que la tecnología era demasiado importante para ser gobernada por las compañías—. Sin embargo, es verdad que en las últimas horas agencias como Reuters han podido saber que el ejecutivo alemán habría hecho marcha atrás en sus objeciones y, por lo tanto, no habría ningún frente de bloqueo.

En una situación similar están Italia y Austria, que serían los dos últimos estados miembros necesarios para rechazar el texto. Los primeros estarían descontentos con cómo se ha gestionado la ley, mientras que los segundos estarían preocupados por cuestiones no especificadas relativas a la protección de datos.

¿Qué se pierde si se rechaza la ley de IA?

Si Francia, Alemania, Italia y Austria se juntan para bloquear la norma, desde de EDRi consideran que se perdería "el marco (aunque limitado) de responsabilidad y transparencia para el desarrollo y el uso de IA de alto riesgo" —es decir, que la ley "pone unos límites muy modestos al uso de sistemas de IA muy peligrosos"—. Además, recuerdan que "deja oportunidades para unas protecciones nacionales más sólidas", en referencia a la regulación de la vigilancia masiva biométrica.

Por otra parte, "el rechazo de la ley de IA supondría graves riesgos para futuras leyes de IA", en referencia al auge de la extrema derecha por toda Europa y del previsible desplazamiento a la derecha del próximo mandato de la UE. En esta línea, el grupo de defensa de los derechos digitales a Europa recuerda que se enviaría "el mensaje nocivo que la IA es demasiado difícil de regular". En definitiva, que el bloqueo de la norma sería "una gran victoria para los grupos de presión de las grandes tecnológicas y la industria de la seguridad".

¡Sigue ElNacional.cat en WhatsApp, encontrarás toda la actualidad, en un clic!