El Consejo Municipal de Nueva York ha decidido dar un paso adelante en la regulación de la inteligencia artificial y ha convocado una audiencia de supervisión en la que tiene previsto sentar bajo juramento a altos ejecutivos de las principales empresas del sector. Entre los convocados hay representantes de Anthropic, OpenAI, Google y Meta, cuatro de las compañías que más peso tienen en el desarrollo y la comercialización de modelos de IA. El objetivo de la convocatoria es examinar los riesgos y los desafíos de seguridad que plantean estos sistemas, que en los últimos años se han extendido de manera acelerada por todos los ámbitos de la economía y de la vida cotidiana.
La presidenta del Consejo, Julie Menin, es la impulsora de esta iniciativa. Menin exige a las firmas tecnológicas que detallen sus protocolos de seguridad y que se pronuncien sobre una batería de iniciativas legislativas con las que la ciudad busca liderar la regulación de estos modelos. La comparecencia bajo juramento es un elemento relevante, porque obliga a los ejecutivos a responder con veracidad y los expone a posibles consecuencias legales si sus declaraciones no se ajustan a los hechos. Este mecanismo, habitual en las comisiones de investigación, da a la audiencia un carácter más formal e incrementa la presión sobre los comparecientes.
El paquete legislativo que se debate incluye diversas medidas que, si se aprueban, situarían a Nueva York entre las ciudades con una regulación más exigente en materia de inteligencia artificial. Una de las más destacadas es la norma que obligaría a los modelos de IA desplegados o comercializados en la ciudad a contar con validaciones de terceros. Esta exigencia implicaría que los modelos no podrían operar sin una evaluación externa que certifique su funcionamiento y seguridad, una especie de control de calidad independiente que debería verificar que el sistema cumple los requisitos establecidos.
Además, la norma prevé que los sistemas dispongan de un mecanismo técnico que permita su desconexión o apagado manual por parte de un operador humano. Esta medida responde a la preocupación de que, en determinadas circunstancias, un modelo de IA pueda generar riesgos que requieran una parada inmediata. La posibilidad de desconectar el sistema de manera manual da a los operadores una herramienta de control que, según los impulsores de la norma, es necesaria para garantizar la seguridad. El incumplimiento de estas obligaciones podría comportar multas de hasta 25.000 dólares. Esta cifra, que puede parecer moderada para grandes corporaciones, establece un precedente importante en la regulación municipal de la inteligencia artificial y abre la puerta a sanciones más elevadas en el futuro si las normas se endurecen.
Protección ante las manipulaciones
El paquete legislativo también incluye medidas para proteger a los cargos públicos y a los candidatos ante el uso no autorizado de su imagen. En concreto, los legisladores locales proponen multas de hasta 2.500 dólares por cada representación manipulada de cargos públicos y candidatos mediante audio, fotografía o vídeo generados con IA. Esta sanción se aplicaría cuando los afectados hayan notificado previamente que no autorizan este uso. La medida responde a una preocupación creciente por el uso de la inteligencia artificial para crear contenidos falsos que pueden afectar la percepción pública e interferir en los procesos electorales. Los vídeos y audios manipulados, conocidos como deepfakes, son una de las aplicaciones que más inquietud generan entre los legisladores y los expertos en seguridad. La posibilidad de crear contenidos que parecen reales, pero que no lo son plantea interrogantes sobre la veracidad de la información y sobre la confianza en las instituciones.
Se trata de una audiencia de supervisión del pleno del Consejo, en la que los legisladores examinarán los riesgos asociados a los sistemas de IA y las medidas de seguridad. La convocatoria se enmarca en un paquete de propuestas legislativas que incluye mayores obligaciones de seguridad y transparencia para estas empresas. La comparecencia de los ejecutivos servirá para que los legisladores puedan escuchar de primera mano cómo las compañías abordan estos retos y qué garantías ofrecen. Este tipo de audiencias son habituales en el funcionamiento del Consejo Municipal de Nueva York y se utilizan para obtener información directa de los actores implicados en un sector antes de tomar decisiones legislativas. En este caso, la convocatoria tiene un carácter especialmente relevante porque el sector de la inteligencia artificial está en pleno proceso de expansión y las administraciones buscan fórmulas para regularlo sin frenar su desarrollo.
La decisión de Nueva York se suma a una tendencia creciente en otras ciudades y estados de los Estados Unidos, que han empezado a aprobar normas para regular el uso de la inteligencia artificial en ámbitos como la contratación, la vivienda o la seguridad. La iniciativa de la ciudad norteamericana es, sin embargo, una de las más ambiciosas en cuanto al alcance de las obligaciones que quiere imponer a las grandes empresas del sector. Esta tendencia refleja una preocupación compartida por las autoridades de diferentes niveles: la necesidad de garantizar que el desarrollo de la inteligencia artificial se haga con unas garantías mínimas de seguridad y transparencia. Los legisladores quieren evitar que la rapidez de los avances tecnológicos vaya por delante de la capacidad de las administraciones para establecer reglas del juego claras.