El Senado estatal de California aprobó este jueves un proyecto de ley que endurece las restricciones para el uso de la inteligencia artificial (IA), una medida que se topa con el rechazo de las principales empresas tecnológicas de Silicon Valley, que consideran que la regulación es demasiado restrictiva y podría frenar el avance de la industria y fomentar la deslocalización de proyectos y profesionales. La ley se asemeja a las normas que ha establecido la Unión Europea para el control y vigilancia del uso de la IA, en beneficio y protección de la sociedad.

La medida "establece salvaguardas de sentido común, las primeras en el país, para proteger a la sociedad del uso de la IA para llevar a cabo ciberataques a infraestructuras críticas, desarrollar armas químicas, nucleares o biológicas o desatar delitos automatizados", explicó la oficina de Scott Wiener, el senador demócrata promotor de esta medida. "Con una votación de 29 a 9, el Senado acaba de dar su aprobación final al proyecto de ley SB 1047, nuestro proyecto de ley de seguridad de la IA", informó Wiener en un mensaje en la red X. 

La ley obligará a las empresas que diseñan grandes modelos de IA a implementar protocolos de seguridad para evitar usos indebidos. Así, prohíbe la distribución y comercialización de herramientas de IA que puedan causar “daños críticos” a la sociedad, como pueden ser los desarrollos con potencial para facilitar la creación de armas biológicas, químicas, nucleares y cibernéticas.

Estas limitaciones, aunque las suscriben magnates como Elon Musk, la mayor parte de las empresas radicadas en San Francisco se han opuesto al proyecto. Jason Kwon, director de estrategia de OpenAI, alertó de que frenará el ritmo de la innovación y llevaría a los ingenieros y emprendedores californianos, de talla mundial, a abandonar el estado en busca de mayores oportunidades. Consideran que supone una amenaza para el crecimiento de la IA y podría provocar una fuga de empresarios e ingenieros de Silicon Valley, justo cuando el sector empieza a mostrar signos recuperación tras la crisis de la covid-19. 

El documento, que fue aprobado el miércoles por una abrumadora mayoría en la Asamblea estatal de California, ya había recibido el apoyo del Senado, pero este jueves volvió a someterse a votación tras la incorporación de nuevas enmiendas. Tras este paso de procedimiento, la medida deberá ahora presentarse ante el gobernador de California, Gavin Newsom, quien dispone hasta el próximo 30 de septiembre para decidir si firma o veta el proyecto.

En caso de recibir la aprobación de Newsom, el conocido como Estado Dorado se sumaría a los países de la Unión Europea en la creación de un marco para regular una tecnología que explota campos como los chatbots de apariencia humana o los generadores de imágenes y vídeo realistas.