El Consell Municipal de Nova York ha decidit fer un pas endavant en la regulació de la intel·ligència artificial i ha convocat una audiència de supervisió en què té previst asseure sota jurament alts executius de les principals empreses del sector. Entre els convocats hi ha representants d'Anthropic, OpenAI, Google i Meta, quatre de les companyies que més pes tenen en el desenvolupament i la comercialització de models d'IA. L'objectiu de la convocatòria és examinar els riscos i els desafiaments de seguretat que plantegen aquests sistemes, que en els últims anys s'han estès de manera accelerada per tots els àmbits de l'economia i de la vida quotidiana.
La presidenta del Consell, Julie Menin, és la impulsora d'aquesta iniciativa. Menin exigeix a les firmes tecnològiques que detallin els seus protocols de seguretat i que es pronunciïn sobre una bateria d'iniciatives legislatives amb les quals la ciutat busca liderar la regulació d'aquests models. La compareixença sota jurament és un element rellevant, perquè obliga els executius a respondre amb veracitat i els exposa a possibles conseqüències legals si les seves declaracions no s'ajusten als fets. Aquest mecanisme, habitual en les comissions d'investigació, dona a l'audiència un caràcter més formal i incrementa la pressió sobre els compareixents.
El paquet legislatiu que es debat inclou diverses mesures que, si s'aproven, situarien Nova York entre les ciutats amb una regulació més exigent en matèria d'intel·ligència artificial. Una de les més destacades és la norma que obligaria els models d'IA desplegats o comercialitzats a la ciutat a comptar amb validacions de tercers. Aquesta exigència implicaria que els models no podrien operar sense una avaluació externa que en certifiqui el funcionament i la seguretat, una mena de control de qualitat independent que hauria de verificar que el sistema compleix els requisits establerts.
A més, la norma preveu que els sistemes disposin d'un mecanisme tècnic que permeti la seva desconnexió o apagada manual per part d'un operador humà. Aquesta mesura respon a la preocupació que, en determinades circumstàncies, un model d'IA pugui generar riscos que requereixin una aturada immediata. La possibilitat de desconnectar el sistema de manera manual dona als operadors una eina de control que, segons els impulsors de la norma, és necessària per garantir la seguretat. L'incompliment d'aquestes obligacions podria comportar multes de fins a 25.000 dòlars. Aquesta xifra, que pot semblar moderada per a grans corporacions, estableix un precedent important en la regulació municipal de la intel·ligència artificial i obre la porta a sancions més elevades en el futur si les normes s'endureixen.
Protecció davant les manipulacions
El paquet legislatiu també inclou mesures per protegir els càrrecs públics i els candidats davant l'ús no autoritzat de la seva imatge. En concret, els legisladors locals proposen multes de fins a 2.500 dòlars per cada representació manipulada de càrrecs públics i candidats mitjançant àudio, fotografia o vídeo generats amb IA. Aquesta sanció s'aplicaria quan els afectats hagin notificat prèviament que no autoritzen aquest ús. La mesura respon a una preocupació creixent per l'ús de la intel·ligència artificial per crear continguts falsos que poden afectar la percepció pública i interferir en els processos electorals. Els vídeos i àudios manipulats, coneguts com a deepfakes, són una de les aplicacions que més inquietud generen entre els legisladors i els experts en seguretat. La possibilitat de crear continguts que semblen reals, però que no ho són planteja interrogants sobre la veracitat de la informació i sobre la confiança en les institucions.
Es tracta d'una audiència de supervisió del ple del Consell, en què els legisladors examinaran els riscos associats als sistemes d'IA i les mesures de seguretat. La convocatòria s'emmarca en un paquet de propostes legislatives que inclou majors obligacions de seguretat i transparència per a aquestes empreses. La compareixença dels executius servirà perquè els legisladors puguin escoltar de primera mà com les companyies aborden aquests reptes i quines garanties ofereixen. Aquest tipus d'audiències són habituals en el funcionament del Consell Municipal de Nova York i s'utilitzen per obtenir informació directa dels actors implicats en un sector abans de prendre decisions legislatives. En aquest cas, la convocatòria té un caràcter especialment rellevant perquè el sector de la intel·ligència artificial està en ple procés d'expansió i les administracions busquen fórmules per regular-lo sense frenar-ne el desenvolupament.
La decisió de Nova York se suma a una tendència creixent en altres ciutats i estats dels Estats Units, que han començat a aprovar normes per regular l'ús de la intel·ligència artificial en àmbits com la contractació, l'habitatge o la seguretat. La iniciativa de la ciutat nord-americana és, però, una de les més ambicioses pel que fa a l'abast de les obligacions que vol imposar a les grans empreses del sector. Aquesta tendència reflecteix una preocupació compartida per les autoritats de diferents nivells: la necessitat de garantir que el desenvolupament de la intel·ligència artificial es faci amb unes garanties mínimes de seguretat i transparència. Els legisladors volen evitar que la rapidesa dels avenços tecnològics vagi per davant de la capacitat de les administracions per establir regles del joc clares.