Els dilemes ètics que planteja l'ús de la Intel·ligència Artificial serien interminables sense un marc legal que els reguli. En aquest sentit, les autoritats de Califòrnia als Estats Units han fet un primer pas, convertint-se en el primer estat nord-americà a aprovar un projecte de llei que regula l'entrenament de models d'IA de gran escala.

El projecte de llei SB 1047, conegut com la Llei d'Innovació Segura per a Models d'Intel·ligència Artificial de Frontera, estableix una sèrie de requisits per a les empreses que desenvolupen i entrenen aquests models. Per descomptat, la mesura, ja ha generat debat entre les empreses que la promouen.

La IA no escapa de la llei

Segons els senadors a favor del projecte, el mateix busca actuar com un "salvaguardes per protegir la societat" del mal ús de la IA.

Alguns dels canvis que planteja la nova llei se centren en permetre accions com:

  • Desactivar ràpidament i completament un model d'IA si es considera que no és segur. Els desenvolupadors hauran d'assegurar que sigui possible.
  • Els models de llenguatge hauran d'estar protegits contra "modificacions insegures posteriors a l'entrenament" o qualsevol cosa que pugui causar "danys crítics".

Diversos experts ja s'han manifestat en contra i temen que les noves regulacions puguin frenar la innovació i dificultar la feina dels desenvolupadors independents. Petits desenvolupadors i empreses com OpenAI han manifestat la seva preocupació per les dificultats que podrien afrontar per complir amb tots els requisits establerts en la llei i les sancions que comporta.

Per la seva banda, el professor Hinton, exdirector d'intel·ligència artificial a Google, va elogiar el projecte de llei per considerar que els riscos dels sistemes d'intel·ligència artificial potents són "molt reals i s'han de prendre extremadament seriosament", segons 9to5mac.

Naturalment, Apple mostra un gran interès en aquestes regulacions, atès que la companyia està desenvolupant activament les funcions d'Apple Intelligence, programades per al seu llançament públic aquesta tardor amb les actualitzacions iOS 18.1 i macOS Sequoia 15.1., tot i que la versió beta d'iOS 18.1 ja compta amb algunes funcionalitats.

Tanmateix, cal esperar fins a finals de setembre per decidir si aprova o veta el projecte de llei.

Asseient precedents

Amb aquesta llei, Califòrnia es posiciona com a líder en la regulació de la IA. Això podria influir en la legislació a nivell federal, i lluitar contra els riscos generats pel mal ús de la IA, com la generació de desinformació o la creació d'imatges i vídeos distorsionats (deepfakes). Aquest últim, una gran preocupació que va deixar en evidència la manca de regulació, amb el llançament de l'eina de Google Pixel Studio i l'enrenou que va causar en permetre la generació d'imatges violentes.

A nivell federal, l'administració Biden ha presentat una sèrie de directrius voluntàries per a les empreses tecnològiques.

Mentre que el març d'enguany, l'Eurocambra va aprovar la Llei d'Intel·ligència Artificial, que garanteix la seguretat i el respecte dels drets fonamentals alhora que impulsa la innovació.