El conseller delegat de Meta, Mark Zuckerberg, ha defensat que avaluadors i assessors independents analitzin els sistemes i models d'intel·ligència artificial que desenvolupen les empreses. Aquesta és la seva aposta per garantir la seguretat dels models, però no comparteix la idea de frenar-ne el desenvolupament, una posició que altres dirigents del sector han plantejat en les darreres setmanes. En una publicació a la xarxa social X, Zuckerberg ha assenyalat que cada laboratori té "la responsabilitat i l'incentiu" d'avançar al ritme necessari per entrenar els seus models de manera segura, i també la capacitat de prendre les seves pròpies mesures per garantir-ho.
Segons el dirigent, les empreses no necessiten que se'ls imposi un ritme des de fora, sinó que han de gestionar els seus propis processos. Aquesta visió contrasta amb la d'altres veus del sector que han reclamat una pausa o una frenada en el desenvolupament de models cada cop més potents, especialment després de les advertències sobre riscos catastròfics que han fet alguns experts. Zuckerberg ha recordat que Meta va endarrerir durant mesos el llançament del seu últim model d'intel·ligència artificial, Muse, per centrar-se en la seva seguretat. Tot i això, ha subratllat que no van exigir a la resta d'empreses que fessin el mateix. "Simplement, ho vam fer com a part de la nostra feina diària perquè era clarament el correcte per a la gent i per a nosaltres", ha afirmat.
La confiança i l'alineació, clau per als agents
Segons el màxim responsable de Meta, la gent no voldrà utilitzar agents que no estiguin "alineats" amb ells i que no facin el que se'ls demana. Aquesta circumstància, sota el seu criteri, és el principal incentiu que tenen els laboratoris per preparar millor els seus models. "La confiança i l'alineació s'estan convertint ràpidament en les capacitats més importants que diferenciaran els agents i els models", ha escrit a X. Zuckerberg també ha destacat que els laboratoris s'enfronten a "una responsabilitat significativa si els seus models causen danys", per la qual cosa tenen un fort incentiu per evitar-ho. En aquest sentit, ha defensat que contractar avaluadors i assessors independents "és la millor pràctica de la indústria" i ha assegurat que Meta ha assumit aquest compromís amb la seguretat.
El dirigent ha afegit que "altres laboratoris també poden fer-ho" i que la clau per construir un futur positiu per a tothom "resideix a mantenir l'equilibri de poder adequat". Amb aquestes declaracions, Zuckerberg es posiciona en el debat sobre la regulació de la intel·ligència artificial, que ha generat posicions enfrontades entre els principals actors del sector. La posició de Zuckerberg se suma a la d'altres dirigents que han expressat la seva preocupació pels riscos de la intel·ligència artificial. Recentment, el conseller delegat d'OpenAI, Sam Altman, va decidir retardar la sortida a borsa de la companyia a causa dels riscos de seguretat que presenten els models avançats.
Per la seva banda, Anthropic ha advertit en una carta oberta de la necessitat de frenar el ritme de desenvolupament de les capacitats dels models d'IA davant una tecnologia que pot causar riscos catastròfics. Malgrat aquestes veus, Zuckerberg considera que la millor manera de garantir la seguretat és mitjançant la supervisió externa i la competència entre empreses, i no a través d'una frenada imposada. La seva posició reflecteix la divisió existent al sector sobre com abordar els riscos de la intel·ligència artificial, un debat que continuarà en els pròxims mesos i que tindrà implicacions importants per al futur de la tecnologia.