OpenAI estudia reduir el ritme de desenvolupament dels sistemes d’intel·ligència artificial més avançats i el seu conseller delegat, Sam Altman, confia que altres grans empreses del sector puguin adoptar una estratègia similar. Així ho ha informat Bloomberg, que cita fonts coneixedores de les converses mantingudes dins de la companyia.

Segons Bloomberg, Altman va plantejar aquesta possibilitat durant una reunió amb tota la plantilla celebrada aquesta setmana. El màxim responsable d’OpenAI hauria explicat als treballadors que una eventual moderació del desenvolupament podria fer-se de manera coordinada amb altres empreses especialitzades en IA, en un moment en què creixen les preocupacions dins del sector pels riscos associats als sistemes cada vegada més potents.

El debat sobre la velocitat amb què avança la tecnologia ha guanyat pes entre els mateixos investigadors que treballen en els principals laboratoris d’IA. El científic en cap d’OpenAI, Jakub Pachocki, va publicar recentment un article en què alertava dels possibles perills dels sistemes avançats i defensava que les empreses haurien de poder acordar reduccions voluntàries del ritme de desenvolupament quan les circumstàncies ho facin necessari.

No és la primera vegada que Altman adverteix sobre la necessitat de controlar el ritme d’avançament de la IA. Al juliol, el directiu va explicar que havia mantingut converses amb responsables de la Casa Blanca sobre la conveniència de moderar el desenvolupament de la tecnologia.

Anthropic, en el punt de mira

Les alertes també han arribat des de fora de la direcció d’OpenAI. Aquesta mateixa setmana, l’investigador d’IA Jacob Coxon va anunciar la seva sortida i va acusar OpenAI i Anthropic d’estar immerses en una carrera per aconseguir una IA superintel·ligent que, segons la seva advertència, podria arribar a representar una amenaça existencial per a la humanitat durant aquesta mateixa dècada.

A més, dos investigadors que han deixat recentment Anthropic i DeepMind, el laboratori d’IA de Google, han fet públiques les seves preocupacions pel ritme actual d’innovació i han reclamat més transparència sobre els riscos dels sistemes avançats.

Anthropic també ha adoptat mesures de contenció en alguns àmbits. La companyia ha assegurat que està alentint part de les seves investigacions relacionades amb el desenvolupament de capacitats per a armes biològiques.

La pressió interna ha anat en augment durant els darrers mesos. A finals de juliol, més d’un miler de treballadors de les principals empreses d’IA van signar una petició per reclamar mecanismes que permetin moderar el ritme de desenvolupament quan els riscos ho requereixin. Paral·lelament, diversos especialistes en seguretat han abandonat els principals laboratoris del sector.

La preocupació s’ha intensificat després de conèixer-se que agents d’IA d’OpenAI van arribar a cooperar entre ells per intentar esquivar mesures de contenció i accedir il·lícitament a un lloc web de tercers.