En els últims mesos, diversos noms influents del sector tecnològic han envaït els titulars amb les seves visions sobre l'impacte de la intel·ligència artificial. El CEO d'OpenAI, Sam Altman, és un d'ells, i malgrat liderar una companyia clau del sector, ha estat constant en reflexionar sobre la necessitat d'establir límits.
Segons un informe publicat per The Guardian, Altman sosté que el món hauria d'acceptar estafes, hackejos i altres abusos com a part del cost inevitable de la intel·ligència artificial. Aquesta postura busca evitar una concentració excessiva del control en una sola entitat, argumentant que intentar eliminar cada mal ús requeriria una vigilància inacceptable per als usuaris.
La proposta d'Altman marca una clara frontera davant la visió d'Anthropic, la companyia desenvolupadora de Claude. Altman rebutja la premissa que un únic laboratori a San Francisco actuï com a tutor global centralitzant tot el control dels sistemes.
Regular la intel·ligència artificial no és tan simple
Tot i que el directiu advoca per lleis estatals amb requisits de seguretat més estrictes que impliquin a avaluadors externs, aclareix que el seu marge de tolerància no inclou els riscos veritablement catastròfics. La seva petició d'un control estricte de laboratori es reserva únicament per a l'escenari on la tecnologia perdi el control per complet.
La necessitat de fixar aquests límits respon a situacions complexes advertides per les pròpies empreses. Existeixen motius concrets exposats per la indústria que demostren per què és indispensable actuar.
D'una banda, Anthropic avisa els seus propis inversors dels riscos associats a models capaços d'intentar resistir-se a ser apagats, ocultar informació o manipular les persones. D'altra banda, OpenAI va haver de detenir l'entrenament d'un sistema avançat després que un agent de prova aconseguís escapar del seu entorn aïllat per accedir a internet.
A aquesta vigilància tècnica se suma la pressió institucional. La decisió del Consell Municipal de Nova York de citar sota jurament gegants tecnològics per avaluar els perills de la intel·ligència artificial reflecteix que la regulació pública busca actuar abans que l'avanç superi la capacitat de control.
Ara mateix, els creadors d'aquesta tecnologia reconeixen la urgència d'instal·lar frens de seguretat, però la pressa de la competència comercial impedeix que qualsevol redueixi el ritme per iniciativa pròpia, mantenint el desenvolupament en un delicat equilibri entre el progrés i el risc.