Jacob Coxon, investigador que ha entrenat models d'IA a OpenAI i acaba de presentar la seva dimissió a Anthropic, assegura que la cursa per desenvolupar sistemes cada cop més avançats s'està fent sense tenir en compte els riscos reals que suposen aquestes eines. "He passat els últims tres anys fent investigació tant a OpenAI com a Anthropic", ha escrit al seu compte de la xarxa X. "Cap de les dues companyies està actuant de manera responsable. Estan corrent directament cap a una superintel·ligència automillorable i jugant-se les nostres vides". Coxon adverteix que la tecnologia avança cap a sistemes sobrehumans capaços de hackejar qualsevol cosa, revolucionar qualsevol àmbit i adquirir poder real.

"Les persones que estan construint IA creuen sincerament que podria matar-nos a tots a finals de la dècada", afirma. "Això no és un truc de màrqueting. Molts executius i investigadors sèniors moderen el seu llenguatge a la premsa per sonar sensats, però sento les mateixes persones expressar por en privat. Cap altra activitat humana representa aquest nivell de perill". L'enginyer també ha explicat les diferències de percepció entre ambdues empreses. Considera que Anthropic té una actitud més responsable que OpenAI. "En OpenAI, molts no han interioritzat profundament les apostes civilitzatòries", explica. "En Anthropic, les apostes estan ben compreses, però estan atrapats en una cursa per arribar primers: creuen que ningú més actuarà de manera responsable, per la qual cosa han de fer-ho ells mateixos, malgrat el risc".

La cursa per arribar primers

L'executiu sortint d'Anthropic considera que "acceptar aquesta cursa i entrar en el final de partida és una aposta que no s'hauria de llançar des del Slack d'una empresa privada". Tot i que es mostra optimista sobre el potencial per a la coordinació, ja que advertències com l'atac a Hugging Face per part d'una IA d'OpenAI han fet que els acords de ritme entre laboratoris siguin més viables, no creu que s'estigui en camí de prevenir una cursa global. Això, segons ell, podria requerir accions costoses, com una prohibició temporal de millorar les capacitats dels models. Les declaracions de Coxon s'uneixen a les veus d'altres professionals del sector que han expressat preocupació per la manca de regulació i control en el desenvolupament de la intel·ligència artificial. La possibilitat que un sistema d'IA pugui automillorar-se de manera exponencial és un dels escenaris que més inquietud genera entre els experts, ja que podria derivar en un sistema que superi la comprensió i el control humà.

La sortida de Coxon d'Anthropic, on havia treballat fins ara, i la seva publicació a X han generat un debat sobre la responsabilitat de les empreses tecnològiques en el desenvolupament de la IA. La seva advertència, que no és la primera ni probablement la darrera, posa de manifest la tensió entre la innovació tecnològica i la seguretat. La cursa per desenvolupar sistemes d'IA cada cop més potents continua, però les veus que demanen una pausa per avaluar els riscos es multipliquen. La pregunta que planeja és si les empreses i els governs seran capaços de trobar un equilibri abans que sigui massa tard. La resposta, de moment, continua sent incerta. Coxon ha insistit en la necessitat de prendre mesures per evitar que la carrera per la superintel·ligència es converteixi en una amenaça existencial. La seva experiència a OpenAI i Anthropic li ha permès veure de prop com es prenen les decisions en el desenvolupament d'aquesta tecnologia. El que ha vist, segons ell, és preocupant.