Tenint com a aparador el podcast del Fòrum Econòmic Mundial anomenat Ràdio Davos, Yoshua Bengio, que ha estat catalogat com un dels pares de la IA, s'ha pronunciat al respecte de la IA i és una cosa que simplement no podem deixar passar. La IA ja està a un nivell massa gran, a tal punt que ja menteix, hackeja equips i fa xantatge a les persones.
El que és estrany és la manera en què recauen aquestes declaracions, ja que no hi ha gaires aclariments, ni dades, noms o xifres relacionades. L'únic que es demana és que pugui ensinistrar-se abans que pugui ser massa tard.
La IA està sorprenent per malament; Yoshua Bengio exigeix que se li posi un alt
Un dels assessors en ètica d'intel·ligència artificial, Reid Blackman, s'ha pronunciat citant el mateix Bengio respecte a la preocupació en comú sobre la IA. Estan d'acord que, si els models d'IA són més complexos, hi ha una major superfície de risc, cosa que és un problema, ja que sembla que cap de les dues espera que cap regulació les pugui assolir.
Tornant al podcast on va participar Bengio, és clar que es pronuncia i no per prohibir aquesta tecnologia ni molt menys frenar-la pel que fa al desenvolupament. El que es demana és molt clar: posar-li un alt, però ensinistrant aquesta tecnologia abans que el seu creixement pugui ser inevitable sense control. Ja és una cosa molt popular; moltes veus autoritzades s'han pronunciat actualment i fins i tot en el passat; només cal recordar el que deia Stephen Hawking en el seu moment.
El que molts hauríem d'advocar respecte al tema és que la qüestió regulatòria hauria d'avançar molt més ràpid del que actualment està. Sembla que l'avanç tecnològic és prioritat abans que la regulació. A Europa, s'està aplicant la AI Act, però de forma progressiva i lenta, ja que encara no agafa volada. Als Estats Units, dependrà de cada administració i de cadascun dels acords vinculants que de moment no estan florint.
Existeix una metàfora que va exposar per poder expressar la preocupació que té amb la IA i és la del tigre cadell que finalment devora el seu amo si no se li ensenyen els límits mentre és petit. En aquest cas, la IA està en una de les seves millors etapes, però encara està en auge, tenint un potencial de creixement brutal. Si ens adonem, les marques de tecnologia segueixen entrenant els seus models, de tal manera que lliuren els seus millors avenços conforme el pas del temps. Per posar un exemple, Gemini i ChatGPT estan avançant amb noves versions dels seus sistemes cada cert temps i ho fan amb la finalitat que els usuaris notin aquestes millores pel seu pagament de subscripció. En el paper de l'usuari, està en el seu poder usar les eines de manera responsable. En el paper de les empreses i fabricants està el posar-los els seus respectius límits.