Una anàlisi publicada pel New York Times posa en evidència els errors que podria tenir la IA de Google en les cerques. L'eina anomenada AI Overviews tindria una quantitat d'errors impressionant, a tal grau que 1 de cada 10 respostes tindria informació incorrecta. És una realitat pràcticament que tots els usuaris hi estan subjectes; és una cosa que s'inicia en automàtic en fer qualsevol cerca a l'ordinador o mòbil.
El pitjor és que va ser una plataforma l'encarregada d'avaluar l'eina de Google. Oumi es dedica a crear, entrenar i avaluar models d'IA personalitzats, per la qual cosa els resultats són contundents. Hi haurà Google de fer els ajustos corresponents?
Google és el motor de cerca més usat al món, no es pot permetre el luxe de donar informació errònia
És una dada que podria ser sorprenent si la posem en un context de la quantitat que es fa servir diàriament; estem parlant que és el motor més utilitzat i que pràcticament tothom hi recorre. Es parla de fins a cinc bilions de consultes que es processen durant tot un any; les respostes errònies podrien ser de fins a 57 milions per hora, 1 milió per minut. La IA de Google està caient en l'error de les al·lucinacions. En aquests termes, significa que, en lloc de trobar la resposta, la IA s'encarrega de divagar i donar una resposta inventada. El que és pitjor és que aquesta resposta és tan poc fonamentada com qualsevol altra que podria ser encertada; no hi ha diferenciació en el to emprat.
Existeixen altres detalls dels resums de Google. Els usuaris podrien enfrontar-se a dobles respostes a una mateixa pregunta en qüestió de segons. Pot ser que el plantejament de la pregunta sigui diferent, però en essència la resposta hauria de ser la mateixa. En alguns casos, Google envia l'enllaç que conté la resposta correcta i amb aquesta informació no és capaç de generar la resposta, sinó d'oferir informació errònia.
Del costat contrari, succeeix que els enllaços de Google i el contingut del lloc web original que suposadament conté la resposta no té res a veure amb la pregunta. En aquest cas, és una cruïlla de la qual l'usuari ha de buscar la mateixa resposta sense fer cas a la IA. Google haurà de posar atenció a aquest problema i redefinir la manera en què AI Overviews fa la seva feina. El pitjor és que hi ha moltes persones que no saben que això succeeix i que es queden confiades en el que està fent el motor de cerca amb la IA. N'hi ha prou amb assenyalar una prova del que va fer la BBC en publicar una notícia falsa: el cercador la va prendre com a referència de seguida, sense refutar-la ni ignorar-la com a font. Ves amb molt de compte quan la utilitzis la pròxima vegada.