Un análisis publicado por el New York Times pone en evidencia los errores que podría tener la IA de Google en las búsquedas. La herramienta denominada AI Overviews tendría una cantidad de errores impresionante, a tal grado que 1 de cada 10 respuestas tendría información incorrecta. Es una realidad prácticamente que todos los usuarios están sujetos a ella; es algo que inicia en automático al hacer cualquier búsqueda en el ordenador o móvil.
Lo peor es que fue una plataforma la encargada de evaluar a la herramienta de Google. Oumi se dedica a crear, entrenar y evaluar modelos de IA personalizados, por lo que los resultados son contundentes. ¿Google tendrá que hacer ajustes correspondientes?
Google es el motor de búsqueda más usado en el mundo, no puede darse el lujo de dar información errónea
Es un dato que podría ser sorprendente si lo ponemos en un contexto de la cantidad que se usa diariamente; estamos hablando de que es el motor más utilizado y que prácticamente todo el mundo recurre a él. Se habla de hasta cinco billones de consultas que se procesan durante todo un año; las respuestas erróneas podrían ser de hasta 57 millones por hora, 1 millón por minuto. La IA de Google está cayendo en el error de las alucinaciones. En estos términos, significa que, en lugar de encontrar la respuesta, la IA se encarga de divagar y dar una respuesta inventada. Lo que es peor es que esta respuesta es tan suelta como cualquier otra que podría ser acertada; no hay diferenciación en el tono empleado.
Existen otros detalles de los resúmenes de Google. Los usuarios podrían enfrentarse a dobles respuestas a una misma pregunta en cuestión de segundos. Puede que el planteamiento de la pregunta sea diferente, pero en esencia la respuesta debería ser la misma. En algunos casos, Google envía el enlace que contiene la respuesta correcta y con esa información no es capaz de generar la respuesta, sino de ofrecer información errónea.
Del lado contrario, sucede que los enlaces de Google y el contenido del sitio web original que supuestamente contiene la respuesta no tiene nada que ver con la pregunta. En este caso, es una encrucijada de la cual el usuario debe buscar la propia respuesta sin hacerle caso a la IA. Google deberá poner atención a este problema y redefinir la forma en la que AI Overviews hace su trabajo. Lo peor es que hay muchas personas que no saben que esto sucede y que se quedan confiadas con lo que está haciendo el motor de búsqueda con la IA. Basta con señalar una prueba de lo que hizo la BBC al publicar una noticia falsa: el buscador la tomó como referencia de inmediato, sin refutarla ni ignorarla como fuente. Ten mucho cuidado cuando la utilices la próxima vez.