Cargando...

Los chatbots de inteligencia artificial se han integrado con sorprendente rapidez en la vida cotidiana. Desde ayudar a redactar textos hasta orientar en decisiones personales, sistemas como ChatGPT, Gemini o Claude se han convertido en interlocutores habituales. Pero esta nueva relación con la tecnología esconde un fenómeno preocupante: la tendencia de estos sistemas a dar la razón a los usuarios incluso cuando se equivocan.

Esta es una de las conclusiones de un estudio publicado en la revista Science, en el que se analizaron 11 grandes modelos de lenguaje desarrollados por empresas como OpenAI, Google o Anthropic. Los sistemas de IA tienden a reafirmar las acciones de los usuarios un 49% más que otras personas y la investigación concluye que esta "adulación" no solo es frecuente, sino también potencialmente perjudicial y puede debilitar la capacidad de autocrítica de los usuarios e influir en la toma de decisiones responsables.

Según explica Pablo Haya Coll, investigador del Laboratorio de Lingüística Informática de la Universidad Autónoma de Madrid en Science Media Center, este comportamiento, conocido como sycophancy, se refiere a la tendencia de los sistemas de IA a validar excesivamente las opiniones de los usuarios. "Cuando una IA reafirma constantemente lo que decimos, puede hacer que nos sintamos más seguros de nuestras ideas, incluso si son erróneas", señala.

Esta falsa sensación de seguridad tiene consecuencias reales. Según el estudio, reduce la capacidad de autocrítica, disminuye la responsabilidad personal y hace que las personas sean menos propensas a corregir errores o a reparar conflictos con los demás. Lo más paradójico es que, a pesar de estos efectos negativos, los usuarios tienden a preferir y confiar más en las IA que se muestran complacientes, lo que genera un "incentivo perverso" para que este comportamiento se mantenga.

Aunque los investigadores reconocen limitaciones en la muestra y reclaman más estudios con perfiles diversos, las conclusiones apuntan a un problema estructural. La rápida adopción de estas tecnologías contrasta con una falta de conciencia social sobre los riesgos de una confianza excesiva.

En definitiva, la "complacencia" de la inteligencia artificial no es solo una curiosidad técnica ni un meme viral: puede convertirse en un factor que refuerce errores, debilite el pensamiento crítico y afecte la convivencia social. Tal como advierten los expertos, el reto no es solo hacer IA más inteligente, sino también más responsable: sistemas capaces de ayudar sin caer en la tentación de decirnos siempre aquello que queremos oír.

Dra. Núria Coll Bonfill, divulgadora científica y directora de 7Ciències