La gran pregunta sobre la inteligencia artificial ha sido durante décadas hasta dónde podían llegar a hacer las máquinas. La cuestión de la próxima década es diferente. ¿Qué está haciendo la IA con nosotros?
Hasta hace poco, la relación con los sistemas digitales era principalmente instrumental. Se introducía una instrucción, se ejecutaba una tarea y se obtenía un resultado. Actualmente, la irrupción de la IA, y en especial la generativa, está modificando esa lógica. Ya no nos limitamos a utilizar herramientas, sino que conversamos con ellas, les pedimos consejo, delegamos procesos, exploramos ideas y recurrimos a ellas para aprender, crear o tomar decisiones.
La IA empieza así a actuar como interlocutor y asistente cognitivo. No significa que piense o decida como una persona, sino que interviene de manera cada vez más directa en actividades que forman parte del razonamiento humano. El reto deja de estar únicamente en lo que la máquina es capaz de hacer y está virando hacia la relación que construimos con ella.
El cambio puede parecer gradual, pero transforma profundamente la naturaleza de la relación entre personas y tecnología. Por ello, el concepto de IA de confianza necesita evolucionar. La investigación en IA responsable se ha centrado, con razón, en cuestiones como la robustez, la explicabilidad, la privacidad, la transparencia o la mitigación de sesgos. Todas ellas continúan siendo indispensables. Un sistema que no funciona de forma fiable, que no permite comprender mínimamente sus resultados o que produce efectos discriminatorios, difícilmente puede considerarse digno de confianza.
Pero estas propiedades técnicas ya no son suficientes para describir el problema completo. La confianza también afecta a la información que recibimos y a nuestra capacidad para valorar su autenticidad. La generación de contenidos sintéticos cada vez más realistas cuestiona las nociones tradicionales de autoría, evidencia y legitimidad. Verificar la procedencia de la información, contextualizarla y preservar la credibilidad del conocimiento se ha convertido en una necesidad estratégica para la ciencia, las empresas, las instituciones y la sociedad en su conjunto.
Sin embargo, existe una dimensión todavía menos explorada. La confianza no depende únicamente de las características del sistema, sino también de la calidad de la interacción que la IA establece con las personas. Sabemos medir la precisión de un modelo. Podemos evaluar su rendimiento, su velocidad, su capacidad de generalización o su eficiencia computacional. Disponemos, además, de metodologías cada vez más maduras para analizar su robustez o detectar determinados sesgos. En cambio, apenas empezamos a formular preguntas sistemáticas sobre cómo la interacción continuada con estos sistemas puede influir en nuestras propias capacidades de razonamiento y decisión.
La personalización constituye un buen ejemplo. Gran parte de la economía digital se ha construido sobre la posibilidad de anticipar los intereses de cada usuario. Plataformas de contenidos, redes sociales, buscadores y comercios electrónicos seleccionan qué información, productos o propuestas muestran a cada persona. Esta selección resulta útil, puesto que reduce la sobrecarga informativa, facilita el descubrimiento y permite adaptar los servicios a necesidades concretas. La actual IA generativa lleva esta lógica un paso más allá. Ya no se limita a clasificar o recomendar contenidos, sino que puede interpretar el contexto, conversar, reformular alternativas y producir respuestas específicas para cada usuario. Su capacidad para personalizar la interacción es mucho mayor.
La cuestión no es, por tanto, si la personalización es positiva o negativa. Planteada así, la pregunta sería demasiado simple. El verdadero reto consiste en determinar qué tipo de personalización interesa diseñar. Y en este interés intervienen no pocos factores, ya que la interacción nunca es neutral. La interacción está orientada por los objetivos que el sistema ha sido diseñado para optimizar y esos objetivos influyen en la información que recibimos, las alternativas que consideramos y los comportamientos que reforzamos.
¿Debe un algoritmo intentar acertar siempre con aquello que ya sabemos que nos gusta? ¿O debería introducir también perspectivas inesperadas, alternativas menos evidentes y espacios para la exploración? ¿Interesa maximizar únicamente la satisfacción inmediata o preservar también la posibilidad de descubrir aquello que todavía no forma parte de nuestras preferencias? ¿Deben las recomendaciones maximizar el bien individual o el bien social colectivo? Estas preguntas no pertenecen exclusivamente a la filosofía o a la ética. También deben abordarse desde el ámbito científico-tecnológico.
Es necesario estudiar, por ejemplo, si existe un equilibrio óptimo entre relevancia y diversidad; analizar cómo cambia la conducta de exploración de los usuarios ante distintos sistemas de recomendación, o evaluar si determinadas formas de interacción amplían o reducen la variedad de información considerada antes de tomar una decisión. También es necesario investigar cómo influyen los sistemas personalizados en la evolución de las preferencias a lo largo del tiempo. No se trata de afirmar que la hiperpersonalización esté reduciendo necesariamente la autonomía, la creatividad o la diversidad cultural. Hoy no existe una respuesta general que permita sostenerlo. Se trata de reconocer que, dada la escala y la intensidad de estas interacciones, su impacto merece ser investigado con el mismo rigor con el que se estudian otras propiedades de la IA.
La creatividad plantea interrogantes similares, pues los sistemas generativos pueden producir textos, imágenes, música o diseños técnicamente sofisticados. También pueden ampliar el acceso a herramientas creativas y facilitar que más personas materialicen sus ideas. Pero los modelos aprenden, por definición, a partir de grandes cantidades de contenido existente y generan resultados apoyándose en regularidades estadísticas.
Conviene preguntarse qué ocurre cuando una parte creciente de la producción cultural se basa en sistemas entrenados sobre patrones previos y optimizados para satisfacer preferencias conocidas. ¿Favorecerán una mayor diversidad creativa al reducir las barreras de entrada? ¿O tenderán a reforzar estilos, estructuras y soluciones que ya han demostrado ser aceptadas? ¿Aparecerá una forma de perfección promedio, producciones técnicamente impecables, inmediatamente reconocibles, pero progresivamente menos singulares? En resumen, ¿cómo afectará al proceso creativo y cuál será nuestra apreciación de esta nueva forma de creación?
No hay una respuesta única ni predeterminada. Precisamente por eso resulta necesario abordar la cuestión evitando tanto el alarmismo como el entusiasmo acrítico.
La historia de la innovación muestra que la creatividad no depende únicamente de la capacidad de producir resultados correctos. También necesita fricción, sorpresa, contradicción, error y encuentros inesperados. Si los sistemas inteligentes intervienen cada vez más en los procesos de búsqueda, selección y creación, el diseño de esas interacciones debería considerar no solo la eficiencia, sino también su capacidad para mantener abiertos esos espacios. Esta perspectiva amplía el significado de una inteligencia artificial centrada en las personas. No basta con minimizar daños o cumplir requisitos normativos. También es necesario orientar el desarrollo tecnológico hacia el progreso humano y preguntarse qué capacidades se pretende preservar, o incluso reforzar, mediante su adopción.
La autonomía, en este sentido, no significa rechazar la asistencia algorítmica ni reservar todas las decisiones a las personas. Significa conservar la capacidad de comprender las alternativas relevantes, contrastar perspectivas, modificar las propias preferencias y decidir con un criterio que no haya sido delimitado de manera invisible por una IA.
Por eso, la siguiente frontera de la IA de confianza puede consistir en evaluar no solo el rendimiento de los modelos, sino también el rendimiento de la relación entre modelos y personas. Junto a métricas de precisión, robustez o eficiencia, será necesario explorar indicadores que permitan estudiar la diversidad de información considerada, la capacidad de descubrimiento del usuario, la evolución de las preferencias o el mantenimiento del juicio crítico. No para reducir la complejidad humana a una cifra, sino para disponer de evidencias que permitan diseñar mejores sistemas.
Esta nueva frontera plantea una agenda científica exigente. Comprender cómo la IA influye en nuestra autonomía, creatividad y capacidad de decisión obliga a incorporar también ciencias sociales, psicología cognitiva, ética en cada punto del diseño. También exige trabajar fuera del laboratorio. Sus efectos solo pueden evaluarse plenamente allí donde la tecnología se incorpora a procesos reales, interactúa de forma continuada con las personas y transforma prácticas profesionales, organizativas y sociales.
Convertir esta agenda en conocimiento aplicable requiere, por tanto, de espacios capaces de conectar investigación avanzada, desarrollo tecnológico y experimentación en entornos reales. Durante décadas hemos medido el progreso de la IA observando lo que las máquinas eran capaces de hacer. Ha llegado el momento de repensar también cómo su presencia transforma la manera en que las personas aprenden, descubren, crean y deciden. La confianza ya no puede entenderse únicamente como una propiedad del algoritmo. Debe ser también una propiedad de la relación que construimos con él.
- Gabriel Anzaldi, director de Ecosistemas de Eurecat
- Rafael Redondo, director de la Unidad de Tecnologías Multimedia de Eurecat
- Lali Soler, directora del Área Digital de Eurecat