Europa avanza en la regulación de la inteligencia artificial. El AI Act es el primer marco jurídico sobre inteligencia artificial, que aborda los riesgos de la IA y posiciona a Europa para desempeñar un papel de liderazgo a nivel mundial. Sin embargo, aunque este marco legal defina qué cosas no debe hacer la IA, todavía presenta algunos vacíos. Hoy, gran parte de lo que vemos pasa por algoritmos.

Como, por ejemplo, redes sociales que priorizan contenidos o plataformas que recomiendan historias en función de su capacidad de captar atención. En un entorno como este, las causas sociales compiten en un terreno de desigualdades, ya que no todas son igual de visibles ni emocionantes a simple vista. Es por este motivo que algunos problemas encuentran más altavoz que otros. Las causas que generan impacto inmediato tienen mucha más visibilidad, mientras que otras, quizás más difíciles de explicar, quedan fuera del radar. 

En gran medida, esto es simplemente una consecuencia lógica de cómo funciona la economía de la atención cuando se combina con inteligencia artificial. El AI Act pone el foco en algo clave: la transparencia, la seguridad y la protección de datos. Sin embargo, a día de hoy, no se entiende cómo estos sistemas pueden acabar influyendo en la distribución de recursos en el ámbito social.

Porque si aceptamos que la IA ordena la información que consumimos, también debemos aceptar que influye en qué nos preocupa y a qué destinamos nuestro dinero. En otras palabras, no decide por nosotros, pero sí dibuja el contexto en el que decidimos. Desde nuestra experiencia, operando en puntos de venta de establecimientos físicos y en el momento del pago de comercios online, vemos otra cara de esta realidad.




Si aceptamos que la IA ordena la información que consumimos, también debemos aceptar que influye en qué nos preocupa y a qué destinamos nuestro dinero

Allí, la decisión de donar sigue siendo un gesto no mediado por algoritmos. Es un momento breve, en el que la decisión depende, sobre todo, de la voluntad del usuario. No es un modelo perfecto, pero cada vez vemos más claro que ofrece un espacio donde la solidaridad no compite en función de su capacidad de generar clics, sino de su capacidad de interpelar, aunque sea durante unos segundos. Eso sí, no se trata de frenar la innovación ni de oponerse al uso de la IA en el tercer sector.

Al contrario: bien utilizada, puede ampliar el alcance de muchas organizaciones. Pero precisamente por eso, porque su impacto va a ser cada vez mayor, debemos anticipar también sus efectos menos visibles, como, por ejemplo, cómo se distribuye la atención y, por ende, la ayuda. En un contexto donde cada vez más decisiones pasan por sistemas inteligentes, quizá uno de los mayores retos sea precisamente este: asegurar que la solidaridad no quede completamente determinada por ellos.