Europa avança en la regulació de la intel·ligència artificial. L'AI Act és el primer marc jurídic sobre intel·ligència artificial, que aborda els riscos de la IA i posiciona Europa per a exercir un paper de lideratge a escala mundial. Tanmateix, encara que aquest marc legal defineixi quines coses no ha de fer la IA, encara presenta alguns buits. Avui, gran part del que veiem passa per algorismes.

Com, per exemple, xarxes socials que prioritzen continguts o plataformes que recomanen històries en funció de la seva capacitat de captar atenció. En un entorn com aquest, les causes socials competeixen en un terreny de desigualtats, ja que no totes són igual de visibles ni emocionants a primera vista. És per aquest motiu que alguns problemes troben més altaveu que altres. Les causes que generen impacte immediat tenen molta més visibilitat, mentre que altres, potser més difícils d'explicar, queden fora del radar. 

En gran mesura, això és simplement una conseqüència lògica de com funciona l'economia de l'atenció quan es combina amb intel·ligència artificial. L'AI Act posa el focus en una cosa clau: la transparència, la seguretat i la protecció de dades. Tanmateix, a dia d'avui, no s'entén com aquests sistemes poden acabar influint en la distribució de recursos en l'àmbit social.

Perquè si acceptem que la IA ordena la informació que consumim, també hem d'acceptar que influeix en què ens preocupa i a què destinem els nostres diners. En altres paraules, no decideix per nosaltres, però sí dibuixa el context en què decidim. Des de la nostra experiència, operant en punts de venda d'establiments físics i en el moment del pagament de comerços en línia, veiem una altra cara d'aquesta realitat.




Si acceptem que la IA ordena la informació que consumim, també hem d'acceptar que influeix en què ens preocupa i a què destinem els nostres diners

Allí, la decisió de donar continua sent un gest no mediat per algorismes. És un moment breu, en què la decisió depèn, sobretot, de la voluntat de l'usuari. No és un model perfecte, però cada vegada veiem més clar que ofereix un espai on la solidaritat no competeix en funció de la seva capacitat de generar clics, sinó de la seva capacitat d'interpel·lar, encara que sigui durant uns segons. Això sí, no es tracta de frenar la innovació ni d'oposar-se a l'ús de la IA en el tercer sector.

Al contrari: ben utilitzada, pot ampliar l'abast de moltes organitzacions. Però precisament per això, perquè el seu impacte serà cada vegada més gran, hem d'anticipar també els seus efectes menys visibles, com, per exemple, com es distribueix l'atenció i, per tant, l'ajuda. En un context on cada vegada més decisions passen per sistemes intel·ligents, potser un dels reptes més grans sigui precisament aquest: assegurar que la solidaritat no quedi completament determinada per ells.