En les últimes dècades, la digitalització ha transformat profundament el funcionament de les nostres societats. Però és amb la irrupció massiva de la intel·ligència artificial que comencem a assistir a un fenomen més profund: el reemplaçament silenciós de decisions humanes per decisions algorítmiques en sectors clau com la justícia, la migració, la seguretat social o la vigilància pública. Aquest nou ordre automatitzat, sense control públic ni responsabilitat democràtica, ha estat anomenat "algocràcia". Si anem un pas més, l'algocràcia serà no només la presa de decisions, sinó també, el govern absolut dels algoritmes.
Els límits ètics
En contextos com la gestió de fronteres, la predicció del comportament delictiu o l'assignació d'ajuts estatals, els algoritmes ja estan definint qui té dret a què, sense que les seves lògiques de funcionament siguin transparents ni auditables. Això implica un seriós risc per als drets fonamentals: sistemes opacs decideixen sobre la vida de persones sense possibilitat d'apel·lació, sense supervisió adequada i sense prou garanties contra el biaix i la discriminació. Automatitzar decisions en l'àmbit públic sense mecanismes de rendició de comptes equival, en termes pràctics, a subcontractar els drets humans a sistemes que manquen d'empatia, judici i context.
És urgent, llavors, avançar cap a una governança algorítmica responsable, on tota IA aplicada al sector públic estigui subjecta a començaments de legalitat, proporcionalitat, transparència, avaluació d'impacte en drets humans, i supervisió efectiva. No es tracta de rebutjar la tecnologia, sinó d'assegurar-se que el progrés tecnològic no degradi les bases mateixes de les nostres democràcies.
IA, inclusió i el futur del treball
Però el debat sobre la IA i els drets humans no es limita al control de la vigilància automatitzada. També és essencial abordar l'impacte de la intel·ligència artificial en el futur del treball, en particular el seu potencial per reduir desigualtats, facilitar la inclusió i ampliar les oportunitats de participació en el mercat laboral.
La IA, ben dissenyada i aplicada, pot ser una aliada poderosa per fer caure barreres estructurals que enfronten les persones amb discapacitat. Com detalla el grup Garantia d'inclusió i accessibilitat d'IA en entorns laborals del projecte "cAIre" de OdiseIA amb suport de Google.org, existeixen ja nombroses tecnologies que milloren radicalment l'autonomia, comunicació i mobilitat de les persones amb diversitat funcional: des de sistemes de lectura de llavis i transcripció instantània de converses (com DeepMind, Ava, Hablalo o Rogervoice), fins a assistents de navegació per a persones amb discapacitat visual (Seeing AI, OrCam, Wheelmap o Evelity), passant per pròtesis biòniques, braços robòtics adaptatius i aplicacions mòbils que fan accessibles espais físics complexos.
Aquestes innovacions no només milloren la vida diària, sinó que obren la porta a noves formes de participació laboral. IBM ha desenvolupat assistents conversacionals adaptats per crear entorns laborals més inclusius. Microsoft i Fundació ONZE han impulsat el projecte GOSSA, que utilitza IA i gamificació per avaluar habilitats toves de persones amb discapacitat durant processos de selecció, en condicions accessibles i igualitàries. En paral·lel, empreses com Unilever utilitzen IA per detectar biaixos inconscients a la presa de decisions, promovent una cultura d'inclusió transversal. Tot això demostra que la IA no només pot eliminar barreres, sinó també crear condicions més justes, diverses i equitatives en l'entorn laboral.
Tots aquests desenvolupaments, en la mesura que siguin auditats i supervisats de manera permanent per identificar biaixos algorítmics o al·lucinacions, representen un clar exemple d'ús de la IA com a aliada per a la inclusió. En aquesta àrea, l'accés al treball és central: atorga independència, autoestima, identitat i estructura social. Si el 90% dels feines del futur requeriran habilitats digitals —com assenyala l'Organització Internacional del Treball—, llavors és fonamental garantir que aquestes competències i eines siguin accessibles des del disseny. Invertir en tecnologies inclusives no és només un imperatiu ètic: és una aposta pel creixement sostenible, la innovació i la justícia social.
Com governar la IA amb ètica i inclusió
La intel·ligència artificial ens enfronta a un doble desafiament: evitar que es converteixi en un instrument d'exclusió, i aprofitar el seu potencial per democratitzar oportunitats. En altres paraules, hem d'impedir que l'algocràcia erosioni les nostres garanties fonamentals i, alhora, impulsar una IA inclusiva que potenciï el dret a la feina i a la dignitat per a totes les persones, especialment aquelles històricament marginades.
La clau està a dissenyar sistemes amb enfocament de drets, on la diversitat sigui valorada, l'accessibilitat garantida, i la tecnologia estigui al servei de la justícia. La IA no ha de ser una caixa negra que decideix per nosaltres, sinó una eina construïda col·lectivament, amb ètica, empatia i responsabilitat. El futur del treball serà algorítmic, sí. Però també pot ésser humà, just i inclusiu. Depèn de com decidim governar avui les tecnologies que modelaran el demà.