En las últimas décadas, la digitalización ha transformado profundamente el funcionamiento de nuestras sociedades. Pero es con la irrupción masiva de la inteligencia artificial que comenzamos a asistir a un fenómeno más profundo: el reemplazo silencioso de decisiones humanas por decisiones algorítmicas en sectores clave como la justicia, la migración, la seguridad social o la vigilancia pública. Este nuevo orden automatizado, sin control público ni responsabilidad democrática, ha sido llamado “algocracia”. Si vamos un paso más, la algocracia será no solo la toma de decisiones, sino también, el gobierno absoluto de los algoritmos.
Los límites éticos
En contextos como la gestión de fronteras, la predicción del comportamiento delictivo o la asignación de ayudas estatales, los algoritmos ya están definiendo quién tiene derecho a qué, sin que sus lógicas de funcionamiento sean transparentes ni auditables. Esto implica un serio riesgo para los derechos fundamentales: sistemas opacos deciden sobre la vida de personas sin posibilidad de apelación, sin supervisión adecuada y sin garantías suficientes contra el sesgo y la discriminación. Automatizar decisiones en el ámbito público sin mecanismos de rendición de cuentas equivale, en términos prácticos, a subcontratar los derechos humanos a sistemas que carecen de empatía, juicio y contexto.
Es urgente, entonces, avanzar hacia una gobernanza algorítmica responsable, donde toda IA aplicada al sector público esté sujeta a principios de legalidad, proporcionalidad, transparencia, evaluación de impacto en derechos humanos, y supervisión efectiva. No se trata de rechazar la tecnología, sino de asegurarse de que el progreso tecnológico no degrade las bases mismas de nuestras democracias.
IA, inclusión y el futuro del trabajo
Pero el debate sobre la IA y los derechos humanos no se limita al control de la vigilancia automatizada. También es esencial abordar el impacto de la inteligencia artificial en el futuro del trabajo, en particular su potencial para reducir desigualdades, facilitar la inclusión y ampliar las oportunidades de participación en el mercado laboral.
La IA, bien diseñada y aplicada, puede ser una aliada poderosa para derribar barreras estructurales que enfrentan las personas con discapacidad. Como detalla el grupo Garantía de inclusión y accesibilidad de IA en entornos laborales del proyecto “cAIre” de OdiseIA con apoyo de Google.org, existen ya numerosas tecnologías que mejoran radicalmente la autonomía, comunicación y movilidad de las personas con diversidad funcional: desde sistemas de lectura de labios y transcripción instantánea de conversaciones (como DeepMind, Ava, Hablalo o Rogervoice), hasta asistentes de navegación para personas con discapacidad visual (Seeing AI, OrCam, Wheelmap o Evelity), pasando por prótesis biónicas, brazos robóticos adaptativos y aplicaciones móviles que hacen accesibles espacios físicos complejos.
Estas innovaciones no solo mejoran la vida diaria, sino que abren la puerta a nuevas formas de participación laboral. IBM ha desarrollado asistentes conversacionales adaptados para crear entornos laborales más inclusivos. Microsoft y Fundación ONCE han impulsado el proyecto GOSSA, que utiliza IA y gamificación para evaluar habilidades blandas de personas con discapacidad durante procesos de selección, en condiciones accesibles e igualitarias. En paralelo, empresas como Unilever utilizan IA para detectar sesgos inconscientes en la toma de decisiones, promoviendo una cultura de inclusión transversal. Todo ello demuestra que la IA no solo puede eliminar barreras, sino también crear condiciones más justas, diversas y equitativas en el entorno laboral.
Todos estos desarrollos, en la medida que sean auditados y supervisados de manera permanente para identificar sesgos algorítmicos o alucinaciones, representan un claro ejemplo de uso de la IA como aliada para la inclusión. En esta área, el acceso al trabajo es central: otorga independencia, autoestima, identidad y estructura social. Si el 90% de los trabajos del futuro requerirán habilidades digitales —como señala la Organización Internacional del Trabajo—, entonces es fundamental garantizar que esas competencias y herramientas sean accesibles desde el diseño. Invertir en tecnologías inclusivas no es solo un imperativo ético: es una apuesta por el crecimiento sostenible, la innovación y la justicia social.
Cómo gobernar la IA con ética e inclusión
La inteligencia artificial nos enfrenta a un doble desafío: evitar que se convierta en un instrumento de exclusión, y aprovechar su potencial para democratizar oportunidades. En otras palabras, debemos impedir que la algocracia erosione nuestras garantías fundamentales y, al mismo tiempo, impulsar una IA inclusiva que potencie el derecho al trabajo y a la dignidad para todas las personas, especialmente aquellas históricamente marginadas.
La clave está en diseñar sistemas con enfoque de derechos, donde la diversidad sea valorada, la accesibilidad garantizada, y la tecnología esté al servicio de la justicia. La IA no debe ser una caja negra que decide por nosotros, sino una herramienta construida colectivamente, con ética, empatía y responsabilidad. El futuro del trabajo será algorítmico, sí. Pero también puede ser humano, justo e inclusivo. Depende de cómo decidamos gobernar hoy las tecnologías que modelarán el mañana.