La inteligencia artificial avanza a un ritmo vertiginoso y ya forma parte de muchos ámbitos de nuestra vida, pero también plantea retos que a menudo pasan desapercibidos. Para la consultora Virgínia Carreras, especialista en igualdad y sesgos de género, el desarrollo de esta tecnología debe ir acompañado de conciencia, formación y una mirada interseccional que permita identificar y corregir las discriminaciones que los algoritmos pueden reproducir. Carreras alerta en esta entrevista en ON-IA de que la inteligencia artificial aprende de grandes volúmenes de datos que no siempre son neutrales y defiende que las personas deben estar en el centro de las decisiones.
¿Qué es para usted la inteligencia artificial?
Para mí, la IA, resumiendo mucho, no deja de ser estadística, patrones y predicciones con un gran volumen de datos y de los cuales, esta tecnología se entrena y aprende. Por lo tanto, eso de que razona o piensa, yo más bien digo que calcula qué respuesta es la más adecuada o la más coherente en función de todos aquellos datos de los cuales ha aprendido.
¿Cuál es su relación cotidiana y profesional con la tecnología?
En la cotidiana, en el día a día no profesional, debemos ver la diferencia entre si es consciente o inconsciente, porque inconscientemente lo tenemos alrededor siempre. Lo tenemos muy integrado en plataformas como Netflix, Spotify o incluso con el desbloqueo del móvil, el reconocimiento facial y el filtro de correo malicioso. En el ámbito personal, intento no hacer un uso excesivo y soy muy cuidadosa con mis datos personales. Sí que la uso, pero para cosas muy puntuales. Ya he dejado de usar un buscador normal de Google y utilizo la inteligencia artificial, a escala profesional, para detectar fuentes fiables que me ayuden a investigar los sesgos de género en la inteligencia artificial. Ahora bien, todo esto se debe contrastar porque muchas veces te detecta informes científicos que después no se corresponden con lo que se ha visto inicialmente. Por otro lado, también utilizo la IA como asistente.
¿Plantear un buen 'prompt' es la clave para tener un uso eficiente de la IA?
Con los prompts siempre puedes hacer que una respuesta sea mejor o peor, en función de los detalles que introduzcas. Así puedes acotar más la respuesta y evitar que se invente aquella parte que tú no le has acotado.
¿Cómo se aterriza la igualdad de género en esta tecnología?
Es complicado, no nos engañemos. Normalmente, no se encuentra entre las prioridades de las estrategias empresariales de las grandes corporaciones que mueven los hilos. El primer paso es tener conciencia de la existencia de un sesgo de género y hacer muchas divulgaciones o acciones concretas. No solo podemos dar la responsabilidad al usuario de las herramientas y, a la vez, a las empresas que diseñan los modelos.
¿Cuáles son las principales problemáticas que usted detecta cuando un cliente contrata los servicios de la consultora Smart Equality?
Cuando hablas de sesgos de género de la inteligencia artificial, las caras son de qué me estás hablando. Por esta razón, insisto, hace falta formación, charlas, divulgación y concienciación. Un ejemplo es el ámbito de la selección de personal, donde la inteligencia artificial deja de lado ciertos perfiles, en el contexto de los sesgos, porque es lo que ha aprendido. Esto está contrastado. Existen evidencias científicas de que la IA aprende del gran volumen de datos y estos pueden tener sesgo. Una singularidad que discrimina a ciertos perfiles por no ser los más representativos. Entonces, muchos clientes sí que me piden cómo, con la inteligencia artificial, puedo incrementar mi productividad en torno a los procesos de selección y no crear una discriminación.
Ante una decisión discriminatoria, ¿quién se tiene que hacer responsable?
Es una gran pregunta. Si tú diseñas una herramienta que puede acabar discriminando, la responsabilidad es de quien diseña. Ahora bien, también se diseñan herramientas para un determinado uso y la gente lo acaba usando para otras cosas. Entonces, ¿de quién es la responsabilidad? Hay toda una dicotomía en la que no nos acabamos de poner de acuerdo.
¿Quizás es que la tecnología avanza más rápidamente que las normativas?
La tecnología va a la velocidad de la luz y las personas, entidades y empresas vamos por detrás. Evidentemente, todo el mundo ha adaptado la IA al día a día, pero estamos todavía lejos de este ritmo tecnológico.
Más allá de que la mujer u otras perspectivas de género puedan intervenir en la creación de los algoritmos, ¿qué se tiene que tener en cuenta para mejorar el actual contexto?
La interseccionalidad es muy importante porque no es solo y existen discriminaciones más allá de la descrita entre mujer y hombre. También se han detectado discriminaciones respecto de la raza, la etnia y la edad. El edadismo es algo que empieza a estar muy presente en la inteligencia artificial. Por todas estas razones, se debería poner mucho más a la persona en el centro de las decisiones y diseñar herramientas que tengan en cuenta las repercusiones más allá de la estrategia empresarial y la cuenta de resultados.
¿Esto que describe lo ve factible a corto plazo?
Me gustaría decirte que sí, pero no soy muy optimista porque realmente todo va a mucha velocidad y las seis o siete grandes empresas que mueven los hilos no lo tienen como una prioridad en su estrategia empresarial.
Volviendo a una visión más general de la IA en el mundo de la empresa. ¿Hay mucha distancia entre lo que una empresa cree que tiene y lo que realmente debe aplicar?
Depende mucho de la empresa, porque no se puede generalizar. Creo que falta mucha conciencia de todas las repercusiones de la inteligencia artificial. Allí donde puedas aplicarla, sea selección de personal o la medicina, la persona debe estar en el centro de todo. No somos conscientes de todo lo que hay detrás de la creación de los algoritmos.
Recientemente, han salido encuestas de diferentes actores sobre el uso de la IA y una conclusión generalizada es que el 60% de los trabajadores reconocen que utilizan la herramienta a espaldas de la empresa. ¿Falta pedagogía y protocolos para que de alguna manera el trabajador use la IA desde una perspectiva humanista?
El primer paso es asumir la realidad. La inteligencia artificial puede tener consecuencias para las personas, pero no debemos apartarla. Es mejor hacer una formación, entender cuáles son los riesgos y analizar cómo aplicarla en mi puesto de trabajo. Además, valorar también que hay ciertos límites y se debe hacer un uso ético con transparencia.
ENTREVISTA COMPLETA