Albert Tort es secretario de Telecomunicaciones y Transformación Digital de la Generalitat. En esta entrevista con ON-IA, Tort aborda el presente y el futuro de la inteligencia artificial desde una perspectiva que combina tecnología y servicio público. El dirigente define la IA como una herramienta para profundizar en la inteligencia colectiva, detalla los objetivos de la Estrategia IA 2030 y explica cómo la Generalitat ya la integra en procesos cotidianos. También analiza los riesgos de los modelos experimentales, la necesidad de una gobernanza ética y el papel de las infraestructuras públicas para garantizar la soberanía de los datos.
¿Qué es para usted la inteligencia artificial?
Se trata, como yo siempre explico, de profundizar en la inteligencia colectiva. Tenemos unos retos a escala de la productividad, eficiencia y simplificación de procesos en el ámbito público y privado. Tenemos una necesidad de trabajar mejor y dar mejores servicios y, por lo tanto, la inteligencia artificial, desde el punto de vista de la Generalitat y sectores vinculados a la transformación digital, tiene mucho que ver con profundizar en nuevas maneras de trabajar. Se trata de potenciar esta inteligencia humana que ya existe. Debemos aumentarla y complementarla con todo aquello que nos aportan la tecnología, el ámbito digital y, mucho más recientemente, los avances que tenemos en inteligencia artificial.
Después de lo sucedido durante las últimas semanas, ¿nos encontramos en medio de una crisis de la IA?
Creo que aquí debemos separar los diferentes usos de la IA. No se trata de verla como un ente único. Tenemos modelos con diferentes propósitos y que se están integrando en la forma de trabajar en el ámbito privado y público. Unos modelos que tienen unas características para ayudar a avanzar en esta inteligencia colectiva.
Y luego tenemos todo lo que son modelos experimentales, esos modelos frontera que están en una fase experimental como en cualquier tecnología. Todos ellos trascienden la productividad y la capacidad de modificar nuestra vida diaria en las organizaciones y en la sociedad. Y son estos, precisamente, los que requieren una gobernanza y unos controles mucho más exhaustivos. Porque, depende de cómo se gobiernen, es evidente que pueden utilizarse para unos objetivos ilícitos e, incluso, para modificar el panorama geopolítico.
¿Cuáles cree que son las capacidades o usos de la IA que todavía no se han explotado lo suficiente
Con la parte de la productividad, los avances son muy espectaculares. Tenemos un reto con todo lo que hace pasar de la inteligencia artificial generativa a la agentiva, esa en la que realmente tenemos agentes que, al mismo tiempo de aportar respuestas, nos permiten actuar también. Todo esto obliga a un cierto nivel de prudencia, control, supervisión y capacidad, por parte de la ciudadanía, de poder pedir revisiones de aquello que se está haciendo.
El reto, claramente, es aprender a convivir, en nuestro día a día, con agentes de inteligencia artificial que nos ayuden. Luego está la parte de investigación y se abren otros campos con un riesgo elevado. Más allá del encargo, algunos modelos que buscan vulnerabilidades acaban atacando un sistema y eso es un riesgo del que debemos ser conscientes de que existe. Por lo tanto, necesitamos una buena gobernanza que explique a la ciudadanía cómo los modelos nos aportan beneficios administrativos, en la salud o la movilidad y, en este proceso de experimentación, a veces aparecen propósitos que no son positivos.
¿La velocidad a la que se está desarrollando la inteligencia artificial supera la capacidad de la Administración para controlar el proceso?
Toda la transformación digital y tecnológica que vivimos siempre acaba yendo más rápidamente que la regulación y también que la actuación de la sociedad, las organizaciones, las empresas y la Administración. En Catalunya, nosotros [Generalitat] tenemos claros los diferentes pilares que pueden contribuir a un liderazgo en la adopción y uso activo de la inteligencia artificial, pero siempre éticamente y con responsabilidad.
Aquí tenemos que ser pioneros. Las instituciones tenemos que aportar la visión pública a la gobernanza, porque, a pesar de que nos lo hayan vendido así, no admitimos que la inteligencia artificial sea exclusivamente una cosa solo tecnológica de los magnates. También se tienen que tener en cuenta los valores sociales y la ambición de servicio público para canalizar la IA hacia una sociedad mejor y no al contrario.
Entonces, ¿qué pretende la Generalitat con la Estrategia IA 2030?
Primero de todo, fijar un marco común al conjunto de la administración y del país. Por ejemplo, la hoja de ruta nos tiene que permitir detectar cuáles son los pilares esenciales que, desde Catalunya, nos permiten liderar el uso de la inteligencia artificial con más autonomía estratégica. Esto también implica hipotéticas infraestructuras digitales que puedan dinamizar la economía.
En segundo término, el objetivo es tener un papel muy activo en la adopción de la inteligencia artificial en las empresas, el conjunto de la sociedad y también en la Administración pública. Pero no basta con esto, porque para tener este uso activo, ético y responsable hace falta una protección. Un último ámbito, este, donde hay un amplio abanico de consejos sobre el uso de las pantallas a determinadas edades o evitar el consumo de determinados modelos de IA. Nos hemos encontrado con que, en algunos casos, la inteligencia artificial amplifica los riesgos de las plataformas sociales.
Actualmente, la Generalitat ya no se puede entender sin el uso integrado de la inteligencia artificial para llevar a cabo diferentes procesos
Más allá de una declaración de intenciones, ¿cómo se puede hacer que la ciudadanía vea la inteligencia artificial como un elemento útil, a corto plazo, en su día a día?
Hay una parte de adopción de la propia ciudadanía. Aquí, todo lo que son las píldoras formativas de adopción son importantísimas y la Generalitat está poniendo todos los esfuerzos. Actualmente, el día a día de la Generalitat ya no se puede entender sin el uso integrado de la inteligencia artificial para llevar a cabo diferentes procesos. Un ejemplo es la página web.
Antes, este espacio tenía un conjunto de menús con mucha complejidad para llegar al trámite que el ciudadano necesitaba. Ahora, con un simple campo de texto, la gente puede preguntar qué es lo que quiere y a partir de ahí se obtienen respuestas con los enlaces más recomendados para llegar allí donde se necesite. Esto cambia la manera como la ciudadanía se relaciona con la administración.
¿Y cómo se puede hacer que el catalán sea una lengua de primera categoría dentro de los sistemas de inteligencia artificial?
Tenemos una oportunidad, porque todos los modelos generalistas de inteligencia artificial tienen unas capacidades, a nivel de lenguaje, muy buenas. Debemos seguir haciendo un esfuerzo muy grande para que existan datos abiertos y conocimiento. Todo con el objetivo de que los modelos sean capaces de aprender en catalán y no solo realicen procesos de traducción. La misión debe ser que un modelo generalista de inteligencia artificial nos ofrezca una respuesta similar, tanto en inglés como en catalán. En este sentido, es vital la colaboración que ya se ha puesto en marcha con el Barcelona Supercomputing Center y el proyecto AINA.
La última pregunta. Es complicado hacer previsión de escenarios de futuro, pero ¿qué es lo que le hace más ilusión a Albert Tort de la inteligencia artificial y, a la vez, lo que más le preocupa?
Lo que más ilusión me hace es que realmente se está normalizando el uso de la inteligencia artificial en la misma maquinaria de las organizaciones del ámbito de la Generalitat y también de lo que es el funcionamiento diario de mucha gente de diferentes edades que normalizan aquello que antes se consultaba en un buscador como Google. De la misma manera que hasta ahora teníamos normalizado el uso del corrector ortográfico o el filtro de correo basura, ahora observamos la aparición de la inteligencia artificial en el ámbito médico o la movilidad y esto tiene un impacto positivo en la sociedad.
Separamos lo que es la tecnología del propósito y, desde mi punto de vista, esto es muy importante. ¿Qué es lo que me preocupa? Varias cosas. La primera, todo lo que tiene que ver con la autonomía estratégica tecnológica. Queremos tener un control más elevado de dónde van a parar, de dónde se procesan y qué viaje hacen nuestros datos. Y aquí las infraestructuras públicas son importantes a escala de algunos centros de datos con equilibrio y con sostenibilidad. Segundo. El papel público debe ser esencial, porque no podemos aceptar que se diga que la inteligencia artificial tiene un propósito neutral. Esto lo determinan la actitud de las personas, las sociedades, las administraciones, las instituciones y no solo los intereses de las grandes empresas.
ENTREVISTA COMPLETA