Gonzalo Alonso, CEO de Ditto, advierte, durante una entrevista con ON IA, que la inteligencia artificial es la tecnología con más potencial para transformar la sociedad, pero desmiente que sea magia. Bajo el criterio del experto tecnológico, el auténtico motor son los datos y la calidad de estos es su gran preocupación, especialmente por la falta de datos legales para entrenar modelos y por la facilidad con que la IA está facilitando el fraude y la clonación de identidades.
A pesar de alertar que los grandes modelos de lenguaje todavía alucinan y no tienen capacidad creativa ni contextual humana, rechaza las teorías apocalípticas y anima a la ciudadanía a utilizar la inteligencia artificial con criterio para no "entregar la personalidad a un algoritmo". En clave de futuro, Alonso subraya que Europa, con sus leyes de privacidad, lidera el camino hacia una IA más fiable.
¿Qué es para usted la inteligencia artificial?
Se trata de la tecnología con más potencial para aumentar al ser humano que he visto en los más de treinta años que trabajo en el ámbito de la tecnología. Principalmente por el impacto que puede tener en muchas de las tareas que hoy nos toman mucho tiempo y ahora se reducen a procesos de pocos segundos. Sin embargo, este gran potencial que tiene la inteligencia artificial para optimizar los procesos, también debemos tener cuidado de entender que no es un producto del Mago de Oz, no es magia. La inteligencia artificial se basa en datos y la calidad de estos datos es lo que realmente me preocupa. Porque dependiendo de la calidad de estos datos y de cómo se hayan utilizado para entrenar los modelos actuales que conocemos podríamos obtener resultados muy diferentes de los que esperamos. Pero hoy en día es la tecnología que más potencial tiene para cambiar la forma en que trabajamos, convivimos e incluso soñamos.
Hablando de estas preocupaciones, ¿cómo cree que se puede convivir con las incertidumbres de la IA?
Mi preocupación es que no hay suficientes datos en el mundo, legales, para entrenar estos modelos en los próximos años. Y estos modelos que hemos visto ahora, los famosos LLM, hemos descubierto que son tecnologías que tienen mucha fricción y esto quiere decir que tienden a alucinar. Por ejemplo, muy fácilmente, tienden a malinterpretar datos y, por supuesto, todavía no tienen propiedades propias de un humano. No pueden ser creativos en una toma de decisión, no pueden extraer de otros datos que no estén en la web o que no estén estructuradas para alimentar su toma de decisiones. No pueden contextualizar lo que hay alrededor de aquella situación en un momento determinado para poder decir si es correcto o no. Todos estos procesos son íntimamente humanos y están en horizontes mucho más lejanos de lo que vivimos ahora. Los LLM, en mi opinión, sí que son muy poderosos y son el primer vestigio fuerte que vemos de transformación a través de la inteligencia artificial. Pero es el primero.
A pesar del factor humano que comenta, no se puede obviar el contexto actual donde los ataques informáticos, en gran parte con inteligencia artificial, están a la orden del día. ¿Realmente nos encontramos en una situación crítica?
Absolutamente crítica y la inteligencia artificial, en cuanto a la seguridad y nuestra protección de identidad, no está haciendo nada que mejore la situación. De hecho, lo que hemos encontrado es que a través de la inteligencia artificial se cometen la gran mayoría de los fraudes que tienen que ver con identidad, reproducciones falsas de pasaportes, e incluso biométrica robada. Hablamos de una tecnología que hace mucho más sencillo poder clonar muchos de los procesos con los que todavía trabajamos en el día a día. Después, los datos que alimentan estos biométricos son inconsistentes y no están basados en criptografía. Tienen como referencia muchos modelos análogos, que se han ido añadiendo a la web. Volviendo al aspecto de los datos, mi preocupación es digámoslo así, asiática. Hay zonas de Asia donde no podemos tener rigor científico de qué han utilizado para entrenar estos modelos. Tenemos que encontrar la manera para tener estos datos higiénicamente seguros. Detrás de la inteligencia artificial están en juego nuestros datos personales.
¿Y qué podemos hacer?
Por suerte en Barcelona, Catalunya y España se ha tenido un muy buen trato con la forma como se gestionan los datos. Un ejemplo es el DNI digital, pero esto no pasa en todo el mundo. Mientras todavía existan países y zonas donde se hace una recogida indiscriminada de datos personales, no será posible interoperar correctamente. En este contexto, la Unión Europea ha decidido estos mandatos de identidad y privacidad. En estos proyectos encontramos modelos de obtención de datos que se denominan zero knowledge proof o de conocimiento cero de prueba. El hecho interesante de esto es que se intenta descubrir quién eres, a través de protocolos científicos.
En medio de este triángulo Europa-Estados Unidos-Asia, ¿qué medidas se pueden impulsar para convivir de una manera fiable?
Los modelos de Europa son los más modernos que he visto en todo el mundo y lo digo con conocimiento de causa por los numerosos viajes que tengo que hacer. Tienen la capacidad de unir el mayor número de países para agrupar el problema y resolverlo. Las leyes europeas darán la vuelta al mundo, pero tampoco resolverán el problema de la interoperabilidad. El escenario de mudarse de un país a otro y con un clic tener actualizadas, por ejemplo, las carteras de identidad lo veo complicado todavía. Ahora bien, Canadá ya ha firmado los acuerdos europeos y está siguiendo la misma protección de privacidad de los datos y Brasil, que es una potencia mundial en banca y datos, se está acercando mucho a Europa. En definitiva, ellos están pensando como nosotros.
¿Se puede decir que las contraseñas tradicionales han desaparecido?
Lo que provoca la identidad digital y, en cierto modo, la inteligencia artificial, es que el tradicional nombre de usuario y contraseña ya no es una estructura segura. La razón es que hemos avanzado mucho tecnológicamente y romper una contraseña es cuestión de horas si tienes suficiente tecnología y conocimiento. Aquí en el Estado observamos cómo las diferentes bases de datos de interés para la seguridad nacional son violadas y las consecuencias de esta extracción aparecen, en pocos minutos, en los mercados negros. Me viene a la cabeza la gente mayor o los menores que entran fácilmente a ver pornografía. Hay mucha gente que necesita acceder a determinados recursos digitales, pero todavía no sabe hacerlo correctamente y así se originan según qué situaciones complicadas.
Y hablando de la ciudadanía, ¿en qué punto ve esta expectación y estallido social de la inteligencia artificial?
La ciudadanía creo que no debería estar tan preocupada. A veces, por suerte, en España no tenemos medios tan sensacionalistas, pero definitivamente no hay que hacer caso de estas teorías de Terminator que a veces escucho. La parte que la gente entiende mal de la inteligencia artificial tiene más que ver con antropomorfizar lo humano a la máquina. Cuando escucho gente que dice cómo el Claude me quiere o el ChatGPT me ha insultado se demuestra la existencia de una falta de conocimiento estructural de cómo funcionan estas tecnologías.
Socialmente, el mayor impacto de la inteligencia artificial es cómo te impacta en tu vida diaria. Mirad lo que no se puede resolver como lo estáis haciendo habitualmente y seguramente aquí tenéis algo que se puede solucionar con IA. Yo no nací en Catalunya, pero mi familia es de aquí y me siento más catalán que nadie. Cuando estoy cenando o comiendo calçots, no estropearé la comida siendo el único que interviene en castellano cada cinco segundos. El ChatGPT es una herramienta que me permite integrarme en la sociedad, sin tener que estar dando clases porque desafortunadamente, por razones laborales, no tengo tiempo. Cada vez que el ChatGPT o el Claude te propone algo hay un gran reto que tenemos que asimilar y es que si cada vez que la inteligencia artificial te da una recomendación tú copias y pegas estás entregando tu personalidad a un algoritmo muy sofisticado. Parece una tontería, pero añoro encontrar una falta de ortografía o una expresión sencilla en un correo electrónico.
Una última pregunta. Siempre es complicado hacer predicciones futuristas, pero en un plazo de cinco y diez años ¿en qué punto ve el ecosistema de inteligencia artificial?
Ahora mismo veo a Anthropic muy avanzada en la carrera, tecnológica y económicamente. Se acerca una economía de tokens, y os explicaré por qué. Hasta ahora, la inteligencia artificial ha estado muy subsidiada. Todos estamos pagando una fracción de lo que debería costar lo que nos están entregando estas compañías en resultados. La razón es que si nos cobraran lo que nos deberían cobrar, no sería posible un progreso cultural y tecnológico porque nadie lo podría adoptar. Entender esto es crítico para entender cómo acabará el juego. Por lo tanto, lo primero que teníamos que hacer en inteligencia artificial, y es algo muy filosófico, era cambiar la unidad de valor.
Así, los dólares y los euros en las plataformas de inteligencia artificial no son tan poderosos como los tokens. Y la causa es la misma por la que tus puntos de millas aéreas probablemente en tu cabeza sean más entendibles y poderosos que los puntos que te pueda dar tu banco en intereses u otras cosas parecidas. Mis primeros profesores ya estaban estudiando y haciendo modelos de inteligencia artificial desde hace 35 o 40 años. Esto no es lo que ha cambiado. Lo que ha cambiado violentamente es que hemos encontrado una forma muy particular de inteligencia artificial que no creíamos que encontraríamos. Lo que pensaba que lo vivirían mis hijos lo veo yo ahora con los LLM. Por lo tanto, trasladémonos mágicamente de aquí a 15 años.
ENTREVISTA COMPLETA