Muchos usuarios de herramientas como ChatGPT y Gemini creen tener claro qué saben estas herramientas sobre ellos. La mayoría asume que la información que comparten se limita a lo que explican explícitamente en sus conversaciones. Pero la realidad es más compleja. Los asistentes de IA generativa no solo registran lo que les dices, sino que también conectan puntos, infieren patrones y crean un perfil cada vez más detallado a partir de tus preguntas e interacciones cotidianas. Un experimento personal con estas herramientas ha puesto de manifiesto hasta qué punto pueden llegar estas deducciones. Al pedir a los chatbots que revelaran todo aquello que habían inferido sobre el usuario sin que él lo hubiera dicho nunca, los resultados fueron sorprendentemente precisos.
Los chatbots dedujeron correctamente detalles que el usuario nunca había compartido abiertamente. Uno de los aspectos más llamativos fue la capacidad de estimar el nivel de ingresos, basándose en referencias indirectas como la ayuda para reparar un coche alemán o la mención de contar con una persona que cuida a los hijos. Estos datos, aparentemente inocentes, se convierten en indicadores de un poder adquisitivo determinado cuando se analizan en conjunto.
También detectaron problemas de salud que el usuario no había mencionado directamente, como un dolor crónico en el pie, a partir de preguntas ocasionales sobre remedios para el dolor en los dedos de los pies. Además, elaboraron un perfil psicológico bastante ajustado, identificando una tendencia al escepticismo basada en la frecuencia con la que el usuario señalaba errores de los chatbots. Cada dato por separado es inofensivo, pero su combinación en una lista coherente revela un conocimiento que se asemeja al que podría tener un amigo íntimo. Esto plantea preguntas incómodas sobre la privacidad en la era de la IA, especialmente cuando millones de personas confían en estos asistentes para cuestiones cotidianas, laborales e incluso de salud.
El peligro de los datos inferidos
Lo que hace especialmente preocupante esta situación es que las inferencias no requieren que el usuario haya revelado directamente la información. Los modelos de lenguaje son capaces de establecer conexiones entre preguntas aparentemente no relacionadas y construir un perfil detallado que puede incluir: orientación política, situación económica, problemas de salud, creencias religiosas, relaciones personales, hábitos de consumo y mucho más. Esta capacidad de inferencia no es nueva. Los algoritmos de recomendación de plataformas como YouTube o Amazon hace años que la utilizan. Pero la naturaleza conversacional de los chatbots y la profundidad de las interacciones que se mantienen permiten un nivel de detalle mucho más granular. Cada conversación, por trivial que parezca, aporta una pieza más al mosaico.
Los riesgos no son teóricos. Estudios recientes han demostrado que los chatbots comparten datos de las conversaciones con terceros, incluyendo grandes empresas tecnológicas, que pueden utilizar esta información para finalidades comerciales o publicitarias. La Agència de Ciberseguretat de Catalunya ha advertido que esta información puede acabar en manos de anunciantes o, en el peor de los casos, en el mercado negro de internet. Los datos personales compartidos con los asistentes de IA, desde el nombre hasta el historial clínico, pueden ser utilizados para crear perfiles de comportamiento que diversas empresas puedan explotar o para entrenar sistemas de vigilancia masiva.
Ante este panorama, los expertos recomiendan tomar medidas activas para limitar la exposición de datos. Entre las principales recomendaciones se encuentra la de evitar compartir información personal identificativa como el nombre, la edad, la ubicación exacta o la dirección IP, desactivar el historial del chat si el asistente lo permite, borrar el material sensible que se haya podido compartir anteriormente y limitar los permisos de la aplicación para que no pueda acceder a la cámara o el micrófono del dispositivo.
El usuario también puede solicitar a la compañía que no utilice sus datos para entrenar modelos, y ejercer el derecho al olvido para eliminar los registros. En el ámbito empresarial, cada vez más organizaciones optan por plataformas que garantizan que no entrenan con los datos de los clientes y firman contratos de procesamiento conformes con el Reglamento General de Protección de Datos. También es esencial leer atentamente las políticas de privacidad de cada servicio y entender cómo se trata la información. La clave es mantenerse informado y ser crítico con las interacciones con la IA, recordando que cada pregunta que se hace deja una huella digital que puede ser analizada y utilizada de maneras que no siempre son obvias.