Molts usuaris d'eines com ChatGPT i Gemini creuen tenir clar què saben aquestes eines sobre ells. La majoria assumeix que la informació que comparteixen es limita al que expliquen explícitament en les seves converses. Però la realitat és més complexa. Els assistents d'IA generativa no només registren el que els dius, sinó que també connecten punts, infereixen patrons i creen un perfil cada cop més detallat a partir de les teves preguntes i interaccions quotidianes. Un experiment personal amb aquestes eines ha posat de manifest fins a quin punt poden arribar aquestes deduccions. En demanar als xatbots que revelessin tot allò que havien inferit sobre l'usuari sense que ell ho hagués dit mai, els resultats van ser sorprenentment precisos.
Els xatbots van deduir correctament detalls que l'usuari mai havia compartit obertament. Un dels aspectes més cridaners va ser la capacitat d'estimar el nivell d'ingressos, basant-se en referències indirectes com l'ajuda per reparar un cotxe alemany o la menció de comptar amb una persona que cuida els fills. Aquestes dades, aparentment innocents, esdevenen indicadors d'un poder adquisitiu determinat quan s'analitzen en conjunt.
També van detectar problemes de salut que l'usuari no havia mencionat directament, com un dolor crònic al peu, a partir de preguntes ocasionals sobre remeis per al dolor als dits dels peus. A més, van elaborar un perfil psicològic força ajustat, identificant una tendència a l'escepticisme basada en la freqüència amb què l'usuari assenyalava errors dels xatbots. Cada dada per separat és inofensiva, però la seva combinació en una llista coherent revela un coneixement que s'assembla al que podria tenir un amic íntim. Això planteja preguntes incòmodes sobre la privacitat en l'era de la IA, especialment quan milions de persones confien en aquests assistents per a qüestions quotidianes, laborals i fins i tot de salut.
El perill de les dades inferides
El que fa especialment preocupant aquesta situació és que les inferències no requereixen que l'usuari hagi revelat directament la informació. Els models de llenguatge són capaços d'establir connexions entre preguntes aparentment no relacionades i construir un perfil detallat que pot incloure: orientació política, situació econòmica, problemes de salut, creences religioses, relacions personals, hàbits de consum i molt més. Aquesta capacitat d'inferència no és nova. Els algoritmes de recomanació de plataformes com YouTube o Amazon fa anys que la utilitzen. Però la naturalesa conversacional dels xatbots i la profunditat de les interaccions que s'hi mantenen permeten un nivell de detall molt més granular. Cada conversa, per trivial que sembli, aporta una peça més al mosaic.
Els riscos no són teòrics. Estudis recents han demostrat que els xatbots comparteixen dades de les converses amb tercers, incloent-hi grans empreses tecnològiques, que poden utilitzar aquesta informació per a finalitats comercials o publicitàries. L'Agència de Ciberseguretat de Catalunya ha advertit que aquesta informació pot acabar en mans d'anunciants o, en el pitjor dels casos, al mercat negre d'internet. Les dades personals compartides amb els assistents d'IA, des del nom fins a l'historial clínic, poden ser utilitzades per crear perfils de comportament que diverses empreses puguin explotar o per entrenar sistemes de vigilància massiva.
Davant d'aquest panorama, els experts recomanen prendre mesures actives per limitar l'exposició de dades. Entre les principals recomanacions hi ha d'evitar compartir informació personal identificativa com el nom, l'edat, la ubicació exacta o l'adreça IP, desactivar l'historial del xat si l'assistent ho permet, esborrar el material sensible que s'hagi pogut compartir anteriorment i limitar els permisos de l'aplicació perquè no pugui accedir a la càmera o el micròfon del dispositiu.
L'usuari també pot sol·licitar a la companyia que no utilitzi les seves dades per entrenar models, i exercir el dret a l'oblit per eliminar els registres. En l'àmbit empresarial, cada cop més organitzacions opten per plataformes que garanteixen que no entrenen amb les dades dels clients i signen contractes de processament conformes amb el Reglament General de Protecció de Dades. També és essencial llegir atentament les polítiques de privacitat de cada servei i entendre com es tracta la informació. La clau és mantenir-se informat i ser crític amb les interaccions amb la IA, recordant que cada pregunta que es fa deixa una empremta digital que pot ser analitzada i utilitzada de maneres que no sempre són òbvies.