ChatGPT s'ha convertit per a molts usuaris en un assistent digital capaç d'escriure textos, corregir codi o analitzar resultats mèdics. Ara bé, darrere d'aquestes respostes que poden semblar íntimes hi ha algorismes que aprenen de cada interacció. Amb el pas dels anys, aquest sistema no només ha après qüestions relacionades amb els hàbits de consum o els problemes de salut dels usuaris, sinó que també ha memoritzat molts més detalls personals.

La raó és que eines com ChatGPT tenen com a objectiu personalitzar les respostes i millorar el seu rendiment futur, i per aconseguir-ho emmagatzemen informació sobre l'estat físic dels usuaris i sobre assumptes que poden ser molt privats. Els usuaris tenen la possibilitat de desactivar aquesta funció a través de la configuració de l'eina.

Tanmateix, una gran quantitat de persones no ho fan o no hi donen importància, i aquesta indiferència fa que es pugui proporcionar molta informació al xatbot d'OpenAI sense ser-ne del tot conscients. Davant d'aquesta situació, els experts han assenyalat quins tipus de dades no s'haurien d'introduir en les converses amb els xatbots, ja que poden ser utilitzades de manera indeguda en el procés de formació dels models, en errors del sistema o fins i tot en ciberatacs.

Les dades identificatives

El primer grup de dades que convé evitar és el de les dades identificatives. Aquí s'inclouen documents com el passaport o el document d'identitat, així com l'adreça, el número de telèfon i la data de naixement. Alguns xatbots intenten censurar aquests elements, però no hi ha cap garantia que ho facin de manera completa o sistemàtica. Per tant, la recomanació és no facilitar aquest tipus d'informació que permet identificar directament una persona.

El segon grup fa referència als resultats de proves mèdiques. Els xatbots no estan subjectes a lleis estrictes de protecció de dades de salut, cosa que significa que la informació mèdica que s'hi introdueix no gaudeix de les mateixes garanties que en altres àmbits. Si és necessari compartir aquest tipus d'informació, els experts aconsellen pujar només els resultats de les proves sense incloure-hi informació d'identitat, de manera que es pugui obtenir una orientació sense exposar dades personals.

El tercer grup és la informació financera, com els números de comptes bancaris o d'inversió. La divulgació no intencionada d'aquestes dades pot tenir conseqüències greus, ja que es tracta d'informació especialment sensible des del punt de vista econòmic. Per aquest motiu, es recomana no introduir aquest tipus de dades en les converses amb els xatbots.

Informació confidencial

El quart grup és la informació empresarial confidencial. Molts usuaris utilitzen els xatbots per escriure correus electrònics o comprovar codi mentre treballen, però fer-ho pot revelar informació empresarial confidencial o codi que no hauria de sortir de l'entorn de l'empresa. Aquesta circumstància afecta tant els treballadors individuals com les organitzacions, que poden veure compromesa informació que consideren reservada.

El cinquè grup són les contrasenyes i els noms d'usuari. Els xatbots no són un espai segur per emmagatzemar contrasenyes ni per fer servir solucions d'emmagatzematge virtual com les caixes digitals. Aquesta informació s'hauria de guardar en un programari de gestió de contrasenyes, que està dissenyat específicament per complir aquesta funció amb les garanties adequades.

Grans empreses com OpenAI, Google i Microsoft utilitzen les converses dels usuaris per millorar els seus models. Els usuaris poden habilitar l'opció de no utilitzar les seves dades per a l'entrenament en determinats entorns, però moltes persones desconeixen aquesta possibilitat. Aquest desconeixement fa que, en la pràctica, una part important de les converses pugui acabar formant part del material amb què es perfeccionen els models, amb la qual cosa la informació compartida pot tenir una vida útil que vagi més enllà de la conversa concreta.

Els experts en ciberseguretat suggereixen diverses mesures per protegir la privacitat. La primera és utilitzar el mode de xat temporal, una funció que actua com el mode incògnit del navegador i que impedeix que les converses es guardin i s'utilitzin en els models d'entrenament.

La segona és eliminar les converses de l'historial un cop finalitzada cada conversa i assegurar-se que la informació s'esborra completament transcorreguts trenta dies. La tercera és utilitzar eines d'anonimització, com Duck.ai, que envia missatges de manera anònima als models d'intel·ligència artificial, tot i que les seves possibilitats són limitades en comparació amb els xatbots més avançats.