OpenAI, l'empresa líder en intel·ligència artificial generativa, ha anunciat una reestructuració fonamental en la filosofia d'ús del seu producte estrella, ChatGPT. Recentment, el director executiu, Sam Altman, va revelar que a partir de desembre, el chatbot reduirà les seves barreres de seguretat i moderació de contingut. D'aquesta manera, la companyia busca que ChatGPT sigui una eina més útil, flexible i amb un to més "humà" i personalitzat per als seus usuaris.
Després del llançament de les primeres versions de ChatGPT, la preocupació per l'impacte en la salut mental dels usuaris va portar l'empresa a establir estrictes limitacions temàtiques. Altman va explicar a la xarxa social X que, si bé la restricció inicial va fer el model "menys útil o agradable per a molts usuaris", va ser una mesura necessària per ser prudents.
ChatGPT per a tothom
Mesos després que casos polèmics, com el d'un usuari que va desenvolupar un deliri matemàtic o la demanda dels pares d'un adolescent pel foment d'idees suïcides, posessin a prova la gestió d'usuaris vulnerables, OpenAI ha reforçat les seves defenses.
Les mesures inclouen el llançament de GPT-5 amb millores en la detecció de comportaments de risc i la reducció de la tendència del model a complaure cegament l'usuari (sycophancy). Així mateix, s'ha implementat un sistema de predicció d'edat, controls parentals i un consell assessor de salut mental.
Malgrat aquestes mesures, el moviment més controvertit és la decisió de habilitar converses de naturalesa eròtica per a adults verificats. OpenAI s'aventura així en un terreny que ja ha demostrat ser lucratiu per a competidors com Character.AI, on les interaccions afectives i sexuals amb chatbots han disparat el temps d'ús per part dels usuaris.
Mentre que altres models similars han estat condemnats per permetre les converses explícites amb adults, Altman defensa l'autonomia i no l'addicció. Malgrat enfrontar-se a les crítiques que asseguren que el to més "humà" del chatbot, sumat a les noves funcions eròtiques, podria atraure usuaris solitaris o vulnerables, fomentant relacions parasocials i dependències emocionals.
El nou rumb de ChatGPT planteja un desafiament en l'equilibri entre la llibertat de l'usuari i la responsabilitat corporativa. Aquest canvi s'alinea amb la tendència d'OpenAI a suavitzar les seves polítiques en general, permetent que la IA sigui menys neutral, expressi més opinions i adopti tons emocionals diversos, buscant així "reflectir la diversitat del món real". Mentrestant, el futur de la IA de consum es debatrà en aquesta nova i prima línia entre la utilitat, el plaer i la dependència.