L'adveniment de la Intel·ligència Artificial a través de programes amb un abast massiu, ha facilitat la generació de deepfakes altament realistes, representant una amenaça directa per a la reputació dels creadors de contingut i per a la confiança de l'audiència. En resposta a aquesta problemàtica creixent, YouTube ha començat a implementar una nova i potent funcionalitat dissenyada per retornar el control als creadors de contingut: l'eina de detecció i gestió de semblança amb IA.
Aquesta setmana, la plataforma de vídeos de Google ha posat en marxa aquesta funció pionera, disponible dins de YouTube Studio, específicament a la pestanya de Detecció de Contingut. L'objectiu principal d'aquesta tecnologia és dual: protegir la identitat dels creadors i evitar que els espectadors siguin víctimes d'enganys per contingut generat o alterat mitjançant IA que faci servir la seva imatge.
YouTube proposa alternatives per controlar els deepfakes
Per poder utilitzar aquesta salvaguarda digital, els creadors han de passar per un rigorós procés de verificació d'identitat. Aquest pas és crucial, ja que requereix la presentació d'una identificació amb fotografia i un vídeo selfie, garantint que només la persona la semblança de la qual es busca protegir tingui accés a l'eina. Un cop verificada la seva identitat, el sistema alertarà automàticament el creador si es detecten vídeos no autoritzats que utilitzin IA per generar o modificar el seu rostre o semblança facial.
La interfície a YouTube Studio presenta una llista organitzada dels vídeos detectats, incloent-hi detalls clau com el títol, el canal que el va pujar, el nombre de visualitzacions i el diàleg associat. Amb aquesta informació a la seva disposició, el creador pot exercir el seu dret i sol·licitar l'eliminació del contingut.
És important destacar que l'eina no es limita a la protecció contra la manipulació per IA, sinó que també facilita la presentació de sol·licituds d'eliminació per drets d'autor, oferint una gestió centralitzada de la seva propietat intel·lectual i semblança.
Inicialment, només un grup selecte de creadors poden tenir una "utilitat més immediata" per a la funció. Progressivament, els membres del Programa de Socis de YouTube obtindran accés en els mesos següents, i s'espera que per al gener del 2026 l'eina estigui disponible per a tots els creadors que monetitzen el seu contingut a la plataforma.
Les apps d'IA no tenen el mateix concepte d'ètica
D'una banda, l'anunci de YouTube s'alinea amb la postura de la mateixa OpenAI, desenvolupadora de l'eina de generació de vídeo Sora, que ha reafirmat la seva restricció de no permetre la creació de vídeos que imitin celebritats o figures públiques. En ambdues es protegeix el contingut. Tanmateix, contrasta amb el recent anunci de Sam Altman, director executiu d'OpenAI, respecte a ChatGPT i la seva proposta per als usuaris.
A partir del desembre, ChatGPT adoptarà un canvi de rumb significatiu en la seva estratègia de moderació, buscant "tractar els adults com a adults" mitjançant la relaxació de certes restriccions de seguretat, cosa que inclourà la possibilitat de personalitzar el to del chatbot i, de manera més controvertida, permetre converses eròtiques per a usuaris adults verificats.
Aquesta mesura proactiva no només enforteix la protecció de la identitat dels seus creadors més valuosos, sinó que també contribueix a mantenir un entorn de visualització més fiable per a l'audiència global, establint un precedent important sobre com les grans plataformes han de abordar l'ús maliciós de la IA generativa.