OpenAI ha dado un paso adelante en la transparencia de la inteligencia artificial. La compañía ha anunciado que pone a disposición de los usuarios una herramienta capaz de determinar si una imagen o un audio han sido creados con sus modelos generativos. Con este movimiento, OpenAI se incorpora a una línea de trabajo que Google ya había iniciado, con el objetivo común de combatir la desinformación y permitir trazar el origen de los contenidos sintéticos.

La novedad llega en un momento en que la generación de imágenes y voces falsas se ha democratizado, y la dificultad para distinguir lo real de lo fabricado crece exponencialmente. Tanto OpenAI como Google apuestan por mecanismos técnicos que ayuden a arrojar luz sobre el origen de los archivos multimedia.

La solución de Google

En el caso de Google, el sistema de verificación está integrado en su asistente de inteligencia artificial Gemini. Cualquier persona que mantenga una conversación normal con esta herramienta puede activar el detector sin necesidad de configurar nada adicional. Solo hay que preguntar si las imágenes han sido realizadas con IA. A partir de ahí, el sistema analiza el archivo y responde en función de la información que detecta.

OpenAI, por su parte, no ha detallado si su herramienta tendrá una integración similar a sus chatbots o si funcionará como una aplicación independiente. Lo que sí han dejado claro ambas compañías es que su sistema de detección no se basa en una marca visible para el ojo humano, sino en una especie de marca de agua invisible. Esta marca se incrusta en los archivos generados y solo puede ser leída mediante herramientas técnicas específicas, que ahora se ponen a disposición del público.

OpenAI se suma a un protocolo para hacer trazables los archivos

En el mismo comunicado, OpenAI ha informado de que se adhiere a la iniciativa C2PA, un protocolo industrial que tiene como objetivo incorporar metadatos a los archivos multimedia. Estos metadatos funcionan como una etiqueta que acompaña al archivo allá donde vaya y que permite conocer su origen, quién lo creó y con qué herramienta. La información queda grabada dentro del mismo archivo, de manera que, en teoría, se puede trazar su historia.

Este protocolo ya contaba con la adhesión de otras empresas tecnológicas y supone un complemento a las marcas de agua invisibles, ya que no depende solo de un único sistema propietario, sino de un estándar compartido. No obstante, tanto OpenAI como Google reconocen que ninguna de estas soluciones es definitiva.

Una marca de agua que se degrada

La misma OpenAI advierte que su herramienta no es infalible. La marca de agua invisible que incrustan en las imágenes y audios se puede ir degradando con el uso. Si una foto se envía muchas veces de un dispositivo a otro, si alguien hace una captura de pantalla de una captura de pantalla, o si se recorta y se modifica el archivo original, la marca de agua puede quedar dañada o desaparecer del todo. En estos casos, la herramienta de detección ya no sería capaz de reconocer la obra como generada por IA.

Además de este problema técnico, la compañía admite que la mayoría de los detectores de imágenes basados en inteligencia artificial son falibles. De hecho, funcionan de manera intermitente: a veces detectan correctamente un contenido sintético y otras no, sin que los usuarios ni siquiera los técnicos puedan determinar con exactitud por qué ha fallado. Esta opacidad responde al hecho de que las compañías guardan la fórmula de sus algoritmos, de manera que las herramientas funcionan como una caja negra de la que solo se ven los resultados, pero no los procesos internos.

Otro fenómeno que complica todavía más el panorama es la manera como trabajan las herramientas de edición basadas en inteligencia artificial. Si un usuario coge una fotografía real y le pide al sistema que la mejore, que le cambie el fondo o que elimine algún detalle, la IA no modifica la imagen original, sino que genera una completamente nueva a partir de la información de la primera. Esta práctica, cada vez más habitual, provoca una situación paradójica: una imagen que muestra un evento real puede dar positivo en un detector de IA, porque el archivo resultante es una construcción sintética desde cero.

En estos casos, la herramienta de detección no estaría equivocada técnicamente, pero su respuesta puede inducir a confusión si se interpreta que la situación representada es ficticia cuando en realidad no lo es. OpenAI reconoce esta limitación sin ofrecer de momento una solución para distinguir entre una imagen completamente inventada y una imagen real que ha sido retocada con IA.

Un progreso necesario, pero insuficiente

Con este anuncio, OpenAI y Google dan un paso para hacer más transparente el ecosistema de la inteligencia artificial generativa. Las herramientas que ponen a disposición de los usuarios facilitarán la tarea de verificación en muchos casos, especialmente en archivos recientes y sin manipulaciones agresivas. Sin embargo, los mismos creadores admiten que la tecnología todavía no está preparada para ofrecer certezas absolutas. Las marcas de agua se pueden borrar, los detectores fallan sin explicación y la línea entre imagen real retocada e imagen completamente sintética es cada vez más difusa.