Els dilemes ètics i socials que planteja l'ús de les solucions basades en Intel·ligència Artificial a l'hora d'executar activitats quotidianes o més especialitzades estan lluny de resoldre's. I el llançament de cada nova eina és una oportunitat per obrir el debat. Un de molt interessant s'ha reprès després que diversos mitjans posessin a prova el programari de creació d'imatges Pixel Studio, presentat per Google la setmana passada a durant el llançament del Google Pixel 9.
En el món de la tecnologia l'error d'uns és una oportunitat per a altres. Mentre Google resol les crítiques generades per Pixel Studio, Apple pren nota del que hauria d'evitar amb l'esperat llançament d'Image Playground, que permetrà als usuaris generar imatges amb IA mitjançant ordres de text a partir d'iOS 18.
El debut de Pixel Studio ha estat una lliçó per a Apple
Les primeres ressenyes de Pixel Studio han coincidit en la preocupació per la seva capacitat per crear contingut altament qüestionable, des de representacions violentes de personatges infantils fins a imatges que promouen la discriminació i l'odi.
Les proves publicades per mitjans com The Verge i Digital Trends confirmen les capacitats qüestionables a l'hora de crear imatges en uns segons a través d'una ordre de text. I amb tota raó, han reanimat el debat sobre la veracitat d'aquestes i sobre qui s'ha de responsabilitzar per les implicacions.
Imatges generades per Pixel Studio/ The Verge
Si bé Google afirma haver implementat mesures de seguretat per evitar el mal ús d'aquesta eina, la realitat és que els usuaris han trobat maneres de burlar aquestes restriccions, generant imatges que desafien qualsevol tipus de censura prèvia.
Però el problema no es limita a la generació d'imatges originals. L'eina "Reimagine" de Google permet modificar fotografies existents de manera tan realista que resulta pràcticament impossible distingir una imatge original d'una manipulada.
Apple té una oportunitat d'or per superar a Google en IA generativa
Apple Intelligence inclou funcions genials com Image Playground per crear imatges amb IA o Genmoji, per utilitzar aquesta tecnologia en la creació d'emojis segons la nostra descripció. Si bé la primera no ofereix l'opció de generar imatges fotorealistes, sí que pot generar diversos estils com animacions, il·lustracions i esbossos.
Més enllà de les demostracions vistes durant la WWDC24, ni Image Playground per crear imatges amb IA o Genmoji estan disponibles a la versió beta d'iOS 18.1 que ja compta amb Apple Intelligence. I filtrar les accions amb què aquestes eines poden ser utilitzades per crear contingut perjudicial és un gran desafiament per als desenvolupadors a l'hora de respondre a la iniciativa d'alguns usuaris.
Després del desastre de Pixel Studio, Apple pot donar-se per assabentada i anar més enllà a l'hora de reforçar les restriccions de les seves eines de generació d'imatges.
La facilitat amb què aquestes eines poden ser utilitzades per crear contingut perjudicial planteja una sèrie de preguntes fonamentals Com podem garantir que aquestes tecnologies s'utilitzin de manera responsable i ètica? Continuem esperant la resposta.