Apple ha actualitzat les seves Directrius de Revisió de l'App Store amb l'objectiu explícit d'erradicar del seu ecosistema les aplicacions que generen imatges íntimes no consentides mitjançant intel·ligència artificial, conegudes com a aplicacions de despullament sintètic, i clausurar les bretxes tècniques utilitzades per certs desenvolupadors per eludir els controls de la companyia.
Aquesta reforma respon a la creixent pressió social i regulatòria sobre el mal ús d'eines d'edició fotogràfica basades en IA per crear deepfakes explícits de persones reals. Fins avui, diversos creadors recorrien a tàctiques d'engany o bait-and-switch: remetien a revisió aplicacions en aparença inofensives, com editors fotogràfics estàndard o filtres artístics, i, després de ser aprovades per a la seva distribució a l'App Store, activaven de forma remota o mitjançant servidors externs funcions ocultes dedicades a despullar persones o generar contingut íntim.
Blindatge normatiu davant funcions ocultes i sancions per a desenvolupadors
Per combatre aquesta pràctica, la multinacional de Cupertino ha introduït modificacions estructurals en la seva normativa. En primer lloc, la Directriu 1.2 imposa ara l'obligació de prevenir i eliminar de manera proactiva el contingut íntim no consentit, incloent-hi el produït per models d'aprenentatge automàtic. Els desenvolupadors hauran d'integrar filtres de seguretat efectius durant el processament d'imatges i implementar mecanismes àgils per atendre denúncies i retirar continguts infractors.
En segon lloc, la nova Directriu 2.5.19 prohibeix de forma rotunda la inclusió de característiques ocultes, inactives o no documentades. Aquesta norma combat directament la modificació de comportament del programari mitjançant actualitzacions en el servidor o l'activació de paràmetres no declarats després de l'auditoria inicial. Així mateix, s'ha reforçat la Secció 5, especificant que les aplicacions implicades en l'explotació infantil no només seran retirades de l'App Store, sinó també bloquejades en les plataformes de distribució alternativa.
L'incompliment d'aquestes pautes comportarà l'eliminació del catàleg i l'expulsió permanent del programa de desenvolupadors d'Apple. Les noves regles de l'App Store responsabilitzen directament els desenvolupadors pels models d'IA que integren, frenant la distribució d'eines de despullament sintètic en l'ecosistema iOS.