Apple ha actualizado sus Directrices de Revisión de la App Store con el objetivo explícito de erradicar de su ecosistema las aplicaciones que generan imágenes íntimas no consentidas mediante inteligencia artificial, conocidas como aplicaciones de desnudamiento sintético, y clausurar las brechas técnicas utilizadas por ciertos desarrolladores para eludir los controles de la compañía.
Esta reforma responde a la creciente presión social y regulatoria sobre el mal uso de herramientas de edición fotográfica basadas en IA para crear deepfakes explícitos de personas reales. Hasta la fecha, diversos creadores recurrían a tácticas de engaño o bait-and-switch: remitían a revisión aplicaciones en apariencia inofensivas, como editores fotográficos estándar o filtros artísticos, y, tras ser aprobadas para su distribución en la App Store, activaban de forma remota o mediante servidores externos funciones ocultas dedicadas a desnudar personas o generar contenido íntimo.
Blindaje normativo frente a funciones ocultas y sanciones para desarrolladores
Para combatir esta práctica, la multinacional de Cupertino ha introducido modificaciones estructurales en su normativa. En primer lugar, la Directriz 1.2 impone ahora la obligación de prevenir y eliminar de manera proactiva el contenido íntimo no consentido, incluyendo el producido por modelos de aprendizaje automático. Los desarrolladores deberán integrar filtros de seguridad efectivos durante el procesamiento de imágenes e implementar mecanismos ágiles para atender denuncias y retirar contenidos infractores.
En segundo lugar, la nueva Directriz 2.5.19 prohíbe de forma tajante la inclusión de características ocultas, inactivas o no documentadas. Esta norma combate directamente la modificación de comportamiento del software mediante actualizaciones en el servidor o la activación de parámetros no declarados tras la auditoría inicial. Asimismo, se ha reforzado la Sección 5, especificando que las aplicaciones implicadas en la explotación infantil no solo serán retiradas de la App Store, sino también bloqueadas en las plataformas de distribución alternativa.
El incumplimiento de estas pautas conllevará la eliminación del catálogo y la expulsión permanente del programa de desarrolladores de Apple. Las nuevas reglas de la App Store responsabilizan directamente a los desarrolladores por los modelos de IA que integran, frenando la distribución de herramientas de desnudamiento sintético en el ecosistema iOS.