Images intimes générées par IA. Apple durcit les règles de l’App Store
Les directives du 16 octobre visent la prévention des abus et les applications qui dissimulent leurs fonctions. Elles ne prouvent pas que tous les contenus ont disparu.
Apple renforce le cadre imposé aux applications qui génèrent ou hébergent des images intimes sans consentement. Son annonce du 16 octobre précise les obligations de modération et les sanctions possibles. Elle vise aussi les applications qui cachent leur véritable fonctionnement pendant leur examen. Le changement concerne les règles de distribution d’Apple. Il ne constitue pas une nouvelle loi sur l’IA.
Une interdiction ancienne devient plus explicite
Apple rappelle que les contenus pornographiques étaient déjà interdits sur l’App Store. L’entreprise inclut dans ce périmètre les outils qui fabriquent des représentations sexuelles de personnes réelles sans leur accord. L’annonce ne doit donc pas être lue comme l’autorisation passée de ces usages puis leur interdiction soudaine.
La précision porte notamment sur la prévention et le retrait des images intimes non consenties. La section 1.2 des directives cite désormais ces contenus parmi les risques des services permettant aux utilisateurs de créer ou de partager des images. Les applications de création par IA sont expressément concernées.
La modération ne se limite pas à un avertissement
Le cadre prévoit un filtrage des contenus problématiques et un mécanisme de signalement. Il demande aussi de répondre aux alertes et de permettre le blocage des utilisateurs abusifs. Les coordonnées permettant de joindre l’éditeur doivent être publiques. Une simple mention dans les conditions d’utilisation ne remplace donc pas ces fonctions concrètes.
Les fonctions dissimulées sont également visées
La règle 2.5.19 précise le traitement des fonctions cachées ou non documentées. Elle cible notamment les applications qui présentent une fonction acceptable à l’équipe de contrôle puis activent une autre capacité après validation. L’obtention initiale d’une place dans la boutique ne protège donc pas une fonctionnalité trompeuse apparue ensuite.
Apple prévoit le retrait de l’application et la fermeture du compte développeur dans les cas visés. Les directives distinguent aussi la demande de correction d’un manquement et les comportements graves ou répétés qui justifient un retrait immédiat. L’annonce ne fournit cependant pas une liste de décisions individuelles prises à la suite de cette mise à jour.
Un texte plus précis ne mesure pas son efficacité
La présence d’une application dans une boutique reste un signal de distribution. Elle ne démontre pas que chaque génération respecte la personne représentée. Le contrôle du logiciel et celui des contenus produits répondent à deux problèmes différents. Une interface peut sembler ordinaire tout en permettant des usages préjudiciables.
Il faut également séparer la politique d’Apple des obligations légales applicables à un traitement de données ou à la diffusion d’une image. Notre article sur les images traitées par les lunettes IA et le RGPD examine un autre dispositif. Il aide à comprendre cette distinction sans transposer ses conclusions à toutes les applications génératives.
Le consentement doit compter dans le fonctionnement du service
Je retiens surtout le déplacement du débat vers les mécanismes de prévention. Un bouton de signalement visible et une réponse effective aux abus rendent une règle plus concrète. La prochaine question sera celle de son application dans la durée. Pour les personnes dont l’image est détournée, le résultat compte davantage que la seule formulation d’une directive.