Avec l’IA de plus en plus présente, il est normal que des applications commencent à utiliser cette technologie, même si à des fins moins spécifiques. C’est ce qui vient d’être découvert sur l’App Store, avec 3 applications supprimées par Apple, car elles permettaient de générer des nus grâce à l’IA.
Apple a supprimé 3 applications dangereuses de l’App Store
Apple a la réputation d’être très pointilleux sur les applications proposées sur l’App Store. Le processus d’approbation de ceux-ci est long et long, afin de garantir que seuls ceux qui respectent les règles définies sont autorisés, sans laisser place à des abus ou à des situations anormales pour les utilisateurs.
Même si ce processus est en cours, Apple a supprimé 3 applications de l’App Store qui enfreignaient clairement ses règles. Ceux-ci pourraient être utilisés pour générer des images nues par les utilisateurs, simplement en téléchargeant les images qu’ils souhaitent modifier.
Bien que les images ne représentent pas de véritable nudité, ces propositions ont réussi à générer des images qui pourraient être utilisées à des fins de harcèlement, de chantage et d’invasion de la vie privée. La découverte de ces applications a été faite par 404 Media, qui les a rapidement signalées à Apple. L’idée était que l’entreprise évalue le respect des règles et sa présence dans l’App Store.
Des applications malveillantes pourraient générer des nus grâce à l’IA
Même s’il a pris les bonnes mesures, la vérité est qu’Apple aurait dû agir plus tôt. Étonnamment, ces applications sont disponibles sur l’App Store depuis 2022, annonçant la fonctionnalité « se déshabiller » sur les sites Web pour adultes. La plainte suggère également que les applications étaient initialement autorisées à rester sur l’App Store si elles supprimaient les publicités des sites pour adultes.
Cependant, l’une des applications a affiché des publicités jusqu’en 2024, date à laquelle Google l’a supprimée du Play Store. Il est inquiétant de constater la nature réactive de la modération de la boutique d’applications iPhone et la possibilité pour les développeurs d’exploiter ce type de failles dans les règles imposées.
Cette situation se produit quelques jours seulement avant qu’Apple ne présente iOS 18 et ses (supposées) fonctionnalités d’IA. La génération d’images a été l’un des moyens utilisés pour explorer cette technologie, bien qu’avec des règles bien définies concernant son utilisation.