Les récentes accusations visant Apple et Google s’inscrivent dans la continuité d’une enquête menée par l’organisation Tech Transparency Project révélée en janvier dernier. À l’époque, il avait été signalé la présence d’applications permettant de générer des images de nudité à l’aide de l’intelligence artificielle. Trois mois plus tard, la situation semble inchangée, voire aggravée.
La nouvelle étude ne se limite pas à l’identification de ces applications, mais met également en lumière comment les plateformes contribuent à leur visibilité. Ici, Tech Transparency Project a mis en évidence que les systèmes de recherche et de publicité d’Apple et de Google pourraient faciliter l’accès des utilisateurs à ces contenus problématiques.
Problèmes persistants avec les applications de nudité
Selon ce communiqué, tant la App Store que la Google Play Store « aident les utilisateurs à découvrir des applications qui créent des images deepfake de femmes nues », souvent grâce à des résultats de recherche sponsorisés et des suggestions d’auto-complétion.
L’enquête révèle qu’Apple et Google ne parviennent toujours pas à empêcher l’apparition sur leurs plateformes d’applications affichant des contenus explicites, y compris des options qui semblent accessibles aux mineurs. Près de 40 % des dix applications les plus recherchées avec des termes comme nudify, undress, et deepnude pourraient potentiellement « afficher des femmes nues ou à peine vêtues ».
En outre, certaines recherches ont révélé des résultats sponsorisés pour ces applications.
« Le premier résultat d’une recherche dans la App Store pour le terme “deepfake” était une annonce pour FaceSwap Video de DuoFace. Cette application permet aux utilisateurs de substituer le visage de n’importe quelle personne d’une image fixe à une vidéo. Pour tester l’application, TTP a téléchargé une image d’une femme dans un pull blanc, associée à une vidéo d’une femme topless. Après une brève publicité, l’application a généré une vidéo montrant le visage de la femme vêtue sur le corps de la femme nue. »
Ce n’est pas le seul exemple, car une autre recherche dans la App Store avec le terme “échange de visages” a montré un annonce pour une application nommée AI Face Swap, qui propose des modèles préétablis pour cet échange. Les utilisateurs peuvent également remplacer des visages sur des images qu’ils téléchargent. Les chercheurs ont téléchargé une photo d’une femme dans un pull bleu et une image d’une femme topless; l’application a échangé leurs visages sans aucune restriction.
Réactions d’Apple et Google
Interrogé à ce sujet, Tech Transparency Project a déclaré qu’Apple avait choisi de ne pas faire de commentaire, tandis qu’aucune des deux entreprises n’a répondu aux questions concernant l’orientation de leur moteur de recherche vers des applications à contenu érotique, le processus de validation de ces applications, ou pourquoi des contenus inappropriés sont autorisés pour un public jeune.
Un porte-parole de Google, Dan Jackson, a toutefois indiqué que plusieurs des applications mentionnées avaient déjà été suspendues et que la société poursuivait l’application de ses règles. « Lorsque des violations de nos politiques nous sont signalées, nous enquêtons et prenons les mesures nécessaires », a-t-il affirmé.
Des contacts ont aussi été établis avec les développeurs de certaines de ces applications, dont l’un a mentionné le recours à l’IA de Grok pour la génération d’images, déclarant qu’il « ignorait totalement que cela pouvait produire des contenus aussi extrêmes ».