Une nouvelle application de deepfake permet de créer des vidéos de baisers en utilisant simplement deux photos. Bien que le résultat puisse sembler impressionnant, il expose également des dangers liés à la création de contenus inappropriés, en particulier des images manipulées de manière non consensuelle. Les implications sociétales et légales sont préoccupantes.
L’application est disponible dans les boutiques numériques, il suffit de la télécharger, elle ne demande pas d’âge, de nom ou de prénom. Une fois à l’intérieur, nous sommes confrontés à une série de modèles préconçus, le premier étant une vidéo de la section « Magic Holiday » où un garçon et une fille s’embrassent sous le gui.
« Prends ta personne convoitée et fais une vidéo« , en dessous il y a un clip d’un homme et d’une femme qui s’embrassent. Je fais défiler TikTok et cette annonce apparaît. Ce n’est pas la première, depuis quelques jours, mon fil continue de montrer des vidéos sponsorisées d’applications qui te permettent, en quelques clics, d’embrasser qui tu veux. Parmi celles-ci, il y a Fotorama. La technologie pour créer des « deepfake », c’est-à-dire des vidéos fausses qui semblent vraies, est maintenant disponible sur les smartphones. C’est simple, amusant et surtout perturbant.
Il y a quelques années, pour créer une vidéo deepfake, nommée ainsi en l’honneur de l’intelligence artificielle « deep learning » utilisée pour générer des visages, il fallait un ordinateur puissant; maintenant tout est concentré dans une application qui traite probablement les données dans le cloud, et avec quelques clics, on manipule le visage et le corps d’une personne, quiconque peut devenir un poupée entre nos mains.
Il existe déjà un large éventail d’applications deepfake, certaines permettant de créer un clip musical en lip-sync, d’autres de changer le style ou la coupe de cheveux, et certaines d’animer les photos des défunts. Mais le véritable marché des deepfake concerne les images sexuellement explicites. Une épidémie de deepnudes se propage déjà dans les écoles. Des filles, souvent mineures, se retrouvent confrontées à de fausses images les représentant nues. Les applications d’embrassades fictives ne sont que le seuil de la tanière du deepfake non consensuel. Nous sommes entrés pour découvrir comment cela fonctionne vraiment.
Comment fonctionne l’application Fotorama
L’application est disponible dans les boutiques numériques, il suffit de la télécharger, elle ne demande pas d’âge, de nom ou de prénom. Dès que nous entrons, nous constatons une série de modèles préconçus, le premier à apparaître est une vidéo de la section « Magic Holiday » où un garçon et une fille s’embrassent sous le gui. Nous cliquons dessus. Elle nous demande de télécharger deux images, qui composeront les visages qui s’embrasseront. Je prends une photo de mon collègue et choisissons une image de Jenna Ortega. À ce moment-là, il suffit de cliquer sur Générer et d’attendre quelques secondes. La vidéo apparaîtra ensuite dans le dossier personnel de l’application.
Le résultat n’est pas parfait. Le logiciel est approximatif, le nez est écrasé et certaines expressions sont plastiques. De plus, il se trompe également dans les proportions, parfois un visage est plus grand que l’autre ou à une hauteur différente. Mais il est tout de même impressionnant de voir comment une application qui commence à partir d’une photo, souvent un selfie mal fait, parvient à générer une vidéo presque réaliste.
Pour réaliser les vidéos, nous avons dû souscrire à un abonnement d’une semaine à 9,99 euros. Un prix dérisoire. Il existe aussi d’autres applications qui promettent le même service gratuitement, ou avec un essai avant l’abonnement. La prolifération des applications se reflète dans les chiffres. Selon un communiqué du groupe informatique Home Security Heroes, la production de deepfake pornographique entre 2022 et 2023 a en effet augmenté de 464%.
Les problèmes des deepfake non consensuels
Les applications deepfake promettent différents services. « C’est tout à fait mignon quand on le fait avec des photos du grand-père », a expliqué Anjana Susarla, professeure responsable de l’intelligence artificielle à la Michigan State University au Washington Post. « Mais tu peux prendre la photo de n’importe qui sur les réseaux sociaux et créer des images manipulées. C’est cela qui m’inquiète ».
Nous ne sommes pas prêts pour des deepfake à portée de main, il manque des normes sociales, un cadre légal, et surtout la sensibilisation aux risques. « Il faut s’assurer que le public sache vraiment qu’il s’agit de médias synthétiques« , a souligné Gil Perry, PDG de D-ID, la société technologique qui alimente les deepfake de MyHeritage. « Nous devons établir des lignes directrices, des cadres et des politiques pour que le monde sache ce qui est bon et ce qui est mauvais ».
Parmi les principaux problèmes, il y a la possibilité d’utiliser les deepfake comme une arme contre les femmes, pour créer de fausses pornographies non consensuelles et humiliantes. Comme le démontrent les données de DeepTrace, une société basée à Amsterdam qui surveille les médias synthétiques en ligne, le 96% du matériel deepfake en ligne est de nature pornographique, les victimes étant presque toujours des femmes.
Comment nous protéger des vidéos fausses qui semblent réelles
Les boutiques qui distribuent ces applications devraient établir des normes. Ces applications se trouvent facilement sur les App Store et les Play Store, et il ne semble pas y avoir de filtres spécifiques de la part d’Apple et de Google. Il serait également nécessaire de marquer au filigrane les contenus deepfake afin de les identifier immédiatement. De plus, les réseaux sociaux devraient renforcer les barrières de protection en adoptant l’étiquetage automatique des deepfake.
Si l’on est victime d’un deepfake, il est nécessaire de documenter l’abus et de collecter des preuves au cas où une action légale serait nécessaire. Il convient donc de prendre des captures d’écran des images modifiées, des plateformes où elles ont été téléchargées, et des demandes de retrait effectuées. Enfin, il est nécessaire de porter plainte immédiatement à la police des communications.