Des vidéos porno Emma Watson ? La publicité absurde d’une application deepfake envahit les réseaux sociaux

Des vidéos porno Emma Watson ?  La publicité absurde d'une application deepfake envahit les réseaux sociaux

FaceMega a mis en ligne 127 vidéos d’Emma Watson et 74 de Scarlett Johansson dans une version érotique, renforçant le lien entre deepfake et pornographie non consensuelle.

Non, Emma Watson ne s’est pas agenouillée en se mordant la lèvre, et Scarlett Johansson n’a pas écarté les jambes lors d’un appel vidéo. Il semble, oui, il y a des vidéos, elles fonctionnent sur Facebook et Instagram. Mais les apparences sont trompeuses, surtout en ce qui concerne les deepfakes. FaceMega, une application qui remplace les visages et les corps grâce à l’intelligence artificielle, a lancé une campagne publicitaire provocatrice, ne réalisant peut-être pas que son parrainage est la meilleure carte de visite à éradiquer de chaque App Store (espérons-le).

En fait, il a choisi de facturer 127 Vidéos d’Emma Watson Et 74 de Scarlett Johansson dans des attitudes provocatrices sur les réseaux sociaux. L’application vous montre également comment le faire dans un court tutoriel. Il suffit de télécharger la photo du visage de l’actrice et de l’appliquer sur le corps d’une star du porno. Et voilà, voici la recette parfaite pour montrer une technologie performante utilisée de la pire des manières. Pour confirmer la mauvaise foi de FaceMega (au-delà de la publicité qui dissipe déjà tous les doutes) sont les catégories prédéfinies : « Fashion », « Bride », « For Men », « For Women », « TikTok », et « Hot », la choix qui a le plus d’options.

Le deepfake utilisé pour produire de la pornographie

En janvier 2020, Meta a expliqué qu’il bloquait le contenu manipulé sur ses plateformes. Une réponse à la diffusion croissante des deepfakes sur le web. Il a également souligné qu’il supprimerait tout contenu préjudiciable édité avec l’IA. Alors que font les clips érotiques des célébrités ? Maintenant, la technologie deepfake n’a rien de nouveau, avoir une application à portée de main simple à utiliser et à télécharger oui. Surtout parce que ça marche très bien. Les vidéos qu’il a produites sont plausibles et donc encore plus dangereuses. Pour 8 $ par semaine, les utilisateurs peuvent échanger les visages de n’importe qui contre des photos téléchargées sur l’application.

De plus en plus, la technologie est utilisée pour créer de la pornographie non consensuelle mettant en vedette les visages de célébrités, d’influenceurs et même d’enfants. Un utilisateur qui a tweeté la vidéo d’Emma Watson réalisée par FaceMega, exprimant son inquiétude face au phénomène, a expliqué à NBC News : « Cette technologie pourrait être utilisée avec des lycéens qui sont victimes d’intimidation dans les écoles publiques. Cela pourrait ruiner la vie de quelqu’un. des ennuis au travail. Et c’est extrêmement facile à faire et gratuit. Tout ce que vous avez à faire est de télécharger une photo de mon visage et j’ai eu accès à 50 modèles gratuits. » Son tweet protestataire a cumulé 10 millions de vues, parmi les commentaires que l’on lit : « Je l’ai vu beaucoup circuler sur Facebook », « Ça fait deux jours qu’il est aussi apparu sur YouTube », « Quelle merde, notre avenir c’est noir,  » « S’il vous plaît, rendez cela illégal. » En fait, c’est déjà illégal, mais les lois sur les médias contrefaits ne sont en vigueur qu’en Californie, en Géorgie, à New York et en Virginie.

En 2019, DeepTrace, une société basée à Amsterdam qui surveille les médias synthétiques en ligne, a constaté que 96 % du matériel deepfake en ligne est de nature pornographique. L’analyste Genevieve Oh a constaté que le nombre de vidéos porno deepfake a presque doublé chaque année depuis 2018. Février 2023 a été le mois qui a vu le plus de porno deepfake produit et téléchargé en un mois.

Découvrez le reportage du mois (sous-titré en français), l’IA gagnera t-elle face aux champion du monde du jeu de Go ? :

YouTube video