Le phénomène deepfake a des racines profondes, mais au cours de la dernière période, il est devenu encore plus simple et plus performant. La technologie est principalement utilisée dans la pornographie.
N’importe quelle photo et, une fois téléchargée, le bot fait disparaître les vêtements. En utilisant l’intelligence artificielle, il crache des images de nus qui n’ont jamais été prises. L’application Bikini Off est gratuite, accessible à tous et très dangereuse. Et le bot n’est que le dernier outil de l’usine pourrie du Web qui produit du matériel non consensuel.
Il s’est déjà répandu dans les écoles, le cas de deux garçons qui ont décidé de déshabiller virtuellement leurs camarades de classe « comme une blague » a braqué les projecteurs sur une énième déformation du deepfake. En fait, ces derniers mois, la technologie capable de créer des images fausses mais réalistes est devenue l’outil parfait pour créer du matériel pornographique sur le Web. Le phénomène a également attiré l’attention du médiateur de l’enfance de la région du Latium, qui a décidé d’organiser des réunions avec les parents pour les sensibiliser à ce sujet.
L’appli qui dépouille les gens
Bikinioff est né en France comme une évolution de BeReal puis s’est répandu dans le monde entier en 2022, enregistrant un nombre record de téléchargements chez les vingtenaires. Il est capable de créer des photos fausses mais réalistes et pour accéder à l’application, vous n’avez même pas besoin d’authentification, cela indique que n’importe qui, même les mineurs, peut l’utiliser. Et en fait, Bikini Off est devenu populaire parmi les bancs d’école, au cours de la dernière période, 27 infractions ont été signalées et deux adolescents de 14 ans ont fait l’objet d’une enquête pour production de pornographie enfantine. C’est arrivé dans un collège de la province de Rome, les deux garçons ont été accusés d’avoir modifié cinq photos de camarades de classe puis les partager. Ils ont dit aux carabiniers « c’est juste une blague ».
L’application est simple et gratuite. La première photo est gratuite, pour produire d’autres deepfakes, vous devez acheter des crédits en enregistrant votre carte de crédit, ou en utilisant Google Pay, les paiements via les crypto-monnaies sont également disponibles. Nous l’avons essayé et avons découvert que le bot propose une série d’abonnements qui permettent d’accéder à différents abonnements, allant de 5 euros, pour obtenir 10 photos, à 270, pour en produire 600.
TELGRAMME | Abonnements pour utiliser l’application Bikini Off
L’intervention du Protecteur des enfants
En réponse au phénomène, Monica Sansoni, la médiatrice de l’enfance de la région du Latium, a décidé d’organiser des sessions de formation dans les écoles, les groupes sportifs et les paroisses. Le projet « Parents au centre, mission adolescence » vise à sensibiliser à l’usage abusif des nouvelles technologies, car, comme l’explique Sansoni, Bikini Off « n’est pas un simple coup de pub ». Il a également ajouté qu’il reçoit au moins deux signalements par semaine pour des images pédopornographiques diffusées par des mineurs sur le web.
Le but du projet est de sensibiliser les adultes aux risques du monde virtuel, notamment sur des chaînes comme Telegram où il est facile de trouver des niches sombres qui génèrent du matériel nocif de manière incontrôlée. En fait, les enfants sur le Web trouvent toujours de nouveaux repaires à expérimenter, et comme l’explique Sansoni : « Alors que les adultes sont toujours bloqués sur TikTok, les enfants sont déjà au-delà ».
Bikini Off n’est pas un cas isolé
Le phénomène deepfake a des racines profondes, dans la dernière période, avec le développement de l’intelligence artificielle, il est devenu encore plus facile à utiliser, et les images et vidéos qu’il crée sont ultra-réalistes. Bikini off n’est pas le seul cas. En mars, FaceMega, une application qui remplace les visages et les corps grâce à l’intelligence artificielle, a lancé une campagne publicitaire provocatrice, ne réalisant peut-être pas que son parrainage est la meilleure carte de visite à éradiquer de chaque App Store.
En effet, à des fins de démonstration, il a mis en ligne 127 vidéos d’Emma Watson et 74 de Scarlett Johansson dans des attitudes provocatrices sur les réseaux sociaux. Il suffit de télécharger la photo du visage de l’actrice et de l’appliquer sur le corps d’une star du porno. Et voilà, voici la recette parfaite pour montrer une technologie performante utilisée de la pire des manières.
Deepfake Porn : un phénomène grandissant
« Deepfake est devenu une technologie pour détruire les femmes, en particulier dans le porno. Il existe de nombreux sites qui remplacent les visages des gens sur les corps des stars du porno, c’est humiliant et mortifiant », a expliqué Yu Chunju, un artiste chinois qui expérimente les technologies deepfake dans le domaine artistique, à Netcost-security.fr
Le phénomène s’est amplifié au fil des ans. En fait, l’analyste Genevieve Oh a constaté que le nombre de vidéos porno Deepfake a presque doublé chaque année depuis 2018. Février 2023 a été le mois qui a enregistré le plus de porno deepfake produit et téléchargé en un mois.
Découvrez le reportage du mois (sous-titré en français), l’IA gagnera t-elle face aux champion du monde du jeu de Go ? :
