J. a découvert que des photos fausses circulent sur le web la montrant nue. Selon un communiqué du groupe informatique Home Security Heroes, la production de deepfake porno entre 2022 et 2023 a augmenté de 464%.
Il y a une usine d’images pornographiques non consentantes où les femmes sont déshabillées d’un simple clic. Des photographies de jeunes filles nues réalisées avec la technologie deepfake sont produites en série, elles sont fausses mais semblent réelles. La dernière victime est J., une influenceuse italienne mineure. « Peu importe qui tu es, c’est dégoûtant et nuisible ce que tu as fait. Transformer ma photo que j’ai publiée sur Instagram en une photo qui… n’est pas celle que j’ai postée ! », a-t-elle écrit sur son profil. La photo en question est un deepfake, créé à partir d’une photo en bikini qu’elle avait publiée sur son profil et transformée en une image de nudité. « Le peu de confiance que j’avais envers les personnes a totalement disparu », a commenté l’influenceuse.
Le phénomène deepfake a des racines profondes, récemment, avec les développements de l’intelligence artificielle, il est devenu encore plus simple à utiliser. Et en effet, la technologie permettant de créer des images fausses mais réalistes est devenue l’outil parfait pour créer du matériel pornographique sur le web. De plus, il est presque impossible d’assurer une suppression complète une fois que les images ont été publiées. Des images qui marquent un avant et un après dans la vie d’une femme.
Une lacune réglementaire pour les cas de deepfake
Pour le moment, il manque un cadre réglementaire capable de freiner un phénomène en croissance. Pourtant, selon un communiqué du groupe informatique Home Security Heroes, la production de deepfake porno entre 2022 et 2023 a augmenté de 464%. Les États-Unis ont tenté de créer une force opérationnelle fédérale pour examiner la technologie deepfake, mais elle a ensuite été bloquée. Yvette D. Clarke, une politique américaine, avait déjà proposé un projet de loi en 2019, puis à nouveau en 2021, et elle a déclaré au New York Times qu’elle prévoyait de réintroduire le projet de loi cette année.
Des groupes de défense des droits numériques comme l’Electronic Frontier Foundation poussent les législateurs à utiliser un cadre juridique existant pour traiter les cas de fraude, de violation du droit d’auteur, d’obscénité et de diffamation. Cependant, il y a un problème : il est très difficile de reconnaître une vidéo deepfake bien réalisée. La RAND Corporation l’a démontré avec une expérience sur 3000 vidéos. Le groupe s’est trompé plus d’un tiers du temps. « Il y a une course aux armements technologiques entre les créateurs de deepfake et les détecteurs de deepfake », a expliqué Jared Mondschein, physicien chez RAND, au New York Times. « Tant que nous ne commencerons pas à trouver des moyens de mieux détecter les deepfakes, il sera vraiment difficile d’établir un cadre réglementaire. »
La technologie pour détruire les femmes
J. n’est pas la première et ne sera pas la dernière. Fin janvier, les images pornographiques de Taylor Swift générées avec l’intelligence artificielle (IA) sont devenues virales sur les réseaux sociaux, l’une d’entre elles a été vue 47 millions de fois sur X (anciennement Twitter) avant que le compte ne soit suspendu. De plus, des images pornographiques ont été créées avec Giorgia Meloni, Michelle Obama, Scarlett Johansson et Emma Watson. Les jeunes filles mineures d’une école italienne sont également devenues victimes du deepfake, leurs camarades de classe les ont déshabillées avec l’application Bikini Off.
Comme l’a expliqué Yu Chunju, artiste chinoise de la province du Guangdong qui analyse à travers ses œuvres les inégalités de genre provoquées par la technologie deepfake : « Le deepfake est devenue une technologie pour détruire les femmes, surtout dans le porno. Il existe de nombreux sites qui remplacent les visages des gens par ceux de stars du porno, c’est humiliant et dégradant. » De plus, « tout est encore très flou, il n’y a aucune loi pour protéger les personnes, et l’impact négatif sur la société est énorme. Car si vous n’êtes pas célèbre, vous êtes psychologiquement détruit, cela arrive même si vous êtes une célébrité, mais avec un facteur aggravant. Les personnalités publiques ont une forte influence représentative sur le public, donc elles ont un impact sur la façon dont la féminité et la femme elle-même sont perçues. Et là encore, cela se réduit au désir sexuel d’un homme ».