Au final, les deepfake pornos de Taylor Swift sont devenus un problème également pour Elon Musk

Alla fine i porno deepfake di Taylor Swift sono diventati un problema anche per Elon Musk

Non, Taylor Swift n’a pas tourné de vidéo porno et elle n’a pas non plus posé nue. Les images existent, c’est vrai, mais elles sont simplement la dernière dérive de la technologie deepfake. La première photo est téléchargée sur Telegram. L’effet domino se met en marche, les fausses images se répandent sur les réseaux sociaux et se propagent malgré les efforts des plateformes pour les supprimer. Une de ces images, partagée par un utilisateur sur X (anciennement Twitter), a été vue 47 millions de fois avant que le compte ne soit suspendu. Reality Defender, société de sécurité informatique, a expliqué que les photos ont été créées en utilisant l’intelligence artificielle. « La pornographie non consensuelle de diverses formes a toujours été un courant sombre et souterrain d’Internet », explique Oren Etzioni, professeur d’informatique à l’Université de Washington, dans le New York Times. « Actuellement, nous sommes confrontés à une nouvelle souche particulièrement nocive. Nous verrons un tsunami de ces images explicites générées par l’intelligence artificielle. C’est une course aux armements et chaque fois que quelqu’un pose des barrières, quelqu’un trouve un moyen de les briser ».

Image

Et en réalité, l’affaire Swift n’est pas isolée. Au contraire. FaceMega, une application qui remplace les visages et les corps en utilisant l’intelligence artificielle, avait lancé en mars une campagne publicitaire provocatrice. Elle avait téléchargé 127 vidéos d’Emma Watson et 74 de Scarlett Johansson dans des attitudes provocatrices sur les réseaux sociaux. Il y a également eu sur Reddit une vidéo pornographique deepfake de Michelle Obama, montrant l’ancienne première dame dans une chambre rouge. Yu Chunju, un artiste du Guandong, montre dans ses œuvres comment le deepfake alimente les inégalités entre les genres, expliquant à Netcost-security.fr : « Le deepfake est devenu une technologie pour détruire les femmes, surtout dans le porno. Il existe de nombreux sites qui remplacent les visages des gens par ceux de stars du porno, c’est humiliant et dégradant. Il n’y a pas de lois pour protéger les individus et l’impact négatif sur la société est énorme. »

L’appel des politiciens contre les deepfake

D’après le site 404 Media, les images ont été publiées pour la première fois sur Telegram, puis partagées sur tous les réseaux sociaux. Le député démocrate Joe Morelle de New York, qui avait présenté en 2023 un projet de loi visant à rendre le partage de vidéos pornographiques deepfake un crime fédéral, a déclaré sur X que la diffusion est « effrayante et se produit partout et tous les jours pour les femmes ». Et la liste des victimes est longue.

« J’ai prévenu à plusieurs reprises que l’intelligence artificielle pouvait être utilisée pour générer des images intimes non consensuelles », a ajouté le sénateur Mark Warner, président de la Commission du renseignement du Sénat. « C’est une situation déplorable ». La députée démocrate Yvette D. Clarke de New York a souligné que les progrès de l’intelligence artificielle ont rendu la création de deepfake plus facile et moins coûteuse : « Ce qui est arrivé à Taylor Swift n’est pas nouveau ».

La réponse de X

Après les critiques des fans de Swift, un représentant de X a déclaré dans un communiqué : « Nos équipes suppriment activement toutes les images identifiées et prennent des mesures appropriées contre les comptes responsables de leur publication ». Il a ensuite ajouté : « Nous surveillons attentivement la situation pour nous assurer que toute violation supplémentaire sera traitée immédiatement et que le contenu sera supprimé ».

Avec l’arrivée d’Elon Musk, X est devenu un véritable Far West, le milliardaire ayant licencié une grande partie de l’équipe de modération. Il est donc encore plus difficile de fouiller la plateforme et de supprimer les contenus violents et offensants. De nombreux annonceurs ont décidé de quitter X après avoir vu des messages racistes apparaître à côté des espaces publicitaires qu’ils avaient achetés sur le réseau social.