Taylor Swift disparaît de X : le compte est supprimé après les deepfakes pornographiques devenus viraux sur les réseaux sociaux

Taylor Swift scompare da X: l’account viene oscurato dopo i porno deepfake virali sul social

Elle a disparu. Si vous tapez « Taylor Swift » dans la barre de recherche de X (anciennement Twitter), vous verrez à la place le message suivant : « Un problème est survenu. Veuillez essayer de recharger la page. » Ce n’est pas une erreur technique. En effet, au cours des derniers jours, des images pornos de l’artiste générées par l’intelligence artificielle ont été partagées sur la plateforme. Les deepfakes ont rapidement circulé sur les réseaux sociaux, malgré les efforts déployés par les plateformes pour les supprimer. Une de ces images, partagée par un utilisateur sur X, a été vue 47 millions de fois avant que le compte ne soit suspendu.

Image

Les politiques des plateformes sociales interdisent le partage de « contenus médiatiques synthétiques, manipulés ou sortis de leur contexte pouvant tromper ou induire les utilisateurs en erreur et causer des préjudices ». Suite à la diffusion de ces images, X a déclaré : « Nos équipes suppriment activement toutes les images identifiées et prennent des mesures appropriées contre les comptes responsables de leur publication ». Il semblerait toutefois que pour endiguer le phénomène, ils aient dû même « obscurcir le profil de Taylor Swift ». La société a clarifié dans une déclaration à CNN : « Il s’agit d’une mesure temporaire prise avec beaucoup de précaution, la sécurité étant notre priorité sur ce sujet ».

L’alerte de la Maison Blanche

Même la Maison Blanche a commenté l’affaire Swift, la porte-parole Karine Jean-Pierre a expliqué que l’administration Biden est préoccupée par les photos et que le Congrès devra adopter des lois contre les deepfakes. « Trop souvent », a souligné la porte-parole, « l’utilisation de ces technologies sans contrôle a un impact disproportionné sur les femmes et malheureusement aussi sur les jeunes filles, qui sont les principales cibles du harcèlement en ligne et des abus. Donc le président s’engage, comme vous le savez, à atténuer le risque d’une IA dégénérative. »

Joe Biden lui-même a été victime de la technologie deepfake, la semaine dernière un logiciel a cloné sa voix et un appel a été lancé pour ne pas voter aux primaires du Nouveau Hampshire.

Les réseaux sociaux ont un problème avec les deepfakes

Le printemps des images générées par l’IA coïncide avec les grands licenciements des Big Tech post-pandémie. X en tête. Après l’arrivée d’Elon Musk, la plateforme est devenue un Far West, le milliardaire ayant licencié une grande partie de l’équipe de modération, il est maintenant encore plus difficile de filtrer et d’éliminer les contenus violents et offensants.

Et ce n’est pas tout, X, ainsi que Meta, ont licencié les équipes chargées de lutter contre la désinformation, les campagnes coordonnées de trolls et le harcèlement sur leurs plateformes. « Il y a eu une rupture entre la modération des contenus et la gouvernance des plateformes », explique Ben Decker, qui dirige Memetica, une agence d’enquête numérique, à CBS News. « Toutes les parties prenantes, les entreprises d’intelligence artificielle, les entreprises de médias sociaux, les autorités de réglementation et la société civile doivent faire face ensemble au problème, sinon ce type de contenu continuera à proliférer ».

Les chiffres des contenus porno créés avec des logiciels

Le nombre d’images fausses pouvant manipuler le corps et le visage a augmenté de 550% entre 2019 et 2023. À l’heure actuelle, il n’existe aucune réglementation contre le partage ou la création de deepfakes.

En 2019, DeepTrace, une société basée à Amsterdam qui surveille les médias synthétiques en ligne, a constaté que 96% du contenu deepfake en ligne était de nature pornographique. L’analyste Genevieve Oh a quant à elle découvert que le nombre de vidéos pornos deepfake a presque doublé chaque année depuis 2018. Février 2023 a été le mois qui a enregistré le plus grand nombre de contenus porno deepfake produits et téléchargés en un mois.