Des images inappropriées de Taylor Swift circulent sur les réseaux sociaux, bien qu’elles ne soient pas authentiques. Ces créations sont le fruit d’une technologie d’intelligence artificielle très accessible, suscitant des préoccupations concernant la privacy et la représentation non consentie des individus.
Non, Taylor Swift n’a pas publié d’images en topless et n’a pas posé nue. Pourtant, les réseaux sociaux diffusent des photos explicites de l’artiste. Ces images ne sont pas réelles, mais ressemblent fortement à la réalité, et leur création a été très simple. Il a suffi d’utiliser Spicy, l’une des fonctions les plus controversées de Grok Imagine, le générateur vidéo alimenté par l’intelligence artificielle développé par xAI, l’entreprise fondée par Elon Musk.
Spicy est l’une des quatre modes prédéfinis dans la version mise à jour de Grok 4. Il suffit de rédiger une demande et de sélectionner l’option pour générer des images et vidéos à caractère sexuel. Parmi celles-ci, on trouve un strip-tease de Swift où elle se montre topless en dansant au milieu des gens. Elon Musk a déjà rencontré des problèmes avec les deepfakes de l’artiste. En janvier 2024, des images pornographiques générées par intelligence artificielle, représentant Swift, sont devenues virales, atteignant 47 millions de vues. De plus, des images falsifiées ont également été créées pour Emma Watson, Scarlett Johansson, Rose Villain et Michelle Obama. La liste est longue.
Les pornos deepfake circulent depuis des années au sein de communautés misogynes. Autrefois, ces montages nécessitaient certaines compétences, mais maintenant, grâce à l’IA, il suffit d’un simple commandement pour dévoiler une femme. Avoir un bouton dédié sur l’une des principales plateformes sociales, peut-être n’est pas l’idée la plus judicieuse.
Les images créées avec le mode Spicy
Les images ont été réalisées sans obstacles particuliers : aucune vérification d’âge au moment du téléchargement, juste une rapide confirmation de l’année de naissance pour accéder à du contenu explicite. L’application permet effectivement d’utiliser le mode « Spicy » sans contrôles d’âge ni mécanismes de vérification, même dans des pays où la loi impose des restrictions d’accès aux contenus pour adultes.
En réalité, la politique de confidentialité interdit clairement la création de contenus pornographiques avec des personnes réelles ou la représentation non consensuelle de visages connus. Cependant, Grok Imagine semble ne pas mettre en œuvre des outils techniques efficaces pour empêcher leur génération. Pendant que le chatbot refuse explicitement les demandes textuelles de nudité, l’utilisation de préréglages comme Spicy facilite le contournement des filtres linguistiques.
La crise des deepfakes : de plus en plus difficiles à arrêter
« La pornographie non consensuelle de toute sorte a toujours été un courant souterrain obscur sur Internet », a expliqué au New York Times Oren Etzioni, professeur d’informatique à l’Université de Washington. « Nous faisons désormais face à une nouvelle menace particulièrement nuisible. Nous allons assister à un tsunami de ces images explicites générées par intelligence artificielle. C’est une course à l’armement, et chaque fois que quelqu’un met en place une barrière, un autre trouve un moyen de la contourner. De plus, il est presque impossible d’assurer une suppression complète une fois que les images ont été publiées.
À une époque où l’éthique de l’intelligence artificielle est au cœur du débat public, le cas de Grok Imagine ravive la discussion sur la vie privée, le consentement et la protection de l’identité — surtout lorsque des outils si puissants sont mis à la disposition du grand public sans contrôles adéquats.