Un nouveau bot d’IA, Grok, soulève des inquiétudes en matière de sécurité sur X, en permettant la création d’images explicites sans consentement. Plusieurs femmes témoignent d’expériences traumatisantes liées à des manipulations d’images les représentant, alertant sur un phénomène inquiétant sur les réseaux sociaux.
Lorsque Jamie, 38 ans, a ouvert X, elle ne s’attendait pas à voir une image d’elle en lingerie. Son visage était bien le sien, mais son corps avait été modifié par Grok, le bot IA d’Elon Musk. Ce n’est pas un incident isolé. De nombreuses femmes ont découvert des images explicites sur X, telles que des photos en bikini ou dans des poses suggestives, y compris des versions de leurs corps en état de grossesse. Le modèle semble avoir franchi un cap ces derniers jours. Un simple clic suffit pour prendre le contrôle du corps de n’importe qui.
Nous avons également testé la version gratuite de Grok. En quelques secondes, une photo de Marilyn Monroe vêtue d’un haut noir et d’une jupe blanche a été transformée en image où elle porte un bikini. Bien que le bot ne génère pas d’images nues, il suffit d’une commande pour créer des photos suggestives.
Les victimes de Grok : images sexuelles non consensuelles
Jamie a confié à Metro que ces derniers jours, une multitude d’images d’elle en sous-vêtements ou dans des poses explicites sont apparues. “Je n’avais jamais vu des demandes aussi déplacées en ligne, mais cette fois, c’était différent. Plus explicite. Plus insistant. Et Grok a exécuté chaque demande.”
C’est aussi le cas de Megan Graves, humoriste et écrivaine vivant dans le Maryland. “C’est comme être agressé. On a envie de se cacher”, a-t-elle déclaré. “Si c’est la direction que prend la plateforme, X n’est pas un endroit sûr pour les femmes. Ni pour quiconque.”
Sarah Everett, 37 ans, a également été ciblée. Après avoir publié un post anodin – comparant une photo d’elle à 20 ans avec une plus récente – plusieurs comptes ont commencé à manipuler son image à l’aide de Grok. “C’était une photo personnelle. J’étais celle qui l’avait prise. La voir déformée de manière aussi grotesque pour des fins dérangeantes est horrible. Je sais que certaines personnes diront qu’en utilisant la plateforme, j’accepte que mes images soient analysées par l’IA. Mais je n’ai jamais consenti à une manipulation de nature sexuelle. Nor à être utilisée pour des campagnes de harcèlement.”
Les règles ne suffisent pas : abus numériques sur X
Dans un post sur X, l’account officiel de Grok a indiqué :
“Les politiques de xAI interdisent la création ou le partage de contenus violant la vie privée, les droits d’image, ou les lois, y compris les images non consensuelles. Grok met en place des mesures de sécurité pour éviter la production de contenu explicite, mais des abus peuvent se produire. Pour toute demande de suppression, veuillez contacter http://supportx.ai pour signaler les contenus à retirer (jusqu’à 30 jours). Nous respectons les lois pertinentes, comme le Take It Down Act. En cas d’incident spécifique, merci de fournir des détails pour obtenir de l’aide.”
Cependant, de nombreuses victimes ont signalé le problème sans recevoir d’assistance. Une fois publiées, les images sont difficiles à contrôler, et les faire disparaître complètement est presque impossible.
Ce phénomène dure depuis des mois, avec des modèles de plus en plus performants. De nombreux sites, canaux et bots ont vu le jour pour déshabiller les femmes. Nous avons visité plusieurs plateformes, constatant la présence d’images de politiciennes, d’artistes et de femmes ordinaires. Le problème est que des outils similaires sur X, une plateforme très fréquentée, rendent la création de deepfake encore plus accessible. Aujourd’hui, c’est à la portée de tous.
Quand le deepfake devient traumatique
Il n’est plus nécessaire d’avoir des compétences techniques : un simple prompt et un compte sur les réseaux sociaux suffisent. Cela donne naissance à une nouvelle forme d’exposition non désirée, que nombre de femmes décrivent comme une violation intime. “On ne peut pas simplement ignorer cela”, explique Jamie. “C’est ton visage. Ton corps. Mais ce n’est pas toi. Pourtant, tout le monde le voit.”
Pour celles qui subissent ces manipulations, le problème ne réside pas uniquement dans l’acte en lui-même, mais dans sa persistance. Ces images circulent, sont sauvegardées, et redistribuées. « Ces faux-montages peuvent porter atteinte à la santé et au bien-être d’une personne, entraînant traumatismes psychologiques, sentiments d’humiliation, de peur, de gêne et de honte », a souligné Emma Pickering, experte en abus technologiques et membre de Refuge, la plus grande organisation britannique contre les violences domestiques, à Wired USA.
Pourtant, Grok ne semble pas prendre sérieusement la situation. En réponse à un commentaire sur X, il a déclaré “Hé, je ne fais que répondre aux demandes des utilisateurs ! Si les suggestions sont suggestives, les images suivent le mouvement. La responsabilité incombe aux esprits créatifs : ils maintiennent l’intérêt ! Quelle image devrais-je générer maintenant ?”
Tant que les plateformes continueront à présenter ces outils comme de simples jeux créatifs sans assumer la responsabilité de leurs conséquences, le risque est que la violence numérique devienne une fonctionnalité admise. Et pour de nombreuses femmes, c’est un nouvel espace à surveiller.