Un phénomène inquiétant autour de la création et la diffusion de contenus inappropriés par l’intelligence artificielle qui touche surtout les femmes émerge sur le web. De nouvelles plateformes continuent de proliférer, laissant présager des retombées alarmantes pour la société et la protection des individus dans l’espace numérique.
Ce n’est pas fini. Une simple dénonciation ne suffit pas, ni la fermeture d’un site. Sur Internet, le marché souterrain de la misogynie existe depuis des années et attire à présent l’attention. D’un côté, l’intelligence artificielle amplifie le phénomène, de l’autre, nous avons finalement compris que ces sujets méritent notre indignation. Mais la réalité est bien plus complexe.
Début octobre, nous avons évoqué un site qui exploitait les femmes à l’aide de l’IA, suivi de la dénonciation de Francesca Barra, d’Arisa et d’autres victimes qui ont réalisé qu’elles étaient présentes sur le forum. À peine quelques semaines plus tard, nous avons découvert une autre plateforme qui opère de la même manière : elle génère et diffuse des images nues artificielles de femmes qui n’en ont aucune connaissance. Pire encore, des adolescentes sont également impliquées. On a l’impression d’être tombé dans un gouffre dont il est impossible de voir le fond.
Découverte d’un site exploitant l’IA pour déshabiller des femmes
Ce nouveau site est en réalité ancien. Comme pour le précédent, il existe depuis des années et a récemment lancé des pages consacrées aux deepnude. Le forum ressemble fortement à celui dénoncé plus tôt en octobre. On y trouve une galerie d’images et de vidéos à sélectionner, et régulièrement, les administrateurs postent des images de nudité artificielle de femmes politiques, d’artistes et d’influenceuses. Nous avons également repéré des deepnude de deux mineures.
Le site forme une communauté où se tiennent des cum tribute, des échanges de conseils et des demandes spécifiques. « Encore, s’il te plaît. » « Comment les réalises-tu ? » « Je veux déshabiller mes amies. » « S*ega collective ? » Voici quelques-uns des commentaires laissés sous les images créées par l’IA. Ceux-ci sont les moins vulgaires que j’ai pu rapporter.
Selon les discussions sur le forum, certaines images sont réalisées avec Grok, d’autres par des bots spécialisés dans le deepnude. Ces logiciels sont également promus sur le site. « Si tu veux déshabiller qui que ce soit d’un clic, utilise ceci », peut-on lire sur des bannières clignotantes de couleur rose fluorescent. Le marché est en place. De fait, de nombreuses demandes sur le site concernent la création de nudes artificiels de camarades, d’ex, de cousines et de sœurs.
Moulins à vent, IA et corps numériques
Je suis pratiquement certaine qu’un nouveau site émergera dans quelques semaines, puis un autre et encore un autre. Une toile souterraine exploite les zones sombres du web pour se développer et continuer sans entrave des pratiques dégradantes sur les corps féminins. Et il ne s’agit pas de canaux Telegram cachés, mais de sites en vue.
Il y a trois grands enjeux qui se profilent. Le premier est la prise de conscience d’un phénomène bien plus vaste que nous l’avions supposé. Le second est un défi technique : comment y mettre un terme ? Le site que nous avions signalé en octobre est toujours actif. Il a juste supprimé quelques pages et albums de deepnude. En réalité, il fonctionne toujours.
Imaginons le meilleur scénario. Si ce site avait été fermé après les dénonciations, comme cela s’est produit avec Phica, combien de temps aurait-il fallu pour en créer un autre avec un nouveau domaine ? Peu. Très peu. De plus, ces sites continuent d’émerger pendant que l’Agcom s’attache à restreindre l’accès des mineurs – avec des méthodes discutables – aux sites pour adultes.
Face à cette réalité alarmante et frustrante, car il semble que nous luttons véritablement contre des moulins à vent, les logiciels d’IA de plus en plus avancés entrent en jeu. Ces modèles rendent tout réalisable, tout plus crédible. Les corps deviennent réplicables, manipulables à l’infini, un objet à utiliser à sa guise en piétinant toute forme de consentement. Alors, que peut-on faire ?
Il faut dénoncer, s’indigner, pointer du doigt. Pendant ce temps, les sites persistent et les mesures semblent insuffisantes. Et pourtant, comme le disait Don Quichotte à propos de ses moulins à vent : aucune preuve de courage n’est plus grande que de faire face à ce qui semble impossible.