La problématique des images de nudité générées par intelligence artificielle prend de l’ampleur, notamment en Corée du Sud. Des jeunes filles se retrouvent confrontées à des photographies manipulées de manière choquante sur des plateformes anonymes. Cette situation soulève des questions cruciales sur la légalité et l’impact social de ces technologies émergentes.
Le dernier cas vient de la Corée du Sud, un groupe d’élèves, pour la plupart mineures, a découvert que sur Telegram circulent des images nues les représentant dans des poses sexuellement explicites. Ces photos n’ont jamais été prises, et pourtant à l’ère de l’intelligence artificielle, il suffit d’un logiciel pour déshabiller n’importe qui.
Le téléphone de Heejin sonne, c’est un message sur Telegram, l’expéditeur est anonyme : « Tes photos ont fuité, parlons-en« . Le téléphone sonne à nouveau, Heejin ouvre l’application, sur l’écran apparaît une photo d’elle nue. Elle n’a jamais été prise, mais cela n’a pas d’importance, car à l’ère de l’intelligence artificielle, tout le monde peut être déshabillé d’un clic. Le téléphone sonne de nouveau, en boucle, continuent d’arriver des images fausses qui semblent vraies, toutes la représentent dans des poses sexuellement explicites. « J’étais pétrifiée, je me suis sentie si seule », a raconté à la BBC Heejin (le nom est fictif pour protéger la victime).
Cependant, elle n’est pas seule. Heejin, élève coréenne, fait partie d’un écosystème beaucoup plus large. Celui des victimes de deepnude. En Corée du Sud, de plus en plus de femmes sont déshabillées avec une application. De plus, un cas similaire s’est également produit en France à Almendralejo, où 20 lycéennes ont été harcelées par un groupe de garçons qui les avaient déshabillées avec une application. Même en Italie, avec le logiciel BikiniOff, un groupe d’élèves a créé des deepnude des camarades de classe.
Tous les cas se ressemblent. Les victimes sont souvent de très jeunes filles. Elles sont contactées par des expéditeurs anonymes qui envoient des photos falsifiées et les font chanter. Souvent, des salles de discussion sont créées sur Telegram pour échanger des images sexuellement explicites, utilisées comme matériel pornographique. En fait, la journaliste sud-coréenne Ko Narin a découvert des dizaines de groupes où les utilisateurs partageaient des photos de femmes qu’ils connaissaient ou des deepnude créés avec des logiciels d’intelligence artificielle.
« Chaque minute, des personnes chargent sur Telegram des photos de filles qu’elles connaissent et demandent à les transformer en deepfake », a expliqué Ko à la BBC. Elle a aussi découvert des chats appelés « salles de l’humiliation » où les utilisateurs partageaient des photos d’étudiantes, y compris des collégiennes. « J’ai été choquée par le caractère systématique et organisé de ce processus« , a expliqué Ko. Après l’article de Ko, les militantes pour les droits des femmes ont commencé à fouiller Telegram, découvrant de nombreux groupes où étaient publiées des deepnude de filles mineures de 5 000 écoles et universités différentes.
Le problème légal des deepnude : « Trop difficile d’attraper le coupable »
Les deepnude opèrent dans un vide légal. Cela indique que ceux qui les créent pourraient ne pas être punis, la création de fausses images nues peut être rattachée à des crimes existants mais ce n’est pas suffisant car cela ne prend pas en compte différentes caractéristiques intrinsèques du phénomène. De plus, Ah-eun, étudiante coréenne victime de deepfake, a raconté à la BBC : « La police a dit que suivre ces cas était inutile car il serait trop difficile d’attraper le coupable et que ce n’était pas vraiment un crime parce que les photos étaient fausses ».
Les chats ont fleuri sur Telegram, ce n’est pas un hasard. C’est en effet une application de messagerie cryptée, pour de nombreux utilisateurs vivant dans des pays avec des régimes autoritaires, c’est devenu un terrain favorable pour la liberté d’expression, mais il y a cependant l’autre face de la médaille. L’anonymat a en effet permis à des chats illégaux de proliférer. Les salles peuvent être configurées en mode « secret » et leur contenu peut être rapidement supprimé sans laisser de trace.
Le sujet est sensible, la dénonciation en Corée arrive en effet quelques jours après l’arrestation en France de Pavel Durov, PDG et fondateur de Telegram, accusé d’être complice de crimes commis sur l’application, parmi lesquels le partage de matériel pédopornographique. Dans une déclaration, Telegram a dit à la BBC que ses modérateurs « monitorent activement les parties publiques de l’application, utilisent des outils d’intelligence artificielle et acceptent les signalements des utilisateurs pour retirer chaque jour des millions de contenus qui violent les conditions d’utilisation de Telegram ».
L’augmentation des cas de deepnude : les données
Le Centre de défense des victimes d’abus sexuels en ligne de Corée du Sud (ACOSAV) a enregistré une augmentation des deepnude. En 2023, il y a eu 86 victimes, et durant les huit premiers mois de 2024, 238. « La semaine dernière, nous avons été inondés d’appels, nous avons travaillé 24 heures sur 24« , a expliqué Park Seonghye, membre d’ACOSAV. « Pour nous, c’était une urgence à grande échelle, comme une situation de guerre. Avec la dernière technologie deepfake, il y a maintenant beaucoup plus de vidéos qu’auparavant et cela est susceptible d’augmenter« . De nombreux chats ont été fermés, mais d’autres réapparaîtront, ce n’est qu’une question de temps.