La montée des deepfakes, facilitée par l’intelligence artificielle, suscite de vives inquiétudes, en particulier en matière de contenus pornographiques. Face à ce phénomène, la Corée du Sud a décidé de prendre les devants en adoptant des lois strictes, tandis que le phénomène s’étend à d’autres pays, provoquant des cas alarmants.
Depuis un certain temps, les deepfakes persistent dans les recoins d’internet, mais avec l’introduction de l’intelligence artificielle, il est devenu encore plus simple et rapide de créer des répliques digitales extrêmement réalistes.
Jusqu’à présent, les pornographies deepfake ont flotté dans un vide juridique, mais la Corée du Sud a fait un premier pas en avant en approuvant un projet de loi qui criminalise la possession ou la visualisation de deepfakes. Quiconque achète, distribue ou regarde du matériel sexuellement explicite créé avec intelligence artificielle risque jusqu’à trois ans de prison ou une amende allant jusqu’à 30 millions de wons, soit environ 22 600 dollars.
De plus en plus de femmes sont victimes d’une application. Non seulement en Corée du Sud, un cas similaire s’est produit en France à Almendralejo, où 20 lycéennes ont été victimes de chantage par un groupe de garçons ayant créé des nus artificiels à l’aide d’un logiciel. En Italie, avec l’application BikiniOff, un groupe d’élèves a produit des deepfakes de camarades de classe.
Tous les cas se ressemblent. Les victimes sont souvent de très jeunes filles. Elles sont contactées par des expéditeurs anonymes qui envoient de fausses photos et les font ensuite chanter.
Gagnez 10 millions de dollars avec des chansons créées par IA : maintenant, il risque 40 ans de prison
Le nouveau projet de loi en Corée du Sud
Le projet de loi doit être approuvé par le président Yoon Suk Yeol avant d’être promulgué. Les pornographies deepfake sont en pleine expansion. La police sud-coréenne a jusqu’à présent traité plus de 800 cas, selon l’agence de presse Yonhap. La plupart des victimes sont des adolescents.
Selon le Centre de défense des victimes d’abus sexuels en ligne de Corée du Sud (ACOSAV), en 2023, il y a eu 86 victimes, et dans les huit premiers mois de 2024, 238. « Nous avons été inondés d’appels, nous avons travaillé 24 heures sur 24 », a expliqué à la BBC Park Seonghye, membre de l’ACOSAV. « Il s’agit d’une urgence à grande échelle, comme une situation de guerre. Avec la dernière technologie deepfake, il y a maintenant beaucoup plus de films qu’auparavant et cela destine à augmenter.”
Pourquoi une nouvelle loi est importante
Les deepfakes persistent sur internet depuis un certain temps, mais avec l’introduction de l’intelligence artificielle, il est devenu encore plus simple et plus rapide de créer des répliques digitales extrêmement réalistes. C’est pourquoi il est nécessaire d’apprendre à reconnaître les images manipulées et de punir ceux qui les produisent avec une loi dédiée, qui n’existe pas actuellement.
La création de fausses images de nus peut en effet être rattachée à des délits préexistants, mais cela n’est pas suffisant car ces lois ne tiennent souvent pas compte de plusieurs caractéristiques intrinsèques du phénomène.
La Corée du Sud n’est pas le seul pays concerné. Le Congrès des États-Unis discute également de ce sujet pour déterminer comment freiner ce phénomène. Dès 2019, Yvette D. Clarke, une législatrice américaine, a déjà proposé un projet de loi, et à nouveau en 2021. Elle a récemment déclaré au New York Times qu’elle prévoit de réintroduire le projet de loi cette année.