En Italie, les premiers deepfakes ont déjà fait leur apparition dans les écoles, les élèves déshabillent leurs camarades en un clic. Les images manipulées ont un impact psychologique et émotionnel fort sur les étudiantes, surtout si elles sont mineures.
Les bureaux des établissements scolaires américains sont remplis de plaintes concernant des images de nudité créées avec l’intelligence artificielle. Les étudiants prennent une photo, la téléchargent sur l’application et déshabillent leurs camarades de classe en un clic. Les fausses photos, qui semblent réelles, circulent sur les groupes WhatsApp et deviennent virales. « Les écoles ne font pas assez pour aborder ce phénomène, il faut mettre à jour les politiques scolaires pour contrer l’exploitation de l’intelligence artificielle », a expliqué Francesca Mani au New York Times. Elle est la mère d’une des victimes, Dorota, étudiante à la Westfield High School dans le New Jersey. « Tous les districts scolaires sont confrontés aux défis et à l’impact de l’intelligence artificielle et des autres technologies disponibles pour les étudiants à tout moment et n’importe où », a expliqué Raymond González, directeur de l’école.
La technologie deepfake est en train de devenir un outil pour détruire les femmes. Ce n’est pas la première fois, plusieurs étudiants ont déjà utilisé les applications et l’intelligence artificielle pour déshabiller leurs camarades, même en Italie. « Ce phénomène est apparu soudainement et pourrait prendre de nombreux districts scolaires au dépourvu et les laisser incertains quant à la marche à suivre », a expliqué Riana Pfefferkorn, chercheuse à l’Observatoire Internet de Stanford. Malgré les plaintes, il semble en effet que les écoles ne soient pas prêtes à faire face à cette nouvelle technologie. Les deepfakes pornographiques ont un impact psychologique et émotionnel fort sur les victimes, surtout si elles sont mineures. De plus, il est presque impossible de garantir une suppression complète une fois que les images ont été publiées. Ces images marquent un avant et un après dans la vie d’une femme.
Non, ce n’est pas la première fois
La Beverly Vista Middle School de Beverly Hills en Californie a contacté la police en février après avoir découvert des images explicites créées avec l’IA et diffusées par cinq étudiants de l’école. Deux semaines plus tard, selon les documents du district, le conseil scolaire a approuvé l’expulsion des cinq étudiants. Michael Bregy, directeur du district scolaire de Beverly Hills, a expliqué au New York Times que l’objectif commun était de créer un précédent national pour empêcher les élèves de créer et de diffuser des images sexuellement explicites. Ce sont des images « inquiétantes et violentes » pour les filles et pour leurs familles, « elles ne peuvent pas être tolérées ».
Que faire si vous êtes victime d’un deepfake : les trois étapes essentielles
Début septembre, 20 filles d’Almendralejo, une ville espagnole de Badajoz comptant environ 30 000 habitants, ont découvert que leurs camarades de classe avaient de fausses photos nues sur leurs smartphones. Une des étudiantes, âgée de 12 ans, a même été victime de chantage par un faux profil. Sur Instagram, un garçon lui a demandé de l’argent pour ne pas divulguer ses photos nues créées grâce à l’intelligence artificielle.
Le cas BikiniOff en Italie
En Italie, les premiers deepfakes ont déjà fait leur apparition dans les écoles. En avril 2023, dans un collège de la province de Rome, deux garçons ont été accusés d’avoir modifié cinq photos de leurs camarades de classe avec l’application BikiniOff, puis de les avoir partagées. L’application a été créée en France et s’est répandue dans le monde entier en 2022, enregistrant un nombre record d’utilisateurs dans la vingtaine. Elle fonctionne de manière similaire à un chatbot Telegram et est capable de créer de fausses photos de nudité artificielle mais réalistes.
En avril de l’année dernière à Rome, 27 infractions ont été signalées et deux adolescents de 14 ans ont été accusés de production de matériel pédopornographique. Début octobre, l’alarme a également été déclenchée à Trévise après le signalement de deux jeunes filles, dont l’une fréquentait l’école moyenne. À Latina, neuf garçons ont créé la photo d’une de leurs enseignantes nue. Non seulement ils l’ont diffusée dans les chats avec leurs camarades, mais ils l’ont également publiée sur certains sites pornographiques. L’influenceuse mineure Jennifer Serpi a également dénoncé sur ses réseaux sociaux avoir trouvé des images explicites d’elle nue sur le web.
Le tsunami des deepfakes pornographiques
Le nombre de deepfakes pornographiques augmente de manière exponentielle. Selon un communiqué du groupe de sécurité informatique Home Security Heroes, la production d’images pornographiques de personnes réelles créées avec l’IA a augmenté de 464% entre 2022 et 2023. L’analyste Genevieve Oh a quant à elle découvert que le nombre de vidéos deepfake a presque doublé chaque année depuis 2018.
« En Italie, le phénomène est en croissance », avait expliqué Barbara Strappato, responsable de la police postale, à Netcost-security.fr. « Les premiers signalements de la part des victimes sont arrivés en mars. La nouveauté est d’avoir trouvé des applications qui exploitent l’intelligence artificielle pour déshabiller les personnes, ce sont des faux, mais le résultat est convaincant, ce n’est pas comme mettre le visage de quelqu’un sur un corps nu. »