Cathy, 13 ans, découvre avec horreur un deepfake d’elle-même sur le téléphone d’un camarade. Malgré ses appels à l’aide, son témoignage est ignoré, tandis que les images circulent sur les réseaux. L’incident déclenche une violence à l’école, inversant la situation et entraînant son expulsion, soulevant d’importantes questions éthiques.
Sixth Ward Middle School à Thibodaux, en Louisiane, Cathy – un nom fictif – a 13 ans. En prenant le bus scolaire, elle remarque un camarade qui fait défiler des images sur son téléphone : l’une d’elles attire son attention. Le visage lui appartient, mais le corps est différent. Elle est complètement dénudée. Cette photo n’existe pas dans la réalité : c’est une image générée par l’intelligence artificielle.
Cathy décide de demander de l’aide. Elle informe la conseillère scolaire et un vice-shérif affecté à l’école, mais sans preuves matérielles, son histoire est minimisée. Pendant ce temps, les deepfakes continuent à circuler parmi les élèves, étant partagés sur Snapchat et TikTok.
La tension augmente lorsque Cathy surprend à nouveau le même camarade en train de montrer le deepfake à un ami. La colère monte et elle le frappe, déclenchant une bagarre dans le bus. Une personne filme l’altercation, et la vidéo atterrit sur les réseaux sociaux. Dès lors, l’attention se concentre sur la réaction de la jeune fille, tandis que Cathy est expulsée et transférée dans une école alternative.
Ce dernier incident de deepfake suit un schéma déjà connu. Une victime ne reçoit pas d’aide, les images circulent sur les téléphones de camarades, et les responsables échappent à toute sanction scolaire. C’est Cathy qui subit les conséquences après la bagarre. Le cas de Thibodaux illustre un problème croissant, où les avancées de l’intelligence artificielle rendent de plus en plus simple la création de contenus dégradants.
Deepfake à l’école : un manque de préparation
Auparavant, créer des deepfakes nécessitait des compétences techniques avancées, mais désormais, la technologie permet de manipuler aisément des photos issues des réseaux sociaux pour produire des images hyperréalistes. Comme l’a expliqué à ABC News Sameer Hinduja, professeur de criminologie à la Florida Atlantic University, « nombreuses sont les écoles qui ne sont pas prêtes à gérer le phénomène de cyberharcèlement facilité par l’IA. » Le cas de Thibodaux en est un exemple.
Le district scolaire de Lafourche Parish avait récemment commencé à élaborer un cadre réglementaire pour l’utilisation de l’intelligence artificielle, mais les directives existantes étaient presque exclusivement axées sur l’enseignement. Aucun protocole ne traitait spécifiquement les deepfakes et les images sexuellement explicites générées par IA.
Ce manque de cadre normatif a influencé la gestion de l’incident. Au niveau judiciaire, les élèves accusés de diffusion des images n’ont été inculpés que plusieurs semaines après les faits. En revanche, la réponse scolaire a été immédiate et sévère envers la victime : transfert vers un établissement alternatif et un risque d’expulsion durable de près de trois mois. La famille a dénoncé une réaction disproportionnée et déséquilibrée, signalant que le camarade identifié comme possible auteur ou diffuseur des contenus n’avait pas reçu, au moins au départ, de sanctions équivalentes.
Thibodaux, un avertissement pour les écoles et institutions
Ce cas n’est pas isolé. En septembre 2023, 20 filles d’Almendralejo, un village espagnol de Badajoz, ont découvert des photos truquées d’elles-mêmes, entièrement nues, sur les smartphones de leurs camarades. Une des élèves, âgée de 12 ans, a même été menacée par un profil fictif. Sur Instagram, un jeune homme lui a réclamé de l’argent pour ne pas divulguer ses photos nues, créées avec l’aide de l’intelligence artificielle.
Un événement similaire avait déjà eu lieu en Italie avec l’application BikiniOff, capable de dérober la modestie des jeunes filles à partir d’une photo. Sur les sites pornographiques, des vidéos où les visages de personnes ordinaires ou de célébrités ont été superposés à ceux de pornstars, comme Emma Watson, Michelle Obama et Scarlett Johansson, ont été mises en ligne.
Les deepfakes pornographiques ont un impact émotionnel et psychologique fort sur les victimes, particulièrement si ce sont des mineurs. En plus, il est presque impossible d’assurer une suppression totale une fois que les images ont été diffusées. Le cas de Thibodaux constitue un nouvel avertissement sur les dangers des deepfakes et sur l’incapacité des écoles à protéger adéquatement les victimes.