Une adolescente, victime d’images compromettantes générées par intelligence artificielle, alerte sur un phénomène en forte hausse. Malgré les efforts des écoles et des législateurs pour instaurer des lois plus strictes, les victimes se battent contre l’impunité d’une technologie qui menace leur bien-être et leur sécurité dans un vide juridique.
Francesca et sa mère, après le incident, ont encouragé les écoles à mettre en place de nouvelles politiques pour contrer les logiciels de deepnude. Actuellement, les images fausses créées par l’IA évoluent dans un vide juridique. Cela indique que ceux qui les produisent pourraient ne pas être punis, la création de fausses images nues peut être soumise à des infractions existantes, mais ce n’est pas suffisant car cela ne prend pas en compte diverses caractéristiques intrinsèques du phénomène.
Westfield High School, New Jersey, octobre 2023. Francesca Mani, 14 ans, est assise à son bureau en cours lorsqu’elle entend l’interphone répéter son nom. Elle se lève et se dirige vers le bureau du principal. Lorsqu’elle s’assoit, il lui montre une photo d’elle, nue. Mani la regarde, surprise. Cette image n’a jamais été prise, et pourtant, elle semble réelle. La photo a été créée avec l’intelligence artificielle. Avec les nouveaux logiciels, il suffit en effet d’un clic pour générer des images nues. Ce n’est pas la seule, d’autres filles de sa classe découvrent que des photos étranges créées par l’IA circulent dans les discussions.
« Quand je suis sortie du bureau du principal, j’ai vu un groupe de garçons rire et un groupe de filles pleurer. C’est à ce moment-là que j’ai compris que j’aurais dû cesser de pleurer et m’énerver, car tout cela était inacceptable« , a raconté Mani à CBS News.
Une épidémie de deepnude
Les deepfakes existent sur certaines parties du web depuis un certain temps, mais grâce aux avancées de l’intelligence artificielle, il est devenu encore plus simple de dénud er des corps d’un simple clic. En effet, le nombre de pornographies deepfake augmente de manière exponentielle. Selon un communiqué du groupe informatique Home Security Heroes, la production d’images pornographiques de personnes réelles générées par l’IA a augmenté de 464 % entre 2022 et 2023.
Les victimes sont souvent des filles très jeunes. Elles sont contactées par des expéditeurs anonymes, qui envoient les photos fausses et ensuite les font chanter. « Il s’agit d’une extorsion sexuelle, amplifiée par l’intelligence artificielle qui permet de créer des images réalistes », a expliqué à Fanage.it Barbara Strappato, responsable de la police des technologies. « Ces images fausses peuvent nuire à la santé et au bien-être d’une personne, causant des traumatismes psychologiques et des sentiments d’humiliation, de peur, d’embarras et de honte », a souligné Emma Pickering, experte en abus technologiques et membre de Refuge, la plus grande organisation britannique contre les violences domestiques, à Wired USA.
Que s’est-il passé à Mani et aux filles de Westfield
Le principal de Westfield a, après avoir convoqué les filles, envoyé un courriel aux parents : « Certains de nos élèves ont utilisé l’intelligence artificielle pour créer des images pornographiques à partir de photos originales ». Le principal a ensuite ajouté que l’école était en train d’enquêter et que « pour l’instant, nous croyons que toutes les images créées ont été supprimées et ne sont plus en circulation ».
Selon la mère de Mani, Dorota, les images partagées en ligne continuent de circuler. Des craintes fondées étant donné qu’il est presque impossible de garantir une suppression complète une fois que les photos ont été publiées. « Qui les a imprimées ? Qui a pris un screenshot ? Qui a téléchargé ? On ne peut tout simplement pas l’effacer », a expliqué Dorota.
Non seulement selon Mani, « les filles ciblées ont payé un prix plus élevé que les garçons qui ont créé les images. Nous devons vivre avec la conscience qu’une image tourne peut-être sur Internet », a-t-elle expliqué. De plus, Dorota a ajouté « nous avons déposé une plainte auprès de la police, mais aucune accusation n’a été formulée ».
Pourquoi une nouvelle loi est nécessaire
Mani et sa mère, après l’incident de deepnude, ont encouragé les écoles à mettre en œuvre de nouvelles politiques pour lutter contre les logiciels deepnude. Elles ont également collaboré avec des membres du Congrès, et une proposition de loi appelée Take It Down Act, soutenue par les sénateurs Ted Cruz et Amy Klobuchar, a été adoptée au Sénat début décembre. Cette loi demande des sanctions pénales pour le partage de nus créés par intelligence artificielle et aux entreprises de médias sociaux de supprimer les photos dans les 48 heures suivant la demande.
Il est crucial de créer un cadre réglementaire. Actuellement, en effet, les deepnudes évoluent dans un vide juridique. Cela indique que ceux qui les génèrent pourraient ne pas être punis, la création de fausses images nues peut être reliée à des infractions existantes, mais ce n’est pas suffisant car cela ne prend pas en compte différentes caractéristiques intrinsèques au phénomène.