Le cas de Dover pourrait devenir un précédent important pour surveiller ceux qui ont été condamnés pour la production ou le partage d’images illégales générées par l’intelligence artificielle.
L’intelligence artificielle est devenue une usine de production de contenus illégaux, il est facile de contourner les systèmes, il suffit d’une requête pour générer des images pédopornographiques. Anthony Dover, 48 ans, en a créé plus de mille. C’est pourquoi un tribunal du Royaume-Unis a interdit à cet homme l’utilisation de tout « outil de création d’intelligence artificielle ». Pendant les cinq prochaines années, il « ne pourra pas utiliser, visiter ou accéder » à des outils de génération d’IA sans l’autorisation de la police.
La possession et la création d’images pédopornographiques étaient déjà illégales dans les années 90. Actuellement, avec l’introduction des logiciels d’IA, le système judiciaire doit se dépêcher de suivre le rythme, et le cas de Dover pourrait devenir un précédent important pour surveiller ceux qui ont été condamnés pour la production ou le partage d’images pédopornographiques. Un porte-parole du Crown Prosecution Service (organisme d’État britannique agissant en tant que procureur dans les procédures pénales) a déclaré : « Lorsque nous percevons qu’il existe un risque continu pour la sécurité des enfants, nous demanderons au tribunal d’imposer des conditions, qui pourraient inclure l’interdiction de l’utilisation de certaines technologies ».
Quelles IA créent des vidéos ? Les 10 meilleurs générateurs pour créer des vidéos en ligne avec l’intelligence artificielle.
Cependant, punir les contrevenants ne suffit pas. Pour éviter la production et le partage d’images pédopornographiques, les entreprises technologiques devront empêcher la production de contenus illégaux.
Un phénomène en croissance. Comme l’a expliqué l’Internet Watch Foundation (IWF), cette affaire est un signal d’alarme, de plus en plus d’utilisateurs utilisent en effet l’IA pour générer des images illégales. « Nous assistons à une augmentation lente mais constante de cas similaires, et le matériel créé est très réaliste », a expliqué Susie Hargreaves, PDG de l’organisation caritative. « Nous espérons que l’accusation envoie un message fort à ceux qui créent et distribuent ce genre de contenus ».
L’année dernière, l’IWF a trouvé 2 562 images illégales créées avec l’intelligence artificielle. La Lucy Faithfull Foundation (LFF), qui gère la ligne d’assistance Stop It Now, a signalé avoir reçu de nombreux appels pour signaler le contenu pornographique généré par l’IA. « C’est une tendance préoccupante qui se développe rapidement ».
La nouvelle loi contre les deepfakes. Le ministère de la Justice britannique a déclaré le 16 avril que la création de deepfakes sexuellement explicites serait considérée comme un crime en vertu d’une nouvelle loi. « Toute personne créant des images explicites sans consentement devra faire face à des précédents pénaux et à une amende illimitée ». De plus, « si l’image était ensuite partagée, les contrevenants pourraient être condamnés à une peine de prison », a déclaré le ministère. La législation existante interdit uniquement le partage de deepfakes, pas leur production. La nouvelle loi, qui s’appliquera au Pays de Galles et en Angleterre, punira toute personne créant ce type d’images.