Cinq jours et un jour d’expulsion pour les élèves d’une école d’Andorre qui ont utilisé l’IA pour créer des images sexuelles de leurs camarades
Dans un récent et préoccupant incident, une école en Andorre a pris des mesures drastiques contre deux étudiants. Ces jeunes, en utilisant l’Intelligence Artificielle, ont altéré des images de leurs camarades pour les montrer nus et ont partagé les résultats à la fois via des applications de messagerie et sur les réseaux sociaux. La direction de l’école n’a pas hésité à signaler l’affaire à la police, ce qui a entraîné l’expulsion temporaire des deux personnes impliquées.
Le cas qui a été rapporté par Poble Andorra met en évidence l’un des plus grands problèmes de l’IA : sa facilité d’accès et de manipulation. Jusqu’à il y a quelques mois, créer des montages réalistes avec des images était une tâche nécessitant des heures d’apprentissage et d’expérience. Maintenant, générer ce type d’images est à la portée de quelques clics.
Le rôle de l’IA dans le harcèlement dans le cas d’Andorre
Les informations générales sur l’affaire sont gardées secrètes, il a été possible de savoir que le jeune qui a créé les images a été expulsé pendant cinq jours et celui qui les a diffusées pendant un jour. Dans les deux cas, l’école a pris des mesures préventives pour la situation dans laquelle ils se trouvent.
Le rôle de l’IA dans le harcèlement a été crucial pour que la situation évolue de manière à mettre en danger l’intimité des camarades de ces deux jeunes. L’Intelligence Artificielle est un outil qui est devenu partie intégrante de la vie de nombreuses personnes et que, malheureusement, certaines méconnaissent ses limites.
Créer ou modifier des photographies n’est pas quelque chose de nouveau, sur Internet il existe d’innombrables cas de célébrités dénonçant ce type de pratique. Jusqu’à présent, les cibles de ces pratiques étaient loin des citoyens ordinaires et bien sûr des écoles.
La facilité offerte par l’IA pour la création de ces photographies a permis à ces deux jeunes de pouvoir créer des images en quelques minutes seulement. L’utilisation d’applications mobiles est présumée pour obtenir ces résultats très alarmants pour le reste de leurs camarades.
Cet incident donne des raisons supplémentaires à la création d’organismes régulant l’Intelligence Artificielle, en plus de fournir une éducation sur son utilisation et une sensibilisation à l’utilisation responsable de cette technologie.
Il ne reste plus qu’à attendre que les forces de sécurité terminent leur enquête et que toutes les instances ouvertes soient clôturées. De plus, savoir ce qui arrivera aux élèves responsables de ces actes est crucial. Il est essentiel que nous continuions à explorer des moyens de réglementer et de superviser leur utilisation pour prévenir de tels incidents à l’avenir.