En bref : Dans une autre histoire sur le côté obscur de l’IA, le FBI a averti que les criminels font chanter les personnes en menaçant d’envoyer des images et des vidéos explicites mettant en scène les victimes à leurs amis et à leur famille. La seule différence avec les attaques de sextorsion habituelles est que le hardware est constitué de deepfakes générés par l’IA et créés à partir d’images volées sur les réseaux sociaux.
L’attaque de sextorsion habituelle implique un acteur malveillant menaçant de divulguer des images/vidéos explicites d’une cible, parfois à des amis et à la famille, à moins qu’ils ne reçoivent une somme d’argent. Les criminels pourraient avoir obtenu le hardware en piratant une victime, et il y a des moments où la personne qui menace n’a rien en fait ; ils espèrent juste effrayer quelqu’un pour qu’il paie, parfois en prétendant avoir pris le contrôle d’une webcam.
Le Federal Bureau of Investigation (FBI) vient de publier une alerte concernant un autre type de sextorsion. Cela implique des acteurs malveillants utilisant des photos et des vidéos innocentes d’une cible, prises sur les réseaux sociaux, des forums publics ou à la demande, et les manipulant à l’aide de l’IA pour rendre le résultat final sexuellement explicite. Deepfakes, en d’autres termes.
Les progrès technologiques signifient que les deepfakes peuvent désormais apparaître plus convaincants que jamais. Dans ce cas, les images modifiées sont diffusées sur les réseaux sociaux, les forums publics ou les sites Web pornographiques. Les deepfakes sont ensuite envoyés à la victime pour sextorsion ou harcèlement.
De nombreuses victimes, dont des mineurs, ignorent souvent que leurs images sont utilisées de cette manière jusqu’à ce que quelqu’un d’autre le leur signale. Il est généralement impossible d’empêcher le partage des deepfakes une fois qu’ils sont en ligne.
Le FBI écrit qu’il a observé une augmentation du nombre de victimes de sextorsion signalant l’utilisation de fausses images ou vidéos créées à partir de contenu publié sur les réseaux sociaux, demandées par l’acteur malveillant ou capturées lors de chats vidéo. Les criminels exigent généralement soit un paiement sous forme d’argent ou de cartes-cadeaux, soit ils disent à la victime d’envoyer de vraies images ou vidéos à thème sexuel.
Le FBI recommande de surveiller l’activité en ligne des enfants et de discuter des risques associés au partage de contenu personnel. Il suggère également de s’assurer que les comptes de médias sociaux sont définis sur privé et non public, et d’utiliser un mot de passe fort et une authentification à 2 facteurs. De plus, faites preuve de prudence lorsque vous interagissez en ligne avec de nouvelles personnes ou avec des personnes que vous connaissez et qui pourraient avoir un comportement inhabituel – elles ont peut-être été piratées.
Cette forme de sextorsion n’est pas une pratique entièrement nouvelle. En 2020, un bot deepfake mis à disposition gratuitement sur la plateforme de messagerie Telegram a réalisé plus de 100 000 fausses photos nues de femmes basées sur des images de réseaux sociaux, qui ont ensuite été partagées en ligne.
Les deepfakes deviennent de plus en plus convaincants et faciles à créer ; Le chinois Tencent propose un service à 145 $ qui les fabrique pour vous.
Découvrez le reportage du mois (sous-titré en français), l’IA gagnera t-elle face aux champion du monde du jeu de Go ? :
