Revenge porn bloqué de la même manière que les scans CSAM abandonnés d’Apple

Revenge porn bloqué de la même manière que les scans CSAM abandonnés d'Apple

Facebook a travaillé sur les moyens d’empêcher la publication de soi-disant « pornographie de vengeance » – c’est-à-dire le partage non consensuel de photos explicites par d’anciens partenaires et d’autres – et les tentatives de sextorsion, en particulier celles contre des adolescents.

Son premier outil, en 2017, était si effrayant que peu étaient prêts à l’utiliser : vous deviez télécharger des nus sur Facebook afin de les faire marquer pour les bloquer ! Mais un nouvel outil, initialement destiné aux adolescents, leur permettra de créer des empreintes digitales, directement sur leur propre appareil…

Vengeance porno et sextorsion

La pornographie de vengeance – mieux connue sous le nom de pornographie non consensuelle – est devenue un problème croissant. Là où autrefois un ex violent pouvait montrer une photo en personne à quelques amis, il est désormais simple pour un agresseur de télécharger des photos sur les réseaux sociaux, ce qui leur permet d’être vues par potentiellement des centaines de personnes.

Les adolescents sont également de plus en plus victimes de «sextorsion» – où un adulte les trompe pour qu’ils se révèlent sur webcam, enregistre les images, puis utilise la menace d’exposition soit pour faire chanter les victimes dans d’autres actes, soit pour exiger de l’argent.

Les adolescents de sexe masculin sont les victimes les plus courantes, via des «pièges à miel». Un modèle féminin attrayant d’une application de rencontres, se faisant généralement passer pour quelqu’un du même âge, persuade les victimes d’accomplir des actes sur webcam, qui peuvent ensuite être utilisés pour les extorquer.

Approches précédentes trop effrayantes ou peu fiables

La première approche de Facebook au problème était de permettre aux gens de télécharger leurs propres nus sur le service, ce qui créerait alors une empreinte numérique hachée. Cette empreinte digitale serait ensuite utilisée pour empêcher les autres de tenter de télécharger la même photo.

Sans surprise, peu de gens étaient prêts à prendre le risque de télécharger des photos compromettantes sur Facebook, même si cela ne vous obligeait qu’à vous envoyer l’image.

Une deuxième version a utilisé l’IA pour tenter d’identifier les images problématiques.

CNN rapporte que le propriétaire de Facebook et d’Instagram, Meta, s’associe désormais au Centre national pour les enfants disparus et exploités (NCMEC) sur une bien meilleure approche.

Take It Down, qui est exploité et géré par le National Center for Missing and Exploited Children, permettra pour la première fois aux mineurs de joindre anonymement un hachage – ou empreinte digitale – à des images ou vidéos intimes directement à partir de leurs propres appareils, sans avoir à téléchargez-les sur la nouvelle plate-forme.

Pour créer un hachage d’une image explicite, un adolescent peut visiter le site Web TakeItDown.NCMEC.org pour installer un logiciel sur son appareil. Le numéro anonymisé, et non l’image, sera ensuite stocké dans une base de données liée à Meta afin que si la photo est publiée sur Facebook ou Instagram, elle sera comparée à l’original, révisée et potentiellement supprimée.

Approche similaire à l’analyse CSAM abandonnée d’Apple

Si cela vous semble familier, c’est parce qu’il est très similaire à celui qu’Apple prévoyait d’utiliser pour rechercher des contenus d’abus sexuels sur des enfants (CSAM).

Dans ce cas, le NCMEC aurait fourni à Apple des hachages numériques de matériel abusif connu et existant ; Apple créerait des hachages numériques des photos sur les iPhones des utilisateurs ; et cela déclencherait alors votre iPhone pour exécuter une analyse comparant les deux ensembles d’empreintes digitales. Si plusieurs correspondances étaient trouvées, les photos concernées seraient téléchargées pour un test manuel.

Cependant, quatre préoccupations ont été soulevées, notamment la capacité des gouvernements autoritaires à forcer Apple à vérifier les hachages d’affiches de protestation, etc. Apple a pu répondre à certaines des craintes, mais pas à toutes, et la société a ensuite confirmé qu’elle avait abandonné le plan.

Le système développé par Meta et le NCMEC ne devrait pas soulever de préoccupations similaires, car les propriétaires d’iPhone choisissent librement d’utiliser l’outil.

Photo : Mélanie Wasser/Unsplash

Détente, découvrez l’évolution du nombre de smartphones vendus par marque au fil du temps dans la vidéo ci-dessous :

YouTube video