Mark Zuckerberg a décidé de supprimer le système de modération basé sur des organisations externes, laissant désormais les utilisateurs signaler les contenus. Ce changement pourrait radicalement transformer l’expérience sur Instagram et Facebook, soulevant des préoccupations croissantes sur la propagation de la désinformation et la sécurité des utilisateurs.
Mark Zuckerberg a annoncé qu’il abandonnait le système de modération et de vérification des faits basé sur des organisations tierces spécialisées dans l’identification de contenus dangereux, violents ou trompeurs. À partir de maintenant, sur Instagram, Facebook et Threads, seuls les utilisateurs signaleront les publications, vidéos et reels.
Meta supprimera les vérificateurs de faits, « réduira considérablement la censure » et recommandera « plus de contenus politiques sur Instagram, Facebook et Threads », telles sont les paroles de Mark Zuckerberg. Derrière les slogans qui glorifient la liberté d’expression se cache une décision politique pouvant changer radicalement les réseaux sociaux que nous utilisons quotidiennement. Pour commencer, il faut reconnaître que les plateformes ont toujours eu du mal à modérer les contenus. Il est difficile de freiner la polarisation, d’identifier les contenus violents, de discerner les fausses informations, d’empêcher les groupes extrémistes de proliférer sur les plateformes, ou encore de protéger les minorités des commentaires offensants. En éliminant complètement le contrôle des vérificateurs de faits professionnels et en confiant la modération à ses utilisateurs, Meta risque d’aggraver la situation.
Nous pouvons déjà imaginer les conséquences potentielles pour les utilisateurs d’Instagram, Facebook et Threads. Paraphrasant Antoine de Saint-Exupéry, si vous voulez comprendre le présent, étudiez le passé. En effet, la perspective la plus réaliste est que les plateformes de Meta suivent le déclin de X. Ce réseau social, après l’achat par Musk, a été modéré à travers les notes communautaires (le même système que choisira Zuckerberg, qui a d’ailleurs cité directement X à titre d’exemple). En peu de temps, la plateforme s’est transformée en un terrain de propagande électorale et de memes de mauvais goût, un véritable bastion pour les extrémistes, misogyne, racistes. X est devenu un sable mouvant qui aspire les contenus réels et recrache de la désinformation et de la violence.
Meta a souligné que les contenus dangereux relatifs au suicide, à l’automutilation ou aux troubles alimentaires seront cependant considérés comme des « violations de haute gravité » et que « l’entreprise continuera à utiliser des systèmes automatisés pour détecter ces contenus de haute gravité ». Toutefois, ces garde-fous pourraient ne pas suffire et le cas de X nous raconte une autre histoire.
Ce qu’indique l’élimination de la vérification des faits et comment fonctionnent les notes communautaires
Pendant des années, Meta s’est appuyé sur des organisations externes comme Associated Press, ABC News et le Réseau International de Vérification des Faits pour examiner les publications potentiellement fausses ou trompeuses sur Facebook et Instagram et déterminer s’il était nécessaire de les supprimer. Avec le nouveau système, les utilisateurs signaleront les contenus. Les notes communautaires sont en fait un programme de modération guidé par la communauté, visant à contrer la propagande et la désinformation.
L’idée des « notes communautaires » est née pour la première fois sur Twitter en 2019, lorsqu’une équipe de développeurs de l’entreprise a théorisé un modèle de crowdsourcing capable de modérer les contenus. En janvier 2021, l’entreprise a lancé un programme pilote de cette fonction, appelée « Birdwatch ». Sur X, les notes communautaires sont devenues un outil de crowdsourcing permettant aux utilisateurs de modérer eux-mêmes les contenus, sans que la société supervise directement le processus. Un groupe d’utilisateurs sélectionnés comme « collaborateurs » peut dès lors écrire une note sous toute publication qu’il juge trompeuse ou inaccurate, d’autres collaborateurs peuvent ensuite évaluer si la note est utile.
Ce qui changera pour les utilisateurs d’Instagram et Facebook
Les notes communautaires ont transformé X en une terre sauvage, et en effet, les nouvelles politiques de Meta ont suscité des inquiétudes. Selon Chris Morris, directeur général de l’organisation de vérification des faits Full Fact, financée par Meta pour vérifier les contenus sur Facebook, l’annonce est « un pas en arrière qui risque d’avoir un effet paralysant dans le monde entier« . Il a affirmé que les vérificateurs de faits de son organisation ont toujours évalué les contenus « de toutes les tendances politiques avec le même rigueur. »
Global Witness, un groupe de défense des droits humains, a déclaré : « L’annonce de Zuckerberg est un évident effort pour s’attirer la nouvelle administration Trump. Ces changements rendront les réseaux sociaux plus dangereux pour les femmes, les personnes LGBTQ+, les personnes de couleur, les scientifiques et les activistes, catégories qui subissent déjà des harcèlements et des attaques disproportionnées. »
Le Centre for Information Resilience, une organisation pour le suivi de l’incitation à la haine et de la désinformation en ligne, a expliqué que les notes communautaires constitueront un important recul pour la modération des contenus à un moment où la désinformation et les contenus nuisibles évoluent plus rapidement que jamais.