Un projet de loi australien propose une option radicale pour les utilisateurs de réseaux sociaux : désactiver les recommandations algorithmiques. Cette mesure, qui vise à redonner le contrôle, suscite un débat sur son efficacité réelle et ses conséquences inattendues.
Un nouveau projet de loi du gouvernement australien prévoit que les plateformes responsables des réseaux sociaux permettent aux utilisateurs de choisir un fil d’actualité sans recommandations promues par un algorithme.
L’Australie veut un « interrupteur » pour l’algorithme
L’Australie progresse avec le Digital Duty of Care (Devoir de vigilance numérique), dont l’avant-projet a été publié début septembre pour consultation et dont le projet de loi a été présenté aujourd’hui au Parlement par la ministre des Communications, Anika Wells.
Ce texte oblige les services en ligne à identifier de façon proactive les risques de dommages prévisibles et à prendre des mesures raisonnables pour les atténuer, avec une attention particulière à la protection des enfants. La partie qui a cependant capté le plus l’attention médiatique est l’obligation imposée aux plateformes de permettre aux utilisateurs de 16 ans et plus de désactiver l’algorithme de recommandation du fil principal, pour ne voir que les contenus des comptes qu’ils ont choisi de suivre, par ordre chronologique ou antéchronologique. Cette mesure apparaît sous le nom « My Feed, My Way ».
Mais « désactiver l’algorithme » pourrait être une simplification…
Selon une analyse publiée sur TechPolicy.Press, signée par trois professeurs en communication numérique, il n’existe pas un seul « algorithme » pouvant être activé ou désactivé, car les systèmes d’apprentissage automatique sont à la base de nombreuses fonctions des plateformes, comme la modération et recommandation de contenus, le tri des résultats de recherche, la publicité ciblée et la détection de spam.
Les auteurs soutiennent donc que le problème ne réside pas dans l’existence de recommandation algorithmique, mais dans ce que ces systèmes sont conçus pour optimiser, les signaux qu’ils valorisent et les intérêts qu’ils servent. Comme exemple positif, ils citent le travail de YouTube avec des experts internationaux pour ajuster les recommandations des comptes de mineurs, bénéfice auquel les moins de 16 ans, en Australie, ont perdu l’accès avec l’entrée en vigueur des restrictions d’âge sur les réseaux sociaux.
Ils ajoutent que un fil chronologique n’est pas exempt de médiation algorithmique, puisqu’il continue d’appliquer des règles sur ce qui est inclus, exclu et ordonné, et qu’offrir seulement deux modes définis par la plateforme elle-même est une forme limitée de donner du contrôle à l’utilisateur.
Comme alternatives, ils suggèrent des fils privilégiant les comptes préférés, la possibilité d’indiquer des sources de confiance ou un plus grand contrôle sur les objectifs de tri, et citent le concept de « marketplace of feeds » du réseau Bluesky, grâce auquel les utilisateurs peuvent créer et partager des fils personnalisés au bénéfice d’une communauté plus large.
Les mêmes auteurs rappellent que le contenu problématique doit exister avant de pouvoir être recommandé, en évoquant le problème dit du « cold start », qui survient lorsque des utilisateurs non connectés ou avec de nouveaux comptes, dont le système sait peu de choses, accèdent aux plateformes. Ils notent que, selon plusieurs rapports, du matériel de faible qualité apparaît rapidement dans ces cas. Ainsi, du point de vue des professeurs, retirer la personnalisation ne résout pas le problème fondamental.
Dans une longue exposition, les auteurs défendent aussi que la transparence du code source ne suffit pas, car les effets découlent de l’interaction des systèmes avec des utilisateurs, des contenus et des contextes différents. C’est pourquoi ils proposent le concept d’observabilité (en anglais, observability), c’est-à-dire la capacité d’examiner les systèmes en fonctionnement et de tester les affirmations des plateformes.
L’exemple de WeChat
Parallèlement, une analyse publiée dans The Conversation, écrite par une chercheuse et deux professeurs en Communication, offre un point de vue plus critique, utilisant WeChat comme terme de comparaison.
Lancée en 2011 et comptant un milliard d’utilisateurs dans le monde, la plateforme a été conçue comme un outil d’efficacité et comme « super app », dont la curation algorithmique a joué un rôle minime jusqu’au lancement de Channels, la fonctionnalité de vidéos courtes, en 2021. Les nouvelles apparaissent via des « Official Accounts » et les utilisateurs ne voient que ce qu’ils suivent.
Sur la base du projet RECapture, qui suit depuis 2019 des comptes destinés aux Sino-Australiens, les chercheurs ont conclu que l’absence d’algorithme n’élimine pas la concurrence pour l’attention. À leur tour, les comptes rivalisent pour être recherchés et abonnés, ce qui encourage la publication rapide et fréquente, avec des titres accrocheurs et des contenus de faible qualité, souvent compilés à partir de sources fragmentées et non vérifiées et, de plus en plus, en utilisant l’Intelligence Artificielle générative. Les auteurs admettent que, si de nombreux Australiens choisissent de désactiver l’algorithme, un phénomène similaire pourrait apparaître.
Selon l’analyse, le gouvernement australien transfère la responsabilité aux utilisateurs, dans la mesure où l’exposition à des contenus nocifs est vue comme une conséquence de ne pas avoir désactivé l’algorithme, ce qui pourrait disculper les entreprises.
De fait, du point de vue des auteurs, les dommages découlent du modèle économique des entreprises technologiques, de sorte que, tant que celui-ci persistera, les problèmes ne disparaîtront pas. Ils soulignent que l’option d’exclusion ne modifiera pas non plus le modèle économique des créateurs de contenu sur le marché australien.