Gabriel
Une patate chaude : l’algorithme de YouTube pour le contenu recommandé a de nouveau été critiqué, cette fois à cause des affirmations selon lesquelles il recommande des centaines de vidéos sur les armes à feu et la violence armée aux jeunes enfants intéressés par les jeux vidéo. Certains des clips comprenaient des scènes de fusillades dans des écoles et des instructions sur la façon d’utiliser et de modifier les armes.
Une étude menée par l’organisme de surveillance à but non lucratif, le Tech Transparency Project (TTP), a découvert les recommandations préoccupantes en créant quatre comptes de test – deux identifiés comme des garçons de neuf ans et deux identifiés comme des garçons de 14 ans.
Les chercheurs contrôlant les comptes n’ont regardé que des listes de lecture entièrement composées de contenu de jeux vidéo. Les comptes de neuf ans ont regardé des vidéos de titres tels que Roblox, Lego Star Wars et Five Nights at Freddy’s. Dans le même temps, le jeune de 14 ans a regardé principalement Grand Theft Auto, Halo et Red Dead Redemption.
Les chercheurs ont ensuite enregistré les vidéos recommandées sur les comptes de la page d’accueil YouTube et du panneau Up Next pendant une période de 30 jours en novembre dernier. « L’étude a révélé que YouTube diffusait du contenu sur les fusillades et les armes sur tous les comptes de joueurs, mais à un volume beaucoup plus élevé pour les utilisateurs qui cliquaient sur les vidéos recommandées par YouTube », a écrit le TTP.
Certaines des vidéos recommandées comprenaient des événements de tir de masse, des démonstrations des dommages qu’une arme à feu peut infliger à un corps et des guides pratiques pour convertir des armes de poing en armes entièrement automatiques – beaucoup d’entre elles violent les propres politiques de contenu de YouTube.
Au cours de la période de test d’un mois, YouTube a envoyé 382 vidéos d’armes à feu réelles sur les comptes des enfants de neuf ans et 1 325 vidéos d’armes à feu réelles sur les comptes des enfants de 14 ans.
YouTube a déjà parlé de fournir des recommandations responsables et de ne pas diriger les téléspectateurs vers un contenu extrême, bien que le TTP conteste ces affirmations avec ses conclusions. Le chien de garde note que la façon dont YouTube dirige les jeunes joueurs vers des vidéos de fusillades et d’armes pourrait annuler le travail effectué pour réfuter les liens entre les jeux vidéo et la violence armée dans le monde réel.
Google essaie d’améliorer l’algorithme vidéo recommandé par YouTube depuis des années, mais il propose toujours un contenu limite, inapproprié et parfois offensant. Cela peut être particulièrement problématique lorsque le site est le plus populaire parmi les adolescents ; un sur cinq dit y être presque constamment.
Dans une déclaration à Engadget, un porte-parole de YouTube a déclaré que YouTube Kids et les outils de supervision intégrés au site principal créaient une « expérience plus sûre pour les préadolescents et les adolescents » sur sa plate-forme.
« Nous accueillons favorablement la recherche sur nos recommandations et nous explorons d’autres moyens de faire appel à des chercheurs universitaires pour étudier nos systèmes », a ajouté le porte-parole. « Mais en examinant la méthodologie de ce rapport, il nous est difficile de tirer des conclusions solides. Par exemple, l’étude ne fournit pas de contexte sur le nombre de vidéos globales recommandées aux comptes de test, et ne donne pas non plus un aperçu de la façon dont le test comptes ont été configurés, y compris si les outils d’expériences supervisées de YouTube ont été appliqués. »
Découvrez le reportage du mois (sous-titré en français), l’IA gagnera t-elle face aux champion du monde du jeu de Go ? :