Les journalistes ont testé l’algorithme de la plateforme avec de faux profils. L’appréciation des vidéos à caractère plus dragueur amène le système à proposer de plus en plus de clips du même genre, jusqu’à bombarder la section principale de l’application de pratiques sexuelles, de prostituées et de contenus liés à la consommation de drogue.
La question de la sécurité des enfants sur TikTok a déjà été soulevée à de nombreuses reprises dans le passé, notamment concernant les défis et comportements que les mineurs ne doivent pas imiter mais qui dans certains cas prolifèrent sur la plateforme avant que les modérateurs ne parviennent à limiter leur propagation. Il en va de même pour les contenus à caractère sexuel ou liés à la consommation de drogue : la plainte vient du Wall Street Journal, qui dans une enquête a vérifié comment les algorithmes qui recommandent de nouvelles vidéos sur la plateforme risquent dans certains cas précis de proposer vidéos inappropriées également aux enfants âgés de 13 à 15 ans.
L’algorithme TikTok dans le viseur
Les journalistes du Wall Street Journal sont arrivés à leurs conclusions grâce à des expériences pratiques qui ont testé l’atout de TikTok, ses algorithmes de recommandation. La plateforme utilise un logiciel qui apprend les préférences des utilisateurs individuels pour leur proposer de plus en plus de contenus appartenant aux catégories de vidéos déjà appréciées dans le passé ; le principe est appliqué sensiblement partout en ligne – de Facebook à Amazon – mais selon les conclusions du Wall Street Journal, le pousser à l’extrême sur TikTok risque de faire sauter les barrières de protection normalement érigées par les managers contre les jeunes.
L’expérience du Wall Street Journal
Le journal a ouvert une série de faux profils les faisant gérer par des bots ; chacun de ces profils a alors commencé à aimer les vidéos qui montraient un contenu légèrement plus séduisant ou plus pertinent pour le monde de la drogue et de la consommation de drogue. Réaliser cette activité de manière assidue et ciblée vers ces types de contenus spécifiques a instruit l’algorithme TikTok d’en proposer de plus en plus poussés : selon le rapport, en peu de temps la section For You de la plateforme a progressivement commencé à bombarder ces des profils de contenus sexuels et inappropriés pour les mineurs : des drogues et usages de drogues – y compris des listes de sites où acheter ces substances et médicaments – aux vidéos de travailleuses du sexe qui font plus ou moins explicitement référence à des pratiques sexuelles ou à leurs profils sur des sites durs.
Comment utiliser le filtre Pixar dans les vidéos sur TikTok
Le travail des modérateurs
De nombreux contenus rencontrés lors de l’expérience ont violé les règles de TikTok, et pour cette raison, les modérateurs ont pu les éliminer avant même que les journalistes ne puissent les signaler à la plateforme. Environ 1 000 contrôles ont échappé et éliminés après des informations du journal, tandis que la plupart des clips – selon les déclarations de TikTok – n’ont enfreint aucune réglementation. Le problème en général est que la quantité de vidéo téléchargée sur l’application chaque jour par les utilisateurs génère une recirculation impossible à contrôler en temps réel ; Bref, le risque est qu’à ce rythme il soit toujours possible de tomber sur des clips risqués, surtout si les modérateurs luttent contre un algorithme qui rame contre eux.
La plateforme travaille sur des filtres plus sûrs, pour éviter que des profils appartenant à des mineurs ne rencontrent par erreur des contenus similaires, cependant, la date de sortie n’a pas été communiquée.