La décision a été annoncée ces derniers jours et si d’une part elle devait contribuer à préserver la plateforme de la présence de contenus problématiques pour les mineurs, d’autre part elle pourrait déclencher une vague de censure involontaire et contre-productive. En fait, les systèmes automatisés commettent encore une fois des erreurs sur vingt.
Comme toutes les plateformes sociales et de partage, TikTok il doit faire face au problème de la modération du contenu qui enfreint ses règles. Jusqu’à présent, les gestionnaires ont utilisé une recette basée sur les commentaires des utilisateurs, le travail de modérateurs réels et intelligence artificielle mais utilisé dans un nombre limité de domaines. À partir d’aujourd’hui, cependant, sur TikTok, ces algorithmes rechercheront automatiquement toutes les vidéos qu’ils représentent. nudité ou violence, en les supprimant sans intervention manuelle. La décision a été annoncée ces derniers jours et si d’une part elle devait contribuer à préserver la plateforme de la présence de contenus problématiques pour les mineurs, d’autre part elle pourrait déclencher une vague de censure involontaire et contre-productive.
Les catégories concernées
La nouveauté s’installera dans un premier temps aux États-Unis et au Canada puis s’étendra au reste du monde, tandis que les catégories précises de violations que les algorithmes considéreront pour le moment se limitent à la sécurité des enfants, la violence, la nudité, les contenus interdits à mineurs et activités illégales; en cas de violations, la vidéo en question viendra retiré immédiatement, laissant à l’auteur le soin de contester la décision ultérieurement. La raison pour laquelle TikTok commencera par ces catégories a été expliquée par l’entreprise elle-même : ce sont les violations sur lesquelles les algorithmes ont le plus haut degré de sécurité.
Les faux positifs et le risque de censure
En fait, ces systèmes ne sont pas infaillibles, et lorsqu’ils fonctionnent en mode entièrement automatique, ils risquent de supprimer des vidéos qui ne violent aucune règle. Selon les données fournies par les gestionnaires, je faux positifs – c’est-à-dire que les vidéos supprimées par les algorithmes sans raison – sont à peu près un sur vingt. Le nombre peut sembler faible, mais cela signifie que sur 100 vidéos supprimées par les algorithmes de la plateforme, il y a 5 qui, cependant, ne devaient pas être touchés; à cela il faut ajouter le fait que le cursus des algorithmes TikTok en termes d’impartialité ce n’est pas passionnant : les systèmes automatiques de modération des contenus du portail chinois sont désormais périodiquement accusés de défavoriser les communautés noires en censurant leur voix et leur expression.