TikTok a annoncé de nouvelles mesures de sécurité au sein de l’application et promu la recherche sur le sujet. Netcost-security.fr a parlé au responsable européen de ces changements.
La problématique des comportements à risque observés en ligne et imités par les enfants et les jeunes concerne désormais toutes les plateformes web fréquentées par ce type d’utilisateurs. Sur TikTok, cependant, les défis et contenus répliqués en chaîne sont un aspect prépondérant du succès de l’application, c’est pourquoi même les risques associés à des défis dangereux ne peuvent être pris à la légère par les managers. Le réseau social a publié ces derniers jours une recherche dans laquelle il analyse le sujet et annonce de nouvelles mesures de prévention arrivant au sein de l’application, telles que de nouvelles ressources dans le Security Center dédiées à l’exploration de ces phénomènes avec les utilisateurs et plus de messages d’avertissement efficaces liés à contenu potentiellement dangereux ; Netcost-security.fr en a parlé avec Alexandra Evans, responsable européenne des politiques de sécurité au sein de la plateforme.
La recherche montre que 11% des utilisateurs qui ont rencontré un défi en ligne ont déclaré que c’était une expérience négative. Qu’est-ce que cela signifie pour TikTok et la santé des enfants en ligne ?
Chez TikTok, nous avons toujours été très clairs sur le fait que les défis à haut risque n’ont pas leur place sur la plateforme. Afin de ne pas leur laisser d’espace, nous utilisons une combinaison d’algorithmes et de modérateurs réels qui fonctionnent à la fois sur le contenu et sur les résultats de recherche, de sorte que si vous recherchez le défi Blackout ou Skullbreaker ou tout autre de ces défis, vous n’obtiendrez aucun résultat . Ce que nous ferons davantage, c’est d’orienter les personnes qui recherchent ces vidéos vers des pages d’informations et de conseils, en traduisant tout en italien et dans d’autres langues également. Le thème commun de ces avis sera une invitation à s’arrêter, à réfléchir, à décider et finalement à avancer.
Mais comment pouvez-vous travailler pour arrêter le contenu dangereux avant qu’il ne devienne viral ?
Dans certains cas, nos algorithmes peuvent prédire comment ces violations peuvent se manifester : la nudité, l’extrémisme violent en sont quelques exemples car les violations relatives à ces domaines ont des caractéristiques similaires. Or, dans l’émulation d’un comportement dangereux, l’essentiel est précisément de s’en rendre compte à temps : nous travaillons sur la manière d’intercepter les nouveaux phénomènes le plus tôt possible avant que la prise de conscience n’en émerge, et en particulier nos systèmes d’identification rapide seront améliorés afin que lorsque nous suivons l’évolution d’un hashtag et que soudain nous voyons un pic inattendu et anormal tout sera transmis à un système d’alerte qui nous permettra de vérifier rapidement ce qui se passe.
Grimper sur des caisses de fruits et tomber sur l’asphalte : encore un défi dangereux de TikTok
Le rapport publié mentionne également la possibilité d’un effort coordonné sur plusieurs plates-formes pour bloquer le contenu malveillant via les applications. Allez-vous y travailler ?
C’est une idée très intéressante. Il est encore tôt pour en parler au nom d’autres sujets car l’étude vient d’être publiée, mais nous sommes certainement ouverts à cette possibilité.
Une partie de la stratégie de sensibilisation des enfants passe par des banderoles et des miroirs d’information qui risquent de passer inaperçus dans une application qui fait de la vidéo son arme principale. Quel est l’impact de ces éléments sur le comportement des utilisateurs ?
Ce que les données et les experts nous disent, c’est que le langage que nous utilisons dans ces miroirs d’informations est terriblement important : si nous pouvons faire preuve d’empathie et nous concentrer sur le point de vue des utilisateurs, nous devrions pouvoir avoir un impact positif sur la réponse que nous espérons obtenir. La science de la prévention est un sujet prometteur sur lequel nous devons nous concentrer de plus en plus.
Mentir sur l’âge pour s’inscrire à TikTok est trop facile, et les enfants le savent. Comment envisagez-vous d’améliorer les systèmes de vérification de l’âge ?
Nous utilisons actuellement une combinaison de prévention et de détection : la prévention consiste en une limite d’âge sur les magasins numériques (qui permet aux parents de bloquer les téléchargements à partir des appareils des enfants) et l’auto-déclaration. Cependant, nous savons que nous devons faire plus et que nous devons également trouver des violations au sein de la plate-forme : pour cette raison, nous utilisons des stratégies pour déterminer l’âge général des utilisateurs, telles que l’analyse des mots-clés et des modérateurs qui filtrent les signalements reçus sur le sujet. d’autres utilisateurs ; plus généralement, notre équipe de modérateurs à travers le monde est formée pour prendre en compte la possibilité que les auteurs des vidéos qu’ils notent soient plus jeunes que l’âge minimum autorisé sur le réseau social.