Le méthode de diffusion de contenus illicites sur internet a évolué, rendant leur accès plus rapide et insidieux. De simples vidéos sur TikTok peuvent dissimuler des messages codés qui mènent à des plateformes externes, exacerbant les défis de modération pour les réseaux sociaux.
Il n’est plus nécessaire de creuser dans le dark web. Aujourd’hui, un commentaire sur TikTok peut suffire pour accéder à des forums chargés de contenus illégaux. Sous des vidéos apparemment innocentes, comme celle d’une pizza ou d’un enfant généré par intelligence artificielle, des milliers de messages redirigent vers des plateformes externes avec la même mention : CP, acronyme de Child Pornography.
Ces deux lettres sont immédiatement reconnues par ceux qui recherchent ces contenus. Les plateformes en sont conscientes ; ainsi, sur la plupart des réseaux sociaux, taper cette combinaison de caractères ne donne aucun résultat, mais entraîne un message d’avertissement : « Ce terme peut être associé à des contenus sexualisés d’enfants ».
Les stratégies pour contourner les restrictions
Pour échapper aux filtres, les utilisateurs ont développé un langage codé d’images, de déformations et de mots en code. Cette symbolique leur permet de se reconnaître même sous des vidéos n’ayant rien d’illégal, les utilisant comme points de ralliement vers des plateformes externes.
Le cœur de ces messages codés repose sur toutes les combinaisons de mots qui rappellent l’acronyme CP : Cheesy pizza, Caldo de pollo et bien d’autres. Il est également possible de retrouver des vidéos d’enfants générées par intelligence artificielle. Ainsi, sous certains commentaires sans lien apparent avec le CSAM (Child Sexual Abuse Material), se créent de véritables chaînes, appelées CP Ring, exploitant les limites de l’écosystème numérique.
Destination des liens
Les liens dans les commentaires varient et renvoient généralement à trois types de destinations : sites web, chats Telegram et serveurs Discord. TikTok n’autorise pas l’accès direct à un lien, mais cela n’est pas un obstacle. Il suffit de copier et coller. Même si les différents sites web semblent graphiquement différents, ils offrent tous une interface similaire avec un mécanisme de connexion simple : un nom d’utilisateur, un mot de passe et la résolution d’un captcha.
Une fois connectés, les utilisateurs sont conduits vers une série de vidéos explicites : un exemple de la bibliothèque totale. Le catalogue est vaste et organisé en niveaux de paiement. On commence par la catégorie father-daughter dans le plan de base, et l’on accède à des contenus encore plus troublants selon le niveau. Pour passer d’un niveau à l’autre, deux options sont possibles : inviter d’autres utilisateurs ou payer un supplément, souvent de 50 dollars par échelon.
Fonctionnement des paiements
Chaque site propose diverses méthodes de paiement : cartes-cadeaux, codes, cryptomonnaies, Cash App, PayPal. Non seulement les méthodes de paiement sont identiques d’un site à l’autre, mais certains lieux de création se retrouvent également fréquemment, comme San Jose, Las Vegas et Sheridan. Cependant, obtenir plus d’informations demeure difficile, car la plupart de ces sites s’appuient sur des sociétés offrant des services d’anonymat en ligne.
Cette confluence de facteurs peut faire douter de la légitimité de ces sites. Pourtant, un paiement suffit pour obtenir effectivement des contenus illégaux, comme confirment Maria Pia Izzo et l’avocate Eva Balzarotti, qui dirigent un cabinet d’informatique judiciaire.
Les contenus clandestins sur Telegram
Sur Telegram, les utilisateurs interagissent avec des bots qui proposent des contenus payants et diffusent quotidiennement de nouveaux liens. Ces canaux incluent souvent des liens de secours, garantissant la continuité même si l’un des nœuds est fermé. C’est un système en perpétuelle régénération, semblable à une toile d’araignée s’étendant chaque jour.
Les découvertes sur les serveurs Discord
Discord est une plateforme de messagerie permettant des échanges par texte, appels vocaux et partage de fichiers. Les connexions se font sur des serveurs, des espaces pour des communautés virtuelles, organisées en canaux thématiques. Les communautés peuvent compter des dizaines de milliers de membres ; via un lien de commentaire TikTok, nous avons trouvé un chat avec plus de 70 000 membres.
C’est précisément via Discord que l’on accède aux contenus illégaux : certains canaux redirigent vers des fichiers sur Mega, un service de stockage en ligne, ou vers des groupes Signal, permettant l’accès gratuit à des milliers de vidéos. Le principe est soupçonneux : l’utilisation de plateformes avec cryptage de bout en bout garantit que seuls l’expéditeur et le destinataire peuvent accéder aux contenus.
Ces outils, conçus pour protéger la vie privée des utilisateurs, font obstacle à l’identification et la suppression des contenus illicites. Une fois à l’intérieur, les fichiers deviennent accessibles sans barrières, facilitant leur circulation. Sur Mega, on trouve des contenus visibles et téléchargeables comme « spectateurs », tandis que sur Signal, des groupes de partage mutuel permettent à chaque membre de partager des contenus ou de faire des demandes spécifiques.
un lien est un délit : les risques
Giuseppe Croari, avocat spécialisé en droit numérique, souligne que partager un lien est contraires à la loi. Peu importe que l’utilisateur ne détienne pas les fichiers : « La simple ‘mise à disposition’ est suffisante ». En d’autres termes, partager un lien représente un délit de « pornographie juvénile ».
Le défi de la modération
Nous avons interrogé Maria Pia Izzo sur l’origine de ce problème. Elle explique que « chaque minute, des millions de fichiers sont téléchargés. Même avec des algorithmes avancés, aucun système ne peut garantir un contrôle instantané et parfait. La modération est toujours une course à deux vitesses. Les producteurs de contenus illégaux changent constamment de stratégie, tandis que les plateformes doivent jongler entre protection, vie privée des utilisateurs, ressources et contraintes légales ».
Ce facteur est amplifié par le régime de responsabilité limitée propre aux réseaux sociaux. L’avocat Croari ajoute : « Les plateformes ne doivent pas préalablement contrôler l’ensemble du contenu, mais deviennent responsables si, après signalement, elles ne suppriment pas rapidement le contenu illégal. La jurisprudence commence à qualifier certaines d’entre elles comme des fournisseurs d’hébergement “actifs”, reconnaissant leur responsabilité si elles ne s’équipent pas d’outils automatiques de prévention des délits ».
Bien que la responsabilité soit déjà atténuée lorsque les contenus sont effectivement publiés sur TikTok, elle est encore plus réduite dans le cas où la plateforme ne fait que jouer le rôle d’un lien vers des sites externes.
La réaction de TikTok : contenus éliminés après signalement
Nous avons signalé ces contenus à la plateforme, qui a supprimé ceux en violation de ses règles. Un représentant de TikTok a déclaré : « Nous ne tolérons pas les contenus liés à la pédopornographie, y compris ceux qui mènent à des liens externes, et nous organisons notre plateforme de manière à la rendre hostile à ces contenus. Nous continuons à renforcer nos systèmes pour identifier, supprimer et signaler proactivement les contenus et les comptes, éliminant 99 % des contenus enfreignant ces règles avant même qu’ils ne soient signalés ».