Les modérateurs passent des heures devant l’écran pour filtrer les contenus haineux et violents sur les plateformes. Daniele a décidé de raconter à Netcost-security.fr son année et demi de travail chez YouTube Italie.
Daniele entre dans le bureau, s’installe à son poste de travail et allume son ordinateur, comme tous les jours. Il appuie sur play. La vidéo montre une femme qui s’enfuit. Un homme la rattrape, sort un couteau et commence à la poignarder en plein milieu de la rue, elle crie, et il continue, « elle finit par mourir… C’était mon travail, je devais nettoyer la plateforme de tous les contenus dangereux qui violaient les politiques, notre Bible ». Daniele a commencé à travailler comme modérateur chez YouTube Italie en 2021, et après un an et demi, il a décidé de démissionner, « si vous restez trop longtemps, ce travail vous détruit de l’intérieur », raconte-t-il à Netcost-security.fr.
« Ce que les personnes font sur le web est horrible. » Et surtout, ce que les personnes font vraiment sur le web, nous ne le voyons pas. Il est dévoilé par des personnes qui passent des heures à regarder des viols, des violences, des meurtres, du matériel pédopornographique et des actes d’automutilation. Ils observent, cataloguent et bannissent.
Jusqu’en 2016, ce travail était effectué par des algorithmes, mais lors des élections américaines, Mark Zuckerberg a commencé à recevoir les premières pressions. « Beaucoup pensent encore que ce sont les programmes qui bloquent les contenus », mais en réalité, les machines ne suffisent pas. D’autre part, un algorithme ne peut pas déterminer si une image de guerre a la valeur d’une nouvelle ou si elle relève de la propagande ou de la violence gratuite. Nous avons besoin d’êtres humains. Et nous en aurons de plus en plus. Selon MarketWatch, une filiale de Dow Jones & Company, le secteur de la modération des contenus numériques devrait atteindre 13,60 milliards de dollars d’ici 2027.
« Comment as-tu commencé à travailler comme modérateur ? »
« Je travaillais comme superviseur dans un hôtel et l’un de mes collègues a commencé à me parler de ce travail. Je n’ai pas vraiment compris de quoi il s’agissait, mais j’ai commencé à regarder les annonces. Et j’ai trouvé l’offre d’emploi. »
« Que disait-elle ? »
« C’était une annonce très générale, elle n’expliquait pas vraiment en quoi consistait le travail. »
« Et quand as-tu compris ce que tu devais faire ? »
« Lors du deuxième entretien. Le premier était informatif, surtout pour eux, ils voulaient savoir si j’étais la personne appropriée, mais ils ne m’ont pas donné les informations nécessaires. C’est lors du deuxième entretien que j’ai eu avec mon chef d’équipe. »
« Pourquoi as-tu décidé d’accepter ? »
« J’avais besoin de financer mes projets, je suis musicien et j’ai pensé que c’était une bonne idée, puis tu sais, Google est une grande entreprise, donc j’ai accepté. »
« Pendant combien de temps as-tu travaillé en tant que modérateur de YouTube ? »
« J’ai commencé en 2021 et j’ai travaillé pendant un an et demi. »
« Comment as-tu été formé ? »
« J’ai commencé par une formation qui a duré environ deux mois. Nous avions des formateurs qui nous ont expliqué comment fonctionnait le travail, ce que nous devions bloquer et ce que nous devions laisser passer. Ils m’ont expliqué les politiques et m’ont montré la Bible. »
« La Bible ? »
« Oui, c’est ainsi que nous appelions le guide avec toutes les règles, nous devions les suivre de manière très stricte. C’était assez long et cela répertoriait toutes les politiques de l’entreprise. C’est un projet très vaste qui change souvent, il y avait constamment des réunions pour définir les lignes directrices. »
« Après la formation, tu as commencé à travailler en tant que modérateur. »
« Oui, je devais modérer les contenus haineux sur YouTube, en particulier dans la section YouTube Italie, donc je m’occupais uniquement des contenus en italien. »
« Peux-tu expliquer comment cela fonctionne plus en détail ? »
« Je devais lire ou regarder des vidéos et des commentaires potentiellement dangereux, violents et offensants, puis décider de les bloquer ou non en fonction de ce que disait la politique à ce sujet. Comme je m’occupais de la section haine, je tombais souvent sur des vidéos racistes, des contenus misogynes ou dirigés contre la communauté LGBTQ+. »
« Quel contenu as-tu dû bloquer le plus souvent ? »
« Eh bien, le mot nègre. »
« Comment était ta journée de travail ? »
« Similaire à celle d’un bureau. Nous commencions à 8h00 et terminions à 17h00. Nous étions obligés de rester devant l’ordinateur pendant la première heure de travail et la dernière, mais nous pouvions prendre des moments de bien-être pendant la journée. »
« Qu’est-ce que tu entends par moments de bien-être ? »
« Ce sont des pauses pour se détendre pendant les heures de travail, des moments de divertissement, parce que tu te retrouves devant un ordinateur à regarder des contenus difficiles. Des vidéos sensibles, des suicides, des violences envers les enfants en fonction des tendances. Autrement dit, des choses désagréables. »
« Quelle vidéo t’a le plus marqué ? »
« J’en ai deux en tête. L’une a été enregistrée en Russie, elle montrait avec une webcam une voiture s’arrêter devant une femme, elle commençait à s’enfuir et puis un homme la rattrapait et la tuait en la poignardant dans la rue. L’autre vidéo particulièrement traumatisante montrait un groupe de narcotrafiquants mexicains découpant des personnes qui priaient pour ne pas mourir. Elle montrait tout, je ne sais pas si je me fais comprendre. »
« Je suppose que ces vidéos t’ont perturbé. »
« Beaucoup. »
« As-tu eu des conséquences psychologiques ? »
« J’ai commencé à me désintéresser du monde. Je me renfermais sur moi-même, j’allais travailler, je rentrais chez moi, parfois je faisais de la gym, mais rien de plus. Je n’avais envie de rien faire. Et tu sais, même quand on m’a expliqué le travail et que j’ai compris de quoi il s’agissait, je ne pensais pas, je me suis toujours considéré comme une personne forte, capable de faire la part des choses, mais certaines choses ne peuvent pas ne pas te toucher. »
« Aviez-vous un support psychologique ? »
« Oui, nous avions 20 minutes obligatoires par semaine avec un psychologue, qui nous demandait comment ça se passait au travail. »
« Était-ce suffisant ? »
« Cela dépend, c’est très difficile sur le plan psychologique pour certaines zones de modération extrêmes. »
« Qui étaient tes collègues ? »
« Surtout des jeunes, le plus âgé devait avoir 40 ans. Ils venaient d’expériences diverses, certains avaient travaillé pour Ryanair, d’autres pour Eton, certains avaient fait quelque chose dans le domaine économique. Mais il était nécessaire d’avoir des expériences préalables dans le secteur de l’entreprise ou de l’informatique. Je suis la preuve vivante. »
« Comment se répartissait le flux de travail ? »
« En réalité, ce n’était pas à nous de chercher les vidéos. Elles étaient toutes dans une liste générée par l’apprentissage automatique et les signalements des utilisateurs. Ce n’était donc pas les chefs qui nous donnaient les contenus, mais il y avait un système qui nous les montrait. »
‘T’es-tu déjà retrouvé en désaccord avec les politiques, par exemple bloquer quelque chose qui ne devrait pas l’être ou vice versa ? »
« Il y a une chose étrange. Surtout pour les vidéos à caractère politique. Et en effet, pour la plateforme, l’apologie du fascisme ne viole pas les règles, tandis que l’apologie du nazisme le fait. »
« Explique-toi mieux. »
« Je suis tombé sur des vidéos qui faisaient clairement l’apologie du fascisme en montrant Mussolini, son histoire, en l’idolâtrant et en demandant un retour au fascisme, en soutenant le Duce, mais je n’ai pas pu les bloquer. »
« Les as-tu signalées ? »
« Bien sûr, j’ai discuté avec mes supérieurs à plusieurs reprises, mais leur réponse était toujours la même : il fallait se conformer à la Bible. Mais ce n’étaient pas les seules vidéos problématiques qui restaient sur la plateforme. »
« Par exemple ? »
« Beaucoup de vidéos sont présentées comme éducatives, mais en réalité, elles montrent des images qui peuvent troubler les utilisateurs. Par exemple, il y avait un tutoriel pour s’épiler le maillot où un homme montrait ses parties génitales. Malgré cela, la plateforme a décidé de le laisser. »
« Tu travaillais toujours en tant que modérateur lorsque la Russie a attaqué l’Ukraine, n’est-ce pas ? »
« Oui. »
« Et comment cela a-t-il affecté les contenus que tu devais modérer ? »
« Beaucoup, il y avait de tout, comme tu peux l’imaginer, après tout, je modérais la section haine. Des contenus sur la désinformation aux contenus de haine envers les Ukrainiens ou les Russes. Des menaces de mort envers Zelensky ou Poutine, envers les civils, des insultes. Mais je n’ai pas suivi tout le conflit car ensuite je suis parti. »
« Pourquoi as-tu décidé de partir ? »
« Sûrement à cause de l’impact émotionnel, ce n’est pas facile à gérer, puis tu sais, c’est aliénant, un travail très mécanique où il faut éteindre son cerveau et suivre les politiques. Si vous restez trop longtemps, ça vous détruit de l’intérieur. »
« Que feras-tu maintenant ? »
« Je veux me consacrer uniquement à la musique. »
« Qu’est-ce que ce travail t’a laissé ? »
« J’ai vu au-delà des limites subtiles de la société, tu te retrouves face à toutes les choses désagréables, des vidéos aux commentaires, ce n’est pas facile. Ce que les personnes font sur le web est horrible. »