Des vidéos dérangeantes utilisant l’intelligence artificielle pour reproduire les discours historiques d’Hitler circulent sur les réseaux sociaux. Malgré les mesures de modération, des dizaines de milliers de posts continuent de véhiculer des contenus extrémistes, suscitant réactions et inquiétudes quant à la gestion de l’hostilité sur ces plateformes.
Sur les réseaux sociaux, des vidéos virales présentent des discours historiques du dictateur. Plus de 50 000 publications ont été recensées utilisant des extraits audio de Hitler et de Joseph Goebbels.
Des millions d’utilisateurs parcourant TikTok sont tombés sur des vidéos de Hitler générées par l’intelligence artificielle (IA). Les discours nazis et les chants militaires ont été transformés en sons viraux utilisés comme bande sonore dans au moins 72 534 clips. Les extraits audio reprennent des discours historiques du dictateur, apparemment vocalisés par des programmes IA. Ces vidéos ont été signalées dans un communiqué de Media Matters ; certaines ont été supprimées de la plateforme, mais pas toutes. En réalité, les directives de TikTok interdisent de « promouvoir des éloges, des célébrations ou d’apporter du support à des contenus et à des individus responsables de violences massives et de promouvoir des idéologies haineuses ».
« C’est plutôt choquant, mais pas particulièrement surprenant », a expliqué Hannah Rose, analyste de la haine et de l’extrémisme à l’Institute for Strategic Dialogue, à Sky News. « Nous savons depuis des années que les plateformes n’ont pas modéré correctement l’ampleur des contenus haineux et extrémistes, ce qui indique que des contenus comme les discours d’Hitler, ainsi que du contenu antisémite, sont présents non seulement sur des sujets marginalisés, mais aussi sur des plateformes grand public ».
Quels vidéos ont été uploadées
Il semble que les premières vidéos remontent au début d’avril 2024. L’une d’elles, avec 120 000 « J’aime », a atteint 1 million de vues avant d’être retirée. L’audio est un extrait d’un discours d’Hitler lors du 19e anniversaire du Putsch de la brasserie, dans lequel on voit une image du dictateur de dos à la caméra, avec la mention : « Écoute et tais-toi« . Parmi les commentaires, on peut lire : « C’était un héros », « Les vainqueurs écrivent l’histoire », « Le grand peintre », « Peut-être QU’IL N’EST PAS le méchant », « la société moderne a absolument besoin de lui ».
Un post, montrant l’image d’un rassemblement de Nuremberg accompagné d’un discours d’Hitler, a reçu 56 700 « J’aime ». Certains utilisateurs ont réalisé un playback du discours d’Hitler, généré par l’intelligence artificielle, en écrivant : « pov (point de vue) : Génération alpha en 2035 lorsque Skibiti Toilet se déclare bisexuel et Baby Gronk succombe à une overdose de Galaxy Gas 2.0 », ou « pov : Vous êtes contraint de parler avec quelqu’un qui devient politicien après une ligne [de cocaïne] ». Sky News a trouvé plus de 50 000 posts sur TikTok utilisant les discours d’Hitler et de Joseph Goebbels.
La réponse de TikTok
Un porte-parole de TikTok a déclaré au New York Post que l’application avait déjà « supprimé presque toutes les vidéos identifiées dans le communiqué de Media Matters qui violent nos directives communautaires. 1 300 contenus connexes ont été supprimés de manière proactive et nous avons éliminé les autres restants. Nous adoptons une approche de tolérance zéro envers les contenus haineux sur notre plateforme et nous en supprimons systématiquement plus de 90 % avant qu’ils ne soient signalés. »
Il a ensuite ajouté : « Nous formons régulièrement nos professionnels de la sécurité et mettons à jour nos mesures de sécurité pour détecter les comportements haineux de façon continue, et nous supprimons 91 % de ce type de contenu avant qu’ils ne soient signalés. »