Les technologies comme l’IA générative et l’apprentissage automatique commencent à transformer l’univers du jeu vidéo, en particulier la modération des communications entre joueurs. Grâce à des outils comme ToxMod, Activision Blizzard a constaté une réduction significative des comportements toxiques, ouvrant la voie à une expérience de jeu plus agréable.
De nombreuses spéculations ont émergé concernant les éventuels avantages que des technologies telles que l’IA générative et l’apprentissage automatique pourraient apporter aux jeux vidéo. Alors que la reconstruction d’images s’est révélée utile et que l’IA générative a apparemment intégré le processus de production, les analyses basées sur l’IA ont commencé à influencer la modération des chats vocaux dans les espaces de jeu compétitifs.
Activision Blizzard rapporte que l’exposition à des chats vocaux toxiques dans Call of Duty a diminué de 43 % depuis le début de cette année. L’éditeur attribue cette amélioration à la mise en place récente d’une modération basée sur l’IA, ce qui l’a convaincu d’étendre son utilisation lors du lancement de Call of Duty : Black Ops 6 prévu le 25 octobre.
L’éditeur a introduit le modérateur, ToxMod, lors du lancement de Call of Duty : Modern Warfare III en novembre dernier. Selon le site Web de ToxMod, le système analyse les transcriptions de texte des chats vocaux en jeu et détecte des mots-clés en fonction de multiples facteurs.
ToxMod fait la distinction entre « trash talk » et harcèlement en surveillant les mots-clés et les réactions aux commentaires, en reconnaissant les émotions des joueurs et en comprenant le code de conduite du jeu. De plus, le système estime l’âge et le sexe perçus des locuteurs et des destinataires afin de mieux comprendre le contexte de chaque conversation.
ToxMod ne peut pas bannir quelqu’un de manière autonome, mais il peut rapidement signaler les violations pour un test par des modérateurs humains. Activision décide ensuite s’il doit avertir ou muter les joueurs, n’émettant des bans qu’après plusieurs infractions. Le nombre de contrevenants réguliers dans Modern Warfare III et Call of Duty : Warzone a chuté de 67 % depuis qu’Activision a mis en œuvre des améliorations en juin 2024. En juillet seulement, 80 % des joueurs surpris à enfreindre les règles de chat vocal ne se sont pas récidivés.
À l’heure actuelle, tous les régions sauf l’Asie prennent en charge ToxMod, et Call of Duty utilise le système pour modérer le chat vocal en anglais, espagnol et portugais. Lors du lancement de Black Ops 6, Activision ajoutera le support pour le français et l’allemand.
Parallèlement, la modération des chats textuels et des noms d’utilisateur est passée de 14 à 20 langues en août. Community Sift a été le partenaire de modération textuelle de Call of Duty depuis le lancement du premier jeu de reboot de Modern Warfare en 2019, bloquant 45 millions de messages depuis la sortie de Modern Warfare III en novembre.
Utiliser l’IA pour modérer le comportement des joueurs est beaucoup moins controversé que d’employer la technologie pour des actifs en jeu. À la fin de l’année dernière, de l’art généré par l’IA est apparu dans des skins de contenu pour Modern Warfare III. Dans un contexte de licenciements historiques dans l’industrie du jeu à cette époque, certains craignent que les éditeurs n’essaient de remplacer les artistes par des modèles d’IA.