Les jeux de tir à la première personne comme Call of Duty sont quelque peu tristement célèbres pour la toxicité de leurs lobbies et de leurs chats vocaux. Les sondages considèrent la base de fans de la franchise comme la plus négative de l'industrie du jeu vidéo ; une querelle entre deux joueurs a conduit à l'appel d'une équipe des forces spéciales. Activision tente de lutter contre ce comportement depuis des années, et une partie de la solution pourrait être liée à l'intelligence artificielle.
Activision s'est associé à Modulate pour apporter une « modération du chat vocal dans le jeu » à ses jeux. Un nouveau système de modération utilisant la technologie de l'intelligence artificielle appelé ToxMod permettra de détecter en temps réel des comportements tels que la discrimination et le harcèlement.
Les premiers tests bêta de ToxMod en Amérique du Nord commencent aujourd'hui. Il est actif dans Call of Duty : Modern Warfare II et Call of Duty : Warzone. La "sortie mondiale complète" (elle n'inclut pas l'Asie, comme indiqué dans le communiqué de presse) aura lieu le 10 novembre avec la sortie de Call of Duty : Modern Warfare III, le nouvel opus de la franchise cette année.
Le communiqué de presse de Modulate ne donne pas beaucoup de détails sur le fonctionnement exact de ToxMod. Sur placer la société note que l'outil « modère le chat vocal pour signaler les mauvais comportements, analyse les nuances de chaque conversation pour identifier la toxicité et permet aux modérateurs de répondre rapidement à chaque incident en fournissant un contexte pertinent et précis ». Dans une récente interview, le PDG de l'entreprise a déclaré que l'outil vise à aller au-delà de la simple transcription. Il prend également en compte des facteurs tels que l'émotion et le volume du joueur pour distinguer les propos malveillants des propos humoristiques.
Il convient de noter que l'outil (du moins pour le moment) ne prendra aucune mesure contre les joueurs sur la base de ses données, mais enverra uniquement des rapports aux modérateurs d'Activision. La participation humaine restera probablement une garantie importante, car des recherches ont montré que les systèmes de reconnaissance vocale peuvent présenter des biais dans la manière dont ils répondent aux utilisateurs ayant des identités et des accents raciaux différents.
Lisez aussi: