Passer directement au contenu principal
Se connecter

Rapport de transparence (5ème édition) : Xbox déploie des solutions d’IA pour protéger les joueurs des messages indésirables

Chez Xbox, nous poursuivons notre mission de partager la joie et l’esprit de communauté du jeu avec un public toujours plus large. Nous restons engagés à protéger les joueuses et les joueurs contre les comportements perturbateurs en ligne, à créer des expériences de jeu plus sûres et inclusives et à être transparents sur nos initiatives pour assurer la sécurité de la communauté Xbox.

Ce cinquième rapport de transparence (les rapports sont en anglais) met en lumière la manière dont nous combinons des solutions centrées sur les joueurs avec une utilisation responsable de l’IA pour renforcer notre expertise humaine en matière de détection et de prévention des comportements indésirables. Notre objectif reste d’offrir une expérience équilibrée qui répond aux besoins de notre communauté grandissante de joueurs.

Entre janvier et juin 2024, nous avons concentré nos efforts sur le blocage des contenus de messagerie perturbateurs envoyés par des personnes extérieures aux contacts des joueurs, ainsi que sur la détection du spam et des publicités. Deux nouveaux outils intégrant de l’IA ont ainsi été lancés, illustrant notre approche multidimensionnelle pour protéger les joueurs.

Points essentiels du rapport :
Trouver un équilibre entre sécurité et authenticité dans les messages : Nous avons adopté une nouvelle approche pour détecter et intercepter les messages nuisibles entre personnes n’étant pas dans la liste d’amis, contribuant ainsi à une forte augmentation du contenu bloqué. De janvier à juin, 19 millions de contenus enfreignant les règles de la communauté Xbox ont été bloqués, qu’il s’agisse de textes, d’images ou de vidéos. Cette approche permet de protéger les joueurs des contenus nuisibles envoyés par des inconnus tout en préservant l’authenticité des interactions en ligne. Nous encourageons les joueuse et les joueurs à découvrir la Nouvelle expérience amis et abonnés de Xbox (article en anglais), qui offre plus de contrôle et de flexibilité dans la gestion des connexions.

  • Une sécurité renforcée grâce aux signalements des joueurs : Les signalements des joueurs sont une composante essentielle de notre approche sécuritaire. Au cours de cette période, les joueurs nous ont aidés à identifier une hausse de spam et de publicités sur la plateforme. Nous adaptons constamment notre stratégie pour éviter la création de comptes inauthentiques dès leur source, réduisant ainsi leur impact tant pour les joueurs que pour notre équipe de modération. En avril, nous avons pris des mesures contre une vague de comptes inauthentiques (1,7 million de cas, contre 320 000 en janvier) affectant les joueurs par du spam et de la publicité. Les signalements de joueurs pour les messages Looking for Group (LFG) ont doublé pour atteindre 2 millions et les signalements pour l’ensemble des contenus ont augmenté de 8 %, atteignant 30 millions par rapport à la période précédente.
  • Notre approche double en matière d’IA : Deux nouveaux outils d'IA ont été déployés pour renforcer nos équipes de modération. Ces outils empêchent non seulement l'exposition des joueurs à des contenus indésirables, mais permettent aussi à nos modérateurs humains de se concentrer sur des problématiques plus complexes. Le premier outil, Xbox AutoMod, lancé en février, assiste la modération des contenus signalés. À ce jour, il a traité 1,2 million de cas et a permis de supprimer les contenus nuisibles 88 % plus rapidement. Le second outil, lancé en juillet, agit de manière proactive pour bloquer les communications indésirables. Ces solutions ciblent actuellement le spam et la publicité et nous prévoyons d’élargir leur champ d’action à d’autres types de contenus indésirables.

Ces innovations reposent sur un système de sécurité associant la participation des joueurs et l’expertise de nos modérateurs, garantissant une application cohérente et équitable de nos règles de la communauté Xbox, tout en améliorant notre approche grâce à un retour d’information continu.

Chez Microsoft Gaming, notre engagement pour l’innovation en matière de sécurité et l’amélioration de l’expérience des joueurs s’étend également au-delà de ce rapport de transparence :

  • Assurer la sécurité des joueurs dans Minecraft : Mojang Studios est convaincu que chaque joueur peut contribuer à faire de Minecraft un espace sûr et accueillant. Pour y parvenir, une nouvelle fonctionnalité dans Minecraft: Bedrock Edition rappelle aux joueurs les standards de la communauté lorsque des comportements potentiellement inappropriés ou nuisibles sont détectés dans le chat textuel. Cette fonctionnalité vise à rappeler aux joueurs les normes de conduite attendues, leur offrant l’occasion de réfléchir et de modifier leur comportement avant qu’une suspension ou un bannissement ne soit nécessaire. De plus, depuis le lancement de la liste officielle des serveurs Minecraft (site en anglais) il y a un an, Mojang, en partenariat avec GamerSafer, a aidé des centaines de propriétaires de serveurs à renforcer leur gestion communautaire et leurs mesures de sécurité. Cela aide les joueurs, parents et adultes de confiance à identifier les serveurs Minecraft qui adhèrent aux pratiques de sécurité qu’ils recherchent.
  • Améliorations des outils anti-toxicité de Call of Duty : Call of Duty s’engage à lutter contre la toxicité et les comportements injustes. Pour réduire les comportements perturbateurs violant le Code de Conduite de la franchise, l’équipe utilise des technologies avancées, y compris l’IA, pour soutenir les équipes de modération et combattre la toxicité. Ces outils sont conçus pour favoriser une communauté plus inclusive, où les joueurs se respectent et jouent de manière équitable. Depuis novembre 2023 (page en anglais), plus de 45 millions de messages textuels ont été bloqués dans 20 langues et l'exposition à la toxicité vocale a diminué de 43 %. Avec le lancement de Call of Duty: Black Ops 6, la modération vocale a été étendue aux langues française et allemande, en complément des supports déjà existants en anglais, espagnol et portugais. Dans le cadre de ce travail continu, l’équipe mène également des recherches sur les comportements prosociaux dans le jeu.

À mesure que l’industrie évolue, nous continuons à construire une communauté de joueurs passionnés, partageant des valeurs communes, qui viennent sur notre plateforme pour profiter d’expériences immersives, s’amuser et se connecter avec les autres. Nous restons fermement engagés à assurer la sécurité de la plateforme et à concevoir une IA responsable, guidés par le Standard d’IA Responsable de Microsoft (article en anglais) et notre collaboration avec des organisations telles que la Tech Coalition (site en anglais). Merci, comme toujours, de contribuer à notre communauté dynamique et de nous accompagner dans cette aventure.

Ressources supplémentaires :
Partagez vos retours via le programme Xbox Insiders ou sur le site de Support Xbox

Besoin d’aide ? Demandez un appel, discutez en ligne et plus encore