Passer directement au contenu principal
Se connecter

Rapport de transparence (4ème édition) : Découvrir les nouvelles applications de l’IA dans le domaine de la sécurité pour les jeux vidéo

Notre engagement à promouvoir une communauté de jeu sûre, accueillante et inclusive est renforcé par les investissements et les innovations que nous réalisons en permanence pour protéger les joueurs et les joueuses, et pour promouvoir un jeu positif. Aujourd’hui, nous publions notre quatrième rapport de transparence Xbox, qui témoigne de nos avancées en matière de sécurité des joueurs et des joueuses, et de notre engagement en faveur de la transparence.

Chez Xbox, nous restons déterminés à faire progresser l’application responsable de l’IA pour amplifier notre expertise humaine dans la détection de la toxicité potentielle. Nous avons une occasion unique de développer des innovations de sécurité à la pointe de l’industrie qui protègent mieux nos communautés, en tirant parti des investissements de Microsoft qui combinent les dernières avancées en matière d’IA générative avec l’expertise et le jugement humains.

Notre approche progressive de l’exploitation de l’IA pour catégoriser et identifier les contenus préjudiciables est guidée par la norme d’IA responsable de Microsoft (page en anglais) et permet à nos modérateurs et modératrices humains de se concentrer sur les préjudices les plus complexes et les plus nuancés, garantissant ainsi que nos actions pour protéger la communauté des joueurs et des joueuses sont précises, cohérentes et équitables.

Parmi les premiers investissements assistés par l’IA, on peut citer :

  • L’étiquetage automatisé permet de classer les textes conversationnels en identifiant les mots ou les phrases qui correspondent aux critères et aux caractéristiques d’un contenu potentiellement préjudiciable. Cette approche utilise l’IA pour analyser le contenu textuel signalé et aide les modérateurs et modératrices de la communauté à trier rapidement les faux rapports afin que les efforts de modération humaine puissent se concentrer sur le contenu le plus critique.
  • Image Pattern Matching, qui s’appuie sur une base de données avancée et des techniques de comparaison d’images, permet de supprimer rapidement les contenus nocifs connus et d’identifier les images toxiques émergentes.

Le rapport présente notamment les principaux points à retenir :

  • De nouvelles façons efficaces de protéger les joueurs et les joueuses. Le comportement des joueurs et des joueuses sur le chat vocal Xbox s’est nettement amélioré depuis le lancement de notre nouvelle fonction de signalement vocal (article en anglais). Cette fonction a permis aux joueurs et aux joueuses de signaler des comportements verbaux inappropriés avec un impact minimal sur leur jeu. Depuis son lancement, 138 000 enregistrements vocaux ont été capturés grâce à notre système « enregistrer maintenant, signaler plus tard ». Lorsque ces rapports ont donné lieu à des sanctions, 98 % des joueurs et des joueuses ont amélioré leur comportement et n’ont pas été sanctionnés par la suite. En outre, nous avons actualisé notre approche proactive afin d’empêcher plus efficacement les contenus préjudiciables d’atteindre les joueurs et les joueuses (3,2 millions de lignes de texte de plus par rapport au dernier rapport, soit 67 %), ce qui permet aux joueurs et aux joueuses de s’engager de manière positive. Nous continuerons à investir dans des fonctionnalités qui protègent et améliorent l’expérience des joueurs et des joueuses Xbox.
  • La compréhension des sanctions conduit à une communauté plus sûre. Le système de mesures répressives a été lancé l’année dernière pour promouvoir un jeu positif tout en aidant les joueurs et les joueuses à comprendre la gravité d’une infraction. Depuis son lancement, 88 % des joueurs et des joueuses ayant reçu une sanction ne se sont pas engagés dans une activité violant nos normes communautaires pour recevoir une autre sanction. Nous avons également réduit la durée des suspensions pour les infractions mineures. Parmi les sanctions qui auraient auparavant entraîné une suspension de trois jours ou plus, 44 % ont été réduites. La combinaison de ces résultats montre que la majorité des joueurs et des joueuses choisissent d’améliorer leur comportement après une seule suspension, même de courte durée.
  • Bloquer les comptes inauthentiques avant qu’ils n’aient un impact. Nous avons continuellement investi dans des moyens de repérer les comptes inauthentiques, ce qui nous a permis de bloquer rapidement un grand nombre d’entre eux dès leur création, les empêchant ainsi d’affecter nos joueurs et nos joueuses. L’amélioration de nos méthodes a permis d’éviter que des millions de comptes inauthentiques soient utilisés dès leur création et a entraîné une baisse du nombre de sanctions proactives contre les comptes inauthentiques pour la première fois en deux ans, les sanctions étant passées de 16,3 millions dans le dernier rapport à 7,3 millions.

En dehors du rapport de transparence, notre équipe continue de travailler en étroite collaboration pour innover en matière de sécurité et améliorer l’expérience de nos joueurs et de nos joueuses :

  • Lancement de la boîte à outils « Microsoft Family Safety Toolkit ». Microsoft sait que les parents et les soignants sont très occupés et que le paysage technologique ne cesse d’évoluer. Cette boîte à outils (document en anglais) fournit des conseils sur la manière d’exploiter les fonctions de sécurité et les paramètres de sécurité familiale de Microsoft pour soutenir et améliorer la parentalité numérique, ainsi que des conseils pour les familles qui cherchent à naviguer ensemble dans le monde de l’IA générative. Nous avons également inclus des liens vers une sélection de ressources informatives déjà conçues pour les parents, telles que la boîte à outils How To Be A Good Digital Parent de la Family Online Safety Institute (Institut pour la sécurité en ligne de la famille) (pages en anglais).
  • Enquête annuelle de Microsoft sur la sécurité en ligne dans le monde. Cette enquête (page en anglais) vise à mieux comprendre l’écosystème numérique et les expériences individuelles en ligne. Nous partageons nos résultats publiquement afin que ceux qui le souhaitent  puissent bénéficier de ces informations et que nous nous efforcions collectivement de créer un environnement en ligne plus sûr. L’enquête s’intéresse à la manière dont les personnes de tous âges perçoivent les opportunités et les risques posés par la technologie.
  • Construire une meilleure communauté en ligne avec l’aventure Minecraft Education Good Game. cet ajout récent à la collection CyberSafe de mondes d’apprentissage immersifs est une aventure amusante, basée sur une histoire qui aide les joueurs et les joueuses âgés de 8 à 18 ans à comprendre les responsabilités, les outils, les réponses et les méthodes qui permettent des interactions en ligne saines, une collaboration et des expériences numériques enrichissantes, qu’elles fassent partie de jeux multijoueurs ou d’autres activités en ligne.
  • Les utilisatrices et utilisateurs de Minecraft Education peuvent accéder à  CyberSafe: Good Game dans la bibliothèque du jeu. Le monde est également disponible gratuitement pour les joueuses et joueurs de Minecraft Bedrock sur la Marketplace Minecraft.

Ensemble, nous continuons à construire une communauté forte et solidaire pour toutes et tous, à l’abri de l’intimidation et des distractions. Nous nous efforçons d’améliorer nos dispositifs de sécurité afin de renforcer notre lien avec les joueurs et les joueuses par le biais des commentaires et des rapports en jeu et d’appliquer des couches de protection plus efficaces. Les solutions d’IA que nous lançons font partie de notre démarche visant à créer un environnement plus sûr et plus accueillant pour toutes et tous, car tout le monde mérite de jouer en toute sécurité et d’être protégé contre les menaces.

Quelques ressources supplémentaires :   

Besoin d’aide ? Demandez à être appelé, discutez en ligne, etc.