メイン コンテンツへスキップ
サインイン

第 3 回 Xbox 透明性レポートを公開: より安全なゲーム体験に向けた取り組みの進化

Xbox プラットフォームと、より広範なゲーム コミュニティは絶えず進化しています。ゲーム業界が成長を続ける中、潜在的な有害性からプレイヤーを保護するために、安全性のシステムにはさらなる深度やスピード、俊敏さが求められています。この度、マイクロソフトは第 3 回 Xbox 透明性レポートを公開しました。このレポートでは、プレイヤーの皆様により安全かつ、より包括的な環境で素晴らしいゲーム体験をお楽しみいただけるよう、当社が行っている取り組みに関するデータとインサイトをご提供します。

Xbox では、人工知能 (AI) の探求や活用の推進による業界の変化に対応するため、当社のテクノロジーやアプローチを適応させ続けています。AI の重要性は、世界中でコンテンツ モデレーションを加速させる上でますます高まっています。Xbox チームは、ゲーム業界全体で活用できる、より安全なプレイヤー体験を追求するために、AI の責任ある活用を積極的に取り入れています。この取り組みは、人間による監視の重要性と AI の進化する能力を組み合わせることで、これまでの私たちの安全活動の基盤を築くことを目的としています。

現在、マイクロソフトでは有害なコンテンツを検出するために、AI を活用した人間のインサイトに基づくコンテンツ モデレーション プラットフォームである「Community Sift」など、様々な既存の AI モデルを使用しています。これにより、年間何十億もの人間のやり取りを分類およびフィルタリングし、Xbox の多くの安全性システムを強化しています。また、多言語モデルの「Turing Bletchley v3」により、ユーザーが作成した画像をスキャンして適切なコンテンツのみが表示されるようにもしています。当社では 、AI と「Community Sift」による安全性システムのさらなる強化、インタラクションのコンテキストのより深い理解、プレイヤー スケールの拡大、人間のモデレーター能力の向上および補強、デリケートなコンテンツの露出の削減方法の開発に努めています。

マイクロソフトの多くのシステムは、プレイヤーの皆様が安心して参加し、尊重されていると感じることができるように開発されています。プロアクティブなテクノロジーとアプローチにより、当社のプラットフォーム上での望ましくないコンテンツや行為を抑制し、共有されるコンテンツがプレイヤーの皆様に届く前にブロックすることができます。透明性レポートに記載されている通り、今期の総使用停止措置の 87% (1,709 万件) は、当社のプロアクティブなモデレーションによるものでした。

同レポートの主なポイントは以下の通りです。

  • ブロックされたコンテンツ量に関する新たなインサイト – 有害なコンテンツがプレイヤーの皆様に届く前に防ぐことは、すべての人に歓迎される、インクルーシブな体験を提供するための積極的なモデレーション活動の重要な要素です。当社のチームは、信頼性の高い AI と人間による監督を組み合わせ、有害なコンテンツが当社のプラットフォーム上で公開されるのを審査し、防止しています。この成果をより正確に測るために、同分野における当社の取り組みを網羅する新しいデータ資料「Toxicity Prevented」を追加しました。この最終期間では、新しい基礎モデル「Turing Bletchley v3」の活用への投資により、135,000 件増加 (前期比 39％ 増) した画像のブロックを含む 470 万以上のコンテンツがプレイヤーの皆様に届く前にブロックされました。
  • ハラスメントへの対処をより重視 – 当社は、すべてのプレイヤーの皆様にとって安全で包括的な環境を構築することに努めています。ヘイトスピーチ、いじめ、嫌がらせ等のあらゆる悪質な行為を特定し、対処するために積極的に取り組んでいます。この目標を念頭に置いて、プロアクティブな使用停止措置を強化するために内部プロセスを改善し、この過去の期間に 84,000 件 (前期比 95％ 増) のハラスメント / いじめに関する積極的な措置を実施しました。また、ゲーム中の不適切なボイス チャットをキャプチャして報告するための新しい音声レポート機能も導入しました。Xbox の安全性チームは、私たちのプラットフォームではいかなる種類の悪質な行為も容認できず、そのような行為を真剣に受け止めていることを、すべてのプレイヤーの皆様に知っていただくために注力し続けています。
  • 使用停止措置後のプレイヤーの行動の把握 – マイクロソフトでは常に、プレイヤーの皆様にコミュニティ規範への理解をより深めていただく方法について研究する機会を設けており、そのために使用停止措置を受けたプレイヤーの皆様がその後どのように行動するかを分析しています。初期のインサイトによると、大半のプレイヤーの皆様は使用停止措置を受けた後も、コミュニティ規範に違反することなくコミュニティに積極的に関わっています。何が許容される行為で、何が許容されない行為なのかをプレイヤーの皆様により理解していただけるよう、Xbox では先日、使用停止措置システムを導入しました。このシステムは、使用停止措置の重さ、複数の使用停止措置の累積による影響、各自の記録に与える全体的な影響について、プレイヤーの皆様がより理解しやすいように設計されています。

「透明性レポート」以外でも、Xbox チームは世界中で、ゲーム業界全体の安全性の革新を推し進めるために緊密に協力し続けています。

  • 『Minecraft』と GamerSafer が提携し、安全性を重視したサーバーを推進。『Minecraft』の開発元である Mojang Studios が GamerSafer と提携し、『Minecraft』コミュニティのメンバーと共にオフィシャル『Minecraft』サーバー リストを作成しました。これにより、プレイヤーの皆様が安全で確実な実践に取り組んでいるサード パーティーのサーバーを簡単に見つけられるようになりました。Mojang Studios と GamerSafer は定期的に協力し、サイトに掲載されるサーバーに必要なポリシーと安全性の基準を更新しています。掲載サーバーは Minecraft 利用ガイドラインに準拠し、サーバーの目的、想定される利用者、各サーバーの基調、価値観、原則を設定する基本的なコミュニティ管理の実践の提供など、規定の項目を実証することが求められます。さらに、掲載サーバーは安全性とセキュリティのベスト プラクティスへの取り組みを示す様々なバッジを獲得できます。サーバー コミュニティの管理者は、参加することで自分のサーバーをリストに登録でき、プレイヤーの皆様は問題を報告したり、サーバーに直接連絡して質問したりすることができます。このサイトは、サーバー コミュニティの管理者が安全性を念頭に置いて楽しいゲームや体験を作り上げることを支援するだけでなく、プレイヤーや保護者の皆様がポジティブなサーバー体験を見つけたり探したりするための分かりやすい資料も提供しています。
  • 「Xbox ゲーム安全性ツールキット」を日本とシンガポールで配信。このローカル資料では、保護者や保育者の皆様がゲームにおけるオンラインの安全性をより深く理解し、お子様の Xbox 体験を管理できるようにサポートします。このツールキットでは、一般的な安全上のリスク、あらゆる年齢のお子様を対象とした年齢別のガイダンス、ご家族すべての皆様のプレイヤー体験をより安全にするために Xbox で利用できる機能を紹介しています。これまでのリリースには、オーストラリアとニュージーランド向けの「Xbox ゲーム安全性ツールキット」などがあります。

Xbox は、誰もが恐怖や威圧から解放され、自分たちが設定した境界線の中で楽しめるコミュニティを共に作り続けていきます。これは、プレイヤーの皆様が互いに敬意を持って交流できるように、より多くのツールやシステムを導入していくということです。最近導入された安全対策には、音声レポート機能があり、プレイヤーの皆様はゲーム内のボイス チャットで、あらゆるマルチプレイヤー ゲームでの不適切な音声行為をキャプチャして報告することができます。また、使用停止措置システムにより、プラットフォーム上の体験全体に影響を与える、プレイヤーの皆様の行動に関する詳細情報が提供されます。

すべてのプレイヤーの皆様が、すべての人にとってポジティブで魅力的な環境を作り出す役割を持っています。引き続き、当社も皆様と共に安全なゲーム体験のために取り組み続けていきます。

その他の資料は、以下をご覧ください。    

※この記事は米国時間 2023 年 11 月 7 日に公開された “Third Xbox Transparency Report Shows Our Evolving Approach to Creating Safer Gaming Experiences” を基にしています。

タグ: