Xbox の使命は、より多くの人々にゲームの喜びとコミュニティをもたらすことです。私たちは、不適切なオンライン行動からプレイヤーを保護し、より安全で包括的な体験を作り出し、Xbox コミュニティの安全を維持するための取り組みについて、透明性を維持することに引き続き取り組んでいます。
第 5 回目となる透明性レポートでは、プレイヤー中心のソリューションと AI を組み合わせることで、プラットフォーム上の望ましくない行為の検出と防止における人間の専門知識をさらに強化し、最終的には成長するゲーム コミュニティのニーズを、バランスよく満たし続けるための取り組みをいくつか紹介します。
2024 年 1 月から 2024 年 6 月までの期間、私たちは AI を活用した 2 つの新しいツールを導入し、フレンド以外からの迷惑メッセージの遮断や、スパムおよび広告の検出に注力しました。これは、プレイヤー保護に向けた多角的な取り組みの一環です。
本レポートの主なポイントは以下の通りです:
- メッセージにおける安全性と信頼性のバランス: 私たちは、友だちでない人同士の有害なメッセージを検出、遮断する新しいアプローチを導入し、有害なコンテンツの増加防止に大きく貢献しました。1 月から 6 月までの間に、テキスト、画像、動画の全媒体で、Xbox コミュニティ規範に違反するコンテンツにあたる合計 1,900 万件ほどが、プレイヤーに届く前に阻止されました。この新しいアプローチは、フレンド以外から送信される有害なコンテンツからプレイヤーを守ると同時に、私たちのコミュニティが楽しむ本物のオンライン ゲーム体験を維持するという、2 つの目標をバランスよく実現しています。プレイヤーの皆さんには、他者とのつながりをより柔軟にコントロールできる、新しい Xbox フレンド/フォロワーシステムを利用することをおすすめします。
- プレイヤーの報告による安全性の向上: プレイヤーの皆さんからのご報告は、当社の安全対策において引き続き重要な要素です。この期間中、プレイヤーからの報告により、プラットフォーム上でのスパムや広告の増加を確認することができました。不正なアカウントの作成を未然に防ぎ、プレイヤーとモデレーション チーム双方への影響を最小限に抑えるため、私たちは絶えず戦略を進化させています。4 月には、スパムや広告という形でプレイヤーに影響を与えていた不正アカウントの急増 (1 月の 32 万件から 170 万件に増加) に対処しました。プレイヤーは、LFG (Looking for Group、グループへの参加希望) メッセージに対して報告を実施することで、この急増とパターンを特定するのに役立ちました。プレイヤーの皆さんによる報告は、LFG メッセージに限った場合は 2 倍の 200 万件に達し、 前回の透明性報告期間と比較して、全体で 8% 増の 3,000 万件に達しました 。
- デュアル AI アプローチ: 私たちは、モデレーション チームをサポートするために構築された、2 つの新しい AI ツールをリリースしました。これらの技術革新により、プレイヤーを混乱させるような迷惑なコンテンツを公開されないようにして、人間のモデレーターがより複雑で微妙な問題に優先的に取り組むことができるようになりました。これらの新しいソリューションの 1 つ目は、2 月に開始された Xbox AutoMod です。報告されたコンテンツのモデレーションを支援するシステムで、これまでのところ 120 万件のケースを処理し、プレイヤーに影響を与えるコンテンツを 88 ％も迅速に削除できるようになりました。7 月に導入した 2 つ目の AI ソリューションは、望ましくないコミュニケーションを事前に防止するため積極的に動作しています。私たちは、これらのソリューションをスパムと広告の検出のために導入していますが、将来的にはさらに多くの種類の被害を防止するよう拡大する予定です。
これらの新しい進歩を支えているのは、プレイヤーと人間のモデレーターの専門知識の両方に依存する安全システムです。このシステムは継続的なフィードバック ループを通じてアプローチ全体を改善しながら、Xbox コミュニティ規範の一貫した公正な適用を保証します。
Microsoft Gaming では、安全性の革新を推進し、プレイヤーの体験を向上させるための取り組みは、透明性レポート以外にも及んでいます:
『Minecraft』におけるプレイヤーの安全を優先する: Mojang Studios は、『Minecraft』を誰にとっても安全で居心地の良い場所にするため、すべてのプレイヤーが役割を果たすことができると考えています。そのために、Mojang は『Minecraft: Bedrock Edition』に新機能をリリースしました。この機能は、テキスト チャットで不適切または有害な可能性のある行動が検出された場合に、ゲームのコミュニティ規範に関するリマインダーをプレイヤーに送信します。この機能は、サーバー上のプレイヤーに期待される行為を思い出させ、アカウント停止や BAN が必要になる前に、他者とのコミュニケーション方法を振り返ってもらい、行動を改める機会を作ることを目的としています。その他にも、Mojang は 1 年前に公式『Minecraft』サーバー リストを立ち上げて以来、GamerSafer との提携によって、何百ものサーバー オーナーがコミュニティ管理とセキュリティ対策を改善できるよう支援してきました。これにより、プレイヤーや保護者、信頼できる大人が、自分たちが気にかける安全性とセキュリティの実践に取り組んでいる『Minecraft』サーバーを見つけることができるようになりました。
『Call of Duty』の不適切行為対策ツールのアップグレード: 『Call of Duty』は不適切な行為とアンフェアなプレイと戦うことに取り組んでいます。『Call of Duty』の行動規範に違反する迷惑行為を抑止するため、AI を含む高度な技術を導入し、モデレーション チームの権限を高め、悪質な行為と戦っています。これらのツールは、プレイヤーが敬意を持って扱われ、誠実に競争できる、より包括的なコミュニティを育むことを目的として構築されています。2023 年 11 月以降、20 の言語で 4,500 万件以上のテキスト ベースのメッセージがブロックされ、音声による悪質行為は 43% 減少しました。『Call of Duty: Black Ops 6』の発売に伴い、チームは英語、スペイン語、ポルトガル語に加えて、フランス語とドイツ語の音声モデレーションのサポートを展開しました。この継続的な作業の一環として、チームはゲームにおける向社会的行動に関する研究も行っています。
業界の進化に伴い、私たちは没入型の体験を楽しみ、他の人々とつながるためにプラットフォームを利用しています。そこでは情熱的で、志を同じくし、思慮深いプレイヤーのゲームコミュニティを構築し続けています。私たちはマイクロソフトの責任ある AI システム構築に則り、Tech Coalition などの組織と協力およびパートナーシップを通じて、プラットフォームの安全性と責任ある AI の設計に引き続き取り組んでいきます。私たちの活気あるコミュニティに貢献し、私たちの旅に同席していただき、いつもありがとうございます。
その他、Xbox コミュニティの安全に関するサイトについて:
- Xbox Insiders プログラムまたはXbox サポート Web サイトでフィードバックをお寄せください。
- Xbox コミュニティ規範をお読みください。
- Xbox ファミリー設定アプリについて学び、準備ができたらアプリをダウンロードしてください。
- プライバシーとオンラインの安心設定に関する最新情報を確認してください。
- プレイヤーや懸念事項を報告する方法について確認してください。
- 『Minecraft Education』における没入型の学習体験をご覧ください:
- その他にも、もしわからないことがあればオンライン チャットや電話にてお問い合わせください。
※この記事は米国時間 11 月 13 日 に公開された“Xbox Introduces New AI Solutions to Protect Players from Unwanted Messages in its Multifaceted Approach to Safety”を基にしています。