Pular para o conteúdo principal
Entrar

Xbox lança quarto relatório de transparência compartilhando as mais novas aplicações de IA na segurança em videogames

Nosso comprometimento em promover uma comunidade de jogos segura, acolhedora e inclusiva é impulsionada pelos investimentos e inovações contínuos que fazemos para proteger os jogadores e promover uma jogabilidade positiva. Nesta terça-feira (14) estamos lançando nosso quarto Relatório de Transparência Xbox, que demonstra nossos avanços na promoção da segurança dos jogadores e nosso compromisso com a transparência.

Em Xbox, continuamos dedicados a avançar na aplicação responsável da IA para amplificar nossa expertise humana na detecção de potencial toxicidade. Temos uma oportunidade única de criar inovações de segurança líderes na indústria que melhor protegem nossas comunidades, aproveitando os investimentos da Microsoft que combinam os últimos avanços em IA generativa com a expertise e julgamento humano.

Nossa abordagem progressiva de utilizar a IA para categorizar e identificar conteúdo prejudicial é orientada pelo Responsable AI Stardard da Microsoft (em inglês) e permite que nossos moderadores humanos se concentrem nos danos mais complexos e sutis, garantindo que nossas ações para proteger a comunidade de jogos sejam precisas, consistentes e justas.

Os primeiros investimentos apoiados pela IA incluem:

  • A Autoetiquetagem ajuda a classificar textos de conversas identificando palavras ou frases que correspondem a critérios e características de conteúdo potencialmente prejudicial. Esta abordagem utiliza a IA para analisar o conteúdo textual reportado e ajuda os moderadores da comunidade a classificar rapidamente relatórios falsos, para que os esforços de moderação humana possam se concentrar no conteúdo mais crítico.
  • O Reconhecimento de Padrões de Imagem, potencializado por técnicas avançadas de banco de dados e correspondência de imagens, permite a remoção rápida de conteúdo prejudicial conhecido e a identificação de imagens tóxicas emergentes.

Entre os principais pontos destacados no relatório:

  • Novas Formas Eficazes de Proteger os Jogadores. O comportamento dos jogadores no chat de voz de Xbox melhorou significativamente desde o lançamento do nosso novo recurso de relatório de voz (disponível somente em regiões de língua inglesa). O recurso tem sido eficaz em permitir que os jogadores relatem comportamentos verbais inadequados com impacto mínimo em sua jogabilidade. Desde o seu lançamento, 138 mil registros de voz foram capturados utilizando nosso sistema ‘capture agora, relate depois’. Quando esses relatórios resultaram em uma Ação de Fiscalização, 98% dos jogadores mostraram melhoria em seu comportamento e não receberam fiscalizações subsequentes. Além disso, atualizamos nossa abordagem proativa para prevenir de forma mais eficaz que conteúdos prejudiciais alcancem os jogadores (3,2 milhões de linhas de texto a mais do que no último relatório, ou 67%), permitindo que os jogadores se envolvam de maneira positiva. Continuaremos a investir em recursos que protejam e aprimorem a experiência do jogador em Xbox.
  • Compreensão das Fiscalizações Leva a uma Comunidade Mais Segura. O Enforcement Strike System foi lançado no ano passado para promover uma jogabilidade positiva enquanto ajuda os jogadores a entenderem a gravidade de uma violação. Desde o seu lançamento, 88% daqueles que receberam uma Ação de Fiscalização não se envolveram em atividades que violassem nossos Padrões da Comunidade para receber outra fiscalização. Também reduzimos a duração das suspensões no geral para ofensas menores. Das fiscalizações que anteriormente resultariam em uma suspensão de 3 dias ou mais, 44% receberam uma redução no tempo. A combinação desses resultados mostra que a maioria dos jogadores opta por melhorar seu comportamento após apenas uma suspensão, mesmo quando é curta.
  • Bloqueio de Contas Não Autenticas Antes que Elas Tenham Impacto. Continuamos investindo continuamente em maneiras de identificar contas não autênticas, o que nos permitiu bloquear muitas delas assim que são criadas, impedindo que afetem nossos jogadores. Nossos métodos aprimorados impediram milhões de contas não autênticas de serem usadas assim que são criadas e levaram a uma diminuição no número de fiscalizações proativas em contas inautênticas pela primeira vez em dois anos, com as fiscalizações caindo de 16,3 milhões no último relatório para 7,3 milhões.

Fora do Relatório de Transparência, nossa equipe continua trabalhando de perto para impulsionar a inovação em segurança e melhorar a experiência de nossos jogadores:

  • Lançamento do Microsoft Family Safety Toolkit. A Microsoft entende que pais e responsáveis estão ocupados e que a paisagem tecnológica está em constante evolução. Este kit (em inglês) fornece orientações sobre como aproveitar os recursos de segurança da Microsoft e as configurações de segurança familiar para apoiar e aprimorar a parentalidade digital, além de orientações para famílias que procuram navegar juntas no mundo da IA generativa. Também incluímos links para uma seleção de recursos informativos já feitos para os pais, como o How to be a good digital Parent do Family Online Safety Institute.
  • Guia de Ferramentas Xbox para Segurança em Videogame. Realizado em conjunto com a SaferNet Brasil, Xbox Brasil disponibilizou o guia para apoiar pais e responsáveis com informações que os ajudam a manter seus filhos gamers seguros no ambiente digital. Saiba mais no Xbox Wire.
  • Pesquisa Anual Global de Segurança Online da Microsoft. Esta pesquisa busca entender melhor o ecossistema digital e as experiências individuais online. Compartilhamos nossos resultados publicamente para que outros possam se beneficiar das percepções à medida que nos esforçamos coletivamente para criar um ambiente online mais seguro. A pesquisa examina como pessoas de todas as idades percebem as oportunidades e riscos apresentados pela tecnologia.
  • Construindo uma comunidade online melhor com o Bom Jogo de Minecraft Education. Esta recente adição à coleção CyberSafe de mundos de aprendizagem imersivos é uma aventura com foco em narrativa destinada a ajudar jogadores de 8 a 18 anos a entender as responsabilidades, ferramentas, respostas e estratégias que promovem a empatia e possibilitam interações online saudáveis. Usuários do Minecraft Education podem encontrar o CyberSafe: Bom Jogo na biblioteca de lições do jogo. O mundo também está disponível gratuitamente para jogadores do Minecraft Bedrock no Minecraft Marketplace.

Junto com nossos jogadores, continuamos a construir uma comunidade forte e solidária para todos, livre de intimidação e distrações. Estamos dedicados a melhorar nossos recursos de segurança para fomentar nossa conexão com os jogadores através de feedback e report dentro do jogo, e para aplicar camadas de proteção de forma mais eficaz. As soluções de IA que lançamos fazem parte da jornada que estamos empreendendo para construir um ambiente mais seguro e acolhedor para todos, porque todos merecem jogar confortavelmente e experimentar a alegria que os jogos têm a oferecer. Obrigado por fazer parte desta jornada conosco.

Alguns recursos adicionais: