Xbox Live ganha novos filtros contra palavrões e comentários tóxicos

Na última sexta-feira (11), a Microsoft anunciou que está começando a testar novos filtros de conteúdo na Xbox Live para impedir a toxicidade em sua plataforma. Inicialmente, a empresa vai lançar filtros baseados em texto para mensagens trocadas por ali, mas há objetivo muito mais amplo para que as chamadas de áudio ao vivo possam ser filtradas com um "piiiiiiii" em tempo real — aquele barulho semelhante ao que a gente vê na TV.

São quatro novos filtros por texto disponíveis para os usuários do Xbox Live: friendly, que é uma opção mais adequada para crianças, projetada para filtrar todas as mensagens potencialmente ofensivas; medium; mature, e unfiltered. Basicamente, as mensagens filtradas aparecerão com um novo aviso de "mensagem oculta potencialmente ofensiva" e, se você estiver usando uma conta Xbox Live para adultos, poderá clicar para ver o conteúdo e relatá-lo usando as ferramentas regulares, se necessário estar. As contas para filhos serão colocadas no nível friendly por padrão, então essas contas serão impedidas de ver mensagens potencialmente ofensivas. Os pais poderão gerenciar os níveis através das configurações da família, e a filtragem funcionará no Xbox One, na Xbox Game Bar e nos aplicativos Xbox para Windows 10, iOS e Android.

Em entrevista ao portal norte-americano The Verge, Dave McCarthy, chefe de operações do Xbox na Microsoft, fala sobre o porquê dos novos filtros. “Você vê histórias de jogadores afro-americanos sendo convocados para linchamento em sessões multiplayer, ou jogadoras do sexo feminino em ambientes competitivos sendo chamados de todos os tipos de nomes e se sentindo assediados no mundo exterior, ou membros da nossa comunidade LGBTQ sentindo que não podem falar com sua voz no Xbox Live por medo de serem xingados. Se realmente queremos realizar nosso potencial como indústria e fazer com que esse meio maravilhoso chegue a todos, simplesmente não há lugar para isso", explica.

McCarthy e sua equipe têm procurado várias maneiras de identificar o contexto das mensagens usando uma mistura de inteligência artificial e filtragem. "O contexto é uma coisa realmente complicada no espaço dos jogos", admite McCarthy. “Encontrar maneiras de entender o contexto e as nuances é uma batalha sem fim", acrescenta. A Microsoft também quer enfrentar o desafio da toxicidade do bate-papo por voz no Xbox Live. Muitos comportamentos tóxicos e assédio podem ocorrer quando alguém é convidado para um chat de voz na plataforma, mas a Microsoft Research já desenvolveu recursos que transformam áudio em texto, e a divisão Xbox está usando esse recurso. “Ainda é cedo, e há uma infinidade de outras tecnologias e inteligência artificial que estamos procurando para resolver o problema da voz, coisas como detecção de emoções e detecção de contexto que podemos aplicar lá. Acho que estamos aprendendo de maneira geral. Estamos gastando nosso tempo com isso para fazer o que é certo", diz o chefe de operações.

O objetivo da Microsoft é ter algo semelhante à filtragem que as emissoras de TV podem obter nas transmissões ao vivo. “Um objetivo final pode ser semelhante ao que você esperaria na TV aberta, onde as pessoas estão conversando e, em tempo real, somos capazes de detectar uma fase ruim e emitir um sinal sonoro”, explica Rob Smith, gerente de programa da equipe de engenharia do Xbox Live. “É um grande objetivo, mas teremos que tomar medidas para isso", completa.

A empresa está executando vários testes internamente para descobrir o que funcionará melhor.“O Xbox Live não é uma plataforma de liberdade de expressão. É uma comunidade com curadoria em que queremos que você tenha alguns graus de liberdade pessoal, e é por isso que estamos fazendo quatro configurações diferentes para começar aqui”, explica McCarthy. “Esse deve ser um lugar onde todos se divertem".

Fonte: The Verge