Ferramenta que combate o abuso infantil no Xbox será liberada a outras empresas

Por Claudio Yuge | 14 de Janeiro de 2020 às 23h30
Imagem: Reprodução/Belicosa Netnografia)
Tudo sobre

Microsoft

Saiba tudo sobre Microsoft

Ver mais

Todo mundo sabe que um dos alvos prediletos de pedófilos e outros tipos de pessoas mal-intencionadas online são os chats de plataformas, onde há muitas crianças e adolescentes. A Microsoft está ciente que isso pode acontecer (e acontece), principalmente no mensageiro da sua linha de videogames, a Xbox. Por isso, ela vai liberar para outras empresas que trabalham com messengers online o SDK do Projeto Artemis, uma iniciativa que prevê recursos para evitar que predadores possam cometer abuso sexual em janelas de bate-papo.

A ferramenta reconhece palavras e padrões de fala específicos, sinalizando mensagens suspeitas para posterior revisão de um moderador humano. Esse responsável determina se a situação deve ser escalada, entrando em contato com a polícia ou com outros agentes da lei. Caso haja uma identificação positiva de textos ou imagens referentes à exploração sexual infantil, o Centro Nacional para Crianças Desaparecidas e Exploradas será notificado para novas ações.

Ferramenta deve aparecer primeiro no Xbox (Imagem: Reprodução/Microsoft)

“Às vezes gritamos contra as plataformas — e há abuso em todas as plataformas que têm bate-papo online —, mas devemos aplaudi-las por implantar mecanismos”, diz Julie Cordua, CEO da organização de tecnologia sem fins lucrativos Thorn, que trabalha para impedir abuso sexual de crianças na web. "Se alguém disser 'oh, não existe abuso', direi a eles 'bem, vocês estão procurando?' "

Projeto Artemis poderá ser utilizado por todas as plataformas

A ferramenta da Microsoft é importante, segundo a Thorn, porque, embora ela tenha sido "gestada" para o chat da linha Xbox, ela passa a ficar disponível para qualquer empresa que use programas online de bate-papo e ajuda a definir um padrão do setor para a detecção e o monitoramento de predadores, ajudando no desenvolvimento de futuras soluções de prevenção. "As conversas são difíceis de monitorar quanto ao possível abuso infantil, porque podem haver muitas nuances nelas", afirmou Cordua.

De acordo com a Microsoft, o Projeto Artemis está em desenvolvimento há mais de 14 meses, e nasceu durante o "360 Cross Industry Industry Hackathon", co-patrocinado por dois grupos de proteção infantil, o WePROTECT Global Alliance e o Child Dignity Alliance. Equipes de games, mensageiros e grupos de entretenimento, a exemplo de Roblox, Kik, Thorn e The Meet Group, também participaram da iniciativam trabalhando em parceria com a Microsoft. O professor Hany Farid, especializado em análise de imagens digitais, liderou o processo, desenvolvendo a ferramenta PhotoDNA, que pode detectar e relatar online imagens de exploração sexual infantil.

Imagem: Reprodução/Pixabay

Ferramenta ainda não está completa

Julie diz que, por enquanto, o Projeto Artemis conta com limitações iniciais, com o fato de só funcionar no idioma inglês. Contudo, como cada empresa que usa a ferramenta pode personalizá-la para seu próprio público, elas poderão adaptar e refinar a sua execução — um grande passo em direção à prevenção proativa, diferente das atuais fracassadas políticas de autodetecção.

Contudo, alguns detalhes sobre o funcionamento do Projeto Artemis seguem escassos. Não foi especificado se ele funcionaria com programas de bate-papo que usam criptografia de ponta a ponta ou quais medidas serão tomadas para evitar possíveis estresses pós-traumáticos em moderadores.

Julie Cordua (Imagem: Reprodução/TED Talks)

Em seu blog, a Microsoft acrescenta que a iniciativa “não é de forma alguma uma panacéia”, mas representa o primeiro passo para aumentar o cuidado online sobre o assunto. "O primeiro passo é que precisamos melhorar a identificação de onde isso está acontecendo. Mas todas as empresas que hospedam qualquer bate-papo ou vídeo devem fazer isso, caso contrário, são cúmplices em permitir o abuso de crianças em suas plataformas”, criticou Julie.

Fonte: The Verge  

Gostou dessa matéria?

Inscreva seu email no Canaltech para receber atualizações diárias com as últimas notícias do mundo da tecnologia.