Microsoft lança ferramenta que escaneia chats para detectar pedofilia

Por Nathan Vieira | 09 de Janeiro de 2020 às 22h50
Tudo sobre

Microsoft

Saiba tudo sobre Microsoft

Ver mais

Um caso muito grave que ainda está presente em uma parte obscura da tecnologia é o abuso sexual infantil, como apontamos em uma matéria de 2018 sobre o YouTube. Com isso em mente, empresas da área tech estão tomando providências para detectar ações que remetem a atos de pedofilia. É o caso da Apple, por exemplo, que decidiu começar a escanear fotos enviadas do iCloud na tentativa de encontrar rastros de abuso sexual infantil. Agora, foi a vez da Microsoft entrar nesse combate.

Com o codinome Project Artemis, o serviço verifica nos chats, históricos em busca de padrões que indicam que um predador assediou ou está prestes a assediar crianças sexualmente. Na prática, o projeto se baseia em uma patente da Microsoft e usa dados históricos de bate-papo para atribuir classificações de probabilidade às conversas. As empresas que usam a ferramenta podem usar a classificação para determinar se um moderador humano deve intervir para revisar o diálogo.

Project Artemis, da Microsoft, almeja detectar pedofilia em conversas

A Microsoft usa a técnica para monitorar bate-papos na plataforma Xbox há anos, e está considerando incorporar o Project Artemis em outros serviços de chats, como o Skype. Courtney Gregoire, chefe de segurança digital da Microsoft, escreve em um post no blog: “A exploração e abuso sexual infantil online e a detecção de cuidados infantis online são problemas pesados, mas não estamos intimidados pela complexidade de tais questões”.

A Microsoft desenvolveu a ferramenta em colaboração com o The Meet Group, Roblox, Kik e Thorn, e está disponibilizando o Project Artemis para serviços online de terceiros que possuem funcionalidade de bate-papo e usam a Thorn, uma organização sem fins lucrativos que constrói tecnologia para proteger as crianças contra abuso sexual online. Thorn começará a licenciar a tecnologia para outros serviços nesta semana.

Fonte: Geek Wire

Gostou dessa matéria?

Inscreva seu email no Canaltech para receber atualizações diárias com as últimas notícias do mundo da tecnologia.