Microsoft lança ferramenta que escaneia chats para detectar pedofilia
Por Nathan Vieira | 09 de Janeiro de 2020 às 22h50
Um caso muito grave que ainda está presente em uma parte obscura da tecnologia é o abuso sexual infantil, como apontamos em uma matéria de 2018 sobre o YouTube. Com isso em mente, empresas da área tech estão tomando providências para detectar ações que remetem a atos de pedofilia. É o caso da Apple, por exemplo, que decidiu começar a escanear fotos enviadas do iCloud na tentativa de encontrar rastros de abuso sexual infantil. Agora, foi a vez da Microsoft entrar nesse combate.
Com o codinome Project Artemis, o serviço verifica nos chats, históricos em busca de padrões que indicam que um predador assediou ou está prestes a assediar crianças sexualmente. Na prática, o projeto se baseia em uma patente da Microsoft e usa dados históricos de bate-papo para atribuir classificações de probabilidade às conversas. As empresas que usam a ferramenta podem usar a classificação para determinar se um moderador humano deve intervir para revisar o diálogo.
A Microsoft usa a técnica para monitorar bate-papos na plataforma Xbox há anos, e está considerando incorporar o Project Artemis em outros serviços de chats, como o Skype. Courtney Gregoire, chefe de segurança digital da Microsoft, escreve em um post no blog: “A exploração e abuso sexual infantil online e a detecção de cuidados infantis online são problemas pesados, mas não estamos intimidados pela complexidade de tais questões”.
A Microsoft desenvolveu a ferramenta em colaboração com o The Meet Group, Roblox, Kik e Thorn, e está disponibilizando o Project Artemis para serviços online de terceiros que possuem funcionalidade de bate-papo e usam a Thorn, uma organização sem fins lucrativos que constrói tecnologia para proteger as crianças contra abuso sexual online. Thorn começará a licenciar a tecnologia para outros serviços nesta semana.
Fonte: Geek Wire