Facebook diz que sistema de análise de "nudes" terá moderação humana

Por Redação | 10 de Novembro de 2017 às 10h29
photo_camera veronicagomezpola/Depositphotos
TUDO SOBRE

Facebook

Um projeto piloto que está sendo realizado pelo Facebook, em parceria com o governo da Austrália, apresenta uma solução inusitada para evitar a proliferação do pornô de vingança. A ideia é que os usuários enviem seus próprios “nudes” para a rede social, de forma que eles sejam identificados e catalogados por moderadores humanos em um banco de dados, de forma a impedir que as imagens sejam publicadas por terceiros.

É uma ferramenta que funciona, basicamente, como a que já existe hoje, na qual as vítimas podem apontar páginas, usuários ou grupos que estejam compartilhando suas cenas íntimas. A ideia, entretanto, é agir antes mesmo que isso aconteça, com profissionais treinados servindo para criar um sistema que permita antecipação às campanhas de divulgação de imagens.

Em atividade desde o começo da semana, o novo sistema funciona por meio de um perfil no Messenger, ligado à Comissão de eSegurança do governo da Austrália. A conta faz interface com um sistema de formulários no site da instituição e, ao receber uma denúncia, notifica o Facebook sobre isso. Então, um especialista da companhia é o responsável por analisar a imagem e criar um “hash” – espécie de identidade digital matemática de um arquivo, usado para comparação com outros que sejam hospedados na rede.

Participe do nosso GRUPO CANALTECH DE DESCONTOS do Whatsapp e do Facebook e garanta sempre o menor preço em suas compras de produtos de tecnologia.

Apenas esse atributo é armazenado pelo Facebook, com o usuário sendo avisado para que exclua o arquivo enviado pelo Messenger – o que leva, também, à sua destruição pela empresa e também pelo governo. A partir daí a ideia é que os “nudes” não possam mais ser hospedados na rede social, uma vez que todas as fotos enviadas pelos usuários passam por esse tipo de verificação.

De acordo com o governo australiano, a medida protetiva também pode ajudar no caso de fotos íntimas que são disseminadas de forma mais generalizada, dificultando o trabalho de localização de cada página ou usuário envolvido nisso. Indicando seus próprios “nudes” à rede social, o usuário pode indicar o caráter das imagens compartilhadas e, sendo assim, cortar o compartilhamento pela raiz.

Ambos entendem, por outro lado, que a passagem das imagens potencialmente vazadas por mãos humanas pode acabar constrangendo ou limitando o alcance da solução. É justamente por isso que tanto o Facebook quanto a comissão de segurança digital garantem que ninguém, além do próprio especialista, terá acesso aos arquivos.

E mesmo esse moderador poderá visualizar a imagem de maneira restrita, somente pelo tempo necessário para verificação. A criação do hash é automatizada e, na sequência, mediante ação do próprio usuário, todos os dados são deletados dos servidores governamentais e da própria rede social.

Para garantir isso e também dar mais legitimidade ao processo, também participam do projeto piloto ONGs relacionadas a vítimas de pornô de vingança, advogados e outros especialistas em segurança digital, muitos dos quais, inclusive, contribuíram com imagens para criação de um banco de dados inicial. O Facebook, entretanto, não revelou os resultados preliminares do experimento nem disse se pretende levar a iniciativa para outros países.

Fonte: Gadgets 360

Gostou dessa matéria?

Inscreva seu email no Canaltech para receber atualizações diárias com as últimas notícias do mundo da tecnologia.