Facebook e Instagram usam machine learning para detectar pornô de vingança

O Facebook tem enfrentado dificuldades nos últimos tempos para lidar com comportamentos de assédio em sua plataforma. Por conta disso, a companhia passou a utilizar machine learning para detectar pelo menos uma delas: o pornô de vingança. Em post no blog da companhia, o diretor geral de segurança, Antigone Davis, explica que a empresa está criando pela primeira vez uma ferramenta proativa para tentar solucionar o problema.

O pornô de vingança é assim chamado o crime em que uma pessoa publica ou envia sem consentimento para outras pessoas fotos e vídeos sensuais que recebeu de forma privada. A atitude recebe este nome pois geralmente é uma forma de expor um antigo parceiro como forma de vingança por algum problema que possa ter havido no relacionamento. Desde o ano passado, atitudes como essa passaram a ser consideradas crime pela lei 13.718/2018, com pena de até cinco anos de prisão.

Desde o lançamento da rede social, o Facebook já fez uma série de mudanças para conter publicações do gênero. Em 2017, esse tipo de crime foi adicionado ao botão de reportar problemas. Ainda, usuários também podem enviar para a empresas as fotos relativas a porno de vingança.

Contudo, até agora tais ações eram consideradas apenas reativas, ou seja, precisavam da ação de usuários para que o problema fosse identificado. Agora, o Facebook quer excluir as pessoas desta equação e vai passar a identificar quando uma foto ou vídeo sensual ou com nu for postado sem permissão no Facebook ou Instagram.

“Isso significa que nós podemos encontrar essa foto antes mesmo que alguém denuncie, o que é importante por duas razões: geralmente as vítimas ficam com medo de retaliação e ficam relutantes em reportar os conteúdos ou desconhecem que o conteúdo já foi compartilhado”, explica Davis.

Assim que o sistema de machine learning relatar que há um caso de pornô de vingança em potencial, um membro do time do Facebook vai revisar a denúncia e cravar realmente se trata do caso. Nesses casos, o conteúdo será retirado da plataforma e o usuário pode ter a sua conta eliminada da rede social.

Segundo o gerente, a tecnologia foi desenvolvida junto com empresas de Direito e cria uma assinatura digital para aquela imagem, fazendo com que ela seja bloqueada em todo sistema. Assim sendo, mesmo que alguém tente compartilhar novamente aquela foto, ela não será mostrada na rede social e este usuário será automaticamente punido.

Ajuda

A rede social também está lançando uma plataforma chamada Not Without My Consent (“Não sem meu consentimento”, em tradução livre) em que apresenta um hub de informações de apoio a vítimas de pornô de vingança. A página apresenta uma série de organizações e fontes que podem ajudar tais pessoas a lidarem com o problema.

Além disso, o gerente promete que mais ferramentas relacionadas ao assunto devem surgir em breve para as redes do Facebook.

Fonte: Newsroom