Meta se une à iniciativa para barrar vazamento de nudes de adolescentes

A Meta anunciou ter aderido ao projeto Take It Down, uma iniciativa do National Center for Missing and Exploited Children (NCMEC), dos Estados Unidos, para facilitar a remoção de fotos íntimas postadas online. Facebook e Instagram devem entrar na condição de membros fundadores do projeto, cujo objetivo é amenizar a dor de adolescentes (e seus responsáveis) vítimas de exposição não autorizada das imagens.

• WhatsApp e Messenger vão ganhar reforço de IA, avisa Zuckerberg
• 5 redes sociais que cobram por recursos que antes eram grátis

Além da Meta, também passaram a integrar o Take It Down a rede social francesa Yubo, o site de vídeos pornográficos Pornhub e o serviço de assinatura de conteúdo OnlyFans. Os membros assinaram um termo no qual se comprometem a identificar e remover conteúdos inapropriados sempre que houver uma "pessoa com menos de 18 anos" envolvida.

O projeto funciona a partir de "impressões digitais" de cada arquivo, os chamados hashes. Todo vídeo e foto possui essa identificação única que não pode ser alternada pelo usuário. O NCMEC mantém uma base de dados com o valor de cada hash associado a imagens ou vídeos de conteúdo sexual denunciado, o qual impede o carregamento do arquivo nas plataformas integrantes.

Como cada hash tem um valor único, os sistemas do Facebook e do Instagram vão impedir a distribuição deste tipo de arquivo imediatamente, não importando quem o transferiu nem de qual lugar o fez. Como a fonte de dados é integrada, todas as plataformas são notificadas ao mesmo tempo para barrar o conteúdo.

Como funciona o Take It Down?

Uma pessoa com suas fotos íntimas vazadas deve entrar no sistema do NCMEC para transferir o arquivo. Essa ação vai criar o hash único da imagem para buscar uma cópia exata daquele conteúdo para ser removido.

Quem não tem certeza se suas fotos foram expostas também podem gerar o código para se precaver. Assim, um eventual abusador não conseguirá subir os materiais quando tentar.

Segundo a organização, além de tirar do ar a foto ou vídeo impróprio, o serviço também atua para bloquear a conta de quem o postou. A identidade do denunciante permanece anônima para proteger a privacidade e ninguém terá acesso ao material — nem mesmo o NCMEC saberá qual é o conteúdo.

Com a "impressão digital" armazenada nos servidores, o Take It Down bloqueará uploads futuros da mesma foto ou vídeo explícito. Infelizmente, se a pessoa tentar fazê-lo em alguma plataforma não afiliada, ainda conseguirá sem dificuldade.

Por outro lado, como as plataformas cadastradas são famosas, o ato de impedir a transferência deve limitar o alcance de quem pratica esse tipo de crime. No Brasil e em vários países é proibido divulgar fotos íntimas de terceiros sem expressa autorização. Se a vítima for menor de idade, o ato criminoso tem a pena agravada.

Meta apoiou a iniciativa

Segundo o chefe global de segurança da Meta, Antigone Davis, a iniciativa Take It Down recebeu apoio financeiro da companhia ainda na fase de desenvolvimento. O propósito era criar uma rede interligada de segurança para proteger crianças e adolescentes vítimas de "pornô de vingança", exploração sexual e chantagem.

A partir de agora, a Gigante das Redes Sociais pretende atrair mais plataformas, além de adicionar a ferramenta ao serviço de denúncia de conteúdo do Facebook e do Instagram. Ter um sistema como esse seria o ideal para minimizar o impacto nas vítimas, que normalmente precisam se expor em ações judiciais para solicitar a remoção de conteúdo. Além da dificuldade de contato, ainda há o empecilho de precisar recorrer a várias plataformas ao mesmo tempo com a solicitação.

O projeto é similar ao Fórum Global da Internet para Contra o Terrorismo (GIFCT), que atua de maneira semelhante com os hashes, porém voltado para vídeos e imagens de grupos terroristas. A Meta também é integrante dessa plataforma junto da Microsoft, Reddit, Twitter e outras gigantes.

Este é mais um esforço da companhia para tentar transformar seus serviços em um espaço mais seguro para os jovens. Nos últimos anos, várias ações tem sido tomadas para evitar práticas como pedofilia, abuso sexual e assédio, como o bloqueio de perfis suspeitos e a impossibilidade de envio de mensagens de adultos desconhecidos para menores de 18 anos.