Facebook trabalha em método para identificar deepfakes e rastrear quem criou

Facebook trabalha em método para identificar deepfakes e rastrear quem criou

Por Alveni Lisboa | Editado por Douglas Ciriaco | 16 de Junho de 2021 às 16h40
(Imagem: Reprodução/RenovaMídia)

Os deepfakes são montagens com o rosto de pessoas em vídeos ou outras fotos de modo tão realista que fica quase impossível saber se são ou não verdade. Embora isso não seja ainda um problema muito grande nas redes sociais — é mais comum nos grupos de WhatsApp e páginas da internet, por exemplo —, o Facebook deseja se proteger contra eventuais ameaças.

A plataforma trabalha em conjunto com integrantes da Michigan State University, nos Estados Unidos, para criar um método de engenharia reversa cujo objetivo seja identificar deepfakes e encontrar quem foi o autor da montagem. Por meio de análises apuradas com uma inteligência artificial, os desenvolvedores esperam conhecer especificações e dados usados na criação para chegar a uma conclusão real de quem produziu aquilo.

Você consegue identificar qual desses rostos é falso? (Imagem: Divulgação/Facebook)

Se a pesquisa trouxer os resultados esperados (ela ainda está em desenvolvimento), não só o Facebook como todas as demais plataformas podem ser capazes de rastrear criminosos atuantes neste segmento. As deepfakes são responsáveis por espalhar desinformação, atacar a reputação de figuras públicas e até produzir provas incriminatórias inexistentes.

Quer ficar por dentro das melhores notícias de tecnologia do dia? Acesse e se inscreva no nosso novo canal no youtube, o Canaltech News. Todos os dias um resumo das principais notícias do mundo tech para você!

Há vários relatos na web de pornografia criada em cima de técnicas de deepfake, criadas no intuito de gerar cliques. Sites deste tipo especializados em pornografia costumam lucrar milhares de dólares ao enganar usuários colocando o rosto de algum famoso em corpos de atores e atrizes pornôs.

Identificação do deepfake

Estudos anteriores nesta área já são capazes de determinar qual modelo de IA existente fez aquele deepfake, mas este trabalho pretende ir além para coletar também os chamados hiperparâmetros. Esses dados são únicos e deixam "impressões digitais" na imagem, o que permite, com o cruzamento de várias informações, saber quem foi o autor.

O desafio da pesquisa é estabelecer um sistema capaz de analisar também os modelos desconhecidos, afinal um criminoso profissional não vai usar algo manjado para evitar deixar brechas na sua atuação. Por enquanto, a única forma de fazer isso é apreendendo o computador do criminoso.

Essas são as imagens falsas: conseguiu advinhar? (Imagem: Reprodução/Facebook)

Como surgem novas estratégias todos os dias, fica difícil criar algo fixo e capaz de abranger tudo o que já existe. Por isso, a ideia é criar um robô capaz de se atualizar constantemente e coletar essas evidências, quase como um investigador policial, para juntar o quebra-cabeças.

Por enquanto, nada disponível no mercado consegue fazer esse trabalho de forma satisfatória. Na última competição promovida pelo Facebook, o algoritmo vencedor só foi capaz de detectar vídeos manipulados em 18% das vezes.

O jeito é acompanhar para ver como as pesquisas vão evoluir para coibir esse que já é considerado como o sucessor das fake news. Você acredita que as deepfakes poderão ser identificadas futuramente? Deixe sua opinião nos comentários.

Fonte: Facebook

Gostou dessa matéria?

Inscreva seu email no Canaltech para receber atualizações diárias com as últimas notícias do mundo da tecnologia.