Facebook trabalha em método para identificar deepfakes e rastrear quem criou

Os deepfakes são montagens com o rosto de pessoas em vídeos ou outras fotos de modo tão realista que fica quase impossível saber se são ou não verdade. Embora isso não seja ainda um problema muito grande nas redes sociais — é mais comum nos grupos de WhatsApp e páginas da internet, por exemplo —, o Facebook deseja se proteger contra eventuais ameaças.

• O que é deepfake e como ela funciona?
• "FakeGeo": imagens falsas de satélites começam a preocupar cientistas
• Nova tecnologia vai permitir que celebridades clonem suas próprias vozes

A plataforma trabalha em conjunto com integrantes da Michigan State University, nos Estados Unidos, para criar um método de engenharia reversa cujo objetivo seja identificar deepfakes e encontrar quem foi o autor da montagem. Por meio de análises apuradas com uma inteligência artificial, os desenvolvedores esperam conhecer especificações e dados usados na criação para chegar a uma conclusão real de quem produziu aquilo.

Se a pesquisa trouxer os resultados esperados (ela ainda está em desenvolvimento), não só o Facebook como todas as demais plataformas podem ser capazes de rastrear criminosos atuantes neste segmento. As deepfakes são responsáveis por espalhar desinformação, atacar a reputação de figuras públicas e até produzir provas incriminatórias inexistentes.

Há vários relatos na web de pornografia criada em cima de técnicas de deepfake, criadas no intuito de gerar cliques. Sites deste tipo especializados em pornografia costumam lucrar milhares de dólares ao enganar usuários colocando o rosto de algum famoso em corpos de atores e atrizes pornôs.

Identificação do deepfake

Estudos anteriores nesta área já são capazes de determinar qual modelo de IA existente fez aquele deepfake, mas este trabalho pretende ir além para coletar também os chamados hiperparâmetros. Esses dados são únicos e deixam "impressões digitais" na imagem, o que permite, com o cruzamento de várias informações, saber quem foi o autor.

O desafio da pesquisa é estabelecer um sistema capaz de analisar também os modelos desconhecidos, afinal um criminoso profissional não vai usar algo manjado para evitar deixar brechas na sua atuação. Por enquanto, a única forma de fazer isso é apreendendo o computador do criminoso.

Como surgem novas estratégias todos os dias, fica difícil criar algo fixo e capaz de abranger tudo o que já existe. Por isso, a ideia é criar um robô capaz de se atualizar constantemente e coletar essas evidências, quase como um investigador policial, para juntar o quebra-cabeças.

Por enquanto, nada disponível no mercado consegue fazer esse trabalho de forma satisfatória. Na última competição promovida pelo Facebook, o algoritmo vencedor só foi capaz de detectar vídeos manipulados em 18% das vezes.

O jeito é acompanhar para ver como as pesquisas vão evoluir para coibir esse que já é considerado como o sucessor das fake news. Você acredita que as deepfakes poderão ser identificadas futuramente? Deixe sua opinião nos comentários.

Fonte: Facebook