Ferramentas de fraude por deepfake ainda são muito fracas, diz pesquisa
Por Lillian Sibila Dala Costa • Editado por Jones Oliveira |
Softwares que criam deepfakes têm evoluído rapidamente de uma curiosidade para algo bastante eficiente, técnico e perigoso, ao menos aos olhos humanos. Uma pesquisa do Fórum Econômico Mundial (WEF), no entanto, indicou que a progressão dessas ferramentas ainda fica bem aquém das contramedidas de instituições como bancos e empresas.
Foram revisados 17 programas de deepfake de código aberto e comerciais disponíveis do mercado, disponíveis entre julho de 2024 e abril de 2025, avaliados a partir de suas habilidades de contornar algoritmos de reconhecimento facial. A eficiência deles ao driblar verificações de segurança “know your costumer” (KYC) foi um elemento especialmente estudado.
Os deepfakes do crime estão atrasados?
Os resultados da pesquisa, vale notar, foram mistos, e os testes limitados, se baseando apenas na documentação das ferramentas e informações vindas de outras fontes de código aberto. As conclusões, no entanto, afirmam que a maioria dos programas de deepfake é barato e superficial, produzido para uso em mídias sociais e demais formas de entretenimento, com poucos sendo vendidos para uso profissional.
Uma minoria bem diminuta, segundo a pesquisa, realmente possui capacidade de cometer fraude de identidade de maneira séria. Disponíveis no mercado negro, essas ferramentas custam entre 850 e 1.000 reais por conta e são compradas por criminosos que lavam dinheiro.
São três tipos de programa: há os que somente editam vídeos pré-produzidos, e os que são serviços web, ambos capazes de criar arquivos modificados. Só o terceiro tipo, que mescla faces em webcams em tempo real, realmente ameaça algoritmos de reconhecimento facial.
Das 17 plataformas estudadas, 5 afetam webcams em tempo real, e apenas três conseguem injetar imagens falsas diretamente no feed de vídeo de reconhecimento facial. Seis das 17 usam captura de movimentos capaz de refletir pequenos movimentos e expressões faciais complexas, mas apenas duas trabalham bem com iluminação dinâmica, e somente em conteúdo pré-gravado.
Embora enganem mesmo os olhos humanos mais treinados, os deepfakes ainda têm dificuldade de passar em reconhecimento facial e checagens KYC, já que boas tecnologias se apoiam em outros dados, como os metadados do usuário, e usam truques como piscar a tela do cliente, o que já revela se a luz se comporta como deveria no rosto.
Os defensores estão à frente nesse caso: ao estudar um ataque, pesquisadores de segurança possuem todo o tempo do mundo, e conseguem descobrir o que os hackers estão fazendo. Já os criminosos não fazem ideia do que estão fazendo errado, visto que a resposta da plataforma é apenas “sim” ou “não”: não há como saber no que melhorar para que o deepfake se saia melhor na fraude. O essencial, ao que parece, realmente é invisível aos olhos.
Confira ainda no Canaltech:
- Europol prende 34 hackers da Black Axe, que roubou R$ 37 milhões mundialmente
- Transações ilícitas de criptomoedas atingem recorde de US$ 158 bilhões em 2025
- Instagram nega vazamento de dados de 17,5 milhões de usuários na dark web
VÍDEO | Você sabe IDENTIFICAR um DEEPFAKE?
Fonte: Fórum Econômico Mundial