Pesquisadores denunciam bot do Telegram que cria nude fake por menos de R$ 10

Pesquisadores de um site voltado para identificar ameaças visuais na internet descobriram um esquema que já criou mais de 100 mil imagens com deepfake de pessoas nuas. A plataforma usa um sistema de inteligência artificial para vender a usuários montagens de pessoas peladas por solicitação dentro do Telegram.

• O que é deepfake e como ela funciona?
• Novo algoritmo da Microsoft detecta vídeos manipulados e deepfakes
• Disney cria sistema de deepfake mais convincente até agora

O levantamento vem da Sensity. Segundo relatório da companhia, mais de 100 mil imagens foram compartilhadas pelo Telegram usando o sistema. O mecanismo se aproveita de uma técnica de deepfake chamada de DeepNude e usa inteligência artificial para trocar o rosto de modelos nuas por fotos obtidas por redes sociais das vítimas e enviadas pelos clientes.

O negócio gira em torno de vender tais materiais usando bots. O usuário envia a foto da pessoa que gostaria de ver com o deepfake. O sistema até oferece resultados gratuitos, mas com marcas d’água ou somente com nu parcial. Para liberar o material, é preciso pagar uma quantia. Segundo o levantamento, com 100 rublos (aproximadamente R$ 7) seria possível fazer até 100 fotos fakes de uma pessoa nua.

O DeepNude foi apresentado em junho deste ano e rapidamente retirado do ar pelos próprios criadores, exatamente pelo medo de ser usado de forma errada. Criminosos, contudo, recriaram e aprimoraram a tecnologia por engenharia reversa usando em bots pelo Telegram.

O acesso a fotos manipuladas que coloca pessoas em posições de nudez não é exatamente uma novidade, tendo em vista que isso é possível com Photoshop e outras ferramentas de edição. Contudo, o que causa mais espanto aos pesquisadores é a acessibilidade da tecnologia.

Fazer uma imagem fake de uma pessoa no Photoshop requer um nível de conhecimento e tempo. Já com o bot, com custo baixo, uma pessoa mal-intencionada poderia espalhar uma imagem mentirosa mesmo pelo Telegram ou outra rede social.

Segundo os pesquisadores, 70% dos canais de bots criados no Telegram são provenientes da Rússia e arredores, sendo que a maioria deles permanece ativa.

Fonte: Sensity