IA e deepfake representam novo risco para relacionamentos online, diz estudo

Pesquisadores da Universidade de Tecnologia de Queensland, na Austrália, desenvolveram um novo estudo mostrando que, tanto a inteligência artificial (IA) quanto as deepfakes, podem expor pessoas que procuram por relacionamento na internet a fraudes românticas muito mais perigosas.

• Programa de deepfake muda rosto de pessoas até mesmo em transmissões ao vivo
• 1º candidato deepfake da história "ganha vida" na Coreia do Sul

Segundo os cientistas, golpes envolvendo usuários australianos em busca de namoros online renderam aos criminosos US$ 131 milhões (quase R$ 630 milhões na cotação atual) só em 2020. Um número que vem crescendo ano após ano graças ao uso de novas tecnologias para enganar as vítimas.

“Com a tecnologiadeepfake, os infratores podem não apenas usar imagens prontamente disponíveis de outra pessoa e criar um perfil falso, mas também podem produzir uma imagem totalmente sintética e um perfil correspondente sem precisar roubar uma das mídias sociais de outro usuário”, explica professora associada Cassandra Cross, autora principal do estudo.

Identificando o inimigo

Ao tomarem conhecimento sobre golpes de romance na internet, as vítimas são geralmente orientadas a usar métodos de detecção — como pesquisas reversas das imagens enviadas a elas — para tentar determinar se o remetente é realmente quem ele alega ser.

Para os pesquisadores, tanto uma IA mais avançada, quanto os sistemas de deepfake utilizados pelos criminosos virtuais, tornam essas pesquisas reversas de imagens obsoletas. Segundo eles, é preciso intensificar as campanhas de prevenção, alertando sobre o uso desse tipo de tecnologia difícil de detectar.

“Há uma necessidade crítica de melhorar a resposta tecnológica à IA e o potencial de fraude das deepfakes, pois, atualmente, existem meios limitados de detecção disponíveis. Isso significa que a prevenção de fraudes precisará ser revisada para conscientizar as pessoas sobre esse método de engano cada vez mais sofisticado”, acrescenta Cross.

Perfis salsos

Além de permitir que os criminosos manipulem imagens de pessoas de verdade, alguns sistemas de inteligência artificial já conseguem criar um rosto de alguém que nunca existiu. Essa prática permite que uma pessoa mal-intencionada crie um perfil fictício, porém, aparentemente realista.

Os especialistas também alertam sobre a evolução dos sistemas de deepfakes capazes de abranger gravações e adulterações de voz, tornando essa ferramenta em algo extremamente poderoso quando alguém pretende praticar um crime de romance ou manter outros comportamentos fraudulentos.

"Por exemplo, os infratores podem usar gravações de áudio falsas para se passar por CEOs e outras figuras de autoridade e direcionar funcionários de nível inferior com solicitações urgentes para transferir fundos em seu nome. O risco para quem trafega por ambientes virtuais é real e está presente tanto para aqueles que procuram por relacionamentos românticos, quanto para vítimas de fraudes bancárias", encerra Cross.