Está cada vez mais difícil diferenciar rostos reais de deepfakes, revela estudo

Uma pesquisa conduzida por cientistas da Royal Holloway University of London, do Reino Unido, revelou como as técnicas de deepfake evoluíram ao ponto de confundir as pessoas sobre quais rostos são reais e quais são falsos.

• IA avançada poderia exterminar humanidade, alertam pesquisadores de Oxford
• Ferramenta promete revelar se um texto foi escrito por inteligência artificial

O levantamento exibiu um conjunto de imagens para um grupo e pediu que as pessoas dissessem quais aparências são verdadeiras e quais foram criadas por uma inteligência artificial e o resultado surpreendeu, pois muita gente identificou como "reais" mais fotos artificiais do que imagens de seres humanos verdadeiros. Até mesmo as autoridades dos Estados Unidos e especialistas tiveram alguma dificuldade para saber quais faces são reais, como mostra casos recentes.

Veja um exemplo imagem abaixo:

Criar um deepfake não é tarefa simples porque envolve conhecimentos avançados em redes neurais e computadores para processar os dados. É preciso programar exaustivamente uma modelagem capaz de ser treinada com base em rostos de pessoas reais. Somente com uma quantidade muito elevada de imagens e milhares de ajustes será possível dar alguma autonomia para esses aplicativos.

Diante de um cenário caótico com deepfakes e possíveis consequências negativas, como fake news em vídeo, é provável que os próprios desenvolvedores precisem criar soluções para identificar rostos artificiais. Este é o pensamento do professor de Psicologia e Diretor do Centre for the Politics of Feelings Manos Tsakri, responsável pelo estudo:

"A próxima fronteira para esta área deve ser algoritmos aprimorados para detectar rostos digitais falsos. Estes poderiam então ser incorporados em plataformas de mídia social para nos ajudar a distinguir o real do falso quando se trata de rostos de novas conexões", explica.

Como funciona os deepfakes ultrarealistas?

Segundo Tsakri, em geral, os cientistas de dados usam duas ou mais redes neurais generativas para competir entre si, definindo quem consegue produzir imagens mais realistas. O resultado disso é incorporado aos bancos de dados para dar um toque praticamente indistinguível das imagens reais usadas no treinamento dos algoritmos.

Quanto mais imagens próximas do mundo real são usadas no treinamento, melhor o algoritmo se sairá quando convocado a fazê-lo de modo autônomo. Imagine isso multiplicado por milhares de vezes e dá para entender porque as tecnologias de IA são tão impressionantes.

A pesquisa descobriu também haver uma ligação entre rostos artificiais e a beleza harmoniosa dos rostos. Quem tem uma aparência menos atraente foi classificado como real, ainda que a imagem fosse fake, enquanto as imagens de gente mais bonita acabaram sendo taxadas de falsas.

O fenômeno é explicado no artigo do especialista devido à familiaridade das pessoas. Como a maioria das faces tem traços mais comuns, os rostos gerados com poucas características de destaque acabam sendo mais alinhados aos modelos mentais das pessoas, aqueles vistos nas ruas, no trabalho e na rotina diária.

Deepfake no mundo real

O maior perigo das deepfakes parece residir no uso malicioso, geralmente empregado para impactar na imagem de políticos, celebridades, espionagem e difamação. Este tipo de técnica sempre existiu, mas hoje chama a atenção devido ao imenso detalhamento.

De acordo com a agência Associated Press, um perfil criado com fotos de deepfake no LinkedIn conseguiu se conectar com diversos nomes da política norte-americana. Entre as "vítimas" enganadas estão um assessor influente de um senador e o economista Paul Winfree, cotado para uma vaga no Federal Reserve, o Banco Central dos EUA.

Um agente da CIA, a agência de inteligência do país norte-americano, também acabou condenado à prisão após revelar segredos de Estado. Ele teria sido contatado por um espião chinês que usou imagens fakes para se passar por um recrutador, que o convenceu a abrir o jogo sobre um operação secreta realizada em Pequim, na China.

* A foto verdadeira está na quarta linha de cima para baixo, na penúltima coluna da esquerda para a direita. É uma foto de mulher, branca, sorrindo, com franja e cabelo comprido abaixo do ombro.

Para os que não conseguiram distinguir imagens falsas das reais, fica uma mensagem de consolo: você não está sozinho. Por outro lado, não fazê-lo pode deixar muita gente desconfiada no mundo online e cada vez mais dependente de avatares digitais. Parece que será a tecnologia a responsável por solucionar um problema que ela mesmo criou.

Fonte: The Conversation