Samsung desenvolve sistema que cria vídeos falsos com foto de perfil do Facebook

A Samsung criou um software capaz de produzir vídeos falsos (e realistas) com uma única foto de perfil do Facebook. A técnica é conhecida como deepfake e viralizou no ano passado quando o software foi usado para criar vídeos pornográficos de celebridades como Gal Gadot e Emma Watson. A diferença é que, até então, o programador precisava reunir centenas ou milhares de fotos e vídeos das pessoas envolvidas naquele conteúdo.

Só assim o computador conseguia aprender como um determinado rosto se move ou reage a certas ações. Agora, a Samsung desenvolveu um sistema de inteligência artificial que pode gerar um clipe falso com apenas uma imagem.

Apesar do passado "sombrio", a tecnologia pode ser usada de um modo divertido, dando vida a quadros clássicos como o da Monalisa (assista no vídeo abaixo). No experimento da Samsung, foi usado a imagem fixa do retrato para transformá-la em três frames, onde a Monalisa perde o sorriso enigmático, conversa e mexe o rosto em todas as direções.

Para os fãs de Harry Potter: chega a lembrar as ilustrações do jornal Profeta Diário. A tecnologia da Samsung foi desenvolvida no laboratório de inteligência artificial da empresa na Rússia.

Do lado negativo, o deepfake e seu rápido desenvolvimento criam riscos para a disseminação de desinformação, adulteração de senhas e fraudes. A opinião é do pesquisador da Universidade de Dartmouth, Hany Farid, especialista em análise forense para erradicar deepfakes.

"Seguindo a tendência do ano passado, esta e outras técnicas relacionadas exigem cada vez menos dados e estão gerando um conteúdo cada vez mais sofisticado e atraente", disse Farid. Mesmo que o processo da Samsung possa criar falhas visuais, "estes resultados são outro passo na evolução das técnicas ... levando à criação de conteúdo multimídia que eventualmente será indistinguível da coisa real".

Em 2018, o ator Jordan Peele levantou o debate sobre a tecnologia ao criar um vídeo falso do ex-presidente americano Barack Obama. "Estamos entrando em uma era em que nossos inimigos podem fazer qualquer um dizer qualquer coisa a qualquer momento", dizia o falso Obama.

Com o deepfake, Peele foi capaz de controlar não só a fala, mas também os movimentos de Obama. Relembre:

Funcionando como um Photoshop para vídeos falsos, o software consegue produzir falsificações usando o aprendizado de máquina. Assim, qualquer pessoa pode fabricar de forma convincente o que outro humano fala ou como ele se movimenta.

Embora a manipulação de vídeo exista há décadas, os sistemas deepfake tornaram os clipes mais fáceis de criar e difíceis de serem detectados.

O laboratório de inteligência artificial da Samsung apelidou suas criações de "cabeças neurais falantes realistas". O termo "cabeças falantes" refere-se ao gênero de vídeo que o sistema pode criar: é semelhante às caixas de vídeo dos especialistas que você vê nos noticiários da TV. A palavra "neural" é um aceno para as redes neurais, um tipo de aprendizado de máquina que imita o cérebro humano.

O deepfake da Samsung começa com um longo "estágio de meta-aprendizado", no qual ele assiste a muitos vídeos para aprender como os rostos humanos se movem. Em seguida, aplica-se o que é aprendido a um único ou a um pequeno punhado de fotos para produzir um clipe de vídeo razoavelmente realista.

Ao decidir não treinar sua inteligência artificial com centenas de imagens de uma mesma pessoa, a Samsung também está assumindo alguns erros: no clipe falso de Marilyn Monroe, por exemplo, a atriz perdeu o corte de seu famoso penteado. No caso da Monalisa, o deepfake da Samsung faz parecer que ela é uma pessoa ligeiramente diferente a cada clipe.

Os detalhes foram citados pelo professor de ciência da computação da Universidade de Albany, Siwei Lyu. Geralmente, um sistema deepfake convencional eliminaria esses soluços visuais.

Mesmo assim, o aspeto pouco ou único desta abordagem da Samsung é útil, ressalta Lyu, porque este tipo de sistema pode rapidamente se adaptar a uma nova pessoa-alvo usando apenas algumas imagens sem um extenso treinamento. "Isso economiza tempo em conceito e torna o modelo generalizável".

Fonte: CNET