Facebook vai proibir deepfakes antes das eleições de 2020 nos EUA

Por Nathan Vieira | 07 de Janeiro de 2020 às 12h20
(Imagem: Reprodução/RenovaMídia)
Tudo sobre

Facebook

Saiba tudo sobre Facebook

Ver mais

A essa altura do campeonato, é muito provável que você já tenha ouvido falar dos deepfakes, e até mesmo visto algum vídeo que apresente esta técnica. Um recurso que tem divertido muitos internautas, e ao mesmo tempo gerado preocupações, os deepfakes basicamente consistem no seguinte: colocam o rosto de uma pessoa em algum vídeo (com o auxílio de uma inteligência artificial) como se ela estivesse falando ou fazendo alguma coisa que, na realidade, ela nunca falou/fez. No entanto, de acordo com o The Washington Post, o Facebook planeja proibir que seus usuários compartilhem conteúdos do tipo antes que aconteça a próxima eleição presidencial dos EUA.

Mas, calma: o Facebook não quer bater o martelo e proibir todos os vídeos que tenham deepfakes. Acontece que há uma grande diferença entre os vídeos utilizados para fazer paródia ou trazer entretenimento (como o caso do Will Smith no papel de Neo, de Matrix, por exemplo) e o vídeo cuja intenção é realmente propagar fake news. No caso, esse último é que vai ser proibido.

Os deepfakes têm representado uma grande dor de cabeça para os gigantes da tecnologia que tentam combater a desinformação. "Embora esses vídeos ainda sejam raros na internet, eles representam um desafio significativo para a indústria e a sociedade à medida que o uso aumenta. Nossa abordagem tem vários componentes, desde a investigação de conteúdos gerados pela IA e comportamentos enganosos, como contas falsas, até parcerias com universidades, governo e indústria e expor as pessoas por trás desses esforços", escreveu Monika Bickert, vice-presidente de gerenciamento de políticas globais do Facebook.

Basicamente, a nova política do Facebook proibirá vídeos que são "editados ou sintetizados" por técnicas como a IA e que não sejam fáceis de identificar como falsas. No entanto, a nova política não se estende aos vídeos editados para sátira ou paródia, nem para omitir ou alterar a ordem das palavras. As regras anteriores do Facebook não exigiam que o conteúdo postado no gigante da mídia social fosse verdade, mas a empresa trabalha para reduzir a distribuição de conteúdo não autêntico, uma preocupação que também tem sido clara no Instagram, que em dezembro deste ano começou a trabalhar com parceiros norte-americanos que checam informações para ver se elas são verdadeiras, e assim identificam, revisam e rotulam as informações que são falsas.

Além disso, em setembro do ano passado, o Facebook, a Microsoft, a Partnership on AI e os acadêmicos de sete universidades lançaram um concurso chamado Deepfake Detection Challenge, cujo objetivo é incentivar maneiras de detectar deepfakes

Fonte: The Washington Post via CNET

Gostou dessa matéria?

Inscreva seu email no Canaltech para receber atualizações diárias com as últimas notícias do mundo da tecnologia.