Deepfakes no Brasil | Parte 1: o estado das fake news brasileiras em 2019

Fake News, o grande mal da internet nos últimos cinco anos e que não deve sumir tão cedo. A popularização das redes sociais tornou esses lugares um terreno fértil para o surgimento e compartilhamento de notícias falsas e, com os avanços da tecnologia, tudo isso promete ficar ainda mais complicado com o surgimento dos deepfakes.

Baseado em um relatório publicado pela WITNESS, uma organização global que apoia o uso de tecnologias audiovisuais para a defesa dos direitos humanos, iremos publicar uma série de reportagens especiais sobre fake news, o que são deepfakes, como elas podem ser usadas para complicar ainda mais um cenário já caótico e o que podemos fazer para nos proteger dessa nova tecnologia.

Nessa primeira parte, falaremos um pouco do estado das fake news no Brasil em 2019, para que possamos entender melhor o que são campanhas de desinformação, como elas são classificadas pelos especialistas e qual é o atual estado que o país se encontra quanto com compartilhamento e aceitação dessas notícias..

O mal do século XXI

Como sabemos, o problema das fake news é algo que tem aumentado a cada dia e se tornou uma das principais preocupações das grandes empresas de tecnologia, governos e veículos de imprensa ao redor do mundo. E uma nova tecnologia está surgindo que promete tornar essas notícias falsas ainda mais fáceis de identificar: os deepfakes.

O nome deepfake é usado para um tipo de tecnologia de vídeo que utiliza ferramentas de inteligência artificial (IA) para modificar vídeos de maneiras nunca antes vistas, pois ela permite a inserção do rosto de pessoas em qualquer tipo de vídeo. Atualmente, o maior uso dessa tecnologia é, obviamente, na indústria pornográfica, onde ela é utilizada para inserir o rosto de celebridades no corpo de atrizes e atores pornô para a criação de vídeos de sexo falsos, mas a tecnologia também está sendo bem utilizada para a criação de memes (como o vídeo que coloca o rosto do ator Steve Buscemi em uma entrevista coletiva que a atriz Jennifer Lawrence deu após ganhar o Globo de Ouro) ou então em exercícios teóricos de cinema (como no vídeo que substitui Jack Nicholson no filme O Iluminado pelo ator Jim Carrey).

Mas a grande preocupação das autoridades e órgãos de imprensa em todo mundo é o fato de que, a qualquer momento, essa tecnologia poderá ser usada para motivos políticos, e isso criará um novo nível de manipulação da opinião pública. Se é já difícil conter a proliferação de fake news do modo como ela está hoje, imagine quando for comum quando indivíduos começarem a criar vídeos de reportagens falsas e inserirem o rosto de jornalistas conhecidos para passar credibilidade, ou então discursos falsos em vídeo proferidos por seus adversários políticos?

Os deepfakes podem ser o início de uma era em que devemos desconfiar de literalmente tudo o que vemos na internet, até mesmo conteúdos em vídeo, que hoje são os que passam maior credibilidade. E foi com o objetivo de tentar achar uma solução para o problema que as deepfakes podem causar ao jornalismo e às campanhas políticas que a WITNESS (uma organização global que apoia o uso de tecnologia de vídeo para a defesa dos direitos humanos) se reuniu com diversos comunicadores, pesquisadores acadêmicos, tecnólogos, jornalistas que trabalham com fact checking e ativistas dos direitos humanos para tentar entender melhor como as deepfakes podem ser utilizadas pelos criadores de fake news e o que fazer para combater essa prática e ajudar o usuário comum a conseguir diferenciar o que é um vídeo real e o que é um vídeo manipulado pela IA.

Categorias das notícias falsas

Para melhor compreender o perigo que as deepfakes representam para as democracias de todo o mundo, é preciso entender qual o estado em que nossa realidade se encontra em sua relação com as fakes news.

Atualmente, os conteúdos falsos podem ser separados em três tipos específicos: “misinformation”, “malinformation” e “disinformation”. Todos os temas serão mantidos em inglês porque a tradução mais próxima para todos esses termos seria “desinformação”, que abrange todos esses casos mas não consegue passar com a mesma precisão dos termos em inglês as diferenças que existem entre os três tipos.

O misinformation seria o tipo de conteúdo falso mais “leve”, pois não há a intenção de se atacar ou fazer mal a ninguém aqui, e o que acontece é que uma informação errada é divulgada por motivos que vão desde desconhecimento do assunto até um erro da própria fonte da informação. Nessa categoria que estão as chamadas “barrigadas” jornalísticas, que são os erros cometidos por veículos de imprensa sérios, e que podem variar desde uma data errada em que um evento ocorreu, uma tradução errada de algum termo ou até mesmo a interpretação errada de uma imagem para a criação da legenda ou a interpretação equivocada de uma fala, tomando por fato algo que foi criado como sátira. Apesar desse tipo de informação falsa também ter sua parcela de culpa na desinformação do público sobre um assunto, esse é o tipo menos problemático porque surgem de erros não-intencionais, e na maioria das vezes os veículos se esforçam para se corrigir assim que o erro é percebido.

O segundo tipo de informação falsa que circula hoje na internet é a malinformation, onde se encontra a publicação deliberada de informação privada não por motivos de interesse público, mas para ganho pessoal (como, por exemplo, publicar um pornô de vingança ou então criar um rumor falso no mercado para fazer que as ações de uma empresa em específico aumente ou diminua de valor) ou, ainda, a mudança deliberada de informações sobre um evento, como a data em que ele aconteceu ou o contexto em que ele ocorreu (como, por exemplo, usar imagens de um bloco de carnaval de rua e publicar como se fosse alguma passeata em prol do governo). A grande diferença deste tipo para o anterior é na existência de uma intenção deliberada de se criar uma informação falsa, ou seja, ao contrário da “misinformation” onde a manipulação acontece sem intenção, no “malinformation” há a maldade, o desejo claro de se criar uma informação falsa para manipular o público e conseguir ganhos pessoais.

Já o terceiro tipo, chamado de disinformation, atual na intersecção dos outros dois, ou seja, quando há ao mesmo tempo uma interpretação equivocada de um evento e o intuito de se manipular o público por motivos de ganho pessoal. É nessa intersecção que se encontram boa parte das campanhas de desinformação usados em períodos eleitorais, sejam elas na forma de áudio ou vídeo manipulados, sejam na forma de teorias da conspiração ou rumores sem qualquer fundamentação real (como a famosa corrente de WhatsApp sobre como o Brasil vendeu a Copa do Mundo).

Agora, quando falamos mais especificamente da parte de vídeos, atualmente os deepfakes ainda são muito raros e se concentram principalmente no uso para pornografia e memes— mas isso não quer dizer que não existam por aí vídeos manipulados. Muito pelo contrário: a internet está cheia de vídeos falsos usados em campanhas de desinformação, mas que utilizam outras técnicas que não os deepfakes. Atualmente, são cinco as técnicas usadas para a manipulação de vídeos:

• Descontextualização: compartilhar o vídeo sem o seu contexto original, afirmando ser de um lugar quando ele na verdade é de outro. Isso acontece, por exemplo, em um famoso vídeo de um homem que está sendo atendido no hospital com o peito vermelho e que afunda conforme a pessoa respira. Esse vídeo foi originalmente usado para ilustrar um trecho do programa de treinamento Suporte Avançado de Vida no Trauma do Colégio Americano de Cirurgiões, e mostra um trauma torácico causado pela fratura de uma ou mais costelas. Mas, na internet, o vídeo foi compartilhado mais de 10 milhões de vezes afirma que aquele movimento estranho no peito foi causado pela ingestão de 24 latas de energético misturado com bebida alcoólica, para “alertar” sobre o suposto perigo dessa mistura.
• Edição: essa técnica consiste em utilizar programas de edição de vídeo (como o Sony Vegas, Adobe Premiere ou o Windows Movie Maker) para editar vídeos com o intuito de mudar o significado da mensagem, retirando pedaços da fala e invertendo trechos de lugar. Essa técnica é muito usada em épocas de eleição, como forma de manipular debates para parecer que houve um claro “vencedor” ou discursos de adversários, com o intuito de fazer parecer que eles tenham falado enormes absurdos durante um comício.
• Manipulação: esse é o nome dado para o ato de se aumentar ou diminuir a velocidade dos frames de um vídeo, ou ainda fazer qualquer tipo de adição ou subtração técnica na imagem que não consista apenas no corte de trechos do vídeo (como colocar os famosos “oclinhos” em um vídeo para mostrar que alguém “mitou”). Um caso muito famoso desse tipo de manipulação ocorreu durante as eleições do ano passado, quando o YouTuber Arthur do Val gravou um vídeo do então candidato à presidência da República Ciro Gomes encostando a mão no pescoço dele durante uma entrevista e, na edição, retirou diversos frames do vídeo original, fazendo com que o movimento do braço do candidato ficasse muito mais rápido, dando a impressão de que ele havia tomado um belo tapa de Ciro.
• Encenação: nesse caso, o vídeo ou áudio é uma total ficção, com atores produzidos para se parecer com celebridades ou figura políticas na intenção de enganar o público menos esclarecido. Um caso de encenação que ficou muito famoso aqui no Brasil foi quando, no ano passado, dias após a facada da qual foi vítima o então candidato à presidência Jair Bolsonaro, um áudio feito por um imitador do candidato circulou no WhatsApp, mostrando uma suposta “conversa gravada” por um dos enfermeiros do hospital onde “Bolsonaro” falava sobre como a facada havia sido apenas um golpe para angariar votos e enganar os eleitores.
• Mangueira da falsidade: essa técnica consiste em inundar as mídias sociais com vídeos contraditórios (por exemplo, afirmando ao mesmo tempo que um país X está prestes a entrar em guerra com o país Y e que as relações comerciais entre país X e país Y nunca estiveram melhores), com o intuito de confundir a população e fazer com que as pessoas não saibam mais no que acreditar, definhando a capacidade delas de distinguir o que é real do que é teoria da conspiração. O pioneiro no uso dessa tática foi a Rússia, que a usou em meados de 2014 para confundir a população da Crimeia sobre os motivos que a região estava sendo invadida pelas tropas russas, fazendo com que a população se dividisse e conseguissem formar uma frente unificada, o que tornou muito mais fácil a invasão da região.

As fake news no Brasil em 2019

Hoje, o Brasil vive um cenário de desinformação bem avançado, pois estamos em uma época em que já temos opinião formada sobre um assunto antes mesmo de tentarmos entender mais sobre ele. Assim, quando nos deparamos com uma notícia, antes mesmo de lê-la nós já temos uma opinião sobre o assunto, e é por isso que nesse ambiente as notícias falsas são aceitas com extrema facilidade: afinal, quando você já tem uma opinião formada sobre algo, há uma maior propensão para que se veja as notícias não como fontes de informação, mas como ataques ou confirmações à sua visão de mundo.

Esse processo de desinformação em massa teve início aqui no Brasil com as manifestações de 2013, que se iniciaram na cidade de São Paulo como um movimento contra o aumento da passagem de ônibus em R$ 0,20 e logo se tornou um movimento nacional contra “tudo o que está aí”. Foi nessa época que alguns grupos começaram a publicar nas redes sociais (principalmente no Facebook) notícias falsas que, muitas vezes, eram notícias verdadeiras de portais e sites jornalísticos com o título alterado para compartilhar uma mensagem falsa, e que na maioria dos casos era desmentida caso a pessoa clicasse no link e lesse a notícia. Mas foi nessa época que iniciou-se um movimento de “indignação pelo título”, onde os usuários liam a manchete falsa, escreviam textões indignados, e compartilhavam essa indignação em seus perfis pessoas sem nunca clicar para ler a matéria.

Algo que também contribuiu muito para que essa indignação pelo título se tornasse um hábito foi o fato de que, na mesma época, diversos dos principais veículos de mídia do país passaram a adotar a prática de paywall em seus sites, permitindo o acesso às matérias apenas aqueles usuários que pagassem. Assim, mesmo as pessoas que se interessavam por clicar nos links muitas vezes não tinham acesso ao real conteúdo dessas publicações, e se educavam apenas pelas manchetes falsas compartilhadas nas redes sociais.

Com a adoção de ferramentas para evitar esse tipo de compartilhamento (como o Facebook não mais permitindo que se modifique o título de um link postado na rede social), houve uma mudança no hábito dos brasileiros, que começaram a abandonar a rede social principal de Mark Zuckerberg e a usar o principal aplicativo para troca de mensagens do mesmo bilionário: o WhatsApp. Nesse ponto, o compartilhamento de notícias se tornou algo muito mais “privado”, com as pessoas formando grupos entre seus amigos, parentes e vizinhos onde os principais assuntos do momento eram compartilhados. E, como na mesma época começou a haver uma desconfiança muito grande sobre os reais interesses dos grupos de mídia, isso permitiu que entrássemos em uma nova fase do compartilhamento de notícias falsas, pois passamos a acreditar em conteúdos pela credibilidade de quem estava compartilhando (nossos amigos e parentes), e não pela credibilidade da fonte onde aquela informação estava sendo publicada.

Todo esse processo atingiu seu auge durante as eleições de 2018, onde campanhas de desinformação eram usadas junto com bots de redes sociais para espalhar narrativas falsas — ou, muitas vezes, narrativas que editavam informações verdadeiras de modo a criar uma interpretação que induzia os eleitores ao erro. E, como esse não foi um processo que começou ali, mas que já vinha sendo construído desde 2013, o excesso de manchetes políticas acabou por criar um espaço onde o interesse pelo tema não era político, mas quase que religioso; não havia o interesse em se discutir política, mas o de tratar o assunto como se fosse uma questão de fé, onde todos tinham uma posição claramente definida e quem não tinha o mesmo posicionamento estava errado. Assim, não havia o interesse em entender os argumentos diferentes (como se espera em qualquer debate político) mas sim de procurar fatos que afirmassem a sua crença em uma ideia e que confirmassem que as ideias políticas diferentes não eram maneiras distintas de se enxergar os problemas do mundo, mas um inimigo que devia ser morto a qualquer custo.

Foi esse cenário que ajudou a “cegar” muitas pessoas, que acreditaram em histórias que claramente não eram reais, como a distribuição de "mamadeiras de piroca" nas escolas ou o áudio do imitador de Bolsonaro falando que toda a história da facada não passava de um teatro. E é esse viés cognitivo, de aceitar invenções que comprovam suas crenças pessoais e não aceitar fatos apenas porque considerá-los como verdade significa aceitar que aquilo que você acredita não é a realidade, é o principal empecilho para convencer de que nem tudo que é compartilhado pelas redes sociais (ou, no caso de 2019, pelo WhatsApp) é verdade.

Foi a essa conclusão que chegou o Comprova, uma coalizão de 24 organizações de mídia criada em 2018 para monitorar as notícias das eleições brasileiras, verificando as fontes de onde essas informações surgiram e ajudando a desmistificar o que é fato do que é pura invenção. Durante esse trabalho, um dos maiores desafios encontrados pelo Comprova — além do viés cognitivo do leitor — era o fato de ser impossível o compartilhamento das explicações sobre o porquê de uma notícia ser falsa sem também o motivo que levava a compartilhar a notícia falsa em si. Assim, muitas vezes esse esforço acabava tendo o efeito contrário, pois não apenas viralizava o conteúdo falso como também, por conta do viés de confirmação, muitas pessoas simplesmente escolhiam ignorar todas as explicações sobre motivo daquilo ser falso e acreditar na manchete que apoiava a sua visão de mundo.

Esse seria o principal motivo de por quê, mesmo com tantas empresas de mídia trabalhando na checagem de qualquer declaração ou matéria falsa que seja compartilhada na internet, tanta gente ainda acredita nas fake news, porque não é mais uma questão de raciocínio lógico e aceitação dos fatos, mas da escolha consciente de algo que sabe-se ser falso mas que confirma uma pré-concepção que você já tinha de determinada pessoa ou assunto. E, com a iminente chegada dos deepfakes nesse meio, esse cenário tende a piorar ainda mais nos próximos anos.

Na parte 2 desse especial falaremos mais especificamente sobre as deepfakes e como elas podem bagunçar ainda mais o cenário da consciência política do país.