Entenda como as deepfakes podem mudar todo o mundo como conhecemos

Por Rafael Rodrigues da Silva | 16 de Julho de 2019 às 17h30
(Imagem: Reprodução/RenovaMídia)

Como sabemos, os avanços tecnológicos acabam servindo como base para diversas mudanças que ocorrem em nossa sociedade, já que ela precisa se adequar para os problemas causados pelo uso dessa tecnologia. Por exemplo, até bem pouco tempo atrás não existiam leis para o que empresas poderiam fazer com nossos dados cadastrais, pois isso não era um problema até companhias como Google e Facebook começarem a vender esses dados para anunciantes, fato que acabou fazendo com que, nos últimos anos, diversos países aprovassem legislações específicas sobre o assunto.

O mesmo tipo de mudanças pode ocorrer com a popularização dos deepfakes — vídeos criados por um software de inteligência artificial, que consegue utilizar fotos e gravações da voz de uma pessoa para criar um vídeo falso dela, mostrando não apenas ela fazendo algo que nunca fez como ainda dizendo algo que nunca disse.

Por exemplo, alguém poderia pegar fotos de suas redes sociais e seus vídeos do Stories do Instagram, passar todas essas coisas por um algoritmo que processaria o seu rosto e a sua voz, e criar um vídeo onde você está fazendo polichinelos enquanto brinca de bambolê em cima da muralha da China enquanto recita o poema O Corvo, de Edgar Alan Poe — e tudo vai parecer muito convincente mesmo que você não saiba brincar de bambolê, nunca chegou nem perto da China e nem faz ideia de qual é o poema que eu estamos falando.

Por esse motivo, a popularização dos deepfakes é uma das maiores preocupações de governantes, juristas e jornalistas em todo o mundo, pois ela ataca algo que até então era certeiro: a credibilidade de uma gravação em vídeo. Um político poderia jurar que nunca roubou nada durante o seu mandato, mas se algum jornalista consegue filmar um vídeo em que o tal político está escondendo milhares de dólares na cueca para não ser pego pela alfândega, não havia o que ser feito além de assumir a culpa — e, com os deepfakes, isso não mais é verdade.

Ainda que muitos dos deepfakes atuais sejam fáceis de perceber que não passam de montagem, os avanços na tecnologia permitirão que se torne cada vez mais difícil distinguir um vídeo real de uma montagem criada por algoritmos, e é exatamente isso que deverá causar diversos impactos na nossa sociedade.

Política

Provavelmente, um dos primeiros setores a serem afetados pelo uso de deepfakes será o cenário político, principalmente em época de eleições.

Atualmente, o cenário político-eleitoral já é um dos mais afetados pela propagação de boatos inventados e fake news, e a criação de um dispositivo como os deepfakes não é algo que deverá ser positivo, principalmente em um cenário político mundial tão dividido como o que temos hoje.

E o uso desse processo se torna ainda mais perigoso pelo fato de a maioria dos eleitores não conseguir identificar que se trata de uma montagem. E isso é provado por dois deepfakes que fizeram bastante sucesso nos Estados Unidos este ano: um de Nancy Pelosi, presidente da Câmara dos Representantes (equivalente à nossa Câmara dos Deputados), que foi editado para que ela parecesse bêbada durante um de seus discursos em sessão da Câmara, e outro do senador (e também candidato um dos candidatos a presidente pelo Partido Democrata na próxima eleição) Bernie Sanders, onde o rosto do político foi sobreposto sobre um vídeo de um dos candidatos do programa America’s Got Talent, fazendo com que Bernie Sanders parecesse que estava cantando a música Bodies, da banda Drowning Pool.

O mais preocupante é que ambos vídeos foram criados a partir de um algoritmo bem “cru”, e é fácil notar que se tratam de montagens — mas, mesmo assim, ambos os conteúdos foram compartilhados por milhares de pessoas que acreditaram se tratar de algo real. Claro, uma boa parte dos compartilhamentos foi de forma “irônica”, pra fazer graça da situação, mas o fato de entre essas pessoas existirem muitas que compartilharam esses vídeos como se realmente fossem reais é preocupante.

Principalmente porque, mesmo que um especialista em vídeo crie uma explicação detalhada sobre o porquê de aquele vídeo em si ser falso, esses conteúdos nunca viralizam na mesma proporção dos vídeos falsos, fazendo com que muitas pessoas não tenham acesso a essa explicação. Além disso, também não podemos descontar algo conhecido como “viés de confirmação”: muitas pessoas, por qualquer motivo que seja, já não gostam de Pelosi ou de Sanders, e ao entrar em contato com esse vídeo eles terão certeza de que são reais, pois confirmam um pré-julgamento negativo que faziam deles. Nesses casos, mesmo aqueles que entrem em contato com o vídeo do especialista explicando que se tratam de vídeos falsos acharão alguma justificativa para desacreditar o especialista — normalmente acusando-o de ser contratado pelo partido dos candidatos para defendê-los dessas “provas incontestáveis” de como são a escória da terra — pelo simples motivo de que é mais fácil assumir que um suposto especialista está tentando enganá-las, do que assumir que suas posições sobre uma pessoa podem estar erradas.

É por essa preocupação que, nos Estados Unidos, a Representante do Estado de Nova York Yvette Clarke propôs o “Ato de Prestação de Contas sobre Deepfakes”, que irá responsabilizar os criadores desses vídeos falsos por qualquer influência que eles podem ter em manchar a honra ou a credibilidade de pessoas reais.

Ainda que crie um mecanismo de punição, esse Ato não irá solucionar o problema, já que o próprio modo como a internet funciona deverá significar que, se um desses vídeos ganhou a atenção de um “público geral” a ponto de ser considerado um problema pelo Departamento de Justiça e angariar punição aos seus criadores, isso quer dizer que ele já circulou e foi visto por milhares (senão milhões) de pessoas, que já tiveram suas opiniões modificadas pelo conteúdo daquela montagem — ou seja, o estrago já foi feito.

Assim, essa tecnologia das deepfakes pode acabar por aproximar os representantes do governo das grandes empresas de tecnologia (como Google e Facebook) e especialistas em edição de vídeo, que deverão criar métodos de identificar que um vídeo é um deepfake já no momento do upload e inserir automaticamente nele algum tipo de selo ou marca d’água digital que seja impossível de remover e deixe claro para qualquer um que assistir que se trata de uma montagem. Mas mesmo isso pode não ser o suficiente, pois mesmo com um selo desses, é capaz de muitas pessoas passarem a acreditar que tais selos são uma forma de perseguição a algum tipo de viés político, e não uma forma de identificação de vídeos falsos.

Economia

Não é apenas o cenário político que essas montagens em vídeo podem mudar, mas a própria economia de um país — principalmente em países onde há uma enorme concentração de capital financeiro proveniente da compra e venda de ações.

Em junho deste ano, um deepfake do criador do Facebook, Mark Zuckerberg, mostra o dono da rede social dando declarações polêmicas sobre o fato de saber os segredos de milhões de pessoas do mundo. No caso, a declaração não causou nenhum transtorno porque ela já foi compartilhada como um vídeo falso, feito para mostrar o poder da deepfake. Mas algo do tipo pode ser usado para colocar a economia de um país em declínio.

Como o valor das ações de empresas variam muito não apenas por contratos firmados e aquisições de outras companhias, mas também por rumores de mercado e declarações de presidentes e CEOs. Lembram aquele tweet do Musk falando que a Tesla estava próxima a conseguir o financiamento para se tornar uma empresa de capital fechado? O puro fato do CEO dar um tweet desses de madrugada, provavelmente chapado, fez com que o valor da empresa aumentasse em alguns milhões e, ao todo mundo perceber que era uma informação falsa, Musk e Tesla foram duramente multados por estarem manipulando o mercado financeiro com mentiras.

Agora, se um simples tweet tem esse poder, imagina o que um vídeo não pode influenciar? Por exemplo, um vídeo falso de Bill Gates falando que odeia negros e judeus poderia ser o suficiente para criar uma enorme crise de imagem na Microsoft e derrubar o valor de mercado de uma das maiores companhias do mundo, o que por sua vez traria repercussões para todo o mercado de informática mundial, o que iria afetar negativamente a economia de praticamente todos os países mais ricos do mundo.

Assim, é possível que alguém mal-intencionado e com um bom algoritmo para criação de deepfakes utilize esse material para manipular a economia mundial, seja em proveito próprio (por exemplo, vendendo ações de empresas logo antes de soltar um vídeo incriminador do CEO dessas empresas, fazendo com que o valor delas caia e aumentando seus lucros) ou então até mesmo para colocar em parafuso a economia do mundo todo. Lembram da cena final do filme Clube da Luta, em que o prédio onde está o servidor das companhias de cartão de crédito é destruído? Com o uso de deepfakes, é possível hoje criar o mesmo efeito de caos no mundo econômico apenas com uma série de vídeos polêmicos protagonizados pelos principais CEOs do mundo.

Sistema de justiça

E não é apenas o cenário político e econômico que as deepfakes deverão mudar para sempre, mas também todo o sistema judiciário. E tudo isso por um ponto que já citamos lá no começo da matéria: provocar o descrédito de provas em vídeo.

Ainda que, atualmente, seja fácil identificar a olho nu uma montagem criada por algoritmos, isso acontece porque esses vídeos normalmente são feitos em locais bem iluminados e em um vídeo de alta resolução. Agora, caso estejamos falando de um vídeo falso de câmera de segurança (onde muitas vezes a qualidade da iluminação e da própria gravação são bem baixos), fica praticamente impossível de distinguir a olho nu se as imagens mostradas se tratam de um vídeo real ou de uma montagem, o que pode fazer com que evidências em vídeo passem a ser desconsideradas em júris e tribunais.

E isso seria um enorme baque para o sistema de justiça em todo o mundo. Hoje, provas coletadas em vídeo ou gravações telefônicas são algumas das mais contundentes que se podem apresentar em tribunal, e se o avanço da tecnologia obrigar que esses materiais sejam desconsiderados em julgamento pelo fato de ser impossível para um júri distinguir se aquele material é real ou não não apenas atrapalhará muitos dos casos criminais que já estão sendo investigados hoje, mas também nos obrigará a repensar toda a estrutura do próprio sistema judiciário em si.

A mesma preocupação pode ser utilizada para os algoritmos de reconhecimento facial usado por diversos departamentos de polícia ao redor do mundo: ainda que a ideia seja facilitar a identificação de foragidos da justiça, os números não estão a favor da tecnologia: em Londres, 81% das pessoas identificadas como criminosos por essas IAs eram, na verdade, inocentes, e nos Estados Unidos há casos de pessoas que foram presas injustamente por conta de serem acusadas como criminosas por tais sistemas.

Fica claro que a tecnologia de deepfakes é algo que talvez tenha chegado muito mais rápido do que estávamos preparados para lidar, e certamente irá causar diversas mudanças no mundo pelo simples fato de existir. Mas ninguém sabe dizer ainda se essas mudanças acontecerão antes que ela seja usada para causar algum estrago sem precedentes em nossa sociedade.

Fonte: Quartz

Gostou dessa matéria?

Inscreva seu email no Canaltech para receber atualizações diárias com as últimas notícias do mundo da tecnologia.