Como empresas podem se proteger contra os deepfakes?

Apesar de ser uma tecnologia que ainda é bastante embrionária, muitos especialistas garantem que os deepfakes serão um vetor de fraudes muito perigoso em um futuro não muito distante. Com o avanço da inteligência artificial e do aprendizado de máquina, é possível que em breve seja possível fazer qualquer pessoa dizer qualquer coisa de forma convincente, principalmente autoridades.

• 10 deepfakes mais impressionantes que confundiram a internet
• Adobe apresenta suas ferramentas para combater onda de deepfakes

Os deepfakes consistem no uso de inteligência artificial de vídeo ou áudio de maneira bastante convincente na imitação de um terceiro. Eles podem ser produzidos por diferentes motivos, que vão desde humor e sátira, passam pelo entretenimento adulto, e vão até a manipulação política e a geração de notícias fraudulentas.

"A ameaça que as deepfakes representam para a sociedade é um perigo real e atual devido aos riscos associados à capacidade de colocar palavras na boca de pessoas poderosas, influentes ou de confiança, tais como políticos, jornalistas, celebridades e outros formadores de opinião", diz o chefe da empresa de segurança da informação Netskope, David Fairman.

Uma tecnologia em construção

Hoje, fazer um deepfake 100% convincente ainda é algo relativamente difícil, para não dizer impossível, e os especialistas nessa área ainda são, em sua maioria, pesquisadores ou humoristas. Porém, um cenário em que esse tipo de montagem se torna mais fácil e convincente é capaz de nos fazer perder a noção da realidade.

Além disso, essa tecnologia representa uma grande ameaça às empresas, abrindo espaço para extorsão e fraude, como a ameaça de usar a divulgação de vídeos falsos de executivos para conseguir acesso a sistemas, recursos financeiros ou prejuízo da reputação da companhia.

"Dos riscos associados às deepfakes, o impacto sobre a fraude é um dos mais preocupantes para as empresas hoje em dia", diz Fairman. "Vale destacar também que o lançamento de grandes volumes de imagens e vídeos que os usuários postam de si mesmos em plataformas de mídia social funcionam como grandes inputs para que os algoritmos de deep learning se tornem cada vez mais convincentes", acrescenta o executivo.

Como as empresas podem se proteger de deepfakes

"Nos próximos anos, a tecnologia continuará a evoluir, e será mais difícil identificar deepfakes", alerta David Fairman. O pesquisador também acredita que à medida que as pessoas e as empresas forem adotando o Metaverso, avatares sejam usados para acessar e consumir nesse ambiente.

"A menos que sejam estabelecidas proteções adequadas, estes avatares nativos digitais provavelmente serão mais fáceis de falsificar do que os seres humanos", defende o pesquisador. Porém, Fairman acredita que da mesma forma que a tecnologia se tornará mais convincente, também serão desenvolvidas técnicas para combatê-las.

Com esse risco crescente para o futuro, é importante que as empresas estejam atentas a alguns detalhes para proteger seus dados, finanças e reputação frente ao público. Entre as principais ações para o futuro destacam-se a prevenção de cenários de crise envolvendo deepfakes e a educação dos funcionários para esse tipo de ataque.

O planejamento de procedimentos de resposta e simulações deve incorporar as deepfakes nos cenários de testes de crise. Essa etapa deve incluir a classificação de incidentes e o desenho de processos claros na comunicação dessas ocorrências. Além disso, é importante adotar procedimentos secundários de verificação para transações sensíveis.

É importante não confiar em nenhum conteúdo e verificar sempre sua autenticidade, do lado da empresa, ter sempre métodos secundários de verificação, como marca d'água em arquivos de áudio e vídeo, autenticação por etapas ou controle duplo.