Google bane pesquisas com deep fakes em plataforma de recursos computacionais
Por Felipe Demartini | Editado por Claudio Yuge | 31 de Maio de 2022 às 14h20
Sem muito alarde, o Google baniu pesquisas com deep fakes do Colab, sua plataforma online que disponibiliza recursos computacionais poderosos, via navegador. Devido à ampla capacidade de execução de códigos em Python, o sistema é ideal para tecnologias que exijam treinamento em grande escala, exatamente o tipo de elemento necessário para projetos envolvendo inteligência artificial e simulações do tipo.
- O que é deepfake e como funciona?
- Testes de identidade por apps bancários são enganados por deep fakes
O banimento foi aplicado no início deste mês de maio, tendo aparecido na lista de tipos proibidos de projetos no Colab ao lado da mineração de criptomoedas, uso de desktops remotos, hospedagem de arquivos e ataques de negação de serviço. Agora, os desenvolvedores que trabalhavam em sistemas de treinamento de deep fakes também começam a receber alertas de que seus trabalhos podem estar ferindo os termos de uso do Colab.
No caso das falsificações, o poder computacional da plataforma era utilizado para treinar as substituições faciais, a partir da análise de um vídeo real e da aplicação de um rosto sobreposto. O objetivo é sempre criar o resultado mais fiel e natural possível, em um recurso que vem sendo usado amplamente para a distribuição de notícias falsas, pornografia ou difamação, apesar de não ter estes como seus únicos propósitos.
O uso do Colab pela comunidade de deep fakes era tão amplo que muitos tutoriais de criação básica de vídeos sugeriam o uso da plataforma, uma vez que ela não exige conhecimento em programação e nem mesmo a instalação de softwares, já que todos os códigos rodam no navegador. O sistema também era utilizado por pesquisadores sérios, inclusive em estudos sobre o impacto de vídeos assim sobre a opinião pública e mecanismos de detecção de falsificações.
O Google não se pronunciou oficialmente sobre o assunto.