App que cria deepfakes atualiza termos de uso por questões de privacidade

Por Rafael Arbulu | 03 de Setembro de 2019 às 12h25
Bloomberg

O app chinês ZAO, que cria deepfakes do usuário em diversas situações, com alto grau de verossimilhança, atualizou seus termos de uso e compromisso com o usuário. Isso ocorreu em resposta a preocupações levantadas sobre potenciais violações de privacidade para quem o utilizasse. O Canaltech falou do aplicativo na data de ontem (2), comentando sobre como ele explodiu em audiência nas lojas virtuais no final de semana passado.

Agora, os termos de uso e concordância assinados pelo usuário indicam explicitamente que as imagens e conteúdos criados por meio do app serão usados por seus desenvolvedores apenas em caráter exclusivo para o aprimoramento das capacidades e funções do próprio software, sem nenhum compartilhamento com entidades terceiras — sejam elas pessoas físicas ou outras empresas.

O funcionamento do ZAO é bem simples e, à primeira vista, sem nenhum risco técnico ao usuário: lançado na última sexta-feira (30/8), o app chinês, criado pelo desenvolvedor da plataforma de social mídia Momo, consegue, com uma simples selfie, colar a imagem na face de um trecho de filme ou série, fazendo com que você seja "teletransportado" para aquela película por meio de superimposição de imagens. Embora a alteração gráfica seja mais evidente, o grau de realismo do app é bem avançado.

Conforme adiantamos em nossa notícia anterior, o problema não era na ferramenta em si, mas em sua documentação: o ZAO reinvidica direitos "gratuitos, irrevogáveis, permanentes, transferíveis e passíveis de royalties" para qualquer conteúdo carregado no aplicativo. Os usuários, por sua vez, inundaram a App Store com críticas negativas, com a classificação de Zao como 1,9 estrelas em cinco, sendo mais de 4.000 avaliações citando a privacidade como um problema.

Com a alteração dos termos de uso, ressaltando que a utilização dos conteúdos criados será exclusivamente interno e concentrado nas melhorias do app, a empresa espera dissuadir o medo dos usuários em relação à privacidade. Junto da alteração documental, veio um pedido de desculpas por parte dos desenvolvedores: "entendemos completamente a ansiedade e as preocupações geradas sobre privacidade. Temos recebido as perguntas que vocês nos têm enviado. Vamos corrigir as áreas que não havíamos considerado e ressaltamos que isso levará um tempo”, dizem os responsáveis.

Até o momento, as desculpas não tiveram um resultado muito positivo: até o fechamento desse texto, o ZAO contava com avaliações de 1,6 estrelas (de um total de cinco) na iOS Store chinesa.

Mas esse estardalhaço todo por quê?

A situação do app chinês ZAO não é exatamente nova, nem tampouco as questões de privacidade que ele levanta. A grosso modo, as preocupações não são em relação ao app em si, mas sim a situações prévias de outros aplicativos, que acabam tendo abertura para fazerem um retorno aqui.

O leitor do Canaltech deve lembrar de dois casos específicos que cobrimos aqui: o primeiro é o “FaceApp”, um aplicativo que fez bastante sucesso no Brasil e no mundo ao oferecer, por meio de uma selfie ou foto do usuário, uma versão “envelhecida” dele próprio. Assim como o ZAO, o FaceApp pedia por permissões preocupantes, embora neste caso, elas fossem relacionadas a ferramentas do smartphone de quem o utilizasse, como dados de GPS e endereços de IP para compartilhamento com empresas terceirizadas.

Imagem da modelo e atriz Tyra Banks: à esquerda, um original que serviu de capa à revista Sports Illustrated; à direita, um "nude falso" criado pelo app DeepNude (tarjas adicionadas em edição nossa) 

Outro caso ainda mais evidente é o DeepNude, um app que usa aspectos de inteligência artificial e machine learning para receber o upload de uma foto — qualquer foto — de mulher e, independente do quanto ela estiver vestida na imagem original, o app poderia criar um “falso nude” dela. O realismo e proximidade com os resultados não eram lá muito próximos de um nude real, mas foi o suficiente para causar preocupações óbvias na comunidade tecnológica.

Por esses e outros casos, o termo "deepfake" acabou ganhando um peso extremamente negativo, ampliado desde a sua origem, quando a tecnologia passou a ser aplicada na superimposição de vídeos pornográficos com rostos de atrizes famosas de Hollywood (dica: aquele vídeo erótico da atriz Gal Gadot no Xvideos? Não é a Gal Gadot). Há casos, porém, em que o deepfake foi aplicado de forma idônea e educativa, como fez um museu da Flórida, nos EUA, dedicado à vida e obra do pintor surrealista Salvador Dalí: usando a tecnologia, o museu “ressuscitou” o artista, que caminha junto dos visitantes em um tour pelo local.

Fonte: Genbeta (em espanhol)

Gostou dessa matéria?

Inscreva seu email no Canaltech para receber atualizações diárias com as últimas notícias do mundo da tecnologia.