App DeepNude, usado para “criar” nudes femininos, é descontinuado

Na manhã desta quinta-feira (27), o Canaltech publicou nota falando sobre app DeepNude, uma ferramenta do setor de deepfakes que poderia, com alguns cliques, criar um falso nude de qualquer mulher a partir de fotos simples, mesmo se elas estiverem vestidas. Posterior à publicação da notícia, o pessoal responsável pelo aplicativo usou seu perfil oficial no Twitter para comunicar a descontinuação da ferramenta, em caráter definitivo.

Segundo o(s) gestor(es) da página, eles não contavam com o alto volume de acessos e downloads que a página oficial da ferramenta obteve, registrando quedas frequentes de servidor. Mais além, uma mensagem (reproduzida no tuíte abaixo e traduzida em seguida) disse que, devido ao alto volume de downloads, havia o temor de que alguém fosse fazer mau uso do software.

“Aqui vai a breve história, e o fim do DeepNude. Nós criamos este projeto para fins de entretenimento a alguns meses. Pensamos estar vendendo algumas cópias por mês, de forma bem controlada. Honestamente, o app nem é tão bom assim e só funciona com certos tipos de fotos. Jamais pensamos que ele se tornaria viral a ponto de não podermos controlar o tráfego. Subestimados demais os pedidos. Apesar das medidas de segurança adotadas (marcas d’água), se 500 mil pessoas o usassem, a probabilidade de alguém fazer mau uso [do app] era alta demais. Nós não queremos ganhar dinheiro desta forma. Com certeza algumas cópias do DeepNude serão compartilhadas na rede, mas nós não queremos ser aqueles a vendê-lo. Baixar o software de outras fontes ou compartilha-lo por qualquer outra forma seria contra os termos do nosso site. Daqui para frente, DeepNude não terá novas versões e não assegura o seu uso para ninguém. Nem mesmo as licenças para ativar a versão Premium. Aqueles que ainda não haviam feito o upgrade serão reembolsados. O mundo ainda não está pronto para o DeepNude”.

O suposto autor do aplicativo, que atende apenas por “Alberto”, disse ao site The Verge que descontinuaria o projeto caso identificasse o mau uso dele, mas não antes de tentar justificar sua criação: “A tecnologia está pronta (ao alcance de todos)”. Ele deu a entender, que, se não ele, outros fariam algo similar.

O DeepNude funcionava por meio do download de uma ferramenta, onde algoritmos de inteligência artificial eram aplicados para atuar da seguinte forma: por meio do upload de uma foto de mulher — qualquer foto, vestida ou não —, o software tentaria criar uma imagem aproximada do corpo daquela pessoa nua. A qualidade dos resultados ficava aquém do esperado, com detalhes como borrões de imagem e granulações estranhas permeando o “falso nude”. Mais além, o app adicionava marcas d’água na foto resultante para garantir que, caso a foto fosse espalhada por aí, ficasse claro que se tratava de uma foto fake.

Sobre o descontinuamento da ferramenta, usuários mostraram descontentamento extremo nas respostas ao tuíte acima. Houve quem atribuísse a medida como "pressão do feminismo" e postasse críticas sociais. Outros ainda fizeram eco à última frase do comunicado: "o mundo não está pronto para o DeepNude". Alguns usuários, incluindo brasileiros, começaram ali mesmo a combinar a distribuição da ferramenta via download por serviços de compartilhamento. Até o final da redação desta nota, porém, nada havia sido postado de fato.

O DeepNude provavelmente tornou-se viral após ser alvo de artigo crítico do Motherboard, o braço tecnológico da Vice, nos Estados Unidos. A ferramenta tinha potencial para reacender o debate do uso dos deepfakes e a possibilidade de que suas aplicações minassem a reputação e vida das pessoas.

No caso específico do DeepNude, havia um tom de misoginia na concepção da ferramenta, não apenas pela possibilidade de criar nudes de qualquer mulher, mas também por ele funcionar somente com mulheres: tentativas de upload de fotos de homens resultavam simplesmente na inserção de uma vulva na imagem adulterada.

O Canaltech escreveu para o perfil oficial do DeepNude no Twitter em busca de um comentário por parte do(s) criador(es) da ferramenta, mas até agora não houve posicionamento por parte deles.

Fonte: DeepNude (via Twitter)