Discord fecha grupo que produzia vídeos pornôs falsos com celebridades

Por Redação | 29 de Janeiro de 2018 às 13h03

O Discord, um dos principais aplicativos para a comunidade gamer, que permite conversas por meio de voz e texto, anunciou o fechamento de um grupo voltado para a produção de vídeos pornográficos falsos com celebridades. O espaço era usado para compartilhamento de imagens criadas a partir de sistemas de inteligência artificial, que inseriam os rostos das famosas sobre o das atrizes presentes nas gravações originais.

O grupo em questão é uma ramificação do Deepfakes, como era chamado um usuário – ou grupo deles – que, inicialmente, publicava suas criações no Reddit. A tecnologia de machine learning é utilizada para misturar imagens reais de celebridades com vídeos pornográficos para produção de simples GIFs ou cenas completas, muitas vezes com resultados bem próximos do real.

O surgimento da tecnologia deu origem a uma série de aplicativos do tipo, que permitem fazer o mesmo com qualquer pessoa — muitas vezes a partir de simples fotos. Celebridades como Gal Gadot, Scarlet Johansson, Maisie Williams e Taylor Swift já apareceram em cenas do tipo. No caso das famosas, a simples presença das imagens já é um indício de que tudo é forjado, mas a situação fica mais tensa quando estamos falando de mulheres comuns.

Participe do nosso GRUPO CANALTECH DE DESCONTOS do Whatsapp e do Facebook e garanta sempre o menor preço em suas compras de produtos de tecnologia.

Em comunicado oficial, o Discord afirmou que a presença do grupo ia contra algumas regras de seus termos de uso, mais especificamente aquelas que restringem o compartilhamento de imagens e vídeos pornográficos sem o consentimento dos retratados. Os usuários envolvidos também teriam sido banidos, bem como os arquivos armazenados por eles na rede do aplicativo.

Mais de 150 pessoas fariam parte do grupo em questão, que continha espaços não apenas para compartilhamento, mas também discussões gerais sobre como melhorar a tecnologia. Imagens de menores de idade ou anônimas eram proibidas, com apenas celebridades podendo ser utilizadas para a criação de cenas falsas. 

O caso se une a mais polêmicas nas quais o serviço tem se envolvido nos últimos meses. Na imprensa internacional, se acumulam os relatos sobre a utilização do Discord por comunidades tóxicas de dentro e fora do mundo gamer, que propagam ideias racistas, homofóbicas e outros discursos de ódio, além de compartilharem imagens sexuais vazadas e pornô de vingança, principalmente, de mulheres.

O grupo fechado, entretanto, é apenas mais uma instância de compartilhamento das cenas pornográficas falsas com celebridades. Vídeos desse tipo têm chamado a atenção nos últimos tempos, com seu compartilhamento se tornando comum em sites adultos e também mensageiros pessoais, com as imagens sendo enviadas como se fossem reais.

Hoje, são 14 milhões de usuários no Discord e mais de 300 milhões de mensagens trocadas todos os dias, de acordo com a empresa que controla o serviço. A plataforma permite a criação de grupos, ou servidores, com temas específicos, bem como voltados para a comunicação entre criadores de conteúdo e sua audiência, com foco, principalmente, em jogos online.

Fonte: Business Insider

Gostou dessa matéria?

Inscreva seu email no Canaltech para receber atualizações diárias com as últimas notícias do mundo da tecnologia.