Jornalista posta deepfakes de Donald Trump preso e é banido do Midjourney

Um jornalista diz ter sido banido do Midjourney por produzir imagens falsas do ex-presidente dos Estados Unidos Donald Trump sendo preso. Ao todo, foram cerca de 50 deepfakes geradas pela inteligência artificial que causaram confusão no Twitter.

• Microsoft Loop | Plataforma colaborativa chega com IA e já está disponível - Apps
• Firefly | Como funciona a IA geradora de imagens da Adobe

O fundador do site Bellingcat, Eliot Higgins, disse em entrevista ao Buzzfeed News que foi banido do serviço de IA por causa das imagens. Ele confessou ter usado as fotos falsas para criar um tópico viral no Twitter, mas alegou tê-lo feito apenas para como uma brincadeira, deixando claro na descrição se tratar de "imagens criadas".

O jornalista se defendeu ao dizer que as pessoas não conseguiram identificar a falsidade das imagens criadas pela IA e o poder da tecnologia. Mas ele vê a situação como positiva, porque pode ter ajudado a conscientizar como as fotos podem ser falsificadas facilmente nos dias atuais.

A publicação de Higgins tem mais de 4,8 milhões de visualizações no Twitter até o momento. O post também já contém uma nota da comunidade que sinaliza a falsidade das fotos.

Ações de resposta do Midjourney

O Buzzfeed informou que a plataforma de geração de imagens com IA Midjourney teria proibido as palavras “arrest” (preso, em inglês) e o nome de Trump de serem usados para gerar imagens. O objetivo seria coibir novas tentativas de criação de imagens falsas.

O serviço de IA não confirmou o banimento do jornalista nem a proibição do uso dos termos. Mesmo assim, seria coerente fazê-lo, afinal figuras públicas ficam mais suscetíveis à manipulação de imagens com propósito de criar fake news.

Serviços rivais como o DALL-E já barram nomes de celebridades na criação de imagens para evitar esse tipo de situação. Agora, parece que o Midjourney também adotou tal política, pois vários ex-presidentes tiveram o nome impedido.

Como as fotos eram bem realistas, muita gente ficou na dúvida se o material era verdadeiro ou não. O resultado é fruto da versão 5 do Midjourney, que consegue criar imagens fotorrealistas a partir de texto.

O presidente Trump não se manifestou oficialmente sobre o ocorrido. Segundo sites como a MSNBC e o The New York Times, ele pode ser preso a qualquer momento por ter subornado a estrela pornô Stormy Daniels.

Fonte: Buzzfeed