Trend sinistra burla regras do TikTok com deepfakes de crianças mortas
Por André Lourenti Magalhães • Editado por Douglas Ciriaco |
Uma trend do TikTok burlou os termos de uso da rede social e horrorizou muitas pessoas ao publicar vídeos feitos por IA para recriar crianças mortas em assassinatos. As informações são da BBC.
Alguns dos vídeos incluem até deepfakes de bebês e contam com relatos sobre como foram mortos. Desde as primeiras publicações, em abril deste ano, estes conteúdos já acumularam milhões de visualizações na rede, com casos confirmados de vítimas no Canadá e no Reino Unido.
O problema expôs uma brecha na moderação de vídeos do TikTok — a rede social atualizou as diretrizes da comunidade e regulou usos de IA em março deste ano, proibindo aplicações com menores de idade. Uma fonte ouvida pela BBC que trabalha com a moderação de conteúdo no Vietnã informou que não sabia da mudança mesmo quatro meses após a alteração.
Em dois meses de investigação, a reportagem original encontrou mais de 170 vídeos diferentes no TikTok com deepfakes de James Bulger, menino assassinado na Inglaterra em 1993. O caso ganhou notoriedade no Reino Unido e a mãe da vítima, Denise Fergus, comentou que os vídeos eram “mais que doentios”.
Outro caso notório envolveu a canadense Amélie Lemieux, que recebeu um TikTok com uma versão de IA da filha, assassinada em 2020 pelo próprio pai. Ela comenta que muitas pessoas denunciaram a publicação, mas a rede social não a removeu dos feeds. Após entrevistas públicas, a conta original apagou o conteúdo.
Como os vídeos são feitos
As publicações usam uma técnica chamada (i)deepfake, que substitui um rosto por outro. Com a ajuda de softwares de IA, é possível incluir novas falas criadas pelo computador e montar os vídeos. Isso permite gerar novos conteúdos em diferentes idiomas a partir de poucas imagens da vítima.
A BBC identificou um criador de conteúdo com o nome de Ritul, que alegou acumular mais de 47 mil seguidores no TikTok em publicação no próprio canal do YouTube. Após o contato, a pessoa deletou a conta na rede social chinesa.
O que diz o TikTok
Em resposta à reportagem original, o TikTok comentou que "Não há lugar em nossa plataforma para conteúdo perturbador desta natureza. Continuamos a remover conteúdo desta natureza à medida que o encontramos". Além disso, removeu alguns dos vídeos.
Uma fonte ouvida, que atua na moderação do TikTok no Vietnã, relatou que a empresa não informou que esse tipo de conteúdo estava proibido. Na opinião da pessoa, cuja identidade foi mantida como anônima, os vídeos teriam sido liberados por causa de uma regra para permitir relatos de sobreviventes de abusos.
No entanto, como se tratam de crianças mortas e geradas por inteligência artificial, isso se configura como um material proibido.
Fonte: BBC