YouTube Kids ainda tem vídeos de violência, assassinato e suicídio

Um personagem colorido com voz infantil aparece em cena, mas antes de finalizar sua aparição deixa instruções assustadoras sobre o modo adequado de cortar os pulsos. É esse o tipo de conteúdo que vem sendo descoberto no YouTube Kids, a versão da plataforma voltada a crianças, que deveria justamente não exibir cenas do tipo.

"Lembrem-se crianças: [cortem] na vertical para atenção, na horizontal para resultados", diz um dos vídeos perigosos descobertos no YouTube Kids. Até então, o desenho de cinco minutos seguia o roteiro comum de um conteúdo infantil.

Free Hess, pediatra, defensora dos direitos da criança e mãe foi quem encontrou o vídeo. O desenho mostra o personagem chamado Filthy Frank (Frank imundo, em tradução livre) por 10 segundos, tempo suficiente para que ele dê suas instruções.

O YouTube Kids nasceu em 2015 com a proposta de dar mais tranquilidade aos pais, mas desde então vem fazendo o contrário. No ano passado, uma reportagem da BBC descobriu que clipes falsos, com mensagens negativas ou violentas, estavam sendo exibidos como sugestões para as crianças, assim como materiais sobre armas e objetos perigosos.

Em um dos vídeos, personagens da animação Patrula Canina apareciam proferindo palavrões em um avião em queda, que pegava fogo. Em outro, Mickey Mouse utilizava uma arma para disparar contra crianças e outros personagens, enquanto vídeos sobre afiamento de facas ou utilização de armas apareciam como sugestões.

Na época, a Google reconheceu o problema e pediu desculpas, mas os incidentes continuaram acontecendo. Mais recentemente, foi descoberto que alguns vídeos infantis estavam sendo editados com a inserção de instruções para a prática do suicídio, de forma a burlar os controles da plataforma.

Teoricamente, o YouTube Kids é protegido por um algoritmo que só libera a visualização de conteúdos próprios para crianças, mas a introdução de cenas dificulta que a Google (e pais) identifiquem vídeos inadequados, dependendo da denúncia de usuários para que esses conteúdos nocivos sejam removidos.

Ainda no ano passado, a Google anunciou a criação de uma verificação humana para criar um acervo de vídeos apropriados para crianças. Mas parece que a iniciativa não rendeu bons frutos e a empresa continua incapaz de conter o fluxo de conteúdos impróprios dentro de sua plataforma.

Atualmente, vídeos sinalizados como conteúdo ofensivo são revisados pela plataforma, mas a resposta pode ser demorada. Todos os vídeos encontrados por Hess foram compartilhados com seus seguidores para que fossem denunciados. O vídeo com instruções para cortar os pulsos foi marcado pela primeira vez há oito meses, mas excluído do YouTube só no mês passado.

Outros vídeos impróprios flagrados por Hess ainda estão na plataforma — um deles de Minecraft. O personagem aparece falando palavrões antes de reproduzir uma cena de tiroteio dentro de uma escola.

Em seguida, outro vídeo parece ser um exemplo de tráfico humano. O personagem masculino do desenho em estilo anime compra uma mulher fantasiada de lobo por US$ 400 de outro homem. A personagem feminina é desenhada de uma forma que sugere que ela foi espancada anteriormente, com machucados em seu rosto. Mais tarde, o homem pergunta "Por que você está com medo?" e ela diz "Porque todo mundo me maltrata".

Outros vídeos no mesmo estilo apresentam cenas de violência, linguagem adulta, assassinato e suicídio. "Criamos o YouTube Kids para tornar mais seguro e simples para as crianças explorarem o mundo por meio de vídeos on-line. Há também todo um conjunto de controles para os pais, para que você possa adaptar a experiência às necessidades de sua família", diz a empresa na descrição da plataforma juvenil.

Apesar de não cumprir a promessa de um ambiente "mais seguro", o YouTube Kids disponibiliza uma configuração que permite aos pais que escolham os vídeos de cada canal que podem ser exibidos no perfil de seus filhos. É um começo para livrar a plataforma de vídeos impróprios, ao menos.

Procurado pelo Canaltech, o YouTube disse que trabalha para garantir que todos os vídeos sejam adequados à faixa etária do público-alvo. "Os vídeos sinalizados são revisados ​​manualmente 24 horas por dia, sete dias por semana, e todos aqueles que não devem pertencer ao aplicativo são removidos. Também estamos investindo em novos controles para os pais. Estamos fazendo melhorias constantes em nossos sistemas e reconhecemos que há mais trabalho a se fazer".

Fonte: The Next Web