YouTube explica como funciona o processo de remoção de conteúdo nocivo

Redes sociais e plataformas de mídia, como o YouTube, precisam ir muito além de oferecer os seus serviços da melhor forma possível para a satisfação do usuário. Essas empresas, que estão presentes no mundo todo, devem também garantir a segurança de quem acessa suas plataformas diariamente, contando com uma responsabilidade de extrema importância para o bem social.

É por isso que, nos últimos anos, essas grandes companhias estão em processo de modificação de seus códigos de conduta, em especial com o crescente avanço da propagação de notícias falsas, visando transformar seus espaços em um lugar mais seguro.

O YouTube, por exemplo, vem colocando em prática suas novas medidas, removendo vídeos e canais que apresentem conteúdos nocivos, com temáticas de ódio e práticas arriscadas. Esta decisão, no entanto, é apenas um dos quatro passos definidos pela companhia em sua nova missão.

Nesta terça-feira (3), o YouTube divulgou em seu blog oficial que quatro medidas foram definidas para o aprimoramento da plataforma: remover, elevar, recompensar e reduzir. De acordo com a companhia, estes princípios serão explicados ao longo dos próximos meses, e por enquanto apenas o primeiro, "remover", foi detalhado.

Na definição deste primeiro pilar, a companhia diz que serão removidos conteúdos que violam as suas normas de uso. A declaração diz que este procedimento vem sendo feito desde o começo do YouTube, mas que o investimento na ação está acelerado nos últimos anos.

Em uma linha do tempo, a empresa mostra quais foram os progressos mais importantes desde 2016:

• Em 17 de novembro de 2016, novas funcionalidades foram lançadas, permitindo que pais bloqueassem canais no YouTube Kids;
• Em 18 de junho de 2017, a empresa adicionou o aprendizado de máquina para fazer companhia às pessoas reais que tinham o trabalho de descobrir conteúdos extremistas;
• Em 31 de julho, o YouTube criou o Fórum Global de Internet para combater o terrorismo, ao lado de outros parceiros da indústria;
• No dia 1º de agosto, a empresa expandiu o seu programa de sinalizadores para incluir Organizações Não-Governamentais (ONGs);
• Em 4 de dezembro, os funcionários humanos começaram a receber apoio do aprendizado de máquina para a detecção de vídeos que, potencialmente, violam as suas políticas de conteúdo referente ao discurso de ódio e segurança infantil;
• No ano seguinte, em 2018, no mês de janeiro, o YouTube lançou o Desk, uma inteligência que monitora relatórios de notícias, redes sociais e usuários para detectar novas tendências relacionadas ao conteúdo inapropriado, tudo isso antes mesmo que se torne um problema muito maior;
• No dia 23 de abril, a companhia lançou as suas primeiras diretrizes de comunidade para uma visão adicional sobre o seu trabalho;
• Em 1º de dezembro, atualizou suas diretrizes para proibir que menores de idade participassem de streamings ao vivo sem a presença de um adulto;
• No dia 15 de janeiro de 2019, outra alteração nas diretrizes reforça que desafios perigosos ou "pegadinhas" violam as regras de uso;
• Em 19 de fevereiro, o YouTube implementou novas regras de comunidade para alertar os usuários e oferecer uma maior transparência. No dia 28 do mesmo mês, desativou os comentários de vídeos que mostram menores em situações de risco;
• No dia 5 de junho, as diretrizes foram alteradas para proibir conteúdo supremacista e odioso, e em 1º de julho lançou um novo recurso que permite a análise de comentários possivelmente inapropriados pelo criador;
• Em 21 de agosto, o YouTube também atualizou as suas diretrizes para proibir que conteúdos com temas adultos sejam direcionados às famílias, seja no seu título ou na descrição.
• O próximo passo, agora, ainda sem data definida, é atualizar suas diretrizes de abuso.

Criando diretrizes eficazes

O YouTube explica na publicação que, antes de começar a fazer a remoção de conteúdos que violam as suas diretrizes, é preciso ter a certeza de que, de fato, a decisão é correta. Por isso, conta que uma equipe foi designada exclusivamente para isso, preservando a liberdade de expressão de seus usuários.

Para lidar com questões mais complexas, o YouTube trabalhou ao lado de criadores e especialistas externos para entender diferentes casos, como diferenças regionais e de que forma estes conteúdos seriam recebidos no restante do mundo.

Em relação ao discurso de ódio, a companhia explica que foram meses de desenvolvimento para criar treinamentos necessários e ferramentas de combate. As equipes fazem a remoção com base em seus conhecimentos nas diretrizes e na atuação do aprendizado de máquina.

Somente no segundo trimestre deste ano, entre os meses de abril e junho, mais de 100 mil vídeos foram removidos da plataforma por discurso de ódio, enquanto mais de 17 mil canais foram fechados e mais de 500 milhões de comentários foram excluídos.

Aprendizado de máquina

Desde 2017, o YouTube vem atuando com a colaboração entre pessoas e a tecnologia para a sinalização de conteúdos impróprios. A empresa explica que contribui com bancos de dados da indústria para aumentar as chances de que os conteúdos sejam flagrados ainda no upload.

O aprendizado de máquina é capaz ainda de sinalizar conteúdos de ódio, embora seja preciso uma revisão humana por, muitas vezes, tudo depender do contexto. No segundo semestre deste ano, no entanto, mais de 87% dos nove milhões de vídeos removidos foram sinalizados primeiramente pelos sistemas.

Um dos grandes objetivos do YouTube é fazer a remoção destes conteúdos impróprios da forma mais agilizada possível, antes que atinjam grandes quantidades de visualizações ou ainda antes mesmo que sejam vistos por alguém. No último semestre, o sucesso dessa missão foi satisfatório, com mais de 80% de detecções antes da publicação.

Nas próximas semanas, o YouTube deve revelar mais detalhes sobre o restante dos processos: elevar, recompensar e reduzir.

Fonte: Blog YouTube