Mozilla cria site com histórias absurdas sobre o algorítimo do YouTube

A Mozilla acaba de lançar um site com um compilado de 28 histórias ou situações enviadas por usuários que detalham sugestões bizarras e agressivas do algoritmo de recomendação do YouTube. Entre os relatos, pudemos ver recomendações com racismo, conspirações e violência.

O algoritmo de recomendação do YouTube enfrentou muitas críticas este ano por radicalização, pedofilia e por, geralmente, ser "tóxico". Isso caiu como uma bomba na plataforma, pois 70% do tempo de visualizações vem de recomendações. Por isso, a Mozilla lançou o projeto #YouTubeRegrets, para destacar o problema e "provocar" o site a mudar sua prática.

"Os relatos mostram que o algoritmo valoriza o envolvimento sobre todo o resto - ele fornece conteúdo que mantém as pessoas assistindo, mesmo que não sejam prejudiciais", disse Ashley Boyd, vice-presidente jurídico da Mozilla, em entrevista ao The Next Web.

Muitas das histórias descrevem os efeitos das recomendações sobre grupos mais vulneráveis, como crianças, por exemplo. "Quando meu filho estava em idade pré-escolar, ele gostava de assistir vídeos do "Thomas the Tank Engine" no YouTube. Uma vez, quando eu o verifiquei, ele estava assistindo uma compilação de vídeo que continha representações gráficas de acidentes de trem", relatou um dos usuários.

"Acreditamos que essas histórias representam com precisão o amplo problema do algoritmo do YouTube: recomendações que podem agregar agressivamente conteúdo bizarro ou perigoso", explica Boyd. "O fato de não podermos estudar essas histórias mais detalhadamente - não há acesso aos dados adequados - reforça que o algoritmo é opaco e está além do escrutínio", complementa.

A Mozilla salienta que o YouTube nem sequer forneceu dados para pesquisadores verificarem a alegação da própria empresa de que reduziu as recomendações de "conteúdo limite e desinformação prejudicial" em 50%. Portanto, agora, há uma maneira de saber se o YouTube realmente fez algum progresso.

Deixa que eu te ajudo

Embora essa solução em particular possa não ser realista, a Mozilla apresentou ao YouTube três possíveis soluções:

- Forneçer a pesquisadores independentes acesso a dados significativos, incluindo o número de vezes que um vídeo é recomendado, número de visualizações, dados de engajamento e dados de texto;

- Construir ferramentas de simulação para pesquisadores, que permitam imitar os caminhos do usuário por meio do algoritmo de recomendação;

- Capacitar - em vez de restringir - os pesquisadores alterando o limite de taxa de API existente para fornecer acesso ao histórico de vídeos

O VP jurídico da Mozilla disse, ainda, que os representantes do YouTube reconheceram que têm um problema com o algoritmo de recomendação e que estão trabalhando para corrigi-lo. Mas alerta que "não achamos que esse seja um problema que possa ser resolvido internamente. É muito sério e muito complexo. O YouTube deve capacitar pesquisadores independentes para ajudar a resolver esse problema ”.

Para acessar ao site da Mozilla, visite o link que disponibilizamos na fonte da matéria.

Fonte: The Next Web , com informações Mozilla