Recomendações do YouTube são tóxicas e falhas, diz ex-desenvolvedor da Google

O YouTube se envolveu em uma polêmica no início do mês quando uma reportagem do New York Times revelou que o sistema de recomendações da plataforma de vídeos estava sugerindo conteúdos com "crianças pré-adolescentes e parcialmente vestidas" para usuários que assistiram a conteúdo com temas sexuais.

Agora, um desenvolvedor da Google decidiu colocar mais lenha na fogueira ao dizer que as recomendações do YouTube são tóxicas e que os algoritmos da plataforma trabalham de forma profundamente falha. A opinião é de Guillaume Chaslot, que trabalhou com os algoritmos do YouTube e é fundador do AlgoTransparency, projeto que exige maior transparência das plataformas online.

"Não é intrinsecamente terrível que o YouTube use inteligência artificial para recomendar vídeos para você, porque, se a IA estiver bem sintonizada, ela poderá ajudá-lo a conseguir o que deseja. Isso seria incrível", disse Chaslot ao site TNW. "Mas o problema é que a IA não foi criada para ajudar você a conseguir o que deseja – ela foi criada para deixar você viciado no YouTube. Recomendações foram projetadas para desperdiçar seu tempo".

Chaslot explica que a métrica que o algoritmo usa para determinar se uma recomendação foi 'bem-sucedida' é o tempo de exibição. Isso pode ser ótimo para uma empresa que está tentando vender anúncios, mas não reflete necessariamente o que o usuário quer – e tem sérios efeitos colaterais.

Durante palestra na conferência DisinfoLab no mês passado, o desenvolvedor observou que conteúdos sensacionalistas são frequentemente recomendados – entram na lista vídeos sobre teorias da conspiração e notícias falsas, por exemplo. No evento, Chaslot ainda expressou preocupação de que as recomendações possam acabar levando as pessoas a extremos.

"Temos que perceber que as recomendações do YouTube são tóxicas e ruins para a discussão cívica", disse Chaslot. "No momento, o incentivo é para a criação de conteúdo envolvente, mas que está no limite do que é aceito pelas políticas do YouTube". Basicamente, o desenvolvedor acredita que quanto mais estranho o conteúdo publicado, maior a probabilidade de manter as pessoas assistindo, o que tornará mais provável recomendado pelo algoritmo – o que resulta em maior receita para o criador e para o YouTube.

Quando as recomendações dão errado

Basicamente, a plataforma AlgoTransparency criada por Chaslot é um robô que monitora quais os vídeos mais recomendados pelo YouTube naquela determinada data. Usuários também podem buscar conteúdos específicos ao usar palavras-chaves. Assim, a plataforma exibe os vídeos que contenham o termo no título ou nome do canal e a quantidade de vezes que o conteúdo foi recomendado.

Chaslot aponta que, na maioria das vezes, os vídeos recomendados são inofensivos, mas de vez em quando surgem conteúdos problemáticos: quando o procurador especial dos Estados Unidos, Robert Mueller, que investigou os laços entre a Rússia e a equipe de campanha de Donald Trump, divulgou seu relatório detalhando um conluio entre as duas partes, por exemplo, Chaslot diz que o YouTube passou a recomendar conteúdos da RT, uma propaganda russa patrocinada pelo governo.

O fundador do AlgoTransparency ainda diz que outros vídeos relacionados a Mueller obtiveram mais recomendações, mas o vídeo da RT se destaca porque foi recomendado "como louco" por dois dias apesar de contar com poucas visualizações. "O mais estranho é que ninguém realmente entende por que isso aconteceu", comentou Chaslot.

Procurado pelo TNW, a Google rejeitou completamente a metodologia do AlgoTransparency e disse que as recomendações do YouTube são baseadas nas pesquisas, gostos e compartilhamentos de cada usuário. "Tal como acontece com a maioria das afirmações feitas pela AlgoTransparency, não conseguimos reproduzir os resultados aqui. Projetamos nossos sistemas para garantir que o conteúdo de fontes com mais autoridade seja exibido com destaque nos resultados de pesquisa", afirmou a empresa.

Como o YouTube não oferece opções para que os usuários controlem suas recomendações, Chaslot diz que a melhor solução a curto prazo é simplesmente excluir a função. "Eu realmente não a acho útil para os usuários", disse ele. "Se o YouTube quiser manter as recomendações, pode seguir com as recomendações com curadoria por e-mail – onde os humanos garantem que nada de maluco aconteça – ou foque apenas nos canais em que você se inscreveu".

Fonte: The Next Web