Plataformas de vídeos e streaming estão com problemas para controlar conteúdo?

Por Felipe Ribeiro | 11 de Junho de 2020 às 09h30

As últimas duas semanas foram bem intensas no mundo do entretenimento. E não, não foi por conta dos spoilers de The Last of Us: Part II ou por conta da revelação de que teríamos o tão falado Snyder Cut de Liga da Justiça. Talvez estejamos sendo um pouco exagerados em dizer que o “Mundo” todo foi afetado, mas, diante da repercussão gerada, podemos dizer ao menos que muita gente importante ficou sabendo dessa história.

Quem é familiarizado com a cobertura do mercado de games e cultura pop deve ter se deparado com o nome Xbox Mil Grau nos últimos dias. O youtuber Chief, dono do canal, há anos alimenta suas plataformas com conteúdo gamer, transmissões longas, alto engajamento da comunidade e o título (dado por ele próprio) de o “canal que mais joga videogame no mundo”.

O estilo de Chief é controverso e não é bem aceito pela comunidade gamer. Além de questionar o trabalho de jornalistas, o youtuber tem seus posicionamentos e é declaradamente contra o “Politicamente correto”, algo que é compartilhado por outros membros de seu canal. Com os nervos da internet sempre à flor da pele e com o alto grau de polarização política que vivemos, era óbvio que, uma hora, essa bomba explodiria.

Após uma piada racista feita por um dos membros de seu canal, conhecido como "XCapim360", a comunidade gamer se viu injuriada e revoltada com tamanha insensatez. Em um misto de justiça social e ressentimento, muitos blogueiros, donos de canais e jornalistas iniciaram o que hoje é popularmente conhecido como “cancelamento” do youtuber e de seus canais no YouTube e Twitch.

Foi um mutirão de contatos com a Xbox Brasil e as plataformas de conteúdo para combater o teor do conteúdo de Chief, que já foi acusado do mesmo comportamento de seu colega outras vezes. O assunto acabou chegando aos olhos e ouvidos de Phil Spencer, chefe da divisão Xbox na Microsoft, e o desfecho foi o esperado: além de ter de remover o nome “Xbox” de suas mídias, o youtuber teve seus vídeos deletados do YouTube e seu canal da Twitch foi suspenso, com todos os artifícios de monetização também bloqueados.

Assim que tomou conhecimento do caso Mil Grau, Phil Spencer agiu e logo a Microsoft entrou em ação por aqui

Com pouco mais de 100 mil seguidores, o canal nem de longe é um dos maiores dentro do YouTube – quanto mais no segmento de games. E isso nos leva a crer que há falhas no sistema de curadoria e rastreamento da plataforma – assim como da Twitch – neste caso em específico e de tantos outros que, sim, podem fazer conteúdos ainda mais nocivos.

Porém, mesmo que saibamos que parte dessa curadoria é feita por machine learning, outra boa parte é feita por “talentos”, ou seja, pessoas. Diante de tamanha comoção por conta do caso, é legítimo perguntar: as plataformas de vídeo e streaming estão com problemas para controlar seu conteúdo?

Parece simples, mas não é

A resposta mais óbvia para o combate a qualquer comportamento que não seja condizente com as boas práticas de conduta social é a denúncia, seja ela na plataforma digital em que ocorreu algum incidente ou até mesmo com o envolvimento das autoridades. YouTube, Twitch, Mixer, Facebook e tantas outras redes possuem regras claras de comportamento que, independentemente do que foi divulgado recentemente, podem ter ocorrido uma ou mais vezes – e não apenas agora, é bom dizer.

Existem diversos canais que se preocupam – e com razão – com essas normas, mas alguns casos simplesmente passam batido ou são erroneamente julgados. Quem não se lembra do guitarrista da banda de power metal Dragon Force, Herman Li, que tomou uma advertência de direitos autorais da Twitch por tocar a própria música em uma transmissão? Isso sem falar nos milhares de outros canais que são desmonetizados por um simples palavrão.

Herman Li, guitarrista do Dragon Force, recebeu advertência de direitos autorais por tocar a própria música/ Imagem: Roadie Metal

O caso recente acendeu a luz de alerta para o que estamos vivendo nas plataformas e como elas encaram os conteúdos de seus criadores. Foi preciso que dezenas de influenciadores, jornalistas e executivos entrassem em ação para que o YouTube e a Twitch tomassem conhecimento e providências sobre o assunto. Mas será preciso o quê mais para que outros canais não sofram com sanções exageradas e quem merece, de fato, ser punido, possa ser?

“A meu ver, as plataformas simplesmente não lidam com isso. Não vejo monitoramentos efetivos e práticas robustas de prevenção de crimes. Ao contrário, vejo a 'maquina' agindo independente; sem 'refletir' sobre consequências, por óbvias razões”, disse Carla Rahal Benedetti, sócia de Viseu Advogados e especialista em crimes eletrônicos e econômicos, em entrevista ao Canaltech.

Também é justo indagar: será que as plataformas e empresas são coniventes com esse tipo de comportamento por conta do retorno que esses canais lhe dão? Vale lembrar de outro caso recente, envolvendo a streamer Gabi Cattuzzo, então patrocinada pela Razer, que não teve seu contrato renovado após uma confusão com um de seus seguidores. Independentemente da avaliação do caso, vimos uma empresa que agiu com rapidez diante do que lhe foi apresentado como problema.

No caso mais recente, os olhos se voltam para a Microsoft. A divisão Brasil de Xbox foi questionada quanto ao nível de conivência que vinha tendo em relação ao canal Mil Grau, mesmo deixando claro que não havia – e não havia mesmo – qualquer ligação contratual entre ambos. A conivência, no caso, não tem a ver com o episódio de preconceito, mas sim com a “fama” de Chief e seu histórico de relacionamento com ele. É de conhecimento público que o youtuber foi presenteado com um Xbox One X assim como outros influenciadores, além de ter sido levado a eventos pela Microsoft. Muito embora o tratamento da empresa tenha sido parecido com o que ela faz com outros profissionais, por que dar voz a um canal com conteúdo que, na visão de muitos, é considerado tóxico e nocivo?

O Canaltech tentou falar com a Microsoft sobre a polêmica envolvendo a questão, porém, até o fechamento desta reportagem, a empresa não se manifestou. Atualizaremos a matéria, caso ela se posicione.

Com a palavra, as empresas

Segundo o YouTube, todas as formas de preconceito são repudiadas pela plataforma, que alega o trabalho constante para o desenvolvimento e revisão de suas ferramentas de apoio e também das diretrizes de comportamento. Além disso, a plataforma explica que, em virtude da crise causada pela COVID-19, tem deixado a curadoria mais automática, com menos pessoas envolvidas.

“Atualmente, a aplicação das nossas diretrizes é baseada em uma combinação do talento das pessoas e de tecnologia: o aprendizado de máquina detecta conteúdo potencialmente nocivo e, então, os vídeos são enviados para revisores humanos para uma avaliação. Como resultado das muitas medidas que estamos tomando diante da pandemia de COVID-19, vamos temporariamente depender mais da tecnologia para ajudar a concluir algumas tarefas geralmente realizadas pelos revisores. Isso significa que os sistemas automáticos começarão a avaliar parte do conteúdo sem revisão humana, o que pode resultar tanto em remoções acidentais de conteúdo que não viola nossas políticas, quanto em maior demora para retirar vídeos que as infrinjam”, explicou Malu Gonçalves, gerente de comunicação do YouTube Brasil, em entrevista ao Canaltech.

Algo curioso, no entanto, é que o caso Mil Grau e muitos outros acabam passando despercebidos há algum tempo, enquanto outros são punidos quase que de imediato. Há, também, a acusação de que o YouTube persegue canais com conteúdo conservador e que criadores progressistas contariam com a benevolência da plataforma. Levando em conta o que vimos recentemente, que o canal Mil Grau em nada se parece com um panfleto progressista – tampouco conservador –, fica escancarada que a tecnologia de machine learning - assim como a curadoria dos talentos da companhia - para controle de conteúdo ainda tem um longo caminho a percorrer para funcionar devidamente

“O YouTube é uma plataforma de vídeo aberta e qualquer pessoa pode compartilhar conteúdo, que está sujeito a revisão de acordo com as nossas diretrizes da comunidade. Se o comportamento de um criador do YouTube na plataforma e/ou fora da mesma prejudicar os nossos usuários, comunidade, funcionários ou ecossistema, podemos responder com base num número de fatores, incluindo, sem caráter limitativo, a gravidade das ações e se existe um padrão de comportamento prejudicial. A nossa resposta pode ir da suspensão dos privilégios de um criador ao cancelamento da conta”, disse Gonçalves, rechaçando qualquer parcialidade na avaliação dos vídeos.

A executiva da plataforma de vídeos do Google também explica que as normas para se fazer transmissões ao vivo por lá são bem rigorosas e, de certo modo, vão ao encontro do que já foi relatado: as denúncias são o ponto-chave.

De acordo com o YouTube, para fazer uma transmissão ao vivo, o criador não pode ter recebido nenhuma restrição de transmissão ao vivo nos últimos 90 dias e ter a conta verificada – o que acontecia com o referido canal, apesar de sua audiência ser relativamente baixa. Isso significa que o recurso de transmissão ao vivo do canal será automaticamente desativado por qualquer um dos motivos abaixo:

  • O canal recebeu um aviso das diretrizes da comunidade.
  • A transmissão ao vivo ativa ou arquivada foi bloqueada em todo o mundo.
  • A transmissão ao vivo ativa ou arquivada recebeu uma remoção por direitos autorais.
  • O evento corresponde a outra transmissão ao vivo protegida por direitos autorais.

Já para as monetizações dentro da plataforma do Google, o canal precisa ser considerado apto para entrar no que a empresa chama de Programa de Parcerias do YouTube. Além disso, uma série de requisitos também precisa ser atingida, como número mínimo de inscritos, horas transmitidas e, claro, estar dentro das diretrizes de comunidade. Este último item é o que levanta mais questionamentos sobre como a plataforma lida com conteúdos tóxicos.

Com relação às regras da Twitch, que podem ser vistas em caráter oficial em seu site, são bem rígidas e incluem uma série de questões, não apenas relacionadas a ofensas, mas também à violência e automutilação. Em meio à polêmica recente, a empresa se posicionou de maneira bem distante, com uma postagem contendo dicas para denúncia. Procurada pela reportagem do Canaltech, a Twitch não quis se manifestar.

Como combater e se proteger?

As plataformas possuem suas próprias ferramentas de denúncia e combate a usuários e criadores com conteúdo tóxico. Geralmente, as denúncias seguem protocolos básicos, com descrições bem completas e que passam pela análise de pessoas e, claro, de algoritmos controlados por machine learning.

Mas é importante que os usuários entendam que nem sempre denunciar um crime apenas na plataforma é suficiente. Existem canais na Polícia e no Ministério Público que podem – e devem – ser utilizados quando você é vítima de ataques na internet ou até mesmo presencie atitudes criminosas. “A maneira possível de se lidar com situações como essas é, além do cuidado no uso da ferramenta, buscar, sem dúvidas, as autoridades competentes, principalmente as de ordem criminal, como Boletim de Ocorrência e denúncias diretamente nos canais existentes para coibir, tais práticas”, explica Benedetti.

Já o YouTube reforça que o principal é encarar as regras da plataforma com seriedade, seja você usuário, espectador ou criador. A empresa alega, ainda, que remove todos os conteúdos que promovam violência e ódio contra qualquer tipo de pessoa ou grupo, e que seu sistema de denúncias e avisos é bem-sucedido e tem altas taxas de resolução.

“Mesmo que 98% dos usuários nunca violem nossas diretrizes, elas são indispensáveis para fortalecer a comunidade do YouTube e para manter o equilíbrio entre liberdade de expressão e liberdade para pertencer. Por isso, desde o início contamos com um sistema de três avisos e notificações por e-mail para que todos possam conhecer as políticas e entender o problema antes de serem penalizados. E isso funciona: 94% dos usuários que recebem o primeiro aviso não chegam a receber o segundo”, relata Gonçalves.

Mesmo com todas as ferramentas à disposição, é necessário ter muito cuidado. Caso ocorra, por exemplo, falsa imputação de crime, o acusador pode ser severamente punido legalmente. Isso ocorre muito principalmente em casos de racismo e injúria racial, quando o cidadão comum muitas vezes não consegue diferenciar as duas ocorrências. “Quanto a falsa imputação de crime, o leigo poderá ser responsabilizado caso a denúncia seja infundada e não provada, razão pela qual é melhor ser ela registrada por advogado habilitado, que saberá conduzir melhor a situação”, explica Benedetti.

“A diferença entre a injúria racial e o racismo é que a primeira consiste em ofender a honra de uma pessoa relacionando-a com elementos referentes à cor, etnia, religião, entre outros, e o racismo atinge um número de pessoas indeterminado, discriminando toda a integralidade de uma raça, sendo ele muito mais grave, constitucionalmente assegurado e imprescritível, que quer dizer que uma pessoa poderá ser condenada pelo crime a qualquer tempo. Há quem entenda que o racismo não pode ser considerado crime propriamente, pois apenas temos uma raça: a humana”, ressalta a advogada.

Mesmo com a imensa maioria das pessoas sendo responsáveis dentro das plataformas de streaming e as empresas, pelo menos em teoria, fazendo sua parte, casos e casos de conteúdo tóxico brotam todos os dias e não há um padrão nas punições, tampouco nas ações contra esses canais e pessoas.

Sabemos que tudo gira em torno da denúncia e da vigilância, mas, em uma internet cada vez mais aberta e recheada de recursos, é no mínimo estranho ver que muitas dessas falhas aconteçam. Hoje é o “caso Mil Grau”, que teve enorme repercussão na mídia e na comunidade. Mas, como ele, existem um sem-número de outros menos polêmicos. Outros com mais, outros com menos alcance, mas todos igualmente graves.

Denunciar e vigiar o comportamento dos criadores e seus espectadores é fundamental. Mas agora, fica claro que teremos que fazer isso também com as plataformas.

Procuramos o youtuber

O Canaltech também procurou o youtuber Chief para que se pronunciasse a respeito dos temas e de toda a polêmica, mas ele optou por não se manifestar.

Gostou dessa matéria?

Inscreva seu email no Canaltech para receber atualizações diárias com as últimas notícias do mundo da tecnologia.