Facebook detalha esforços para combater o compartilhamento de ideais de ódio

Em uma postagem publicada em seu blog oficial nesta terça-feira (17), o Facebook detalhou todo o progresso que tem feito no combate a grupos terroristas, extremistas que pregam a violência e organizações que praticam crimes de ódio, e explicou como o uso de inteligência artificial ajudou a empresa a banir mais 200 grupos de supremacia branca tanto do Facebook quanto do Instagram.

De acordo com o Facebook, a empresa treinou seus algoritmos para o reconhecimento automático de conteúdos que possam pertencer a grupos perigosos que poderiam estar usando suas redes sociais para propagar seus ideais de ódio. No começo, o alvo eram grupos terroristas como al-Quaeda e ISIS, o que resultou na remoção de 26 milhões de postagens de grupos terroristas do tipo feitos em suas redes sociais — 99% dos quais foram identificados de forma automatizada pelo algoritmo.

Mas, desde a metade de 2018, a empresa ampliou o leque do que sua IA deveria considerar como uma organização criminosa, o que foi o que culminou na remoção das páginas de grupos de supremacia branca e na remoção de milhares de conteúdos que elogiavam o trabalho desses grupos.

O próximo passo da empresa será trabalhar ao lado dos governos dos Estados Unidos e do Reino Unido para que o algoritmo possa reconhecer em tempo real vídeos de pessoas que estão atirando, como forma de evitar a existência e o compartilhamento de transmissões ao vivo de tiroteios em massa, como o que aconteceu na Nova Zelândia em março deste ano. Para isso, a polícia e os órgão de defesa destes países irão disponibilizar para o Facebook diversos vídeos, filmados por policiais, de tiroteios que eles participaram, para que o algoritmo consiga reconhecer sinais de que o vídeo que está sendo transmitido é de um tiroteio.

Ao mesmo tempo, a empresa também estaria expandindo seu programa de ajuda a pessoas que querem se desligar de grupos de ódio, ajudando a conectar pessoas que buscam por termos ligados à supremacia branca a grupos como o Life After Hate, que as ajudam a se desligar das ideologias de ódio a minorias e aprender a respeitar as diferenças e conviver em sociedade.

Por último, o Facebook também revelou a criação de uma definição para o que a empresa considera como “grupo terrorista”, e cria delimitações mais claras do que seria uma violência com o intuito de coerção e intimidação. Essa definição vem junto com uma mudança estrutural que a empresa efetuou em seu time antiterrorismo, que passará também a combater grupos de supremacia branca e os conhecidos “pistoleiros solitários” — aqueles terroristas que não estão conectados a nenhum grupo específico.

De acordo com o comunicado, o Facebook está empenhado em combater o uso da rede social para a ascensão de grupos terroristas e de supremacia branca, e que estará fazendo atualizações constantes de seus esforços em combater essas ameaças, tornando transparente tudo o que a empresa tem feito para evitar a disseminação do ódio pela internet.

O comunicado do Facebook foi publicado alguns dias antes de uma audiência marcada diante ao Congresso dos Estados Unidos, onde não somente o Facebook, mas também a Google e o Twitter deverão testemunhar sobre seus esforços para moderar conteúdo extremista e não permitir a proliferação do discurso de ódio por aí.

Fonte: Facebook