Nova ferramenta do Facebook irá censurar memes nocivos na plataforma

Uma nova ferramenta do Facebook pretende acabar com o compartilhamento desenfreado de memes considerados nocivos. Chamada de Rosetta, a ferramenta baseada no aprendizado de máquina consegue não só categorizar imagens, como também ler as mensagens escritas dentro delas.

Criada inicialmente para servir como um auxílio a pessoas com deficiência visual, ela será usada pelo Facebook também para conseguir distinguir memes comuns daqueles que trazem mensagens nocivas ou até mesmo falsas, ajudando a prevenir a proliferação de, por exemplo, memes com conteúdo racista ou que fazem apologia ao nazismo, além de imagens recheadas de fake news, incluindo aquelas montagens que induzem a interpretações erradas de um fato.

De acordo com o Facebook, a ferramenta já possui um banco de dados de mais de um bilhão de imagens compartilhadas em modo público no Facebook e no Instagram, e é capaz de identificar o texto dessas imagens em uma grande variedade de línguas, além de entender o contexto existente na sobreposição do texto com a imagem em si, conseguindo diferenciar um meme de piada de um meme usado para espalhar mensagens prejudiciais.

Por enquanto, a tecnologia tem sido aplicado apenas em fotos, mas o Facebook pretende continuar trabalhando nela para que logo seja possível utilizá-la também em vídeos da plataforma.

Fonte: Fast Company