Facebook usa IA para indicar qual publicação deve ser moderada primeiro

O Facebook está usando um novo sistema de inteligência artificial para organizar a lista de publicações da plataforma que precisam de moderação. Agora, o sistema é capaz de identificar postagens mais urgentes e colocar em privilégio para análise humana.

• Messenger e Instagram ganham chat que se autodestrói inspirado no Snapchat
• Métrica interna usada pelo Facebook para detectar discurso de ódio está em alta

O mecanismo de moderação do Facebook se baseia em dois tipos de denúncia na rede social. A primeira é feita pelos próprios usuários, chamada de reativa; a segunda é classificada por inteligência artificial, chamada de proativa. No sistema antigo, depois que ambas denúncias eram contabilizadas, somente as reativas eram filtradas e ranqueadas. Com isso, sempre as reativas apareciam em prioridade na lista para os moderadores humanos analisarem.

Agora, a proposta é de que toda denúncia, mesmo as feitas por inteligência artificial, passem por filtro. Assim, o sistema cria uma lista baseada em três critérios: viralidade, ameaça e baseado em qual regra a publicação fere na rede social.

O objetivo, segundo o Facebook, é chamar atenção para o mais importante primeiro, com assuntos como terrorismo, abuso infantil e violência, deixando para o final spams e publicações menores.

Para isso, o sistema analista imagem, títulos, palavras mais importantes e metadados, em todos os tipos de publicação, em busca de padrões que possam ajudar o mecanismo de machine learning a ficar mais aprimorado.

Apesar da utilização mais massiva de inteligência artificial no processo, o Facebook ainda vai se utilizar de filtro humano para as publicações. Isso porque uma inteligência artificial ainda tem dificuldades em identificar assuntos como desinformação, bullying e assédio na rede social.

Fonte: The Verge