MIT desenvolve inteligência artificial para combate fake news na internet

MIT desenvolve inteligência artificial para combate fake news na internet

Por Gustavo Minari | Editado por Douglas Ciriaco | 31 de Maio de 2021 às 21h00
Reprodução/Envato

Pesquisadores do MIT, nos EUA, desenvolveram um sistema de inteligência artificial que pode ajudar a conter a disseminação de informações falsas. A IA consegue detectar e analisar padrões relevantes de contas em redes sociais que são programadas para espalhar notícias alteradas ou fraudulentas na internet.

O programa de Reconhecimento de Operações de Influência (RIO em Inglês) é capaz de identificar automaticamente vários tipos de narrativas de desinformação e também descobrir quem são as pessoas que divulgam esse material na rede, utilizando algoritmos de modelagem de tópicos.

O projeto começou em 2014, durante estudos sobre como grupos maliciosos conseguem explorar perfis falsos nas redes sociais. Os cientistas identificaram aumentos de atividade incomum na publicação de narrativas que incentivavam a disseminação de notícias pró-Rússia. O primeiro teste real de eficácia do RIO foi feito em 2017, durante as eleições francesas.

Quer ficar por dentro das melhores notícias de tecnologia do dia? Acesse e se inscreva no nosso novo canal no youtube, o Canaltech News. Todos os dias um resumo das principais notícias do mundo tech para você!

“Nos 30 dias que antecederam a eleição, nós coletamos dados de mídia social em tempo real para pesquisar e analisar a disseminação da desinformação. No total, foram 28 milhões de postagens no Twitter de 1 milhão de contas. Usando o RIO, nós conseguimos detectar contas que espalhavam mensagens falsas com 96% de precisão”, afirma um dos responsáveis pelo projeto, Steven Smith.

Propagação de informações falsas durante as eleições francesas (Imagem: Reprodução/MIT)

Como funciona

A estrutura criada pelo programa integra o processamento de linguagem natural, aprendizado de máquina e análise gráfica para quantificar o impacto de contas individuais na divulgação de narrativas falsas nas redes sociais.

A IA coleta dados relevantes, identifica tipos semelhantes de notícias e classifica as contas com base no comportamento e conteúdo durante a divulgação de determinado evento. As narrativas são geradas automaticamente a partir de dados direcionados do Twitter usando um algoritmo de modelagem de tópicos.

Contas com tweets contendo palavras-chave relevantes sobre o assunto são identificadas de acordo com padrões predefinidos dentro do mesmo período. O algoritmo detecta a similaridade semântica das postagens, com base em recursos comportamentais e linguísticos de cada conteúdo divulgado.

O resultado dessa análise gera um mapeamento preciso de redes contendo a mesma narrativa, identificando quais são os principais termos usados por propagadores de notícias falsas ou adulteradas na internet.

Impacto de narrativas falsas nas redes sociais (Imagem: Reprodução/MIT)

Fake news

Uma das principais características do RIO é que o sistema é capaz de combinar várias técnicas analíticas para criar relatórios mais abrangentes de onde e como as narrativas de desinformação se espalham. Com uma abordagem estatística, é possível determinar o quanto uma conta pode mudar ou ampliar a divulgação de fake news.

Outro fator importante do programa é que ele consegue detectar o impacto de contas operadas por bots e seres humanos ao mesmo tempo, o que ajuda na tomada de medidas para impedir a propagação de uma campanha de divulgação de notícias falsas em tempo real.

Os pesquisadores esperam que o RIO possa ser usado por governos e meios de comunicação tradicionais, como rádios, jornais e televisão para combater a disseminação sistematizada de fake news, além de identificar como os comportamentos individuais são afetados pela divulgação de conteúdos falsos em massa.

“A defesa contra a desinformação não é apenas uma questão de segurança nacional, mas também uma obrigação da mídia e das autoridades para proteger todo o sistema democrático de um país”, completa o pesquisador do MIT, Edward Kao.

Fonte: MIT

Gostou dessa matéria?

Inscreva seu email no Canaltech para receber atualizações diárias com as últimas notícias do mundo da tecnologia.