Inteligência Artificial pode ser usada para gerar "fake news" mais convincentes

Como se a preocupação que temos com a propagação de desinformação online não fosse o suficiente, o instituto de pesquisas relacionadas à Inteligência Artificial OpenAI nos alerta que a tecnologia pode ser usada para gerar fake news cada vez mais convincentes, de forma totalmente automatizada.

O perigo está no fato de que o progresso na inteligência artificial está gradualmente ajudando as máquinas a entender melhor a linguagem natural. O algoritmo desenvolvido pelo OpenAI foi treinado para ser capaz de traduzir textos e responder perguntas com a linguagem mais natural possível, com o objetivo de resumir textos ou melhorar as habilidades de conversação dos chatbots — tornando-os quase humanos.

Mas logo os pesquisadores ficaram preocupados com o potencial de abuso. “Começamos a testá-lo e descobrimos rapidamente que é possível gerar conteúdo malicioso com bastante facilidade”, afirma Jack Clark, diretor de políticas da OpenAI. Em um teste, o MIT Technology Review produziu um longo texto sobre uma suposta declaração de guerra da Rússia aos Estados Unidos, só alimentando o algoritmo com as palavras “A Rússia declarou guerra aos Estados Unidos depois de Donald Trump acidentalmente ...”.

“O programa fez o resto da história por conta própria. E pode criar notícias de aparência realista sobre qualquer assunto que você der”, explica o texto. O software do OpenAI é alimentado com 45 milhões de páginas da web, escolhidas através do Reddit, e a partir de então aprende a reconhecer padrões nas frases e parágrafos, de modo a criar um texto convincente.

A preocupação do instituto é que esse algoritmo, e outros semelhantes, possam ser usados para automatizar a geração de notícias falsas convincentes, postagens em mídias sociais ou outros conteúdos de texto. O programa pode ainda gerar fake news otimizadas para atingir grupos demográficos específicos durante uma eleição, por exemplo.

“É muito claro que, se essa tecnologia amadurecer — e eu daria um ou dois anos —, ela poderia ser usada para desinformação ou propaganda", disse Clark à MIT Technology Review. Ele conta que até usou a ferramenta para gerar passagens em pequenas histórias de ficção científica com sucesso surpreendente. 

Fonte: MIT Technology Review