Cientistas desenvolvem algoritmo que determina se um texto foi escrito por bots

No mês passado, desenvolvedores da OpenAI anunciaram que haviam construído um algoritmo de geração de texto chamado GPT-2, que afirmaram ser perigoso demais para ser lançado ao público, já que ele poderia ser usado para poluir a web com infinitos materiais escrito gerados por bots — mais ainda do que já acontece em redes sociais.

Mas agora, uma equipe de cientistas do Laboratório de Inteligência Artificial do MIT, da IBM e da Universidade de Harvard construíram um algoritmo chamado GLTR, que determina a probabilidade de uma determinada passagem de texto ter sido escrita por uma ferramenta como a GPT-2.

Quando o OpenAI revelou o GPT-2, eles mostraram como o sistema poderia ser usado para escrever artigos de notícias fictícios, porém convincentes, e o fizeram compartilhando um texto escrito por outro algoritmo, que falava sobre a ciência ter descoberto a existência de unicórnios. O GLTR usa exatamente os mesmos modelos para ler o resultado final e prever se tal texti foi escrito por um ser humano ou um bot como o GPT-2. Assim como o algoritmo escreve frases prevendo quais as prováveis palavras que devem sucedê-la, o GLTR determina se uma sentença utiliza palavras que, possivelmente, teriam sido selecionadas por um bot de redação de notícias falsas.

Os cientistas que trabalharam no projeto dizem que os textos gerados artificialmente se valem de palavras posicionadas de uma forma que parecem ter sido escritos por pessoas, formando um ”truque que engana os humanos". Ainda, explicam que os textos escritos manualmente, por outro lado, apresentam certa diferença por mesclarem palavras um tanto imprevisíveis, mas que trazem sentido ao contexto geral.

Os membros da IBM, MIT e Harvard, que estão por trás desse trabalho, criaram um site onde as pessoas podem testar o GLTR. A ferramenta destaca palavras em cores diferentes com base na probabilidade de terem sido escritas por um algoritmo, onde o verde significa que a frase corresponde ao GPT-2, enquanto tons de amarelo, vermelho e roxo indicam que, muito provavelmente, o material deve ter sido escrito por um humano.

Fonte: Futurism