Dona do ChatGPT encerra ferramenta que identificava textos feitos por IA

A OpenAI anunciou o encerramento da AI Classifier, uma ferramenta que tinha o objetivo de identificar textos criados por inteligência artificial. A companhia, responsável pelo ChatGPT, informou que a descontinuidade se deve à baixa precisão do programa em detectar os materiais produzidos por IA.

• App oficial do ChatGPT para Android já está disponível para download
• O que é ChatGPT? | Como usar a IA em português

O AI Classifier era uma resposta da OpenAI sobre a crescente preocupação, especialmente de estudiosos e acadêmicos, em relação à autoria de textos e publicações.

Discussões sobre textos gerados por IA

Desde que o ChatGPT ganhou popularidade e chamou a atenção do mundo para os textos gerados por IA, muitas previsões — positivas e negativas — têm sido feita sobre as aplicações da tecnologia.

De um lado, há áreas de conhecimento que se beneficiam dos recursos de inteligência artificial para aumentar a produtividade, agilizar cálculos e testar códigos. De outro, setores profissionais inteiros temem a substituição da mão de obra especializada por ferramentas da IA generativa.

Para educadores, a capacidade de chatbots como o ChatGPT de produzir textos em todos os estilos e formatos representou um novo desafio em sala de aula — ou melhor, nas tarefas de casa. A dificuldade de identificar quais textos foram realmente desenvolvidos pelos alunos obrigou professores a adotarem novos processos de ensino.

Ao mesmo tempo, a experiência de uso de plataformas como o ChatGPT e o Bard tem se revelado falha. Os chatbots cometem erros, não citam fontes e por vezes até “alucinam” — termo usado quando as IAs inventam dados e fatos sem qualquer embasamento.

Fim do AI Classifier

Esse cenário de incertezas quanto às aplicações de inteligência artificial tem gerado debate em diferentes escalões. Nos Estados Unidos, o governo se encontrou na semana passada com representantes de sete empresas de tecnologia para solicitar o desenvolvimento de um sistema que identifique os conteúdos gerados por IA — não apenas textos, mas também imagens e vídeos.

A OpenAI era uma dessas empresas que se comprometeram a colaborar nessa tarefa. No entanto, a baixa precisão do AI Classifier obrigou a companhia a descontinuar a ferramenta.

Ao informar sobre o encerramento do AI Classifier, a OpenAI afirmou que “pesquisa técnicas de proveniência mais eficazes e se compromete a desenvolver mecanismos que ajudem os usuários a identificar quais conteúdos de áudio e vídeo são gerados por inteligência artificial”.