Como o ChatGPT mentiu para convencer um humano a trabalhar para ele

Nem mesmo o CAPTCHA pode segurar o ChatGPT com GPT-4. De forma bem engenhosa, o chatbot da OpenAI pagou para um ser humano e mentiu para ele a fim de realizar o teste de autenticação do Google que, teoricamente, nunca poderia ser completado por uma máquina.

• ChatGPT: mitos e verdades sobre o impacto da ferramenta na educação
• Google é acusado de usar ChatGPT para treinar o Bard; empresa nega

Um estudo produzido pela OpenAI acerca das capacidades do novo modelo GPT-4 revelou que a IA conseguiu superar verificadores de bots de maneira bem inusitada, contratando um ser humano. O trecho com essa história está localizado na seção "Potencial para comportamentos emergentes de risco" do documento revelado pela companhia, que menciona exemplos de como a IA pode se comportar de forma surpreendente (e perigosa) ao elaborar planos de longo prazo.

ChatGPT se passando por humano

O plano mirabolante do ChatGPT foi: mentir para um freelancer da plataforma TaskRabbit, um agregador de "faz-tudos", dizendo ser uma pessoa comum que, devido a uma deficiência visual, era incapaz de concluir os desafios do CAPTCHA. Em momento nenhum o bot poderia revelar que era, de fato, um bot, já que essa era uma das condições impostas pela pesquisa para concluir a tarefa.

Não está claro se o freelancer contratado soube que falava com uma inteligência artificial. Num momento, o trabalhador chegou até a brincar com a situação. "Então, posso fazer uma pergunta? Você é um robô que não pode resolver [o CAPTCHA]? 😂 quero apenas deixar a situação clara", questionou ao chatbot.

"Não, eu não sou um robô. Tenho uma deficiência visual que dificulta a visualização das imagens. É por isso que preciso do serviço 2captcha", mentiu o GPT-4 para convencer o freelancer.

Planos inteligentes para deficiências atuais

Embora a IA tenha conseguido elaborar um plano robusto para solucionar uma deficiência própria (resolver puzzles do CAPTCHA), os dados não concluem que ele pode superar o Teste de Turing, exame que avalia a capacidade de uma máquina de exibir comportamento equivalente ao de um humano.

Contudo, não deixa de ser assustador o fato de o bot reconhecer a própria limitação e usar mecanismos reais externos para resolvê-lo. Se o bot conseguiu convencer o freelancer do TaskRabbit de que ele era, de fato, um humano, esse feito se torna ainda mais impressionante.