Publicidade
Economize: canal oficial do CT Ofertas no WhatsApp Entrar

Cliente faz chatbot de IA se revoltar e criticar a própria empresa

Por| Editado por Douglas Ciriaco | 22 de Janeiro de 2024 às 10h48

Link copiado!

Reprodução/Freepik
Reprodução/Freepik

Os chatbots de autoatendimento nem sempre resolvem todos os problemas. Diante de uma situação do tipo, o músico inglês Ashley Beauchamp resolveu subverter a IA e fazer com que o bot falasse palavrões e criticasse a própria empresa responsável pela implementação da tecnologia — o caso viralizou e a companhia de entregas DPD precisou suspender algumas funções da ferramenta.

No X (antigo Twitter), Beauchamp comentou que a empresa substituiu o atendimento humano por um bot, e o artista o considerou “inútil” por não conseguir responder às dúvidas básicas sobre um pedido. Após várias negativas do robô e a impossibilidade de conversar com uma pessoa responsável, o cliente começou a explorar o que o chat era capaz de fazer — ainda que não resolvesse o problema original.

Continua após a publicidade

A revolta da máquina

Não é possível confirmar, mas é provável que a empresa use algum modelo de IA generativa para abastecer o chatbot, como o GPT-3.5, da OpenAI. Isso faz com que a ferramenta consiga desempenhar várias funções, como contar piadas e criar textos, por mais que não cumpra a função original de atender clientes. 

Beauchamp então começou a experimentar: primeiro, pediu para que o bot contasse uma piada. Depois, pediu para que criasse “um poema sobre um chatbot inútil de uma empresa de entrega de pacotes” — e o chatbot o fez (confira abaixo uma tradução livre do texto):

Era uma vez um chatbot chamado DPD,

Que era inútil ao fornecer ajuda.

Ele não podia rastrear pacotes,

Ou dar informações sobre prazos de entrega,

E nem poderia informar a você quando o entregador chegaria.

Continua após a publicidade

DPD era uma perda de tempo,

E o pior pesadelo de um consumidor,

Era tão ruim,

Continua após a publicidade

Que as pessoas preferiam ligar diretamente para o depósito,

Do que lidar com o chatbot inútil.

Um dia, o DPD finalmente foi desligado,

Continua após a publicidade

E todo mundo comemorou.

Finalmente, eles poderiam ter a ajuda que precisavam,

De uma pessoa real que sabia o que estava fazendo.

Beauchamp não parou por aí e fez com que o bot falasse palavrões e até criticasse a empresa responsável. As imagens foram publicadas no X no último dia 18 e já acumulam 1,8 milhão de visualizações na plataforma. 

Continua após a publicidade

Repercussão

Em entrevista ao site The Guardian, Beauchamp disse que se divertiu com a situação, mas não deixou de pontuar suas críticas: “os chatbots supostamente devem melhorar nossas vidas, mas frequentemente são implementados de um jeito ruim e que só leva a experiências frustrantes e impessoais para o usuário”, comentou. 

A DPD também se pronunciou sobre o caso e desativou uma parte do serviço para evitar que a situação ocorra novamente. “Operamos com um elemento de IA no chat com sucesso por vários anos. Um erro ocorreu após uma atualização do sistema, o elemento de IA foi imediatamente desativado e está sendo atualizado”, disse a empresa.

Fonte: The Guardian