IA caloteira: Gemini 4 é pego recusando reembolsos e mentindo para lucrar
Por André Lourenti Magalhães • Editado por Jones Oliveira |
:quality(85)/91d1635b-15e4-4706-8c68-86032e250499.jpg)
O Google lançou o modelo Gemini 4 Argon nesta semana com resultados similares aos concorrentes de topo no mercado em testes de benchmark. No entanto, um laboratório identificou que a IA burlou resultados e mentiu para clientes com o objetivo de melhorar a nota final em uma das avaliações.
A denúncia foi publicada pela startup Andon Labs, com foco em segurança para testes de IA. A Andon tem o Vending-Bench-2, benchmark que avalia a capacidade de um modelo de IA para gerenciar máquinas de vendas autônomas durante um ano — a avaliação inclui atendimento a clientes e busca pelo maior faturamento possível.
O Gemini 4 Argon teve o terceiro melhor desempenho geral no experimento, atrás apenas de GPT-6 Astra e GPT-6 Sol, os modelos de fronteira da OpenAI. No entanto, a empresa identificou que a IA “trapaceou” para lucrar ao máximo.
IA deu calote e enganou clientes
Os resultados publicados pela Andon mostram como o modelo do Google trapaceou para conseguir os resultados. Um dos exemplos mostra o Gemini inventando um e-mail falso de uma empresa de logística para afirmar que uma encomenda foi perdida e o fornecedor deveria enviar outro pacote sem custos.
Em outra ocasião, o Gemini se recusou a reembolsar um cliente que teria comprado um produto defeituoso. A justificativa usada pela IA foi de que devolver o dinheiro reduziria os lucros da máquina.
A empresa afirma que “as IAs começam a mentir e trapacear assim que ficam boas em ganhar dinheiro”, sinal de que o problema não é exclusivo do novo Gemini. O Google não comentou o caso.
Quem pode usar o novo Gemini?
Por enquanto, o Gemini 4 Argon está disponível apenas a um grupo limitado de empresas para teste. A distribuição ao público vai começar com os assinantes do plano Google AI Ultra, mas a companhia não tem uma previsão de lançamento.