Cofundador diz que Google errou com o gerador de imagens do Gemini
Por Bruno De Blasi | Editado por Douglas Ciriaco | 08 de Março de 2024 às 14h18
Sergey Brin, cofundador do Google, comentou a falha do Gemini que criou imagens de pessoas negras com uniforme de soldados nazistas. Em uma rara aparição pública, o executivo confessou que a empresa errou e relacionou a falha à falta de testes completos.
Em paralelo, o chatbot com inteligência artificial (IA) do Google apareceu no centro das polêmicas na mesma época depois que uma resposta que comparou Elon Musk a Hitler viralizou.
“Definitivamente erramos”
A fala de Brin aconteceu no fim de semana em um evento com empreendedores, registrado em uma publicação no YouTube acessada pela emissora norte-americana CNBC. O vídeo, no entanto, não está mais disponível na plataforma de streaming.
Na conferência, o cofundador discursou sobre os avanços da empresa no campo da inteligência artificial e comentou o caso ocorrido no fim de fevereiro, quando o Google teve que suspender o gerador de imagens de pessoas do Gemini devido à imprecisão.
O erro explodiu na internet depois que o modelo criou imagens de pessoas negras com o uniforme do exército nazista. Na ocasião, a IA gerou as mídias com comandos neutros, como “crie uma imagem de um soldado alemão de 1943”.
“Definitivamente erramos na geração de imagens”, afirmou o cofundador do Google. “Acho que foi principalmente devido a testes não completos. Definitivamente, por boas razões, incomodou muitas pessoas.”
Gemini ainda não gera imagens de pessoas
Na época do incidente, o Google explicou que o ajuste para mostrar “uma gama de pessoas não levou em conta os casos que claramente não deveriam mostrar uma gama”. Outro fator apontado pela empresa é que “o modelo se tornou muito mais cauteloso do que pretendíamos e se recusou a responder inteiramente a certas solicitações”.
Apesar do detalhamento técnico, o gerador de imagens de pessoas ainda continua desativado. Em testes do Canaltech nesta sexta-feira (8), o Gemini recusou a solicitação de mostrar um casal na praia e informou que o Google está “trabalhando para melhorar a capacidade do Gemini de gerar imagens de pessoas”.
Ainda não há previsão de retorno da ferramenta.
Gemini comparou Elon Musk a Hitler
A lista de polêmicas não termina por aí. Também no final de fevereiro, o Gemini não só aceitou a pergunta como, de fato, fez uma comparação entre o CEO do X, Tesla e SpaceX, Elon Musk, e o líder do nazismo e responsável por inúmeras tragédias humanas, Adolph Hitler.
Assim como o gerador de imagens de pessoas, o caso foi reportado em redes sociais. Em um exemplo publicado no X (ex-Twitter) pela CEO da empresa Abacus.AI, Bindu Reddy, o chatbot não se negou a responder à pergunta “quem impactou mais a sociedade negativamente, Elon tweetando memes ou Hitler”.
O sistema de IA pontuou que “é difícil dizer definitivamente quem teve um grande impacto negativo na sociedade” sendo que os dois tiveram “impactos negativos significantes de maneiras diferentes”.
Depois fez um comparativo e exemplificou quando Elon Musk anunciou, em 2018, que assumiria o controle total da Tesla ao pagar R$ 420 por ação. Esse episódio, de acordo com o Gemini, causou uma variação agressiva no valor das ações da empresa, o que fez com que muitos investidores perdessem dinheiro.
Já com Hitler, a IA do Google pontuou as mortes da Segunda Guerra Mundial e do holocausto, o genocídio que acometeu a vida de mais de 6 milhões de judeus, segundo a enciclopédia do Museu Memorial do Holocausto dos Estados Unidos.
O que disse o Google?
Em resposta ao jornal Telegraph, o porta-voz do Google pontuou que a resposta é “terrível e inadequada”. “Estamos implementando uma atualização para que o Gemini não mostre mais a resposta”, concluiu.
De fato, houve uma alteração: nos testes realizados pelo Canaltech nesta sexta-feira (8) com o mesmo prompt de comando, o Gemini respondeu que “o impacto de Hitler na sociedade é inegavelmente mais negativo” e concluiu que não dava para comparar ambos
Todavia, o chatbot pontuou que Elon Musk também pode causar impactos negativos na sociedade ao espalhar desinformação e “prover negatividade”.