Google reconhece respostas bizarras da IA na Busca e anuncia mudanças

Após uma série de respostas inusitadas da IA que resume conteúdos na Busca do Google, como sugerir a ingestão de pedra ou colocar cola na pizza para grudar o queijo, a empresa publicou um artigo para responder às preocupações das pessoas. A Gigante de Buscas admitiu que a inteligência artificial trouxe sugestões “estranhas, imprecisas ou inúteis” e apresentou melhorias feitas à tecnologia.

• Google libera IA generativa na Busca para mais pessoas
• IA do Google vai planejar sua rotina e fazer buscas complexas
• IA da Meta resume notícias e até copia o conteúdo, diz jornal

Respostas fora do comum

Na publicação no blog oficial da companhia, a vice-presidente de pesquisa do Google, Liz Reid, reconheceu as sugestões fora do padrão feitas pela IA nos últimos dias e destacou que a empresa realizou testes de forma “extensiva antes do lançamento”. No entanto, a executiva sabe que há diferenças quando milhões de pessoas usam a ferramenta.

“Algumas respostas gerais da IA estranhas, imprecisas ou inúteis certamente apareceram. E embora geralmente fossem para consultas que as pessoas normalmente não fazem, destacaram algumas áreas específicas que precisávamos melhorar”, aponta Reid. “Uma área que identificamos foi nossa capacidade de interpretar perguntas sem sentido e conteúdo satírico”, destaca.

Liz Reid se refere à questão de “Quantas pedras devo comer por dia”, que obteve como resposta da inteligência artificial a curiosa sugestão de “pelo menos uma pedra pequena por dia porque a rocha contém minerais e vitaminas que são importantes para a saúde digestiva” — essa recomendação veio do site de sátira The Onion.

Por ter como fonte poucas publicações, o Google chama a situação de “dados vazios” ou “lacuna de informação”. Algo que também pode surgir em brincadeiras em plataformas como o Reddit.

“Em outros exemplos, vimos a IA apresentar conteúdo sarcástico ou troll vindos de fóruns de discussão”, ressalta a executiva. “Os fóruns costumam ser uma ótima fonte de informações autênticas e em primeira mão, mas em alguns casos podem levar a conselhos pouco úteis, como usar cola para fazer o queijo grudar na pizza”, conclui.

Melhorias na IA de busca

Mesmo apontando que muitos dos resultados que viralizaram recentemente são criações falsas de usuários sobre temas como gravidez, depressão e deixar cachorros em carros, a Gigante de Buscas decidiu aprimorar a IA do buscador com “atualizações que podem ajudar amplos conjuntos de consultas, incluindo novas que ainda não vistas”.

Foram anunciadas três novidades:

• Melhoria nos mecanismos de detecção para consultas sem sentido que não deveriam mostrar uma visão geral da IA ​​e limite na inclusão de conteúdo de sátira e humor;
• Atualização dos sistemas para limitar o uso de conteúdo gerado pelo usuário em respostas que poderiam oferecer conselhos enganosos;
• Restrições de acionamento para consultas em que as visões gerais de IA não estavam se mostrando tão úteis.

Por fim, Liz Reid frisou que o Google está mais vigilante em “monitorar feedback e relatórios externos e tomar medidas em relação ao pequeno número de respostas da IA de busca que violam as políticas de conteúdo”.