Google muda algoritmo da busca para evitar resultados ofensivos ou inesperados

O Google fez uma modificação no seu buscador para trazer mais segurança para o usuário e evitar a exibição de resultados inesperados, potencialmente ofensivos ou chocantes. Isso foi possível graças aos avanços feitos com os sistemas de inteligência artificial da companhia, como o BERT, algoritmo de processamento de linguagem natural, e o MUM (Multitask Unified Model), que detecta com maior precisão o contexto e a intenção por trás das pesquisas.

• Especial do Google celebra os 3 bilhões de novos usuários da internet
• Google demonstra a nova IA que pode revolucionar as buscas na internet

O BERT ajuda o mecanismo de busca a entender quando a pessoa quer encontrar conteúdo explícito de quando ela apenas pesquisa por assuntos mais genéricos. Quando você procura por casos de racismo, por exemplo, deve estar em busca de exemplos relatados sobre tema e não de alguém sendo agredido violentamente por ser negro.

Segundo a companhia, apenas em 2021, os avanços na tecnologia permitiram reduzir em até 30% a exposição de resultados potencialmente chocantes ou ofensivos. "Essa tecnologia é particularmente eficaz na hora de diminuir a exibição de conteúdo explícito em pesquisas relacionadas a questões de etnia, orientação sexual e gênero — temas que têm um impacto muito maior para mulheres, sobretudo mulheres negras”, explicou a Vice-presidente da Busca, Pandu Nayak, em texto publicado no blog do Google.

Os algoritmos de segurança do Google são aprimorados todos os dias graças às milhões de pesquisas feitas em nível global, tanto em texto quanto em vídeos ou imagens. A empresa já oferece o modo SafeSearch que cria filtros para barrar resultados indesejados — para menores de 18 anos, o uso é padrão. Mesmo assim, o Google trabalha para reduzir resultados controversos de modo mais amplo.

Resultados mais precisos para a intenção desejada

O buscador do Google deixou de ser apenas uma ferramenta de pesquisa, pois as pessoas recorrem a ele com dúvidas sobre gramática, para saber se vai chover ou para receber uma palavra de conforto em momentos difíceis. Quando a pesquisa envolve temas delicados como suicídio, violência doméstica e agressão sexual, o sistema direciona para dados de contato de entidades que podem oferecer apoio.

Aqui no Brasil, o resultado pode apontar para um canal direto de contato com o Centro de Valorização à Vida (CVV), via chat ou telefone. Lá as pessoas contam com profissionais qualificados para ajudar a sair daquela crise terrível, algo muito mais eficaz do que ler sobre o assunto em um blog desconhecido.

Com o MUM, as pesquisas são ainda mais expandidas, sem a necessidade de o usuário ter que digitar exatamente os termos específicos. A IA entende as entrelinhas da pesquisa e consegue saber se aquela pesquisa é algo ocasional ou se pode ter um toque de depressão e outros transtornos mentais envolvidos.

Anunciado com ênfase na Google I/O do ano passado, o MUM foi exaustivamente testado em inglês, mas também passou por um longo período de aprimoramento na língua portuguesa. Ao longo das próximas semanas, o mecanismo deve ser gradualmente implementado para apresentar resultados eficazes mesmo quando os termos de pesquisa forem pouco precisos.

O que é o MUM?

Dados do Google mostram que o MUM pode transferir conhecimento entre os 75 idiomas em que é treinado, o que significa que ele não depende apenas dos falantes de uma língua. Isso possibilita o uso da IA para reduzir a quantidade de páginas de spam, indesejadas e terríveis para os resultados de pesquisa.

O foco agora é expandir esta IA para os idiomas nos quais a companhia ainda tem poucos dados de treinamento. Assim, será possível identificar melhor os momentos de crise em diversos lugares do mundo, com apoio de organizações locais.

Fonte: Google