Falha no reconhecimento facial do Google Fotos classifica usuário como "gorila"

Em mais um caso de descuido com o desempenho de suas ferramentas, o Google acabou entrando em um grande problema por causa do novo recurso de reconhecimento de imagens do Google Fotos. O serviço foi aprimorado e agora reconhece não só pessoas, mas também locais. Se o cenário for a Torre Eiffel, por exemplo, o programa vai saber que a pessoa está em Paris.

Mas, recentemente, a ferramenta falhou em um nível grotesco: ela reconheceu dois amigos negros, que posavam para a mesma foto, como gorilas. Quem descobriu a falha foi Jacky Alcine, de 21 anos, morador de Nova Iorque e uma das pessoas da foto. Ele conta que estava verificando a sua conta do Google Fotos e se surpreendeu com uma pasta criada automaticamente com o título "Gorillas". Na imagem que foi tirada em 2013, estava ele e uma amiga.

Google Photos, y'all fucked up. My friend's not a gorilla. pic.twitter.com/SMkMCsNVX4 — diri noir avec banan (@jackyalcine) June 29, 2015

O garoto notificou o Google sobre o erro através do Twitter e prontamente recebeu uma resposta de Yonatan Zunger, arquiteto-chefe de mídias sociais da companhia, dizendo que solucionariam o problema em questão de horas. Para isso, ele pediu licença para acessar a conta de Alcine e verificar onde estava o erro. Pouco tempo depois, o caso estava solucionado.

Um porta-voz disse que a companhia sente muito pelo ocorrido e que está tomando as medidas necessárias para evitar que resultados como estes voltem a aparecer. "Claramente, ainda há muito trabalho a fazer com a rotulagem automática das imagens e nós estamos pesquisando como evitar que estes erros aconteçam no futuro", completou.

Alcine diz acreditar que o problema foi causado por um algoritimo do Google e que o caso teria sido evitado com uma melhor e mais precisa classificação de raças, especialmente para pessoas negras. Porém, o representante do Google disse que todas as raças e cores foram testadas.

Mas o problema não é exclusivo do Google. Usuários do Flickr afirmam já terem passado por problemas parecidos quando surgiram palavras-chave como "animal" e "macaco" em suas fotos.

Fonte: Yahoo! Tech