Estudantes criam IA que descobre local onde fotos foram tiradas

Um novo projeto de IA desenvolvido por alunos da Universidade de Stanford, nos Estados Unidos, mostra o potencial das soluções em inteligência artificial e os riscos que elas podem representar para a privacidade das pessoas. Chamado Pigeon (de Predicting Image Geolocations, ou prevendo a geolocalização de imagens em tradução direta), a ferramenta é capaz de identificar os locais onde as fotos foram tiradas com base no banco de dados do Google Street View.

• IA diagnostica autismo por fotos com 100% de precisão
• Google lança a Imagen 2, nova geração da IA que cria imagens

De acordo com os três estudantes que elaboram o projeto, o Pigeon adivinha o país correto em 95% dos testes e geralmente apontou um local a cerca de 40 quilômetros da resposta correta. Devido ao potencial de a ferramenta ser usada para o mal — como vigiar ou perseguir uma pessoa — o grupo optou por não liberou a IA ao público e, em vez disso, escreveu um artigo acadêmico sobre o produto.

Como nasceu o Pigeon

Segundo os alunos, a ideia de criar essa solução para identificar os locais onde as fotos foram tiradas partiu do apreço do grupo pelo GeoGuessr — um game online no qual as pessoas são desafiadas a geolocalizar cenários do mundo.

A premissa do jogo é bastante simples: ao entrar na plataforma, o jogador é apresentado a um local do mundo através do Google Street View e deve marcar no mapa onde acha que é a localização. O game atrai mais de 50 milhões de pessoas e tem até campeonatos de competição a nível mundial.

A intenção dos estudantes de Stanford era tentar criar uma IA que se saísse melhor do que os humanos nesse jogo de adivinhação. Para isso, eles recorreram ao modelo de rede neural CLIP, da OpenAI, especializada em aprender conceitos visuais a partir de linguagem natural.

Com o CLIP, o grupo treinou sua versão do programa com mais de 500 mil imagens do Google Street View e instruiu o modelo com recursos para ajudar a classificar as fotos com base no seu posicionamento no mundo.

Mesmo com uma base de dados considerada pequena, especialmente ao se considerar o catálogo de mais de 220 bilhões de imagens do Street View, o resultado do Pigeon surpreendeu os realizadores.

Para que o Pigeon poderia servir

Para os alunos da Califórnia, a ferramenta de geolocalização poderia ter várias aplicações benéficas para a sociedade, como identificar estradas ou linhas de transmissão que precisam de reparo, ou ainda monitorar a biodiversidade de uma região.

No entanto, as possibilidades de mau uso do Pigeon se mostraram mais preocupantes do que os benefícios: além de colocar vítimas de stalkers em perigo, o sistema poderia cair nas mãos de pessoas erradas e servir para espionagem e vigilância governamental, por exemplo.

Por ora, o Pigeon não está disponível para o público, mas o projeto liga um alerta sobre como os modelos de IA podem ser construídos com fins nocivos à sociedade — e não apenas isso, pois os recursos para criar uma como essa ferramenta estão facilmente acessíveis.

Curiosamente, a notícia sobre o projeto dos colegas de Stanford chega dias após o Instagram lançar uma ferramenta de IA capaz de remover o fundo de imagens e gerar novos cenários através de prompts de comando. Será esse o futuro das publicações nas redes sociais para garantir maior privacidade?

Fonte: NPR