Sistema de verificação por selfie do Instagram é enganado por uma boneca Barbie

Nesta semana, o Instagram começou a fazer alguns testes mais efetivos com um sistema de inteligência artificial para barrar a entrada de fakes e crianças na rede social. A ideia é exigir que a pessoa faça uma selfie de vídeo com a câmera do celular para o algoritmo identificar se ela é realmente quem diz ser. Mas, por enquanto, parece que o mecanismo ainda precisará de mais ajustes, pois pode ser facilmente enganado com o rosto de uma boneca Barbie.

• Instagram terá novo obstáculo para barrar entrada de fakes e crianças
• Instagram testa alertas para usuário fazer pausas no uso do app, mas há um porém
• Instagram prejudica os jovens? 4 pesquisas põem rede social na mira

Em um vídeo postado no YouTube, o usuário Alexander Chalkidis mostrou como o recurso de vídeo selfie falhou ao conferir uma identidade real para uma boneca Barbie. Ele vira a cabeça do brinquedo de um lado para o outro e o algoritmo aceita como se fosse uma pessoa, sem sequer conseguir diferenciar a boneca do perfil de Chalkidis, declarado na rede como homem e com uma foto dele mesmo careca.

O algoritmo de verificação de selfies data do ano passado, mas passou por um longo período de ajustes até entrar em um novo momento experimental. Na época do primeiro teste, usuários reclamaram não ter sido possível verificar a identidade com o recurso, mesmo com tentativas reiteradas. Agora, parece que a rigidez da análise foi afrouxada em excesso, já que nem é preciso ser humano para ingressar na rede social.

É claro que tudo ainda não passa de uma versão inicial e ainda deve passar por muitos ajustes até a liberação para o usuário. O Instagram ainda não comentou sobre o mecanismo de identificação nem sobre as potenciais falhas dele — e provavelmente só irá fazê-lo quando tudo for oficializado.

Tentativa de barrar quem não devia entrar

A adição desse obstáculo é muito bem-vinda para evitar o uso de bots, perfis falsos e até de pessoas com menos de 12 anos na rede social. Hoje, a plataforma de Adam Mosseri usa apenas alguns recursos de inteligência artificial para tentar identificar essas contas e bani-las em definitivo, mas nem sempre isso se mostra eficiente.

No caso das crianças, por exemplo, basta mentir a data de nascimento para conseguir a entrada na rede sem grande dificuldade, o que até levou a companhia a propor a confecção do Instagram for Kids, suspenso após a repercussão negativa. Já os robôs são comumente usados para inflar os perfis com seguidores falsos, o que ajuda a liberar os recursos exclusivos de 10 mil seguidores e ganhar mais apelo junto a marcas.

Fonte: Alexander Chalkidis