Pesquisadores criam ferramenta para burlar sistemas de reconhecimento facial

Por Felipe Demartini | 03 de Agosto de 2020 às 17h17
Yahoo News

Pesquisadores da Universidade de Chicago, nos Estados Unidos, estão desenvolvendo um método capaz de burlar plataformas que utilizem reconhecimento facial. A ideia da ferramenta, que já está disponível para desenvolvedores e deve ser lançada em breve para usuários finais, é bagunçar os parâmetros dos pixels de uma imagem de forma quase imperceptível aos olhos das pessoas, mas que impeçam a identificação por sistemas de vigilância.

O Fawkes, como foi batizada a solução, é focado em sistemas que usam imagens para criar um banco de dados que, mais tarde, é usado para identificar pessoas em imagens de câmeras de segurança. Tais tecnologias reconstroem o rosto das pessoas a partir das fotografias, e é justamente isso que a plataforma tenta impedir ao embaralhar os pixels, inserindo características faciais de terceiros e impedindo a criação desse tipo de perfil facial.

Em sua prova de conceito, os pesquisadores utilizaram fotos da atriz Gwyneth Paltrow embaralhadas com características de imagens do ator Patrick Dempsey. O Fawkes foi colocado à prova em sistemas de reconhecimento facial usados por empresas como Microsoft, Amazon e Megvii, da China, e obteve sucesso nos três experimentos, com o processo de embaralhamento impedindo que as plataformas reconhecessem o rosto da intérprete, mesmo após a análise de diferentes imagens dela, a partir de ângulos variados e em diferentes características de qualidade, fundo e iluminação.

Fawkes faz alterações sutis nos pixels das fotos, a partir de um banco de dados de celebrirdades, para impedir identificação por sistemas de vigilância (Imagem: Divulgação/Universidade de Chicago)

Segundo o estudo, o Fawkes também é capaz de burlar a plataforma de reconhecimento facial do Facebook e do Google Fotos, utilizados pelas companhias para criar correspondências instantâneas em fotos hospedadas nos serviços e fazer sugestões de marcação. O inimigo claro dos pesquisadores, entretanto, é a Clearview AI, startup que coletou bilhões de fotografias de pessoas internet afora para criar uma ferramenta de vigilância policial que ligaria indivíduos flagrados por câmeras a perfis em redes sociais.

A ideia do estudo da Universidade de Chicago, então, seria impedir a criação desse banco de dados. O algoritmo do Fawkes funciona a partir de uma coleção de milhares de fotos de celebridades, fazendo correspondências com o que seria a pessoa “menos parecida possível” com o retratado. Como a plataforma não faz distinção de gênero, como forma de dificultar ainda mais possíveis detecções, os resultados nem sempre são sutis o bastante, com pessoas sem barba recebendo “sujeiras” no rosto e maquiagens exacerbadas deixando alguns indivíduos com a aparência semelhante à de um panda.

Quando tudo funciona, entretanto, o resultado chega a ser impressionante — apesar de, em um olhar mais atento, ser possível perceber que há algo de esquisito na imagem. Trata-se, claro, de um sistema ainda em desenvolvimento e que deve ganhar características adicionais no futuro. A ideia dos responsáveis é conscientizar os usuários e, quem sabe, fazer com que eles entendam a necessidade de disfarçar as imagens postadas na internet.

Tarde demais

Fawkes já está disponível para desenvolvedores e deve ganhar app em breve; responsáveis por sistemas de vigilância afirmam ser tarde demais para que plataformas assim sejam eficazes (Imagem: Amr Alfiky/The New York Times)

Os responsáveis pela Clearview AI, entretanto, minimizam a eficácia da plataforma. Em entrevista ao jornal americano The New York Times, Hoan Ton-That, CEO da startup, afirmou ser tarde demais para que um sistema desse tipo seja eficiente, já que a quantidade de fotos hospedadas na rede e já capturadas pela plataforma é gigantesca. Além disso, ele afirma que testes internos comprovaram que o embaralhamento feito pelo Fawkes não foi capaz de impedir a criação de um perfil facial como o usado pelo algoritmo.

Já Joseph Atick, pioneiro em sistemas de reconhecimento facial, acredita que a única alternativa possível diante do estado atual destas tecnologias é que legisladores e governos garantam o direito das pessoas ao anonimato contra plataformas desse tipo. Toda tecnologia que tente suplantar os algoritmos existentes “vai perder”, afirma ele, já que estamos falando de um jogo de gato e rato no qual o poder das corporações sempre terá vantagem.

Apesar disso, não é como se sistemas como o Fawkes fossem inúteis. A professora de direito Elizabeth Joh, da Universidade da Califórnia, afirma que plataformas como estas são como um grito de protesto e que, na união de tais sistemas com legislações fortes que privilegiem a privacidade, se cria um ambiente em que recursos de reconhecimento facial são usados de maneira legítima e não de forma ostensiva.

Ela indica, por exemplo, que empresas como o Facebook deveriam se posicionar, adicionando sistemas como o Fawkes automaticamente aos uploads de imagens nas plataformas. E a surpresa, ao final da reportagem do The New York Times, é a declaração da rede social de que, apesar de utilizar um algoritmo desse tipo para identificar usuários em fotos, também trabalha na aplicação de tecnologias assim para aumentar a privacidade de seus utilizadores diante de terceiros.

Fonte: The New York Times

Gostou dessa matéria?

Inscreva seu email no Canaltech para receber atualizações diárias com as últimas notícias do mundo da tecnologia.