McAfee encontra falhas de segurança em sistemas de reconhecimento facial

O velho bug mental de vermos uma pessoa e a confundirmos com outra pode ser uma realidade, também, para as máquinas. É o que demonstrou uma pesquisa da McAfee, empresa especializada em segurança da informação, que foi capaz de burlar sistemas como os usados no controle de passaportes em aeroporto mesmo que eles utilizem reconhecimento facial, fazendo com que uma foto de uma pessoa seja reconhecida como outra pelos computadores.

• Pesquisadores criam ferramenta para burlar sistemas de reconhecimento facial
• Reconhecimento facial do futuro poderá desbloquear telefone analisando sua pele
• COVID-19 | Uso de máscaras está quebrando os sistemas de reconhecimento facial

É o que, no jargão técnico, é chamado de model hacking, uma manipulação dos parâmetros de reconhecimento usados por tecnologias desse tipo para gerar resultados contrários dos normalmente esperados. No caso da pesquisa da McAfee, a ideia foi fazer com que um sistema desse tipo reconhecesse um dos líderes do projeto como se fosse o outro, e vice-versa, a partir de alterações nas fotos que são imperceptíveis ao olho humano, mas tragam as características necessárias para confundir o reconhecimento facial.

Para fazer isso, o time de pesquisadores utilizou 1.500 fotos de cada um deles, passadas por um algoritmo chamado CycleGAN para alteração de estilo. A ideia da tecnologia é transformar, por exemplo, imagens reais em pinturas usando o estilo de artistas consagrados, mas aqui, a ideia foi fazer com que o retrato de um se transformasse no do outro. Centenas de resultados foram gerados e alguns deles foram efetivamente capazes de enganar o sistema de reconhecimento facial.

O pulo do gato acontece no coração do funcionamento desse tipo de sistema, que se baseia na foto do passaporte e a compara com a pessoa que está diante da câmera. Em uma imagem manipulada, o sistema buscará pelas características erradas e poderá gerar um falso positivo, gerando problemas no controle de fronteiras ou permitindo que listas de banimento aéreo ou potenciais riscos de segurança, por exemplo, sejam ignorados.

O time de especialistas já havia realizado um estudo semelhante antes, burlando a detecção de câmeras presentes em veículos da Tesla para direção autônoma por meio de alterações físicas em placas de trânsito para sinalização ou velocidade. Este método, porém, é citado como mais arrojado e, também, abre portas mais perigosas na utilização de um sistema que aparece na esmagadora maioria dos aeroportos internacionais ao redor do mundo.

Existem, claro, obstáculos tecnológicos. Os pesquisadores citam, por exemplo, que cada fornecedor de tecnologia aeroportuária pode ter adicionado especificidades aos sistemas que, em teoria, não foram levados em conta no estudo, indicando que acesso direto a cada plataforma pode ser necessário. Além disso, há de se levar em conta a necessidade de alto poder computacional para a criação das imagens, que exigem milhares de amostras e um longo tempo de processamento.

Enquanto o segundo caso pode ser resolvido mais facilmente, digamos, o primeiro desafio não é tão simples, mas ainda assim, não torna a manipulação da tecnologia de reconhecimento impossível. Além disso, a McAfee cita que sistemas semelhantes aos de controle de passaportes também estão sendo usados por agências de segurança e até empresas de recursos humanos, em alternativas que, se já preocupavam do ponto de vista da segurança, agora ganharam um novo ponto de tensão.

Os pesquisadores chamam a atenção para outros pontos, como a necessidade do uso de máscaras diante da pandemia do coronavírus, e os protestos de partidários da privacidade e a postura contrária de alguns governos diante desse tipo de vigilância. Acima de tudo, o recado é para que sistemas desse tipo não sejam encarados às cegas pelos seus administradores, que precisam entender que, assim como toda a qualquer tecnologia, ela também pode ser hackeada.

Fonte: MIT Technology Review