Desenvolvedor aponta falhas em sistema da Apple contra abuso infantil

Uma tecnologia anunciada em maio como grande aliada da segurança contra o abuso infantil está sendo questionada por especialistas antes mesmo de ser aplicada aos usuários do iOS. O sistema, chamado de NeuralHash, seria capaz de detectar a pose de imagens de pedofilia nos celulares de criminosos, mas de acordo com as análises realizadas, pode ser suscetível a manipulação e gerar falsos positivos.

• Apple confirma que vai monitorar usuários em busca de imagens de abuso infantil
• iOS 15 é anunciado pela Apple; confira todas as novidades da atualização
• iOS 15 | Saiba quais iPhones vão receber a atualização

A ideia da tecnologia é usar a leitura de hash, uma sequência numérica que pode identificar as imagens, para detectar a posse desse tipo de material. De forma automatizada, o iOS compararia os dígitos encontrados com aqueles compartilhados por organizações de luta contra o abuso infantil; quando múltiplas coincidências fossem encontradas, a conta do usuário no iCloud seria marcada para verificação manual e, após confirmação, denunciada às autoridades competentes.

O problema é que, após uma análise de engenharia reversa, o especialista Ashuhariet Ygvar encontrou conflitos que podem colocar em xeque a confiabilidade da plataforma. Em um código publicado no GitHub, oriundo de um trabalho que, originalmente, serviria para que os desenvolvedores entendessem melhor o sistema fechado da Apple, ele descobriu diferentes instâncias da chamada “colisão de hash”, quando duas imagens completamente diferentes produzem os mesmos identificadores.

O problema de confiabilidade foi corroborado por especialistas em criptografia e se uniu aos comentários de outros, que desde a revelação do NeuralHash, já demonstravam como o sistema poderia ser manipulado. Forças governamentais, por exemplo, poderiam usar hashes fraudados para atacar inimigos políticos, a partir de arquivos legítimos; da mesma forma, caso o sistema caísse em mãos erradas, o material identificado poderia ser alterado, de forma a listar dissidentes.

Um dos que apoiaram a descoberta de Ygvar foi Kenneth White, especialista em criptografia e fundador do projeto de auditoria Open Crypto. De acordo com ele, é preocupante o fato de o NeuralHash, que foi localizado como um código ofuscado no iOS 14.3, apresentou colisão de hash em questão de horas, um tipo de análise que já fez com que outras iniciativas do tipo fossem abandonadas pela falta de confiabilidade.

Apesar de não ter emitido um comentário oficial sobre o assunto, a Apple afirmou ao site TechCrunch que a verificação manual das contas identificadas existe, justamente, para evitar a manipulação do sistema e a ocorrência de falsos positivos. A empresa teria minimizado a descoberta dos especialistas, apontando que uma versão “genérica” do NeuralHash foi analisada, e não o sistema completo e mais avançado que deve chegar aos celulares até o final deste ano, como parte da atualização para a versão 15 do iOS.

A descoberta deve acirrar ainda mais a pressão sobre a Maçã, que já vinha sendo alvo de críticas por organizações de proteção à privacidade e liberdade individual. Uma das vozes mais fortes é a de Manuel Hoferlin, diretor do comitê de agenda digital do parlamento alemão, que assinou uma carta aberta pedindo que a Apple não implemente o sistema.

Fonte: TechCrunch, Kenneth White