Sistema de reconhecimento facial é considerado ilegal por corte do Reino Unido

Uma corte do País de Gales considerou ilegal o uso de sistemas automáticos de reconhecimento facial pela polícia de South Wales, em uma batalha judicial que vinha acontecendo desde meados de 2018. Agora, após ter inicialmente dispensado o processo, os juízes emitiram parecer positivo à disputa, afirmando que a utilização da tecnologia não cumpre regras básicas de privacidade e proteção de dados, além de não ter normas de utilização claras e constituir brechas nas leis de direitos humanos.

• Sem consentimento, pesquisas de reconhecimento facial usam selfies do Instagram
• COVID-19 | Uso de máscaras está quebrando os sistemas de reconhecimento facial

O processo foi movido pela Liberty, grupo britânico de proteção aos direitos individuais, em nome de Edward Bridges, estudioso e militante em assuntos de privacidade e liberdade individual. Na ação inicial, ele afirmava que seu rosto foi registrado e processado de forma indevida em duas ocasiões, em dezembro de 2017 e março de 2018, por um sistema chamado AFR Locate, que era usado pela polícia de South Wales em eventos públicos.

De acordo com as informações oficiais das autoridades do distrito, a ferramenta de reconhecimento facial automatizado seria utilizada em conjunto com uma lista de 480 a 800 indivíduos, de acordo com a localização do evento. A ideia seria identificar, em meio à multidão, procurados pela justiça, foragidos, prisioneiros fugitivos, pessoas de interesse do ponto de vista da segurança nacional ou desaparecidos. Os rostos dos presentes seriam registrados e processados pela tecnologia, que os comparariam com o banco de dados e indicaria aos policiais sobre possíveis resultados positivos.

O processo movido pela Liberty e Bridges está relacionado, justamente, a esse tipo de identificação automática, que poderia levar a falsos positivos. Além disso, a ação exibia preocupações quanto à captura e processamento dos rostos daqueles que não estão no banco de dados usado, algo que iria contra leis de privacidade e direito a ser esquecido em vigor no Reino Unido, que na ocasião, fazia parte da União Europeia, onde regras desse tipo também estão vigentes.

O caso, entretanto, foi considerado improcedente em setembro, com dois juízes considerando legal o uso da tecnologia. A Liberty, entretanto, revisou o processo, recorreu e obteve decisão favorável na última semana, com a corte dando parecer positivo a três das cinco alegações feitas pelo grupo, recomendando também a interrupção no uso do AFR Locate até que tais questões sejam solucionadas.

Os juízes concordaram que a polícia de South Wales não foi precisa quanto às situações nas quais o sistema de reconhecimento facial poderia ser usado nem em quais situações indivíduos poderiam fazer parte do banco de dados. Além disso, a corte indicou a existência de sistemas inadequados para proteção dos dados coletados e a ausência de salvaguardas quanto a vieses ligados a raça e cor de pele durante o processo de processamento dos rostos registrados.

Em comunicado, as autoridades do distrito reconheceram a decisão e disseram que não vão recorrer. De acordo com o pronunciamento, o uso do AFR Locate aconteceu em cerca de 50 ocasiões ainda em caráter de testes, e foi deixado de lado em prol do uso de um novo sistema, desenvolvido e operado pela NEC e com total suporte de oficiais humanos na identificação e vigilância do público. A nova tecnologia também é alvo de ação judicial da Liberty e outros grupos de defesa da privacidade.

Falando à imprensa, Bridges afirmou acreditar que a decisão da corte sirva como precedente para novas ações que questionem os ataques às liberdades individuais representados por sistemas como o AFR Locate. Na visão dele, plataformas desse tipo são utilizadas sem o consentimento dos cidadãos, levando a falsos positivos e possível colocação de indivíduos em listas de suspeitos devido a vieses raciais e de gênero.

Apesar de afirmarem que não vão recorrer dos pareceres negados, Bridges e a Liberty também criticaram a decisão dos juízes, que sugeriram a realização de estudos que coloquem na balança os potenciais riscos à liberdade individual em relação a um possível aumento na segurança pela identificação ostensiva de suspeitos. Os magistrados afirmaram entender que o benefício para a sociedade seria maior, indicando uma porta aberta para a continuidade no uso de tecnologias de reconhecimento facial.

Fonte: TechCrunch