Empresa que avalia “risco humano” lista Apple como sua cliente

Imagine que, apenas respondendo “sim” ou “não” a aproximadamente 10 perguntas, uma empresa pudesse dizer se você é um criminoso ou não. Aparentemente, isso não só já existe, como vem sendo empregado por companhias de tecnologia, ainda que não abertamente e não se saiba em qual grau. Uma startup deste setor — a AC Global Risk, fundada em 2016 — diz ser capaz de fazer tal determinação e lista a Apple como uma de suas clientes corporativas. As informações são do site The Intercept.

O processo, vendido pela AC Global Risk como “altamente preciso”, funciona assim: pessoas ou empresas contratam a startup e, juntas, desenvolvem uma série de perguntas simples, cujas respostas não variam muito do “sim” ou “não”. Essas perguntas são oferecidas a um grupo de pessoas, para que elas as respondam em seu idioma nativo, em entrevistas de 10 a 15 minutos que podem até ser conduzidas pelo telefone. O sistema então mede as características de voz das pessoas para produzir um relatório avaliativo que pontua cada indivíduo dentro de um espectro de risco indo do “baixo” ao “alto”. O nome do sistema é “Remote Risk Assessment”, ou simplesmente “RRA”, e o CEO da startup, Alex Martin, diz que ele pode “mudar para sempre a forma de medir o risco humano”.

A questão torna a bater no tópico do abuso de dados, haja vista que o RRA, segundo a própria empresa, não possui um público-alvo específico, podendo ser utilizado tanto em uma entrevista de emprego como em um pedido de asilo político, por exemplo.

Analistas experientes no assunto dizem que, embora exista uma plausibilidade no conceito, a sua aplicação não é confiável: “Existem algumas informações sobre mudanças dinâmicas na voz e eles estão detectando-as. Isso é perfeitamente plausível”, explicou ao Intercept Alex Todorov, psicólogo da Universidade de Princeton. “Mas a questão é: o quão ambígua é essa informação para detectar categorias de pessoas que eles definem como ‘de alto risco’? Sempre há ambiguidade neste tipo de sinal”.

A AC Global Risk não disse qual é o uso que a Apple faz da sua tecnologia. Outros clientes da empresa incluem o Exército norte-americano (especialmente, o braço que move ações no Afeganistão) e conta com a presença de pessoas importantes ligadas ao governo estadunidense em seu conselho, como Robert Gates (ex-secretário de Defesa dos EUA nos governos de George W. Bush e Barack Obama), Condoleezza Rice (ex-secretária de Estado durante o governo Bush) e Stephen Hadley (ex-conselheiro de segurança nacional do governo Bush).

Fonte: The Intercept