Sem autorização, serviço de nuvem pega fotos de usuários para treinar IA

Imagine a seguinte situação: você decide salvar as suas fotos pessoais em um serviço de nuvem e a empresa usa suas imagens – sem autorização – para treinar uma ferramenta de reconhecimento facial. Foi exatamente isso que aconteceu com usuários do aplicativo de armazenamento de fotos Ever, que soma mais de 1 milhão de downloads na Google Play Store.

A "farsa" foi descoberta por uma reportagem do NBC News nesta quinta-feira (9). De acordo com a publicação, a Ever não deixava claro aos usuários que as fotos compartilhadas são utilizadas no serviço Ever AI, uma tecnologia vendida para empresas privadas, policiais e militares. Depois do contato da reportagem, entretanto, uma breve referência foi adicionada à política de privacidade da empresa.

Em outras palavras, a Ever transformou seu serviço de armazenamento num negócio muito mais lucrativo e com milhões de usuários. O uso de nuvens para guardar arquivos pessoais não é raro: o recurso permite a liberação de espaço de armazenamento no smartphone e também garante que as fotos não "desaparecerão".

"Isso parece uma violação flagrante da privacidade das pessoas", disse Jacob Snow, advogado de tecnologia e liberdades civis da American Civil Liberties Union, no norte da Califórnia. "Eles estão tirando fotos das famílias das pessoas, fotos de um aplicativo de fotos particular e usando-as para criar tecnologia de vigilância. Isso é extremamente preocupante".

O CEO da Ever, Doug Aley, defendeu a empresa dizendo que a Ever AI não compartilha com os clientes qualquer informação que permita a identificação dos usuários.

De acordo com ele, os bilhões de imagens são usados ​​para instruir um algoritmo sobre como identificar rostos. Sempre que os usuários da Ever ativam o reconhecimento facial em suas fotos para agrupar imagens das mesmas pessoas, a tecnologia vai aprendendo e treinando a si mesma.

Para o NBC News, Aley ainda alegou que os usuários da Ever sabem que o reconhecimento facial faz parte da missão da empresa e observou que isso é mencionado na política de privacidade do aplicativo, atualizada apenas em 15 de abril de 2019.

Existem muitas empresas que oferecem produtos e serviços de reconhecimento facial, incluindo Amazon e Microsoft. Neste caso, as empresas treinam a maioria de seus algoritmos com conjuntos de dados bem estabelecidos e de circulação pública – alguns dos quais também enfrentam críticas por tirar fotos de pessoas sem o consentimento explícito delas. Já a Ever usa as fotos de seus próprios clientes para melhorar sua tecnologia comercial.

O uso de fotos pessoais pelas empresas de reconhecimento facial levanta preocupações crescentes de especialistas em privacidade e defensores dos direitos civis. Eles observam que milhões de pessoas estão compartilhando fotos e informações pessoais online sem perceber como as imagens poderiam ser usadas para desenvolver produtos de vigilância.

No site de inteligência artificial da Ever, a empresa incentiva que agências públicas usem a "tecnologia da Ever para fornecer aos seus cidadãos e policiais o mais alto grau de proteção contra o crime, a violência e a injustiça".

A empresa também diz possuir um "conjunto de dados globais privados de 13 bilhões de fotos e vídeos em constante expansão" de dezenas de milhões de usuários em 95 países.

Até agora, a Ever AI firmou contratos apenas com empresas privadas, incluindo um acordo anunciado no ano passado com a SoftBank Robotics, fabricante do robô Pepper, para atendimento ao cliente em ambientes de hospitalidade e varejo.

Para o professor de direito da Universidade de Nova York, Jason Schultz, o Ever AI deve fazer mais para informar aos usuários da Ever sobre como suas fotos estão sendo usadas. Enterrar a informação em uma política de privacidade de 2.500 palavras que a maioria dos usuários não lê é insuficiente: "A ideia de que os usuários deram consentimento real de qualquer tipo é ridícula".

Mudança de negócios

Aley, que entrou na Ever em 2016, disse que a empresa decidiu explorar o reconhecimento facial há cerca de dois anos e meio, quando ele e outros líderes perceberam que um aplicativo gratuito de fotos não seria muito lucrativo. A mudança impulsionou a Ever financeiramente: depois de anunciar o novo serviço, a empresa levantou US$ 16 milhões no final de 2017 – mais da metade de seu investimento total até o momento.

De acordo com o CEO, ter um banco de dados com mais de 13 bilhões de imagens foi incrivelmente valioso no desenvolvimento de um sistema de reconhecimento facial. "Se você é capaz de alimentar um sistema com muitos milhões de rostos, esse sistema vai acabar sendo melhor e mais preciso".

Um teste de benchmark da indústria descobriu no ano passado que a tecnologia de reconhecimento facial da Ever AI tem precisão de 99,85%.

Quando perguntado se a empresa poderia explicar melhor aos usuários que as fotos eram usadas para impulsionar o Ever AI, Aley disse que não. "Acho que nossa política de privacidade e termos de serviço são muito claros e bem articulados".

Anteriormente, a política de privacidade da Ever dizia que a tecnologia de reconhecimento facial era usada para ajudar a "organizar seus arquivos e compartilhá-los com as pessoas certas". A única indicação de que as fotos seriam usadas para outra finalidade era a linha: "Seus arquivos podem ser usados para ajudar a melhorar e treinar nossos produtos e tecnologias".

Em 15 de abril, uma semana após a NBC News entrar em contato com a Ever, a empresa acrescentou mais detalhes: "Algumas dessas tecnologias podem ser usadas em nossos produtos e serviços separados para clientes corporativos, incluindo nossas ofertas de reconhecimento facial, mas seus arquivos e informações pessoais não serão", afirma a política.

Mas parece que a política da Ever não está assim tão clara para os usuários quanto pensa Aley. Três usuários entrevistados pelo NBC News desconheciam o compartilhamento de fotos para o treinamento da tecnologia de reconhecimento facial. Depois do contato da reportagem, um deles excluiu o aplicativo.

Já a estudante de segundo ano da Millsaps College em Jackson, Mississippi, Mariah Hall, 19, disse estar "chocada". "Os desenvolvedores não foram claros sobre suas intenções nem sobre o uso de minhas fotos. É triste porque acredito que seja uma enorme invasão de privacidade".

A estudante usa o Ever para armazenar fotos e liberar espaço em seu smartphone há cinco anos. "Se uma empresa usa a informação de seus consumidores para fazer parceria com alguém – a polícia, o FBI – deve ser uma das primeiras coisas que é dito aos consumidores antes de baixar o aplicativo".

Para evitar situações assim, a dica do Canaltech é: fique atento da próxima vez que usar um aplicativo de nuvem para salvar seus arquivos pessoais e dê preferência para serviços mais conhecidos como o Fotos, da Google, Dropbox e OneDrive.

Fonte: NBC News