Lensa | É seguro entregar dados ao aplicativo de edição de fotos por IA?

Quem acessou as redes sociais nos últimos dias com certeza viu fotos artísticas dos amigos em diferentes estilos e cenários, obtidas por meio de inteligência artificial. São criações do app Lensa, lançado originalmente em 2018, mas que apenas agora caiu no gosto dos usuários, principalmente brasileiros, em postagens no Instagram e Twitter.

• Lensa | Como usar IA para criar um avatar com a sua foto
• 10 perigos do compartilhamento de imagens online

Em questão de dias, o Lensa se tornou o aplicativo mais baixado do Brasil nos dois principais sistemas operacionais, com mais de 10 milhões de instalações somente no Android. O funcionamento é simples, bastando fazer o download, selecionar de 10 a 20 fotos do próprio rosto e realizar o pagamento de acordo com o total de imagens desejadas. A tecnologia faz o restante do trabalho, entregando edições que transportam o utilizador para outros mundos, adicionam adereços e cores que, unidas, explicam porque o Lensa se tornou essa febre.

Entre a vontade de acompanhar os amigos, a curiosidade de ver como a IA trabalhará as próprias fotos ou até mesmo uma certa ansiedade de ficar de fora da onda do momento, resta pouco espaço para olhar com atenção. Nesse ensejo, questões relacionadas à segurança podem acabar ficando de lado, com as pessoas simplesmente ignorando a ideia de que, para criar as edições, o Lensa precisa processar a aparência de seus usuários, bem como coletar alguns de seus dados.

Conforme aponta Fabio Assolini, analista sênior de segurança da Kaspersky no Brasil, o uso de fotos das pessoas para treinar IAs deve se tornar cada vez mais comum e não é uma atividade perigosa, em si. Entretanto, os utilizadores precisam levar em consideração questões relacionadas à segurança e privacidade, principalmente no que toca a transparência e responsabilidade das empresas no armazenamento, processamento e uso de informações pessoais.

Lensa apaga fotos em 24 horas e não exige cadastro, mas faz coleta de dados

Na superfície, não parecem existir tantos motivos para preocupação aparentes no uso do Lensa, ao contrário de outros aplicativos de edição facial que surgiram nos últimos anos. Os artigos também indicam menos rastreamento e obtenção de informações que outras soluções bastante usadas, como redes sociais e apps de edição. Os termos de uso são claros no que toca o uso e armazenamento das imagens dos usuários, bem como facilmente acessível, ainda que caia muitas vezes no “juridiquês” exigido de documentos desse tipo e esteja disponível apenas em inglês.

Já a Prisma Labs, empresa responsável pelo app, tem sede nos Estados Unidos, um país com forte regramento quanto à proteção de dados. Se você reconhece o nome, é porque se lembra do app de mesmo título, que viralizou em 2016 também com edições artísticas baseadas em fotos subidas pelos usuários — a companhia é de origem russa, mas após a separação de seus fundadores originais e o recebimento de diferentes rodadas de investimentos, estabeleceu sua base em território americano.

De acordo com os termos de uso do Lensa, todas as imagens subidas pelos usuários são apagadas em até 24 horas após o envio, enquanto todo o processamento é feito de forma anonimizada, sem identificar o utilizador original. As fotos também podem ser transferidas para as nuvens de empresas como Google ou Amazon, onde, provavelmente, está a arquitetura de inteligência artificial que dá base ao app; novamente, esse procedimento é feito de forma anônima, com os dados também sendo deletados após no máximo um dia.

O contrato e os detalhes da aplicação nas lojas de aplicativo também trazem indicações de outras coletas de dados, feitas automaticamente durante o uso. O Lensa não exige cadastro para ser usado, enquanto o pagamento pelas edições é processado pelos meios de Google e Apple. No iOS, a única autorização pedida é de rastreamento em outros apps, enquanto no Android, as solicitações se limitam ao uso da câmera e acesso ao armazenamento de fotos e mídia. Ainda, durante o tempo de processamento e criação das artes, o usuário pode solicitar que a solução avise quanto tudo estiver pronto, o que faz solicitar permissão para notificações.

Desta coleta automática, o Lensa obtém detalhes sobre o celular usado, como marca, modelo e informações de hardware, assim como IP da conexão e cookies. A indicação é de possível compartilhamento de dados de uso e rastreamento dos usuários com parceiros ligados à publicidade ou utilização para emitir avisos aos usuários, executar tarefas de suporte, atualização ou monitoramento e correção de bugs.

São elementos comuns em boa parte dos softwares utilizados nos sistemas operacionais Android e iOS, enquanto os próprios termos do Lensa apresentam uma disposição detalhada de todas as possibilidades em relação ao uso de informações dos usuários. A Prisma, ainda, deixa claro que não vai processar dados além das finalidades dispostas, enquanto o consentimento explicito será solicitado em caso de mudanças nos artigos ou necessidade de coleta adicional.

"Lensa pode permitir que você faça upload, edite, crie, armazene e compartilhe conteúdo, incluindo fotos e vídeos. (...) Exceto pela licença garantida abaixo, você tem todos os direitos pelo seu conteúdo de usuário (...). Você garante a nós licença perpétua, irrevogável, não-exclusiva, livre de royalties, mundial, totalmente paga, transferível e licenciável para usar, reproduzir, modificar, adaptar, traduzir, criar obras derivativas e transferir seu conteúdo de usuário, sem qualquer compensação adicional ou consentimento explícito (...). A licença é para propósitos limitados de operação, desenvolvimento, fornecimento e melhorias no Lensa e pesquisa, desenvolvimento e melhoria de produtos existentes ou novos, incluindo mas não limitado ao Lensa (...)."

Pode chamar a atenção de alguns usuários, entretanto, um termo relacionado à propriedade das criações do Lensa. Enquanto os artigos deixam claro que os usuários podem usar, editar, compartilhar ou fazer qualquer tipo de uso das imagens, eles também transferem à Prisma Labs o direito de criar obras derivativas a partir do resultado das edições, sem a necessidade de pedir autorização ou realizar pagamentos.

Isso significa que, em algum momento, a empresa pode realizar uma campanha de marketing usando imagens criadas pelos usuários do Lensa, por exemplo, ou utilizar tais edições em campanhas pagas ou novos projetos. Os utilizadores, ainda têm a responsabilidade pelo conteúdo subido para a plataforma e precisam ser os detentores dos direitos de uso das imagens originais, sem que a Prisma Labs tenha qualquer jurisdição sobre o material criado.

Quem já tiver feito seus avatares “mágicos” com o Lensa, mas não concordar com a cessão dos direitos deles para a companhia, pode entrar em contato pelo e-mail privacy@lensa-ai.com e solicitar a exclusão de tudo, tanto os dados pessoais quanto imagens criadas. Esse é um direito que, inclusive, é assegurado pela LGPD (Lei Geral de Proteção de Dados), e que deve ser prestado aos usuários brasileiros mesmo pela empresa sediada internacionalmente.

Há, ainda, uma questão quanto à dificuldade de inteligências artificiais em lidarem com traços diversos, mantendo uma visão eurocêntrica que ficou conhecida como racismo algorítmico. No caso do Lensa, a crítica quanto a esse viés aparece e também vem sendo compartilhada nas redes sociais, enquanto usuários veem feições sendo modificadas nas edições, com a pele sendo clareada, o nariz afinado e os olhos ganhando tamanhos diferentes dos naturais.

Uso de aplicativos de fotos exige cuidados

Nas redes sociais, há quem diga que o risco no uso de softwares ligados à inteligência artificial vai além dos dados em si. As fotos seriam supostamente usadas para treinamento das IAs para outros fins, algo que não necessariamente faz sentido. Afinal de contas, por que uma empresa dependeria do upload de imagens das pessoas, em uma solução paga, quando existem pacotes de rostos gratuitos e pagos plenamente disponíveis na internet? Eles são voltados justamente ao aprimoramento destas tecnologias e compostos de dados públicos raspados da internet — incluindo, muitas vezes, os avatares dos próprios reclamantes, publicados nas redes sociais.

Ainda assim, não é como se o uso destas aplicações fosse absolutamente tranquilo em todos os casos. A análise de termos de uso, principalmente no que toca a coleta e processamento de dados, é essencial não só para aplicativos de imagens, mas para todo software baixado para o computador ou celular. Acredite, você vai se surpreender com os artigos citados em documentos assim, relacionados a redes sociais ou serviços de e-mail, muitas vezes, com muito mais rastreamento que as soluções de fotos.

Sobre elas, especificamente, a Kaspersky emitiu alerta apontando os riscos, principalmente, relacionados à biometria facial. A hospedagem indefinida de imagens de rostos em servidores de terceiros pode representar riscos de fraude e golpes caso tais infraestruturas não estejam bem protegidas e acabem caindo sob ataques criminosos, com as informações obtidas sendo utilizadas para fins maliciosos.

Prestar atenção nas permissões solicitadas no ato do download, bem como em informações solicitadas em cadastros, também ajuda a entender se a aplicação está ultrapassando os limites necessários. Conforme aponta a empresa de segurança, a instalação sempre deve ser realizada a partir de sites e lojas de aplicativos oficiais, enquanto o usuário sempre deve checar o desenvolvedor e evitar softwares com poucos downloads, críticas negativas ou responsáveis obscuros.

Manter sistemas operacionais sempre atualizados ajuda a fechar brechas já conhecidas, enquanto a presença de softwares de segurança e antivírus protege o usuário contra as ameaças mais comuns. Na dúvida, por qualquer motivo, evite usar a aplicação ou entregar dados até ter certeza do que está fazendo.

Com informações da Kaspersky.