Ferramenta da Google ajuda a manter dados de usuários ocultos de IAs

TensorFlor Privacy é como se chama a nova plataforma open-source da Google lançada nesta quarta-feira (6) pós-Carnaval. O objetivo é ajudar a manter os dados do usuário ocultos de serviços de inteligência artificial, mesmo quando há aprendizado de máquinas envolvido. Os códigos (agora abertos ao público) são baseados em privacidade diferencial.

Esta funcionalidade é o que permite que o Smart Reply do Gmail, por exemplo, tente adivinhar o que o usuário vai responder após coletar dados suficientes dele respondendo a e-mails de outras pessoas; porém, com o diferencial de que ela não permite que informações pessoais da pessoa vazem.

A privacidade diferencial não é exatamente uma novidade — na realidade, ela é bastante comum atualmente. Ela basicamente se certifica de que IAs não consigam captar dados únicos das pessoas e que, por tabela, podem revelar suas identidades. Ao invés disso, as IAs apenas aprendem de padrões em massa.

As respostas automáticas mais comuns que milhares de pessoas costumam digitar ou escolher no Smart Reply do Gmail, por exemplo, são guardadas, mas os dados pessoais ficam de fora dessa captação. E agora que o TensorFlow Privacy foi compartilhado pela Google, os desenvolvedores poderão aplicar esse recurso em outras ferramentas de aprendizado de máquinas.

Com isso, a plataforma open-source também deverá ganhar algumas melhorias, ainda mais com a Google prometendo aos desenvolvedores que a plataforma é fácil de usar, exigindo apenas algumas “simples mudanças de códigos” e “ajustes de hiperparâmetros”. A ferramenta já pode ser acessada no GitHub.

Além disso, a gigante de tecnologia lançou junto um relatório técnico para ajudar os usuários e servir de informe ou guia sobre algum problema e como lidar com ele.

Fonte: Engadget