Microsoft aposenta ferramenta usada para "reconhecer emoções"

A Microsoft anunciou que vai aposentar a ferramenta de reconhecimento facial chamada Azure Face. Segundo a empresa, o software alimentado por inteligência artificial (IA) foi projetado para identificar a emoção de um usuário a partir de fotos e vídeos.

• Comissão do Senado é contrária a uso de reconhecimento facial pela polícia
• Google vai pagar US$ 100 mi por violação de privacidade em reconhecimento facial

Essa ferramenta foi duramente criticada por generalizar o tal “reconhecimento de emoções”. Para os especialistas, as expressões faciais consideradas universais pelo aplicativo diferem entre populações distintas, não sendo possível igualar demonstrações externas de emoção com sentimentos mais íntimos.

“As empresas podem dizer o que quiserem, mas os dados são claros e irrefutáveis. Essas ferramentas podem detectar um rosto carrancudo, mas isso não significa o sentimento de raiva. Essa afirmação é completamente subjetiva”, explica a professora de psicologia da Northeastern University, nos EUA, Lisa Feldman Barrett.

Azure Face

A decisão de descontinuar a ferramenta faz parte de uma revisão das políticas de ética de inteligências artificiais da Microsoft. Na prática, a empresa pretende limitar o acesso a alguns recursos de seus serviços de reconhecimento facial, além de remover outros completamente de sua lista de aplicativos.

O aceso público ao sistema de reconhecimento de emoções do Azure Face, por exemplo, será removido da plataforma. A capacidade do programa para identificar atributos pessoais como gênero, idade, sorriso, barba, cabelo e maquiagem também não estará mais disponível para usuários comuns.

“Especialistas dentro e fora da empresa destacaram a falta de consenso científico sobre a definição de 'emoções'. Além disso, os desafios de como as inferências se generalizam conforme o uso, regiões e dados demográficos geram preocupações de privacidade em torno desse tipo de capacidade”, disse a diretora de IA da Microsoft Natasha Crampton, ao anunciar a medida.

Acessibilidade

A Microsoft já deixou de oferecer esses recursos de reconhecimento de emoções para novos clientes. Para aqueles que já utilizavam o serviço, o acesso deverá ser revogado em junho de 2023.

A empresa também vai restringir o uso do aplicativo chamado Custom Neural Voice, programa que permite a usuários comuns criarem vozes extremamente convincentes e naturais com a ajuda de um sistema de inteligência artificial baseado em gravações de pessoas reais. Muitos especialistas consideram a ferramenta uma espécie de deepfake de áudio.

“A ferramenta tem um potencial empolgante em educação, acessibilidade e entretenimento, mas também pode ser usada de forma inadequada para enganar os ouvintes. Por isso, a Microsoft vai limitar o acesso a clientes e parceiros cadastrados, garantindo a participação ativa do locutor que pretende criar uma voz sintética”, encerra a gerente de produtos da Microsoft Sarah Bird.