Alexa exibe recurso sinistro que imita vozes de pessoas mortas

A Amazon revelou um recurso experimental da Alexa de reprodução da voz de parentes falecidos dos usuários. O objetivo é usar a inteligência artificial da assistente virtual para simular conversas com quem já morreu a partir de pequenas gravações de áudio.

• IA e deepfake representam novo risco para relacionamentos online, diz estudo
• Cervejaria usa assistentes virtuais para você mandar bem na harmonização

A empresa demonstrou o funcionamento durante a conferência anual Amazon re:MARS 2022. No exemplo do vídeo abaixo, uma criança pede para a Alexa ler uma história de ninar com a voz avó morta. Em vez da tradicional voz, um som semelhante a uma idosa faz leitura.

Segundo o cientista-chefe da Amazon para Inteligência Artificial da Alexa, Rohit Prasad, um dos recursos mais importantes para assistentes virtuais é a humanização. Na visão de Prasad, um recurso como este é fundamental para trazer mais conforto emocional, principalmente em "tempos de pandemia, quando muitos perderam alguém que ama".

O vídeo divulgado no evento é uma mistura de momento fofo com doses de estranheza e espanto. Todo recurso voltado para pessoas falecidas tem esse mix de sentimentos, porque assusta por um lado, mas pode ajudar a superar a depressão e o luto.

IA de conversar com mortos é incerta

A Amazon apenas demonstrou a tecnologia na prática, mas não disse se pretende tornar pública para a finalidade demonstrada. O objetivo, na verdade, é mostrar a capacidade de aprender a imitar a voz de alguém a partir de uma única gravação com um minuto.

Conseguir 60 segundos de voz de alguém não parece ser tarefa difícil, já que muitos áudios enviados pelo WhatsApp tem duração bem mais longa. Este é um dos lados preocupantes da IA: poderia o recurso ser usado para prejudicar outras pessoas?

Nas redes sociais, as opiniões se dividem entre os saudosistas, dispostos a conversar com parentes falecidos, e quem se diz apavorado com os rumos tomados pela tecnologia de mimetismo, bem como as conversas robóticas naturais. De fato, o deepfake de áudio e vídeo está em um nível tão avançado que as pessoas sequer conseguem diferenciar, como o perfil do TikTok que imita a atriz Margot Robbie.

Hoje, há aplicativos no mercado capazes de clonar vozes ou fazer você soar como o Morgan Freeman. O rival Google também impressionou recentemente ao trazer o Duplex para o Brasil, uma IA que literalmente conversa com as pessoas para obter dados sobre o funcionamento de estabelecimentos comerciais.