Amazon está ouvindo conversas entre usuários e Alexa, diz agência

Por Rafael Arbulu | 11 de Abril de 2019 às 10h07
Tudo sobre

Amazon

Saiba tudo sobre Amazon

Ver mais

Cuidado com o que você pede à Alexa. À Bloomberg, fontes internas na empresa disseram que funcionários da Amazon estão ouvindo a pedaços de suas conversas com a assistente virtual, algo que nunca foi declarado pela empresa desde o lançamento do produto em novembro de 2014.

O relato informa que a Amazon, cuja posição oficial é a de que a “Alexa vive nas nuvens e aprimora suas capacidades por meio de machine learning”, na verdade emprega diversos funcionários, entre terceirizados e empregados efetivos, em países como Costa Rica, Índia e Romênia, além de escritórios em Boston, nos EUA, para ouvir às interações feitas com a Alexa por usuários. O objetivo, segundo as fontes, seria aprimorar as capacidades de reconhecimento de discurso do software, efetivamente “ensinando-o” a atender melhor aos consumidores.

Esses funcionários assinaram acordos de confidencialidade (non-disclosure agreements, o “NDA”) que os impedem de divulgar a existência de seus serviços. A Bloomberg reporta que eles trabalham cerca de nove horas por dia, ouvindo aproximadamente mil clipes de áudio por turno, segundo dois dos funcionários do escritório da empresa em Bucareste, na Romênia. A agência de notícias ainda diz que o prédio, com visual que denuncia alta tecnologia, se destaca de seus vizinhos, que possuem um estado pior de conservação, porém não exibe qualquer comunicação visual que indique pertencer à Amazon.

Interações com a Alexa são ouvidas e gravadas por funcionários da Amazon em diversos países

A empresa, respondendo à reportagem, disse valorizar a proteção e privacidade dos seus usuários, tentando aliviar quaisquer preocupações. Em um e-mail encaminhado à Bloomberg, um porta-voz disse:

“Nós levamos a segurança e privacidade de nossos consumidores muito a sério. Nós anotamos apenas pequenos demonstrativos de gravações de áudio da Alexa a fim de aprimorar a experiência do usuário. Essa informação nos ajuda, por exemplo, a treinar os sistemas de reconhecimento de discurso e compreensão natural de linguagens para que a Alexa possa melhor compreender seus pedidos e assegurar que o serviço funcione bem para todos”.

A Bloomberg ainda conta que os funcionários da Amazon compartilham entre si alguns desses arquivos de áudio — que constituem pedaços de conversa, e não discussões inteiras — em uma ferramenta interna de chat que, oficialmente, tem a serventia de ajudar quando um deles não consegue compreender o que foi dito. Entretanto, um deles admite que há casos mais notáveis: ao passo em que um deles ouve, por exemplo, algum pedido de informação sobre “Taylor Swift” (seu trabalho seria o de fazer a Alexa entender que o usuário se referiu à cantora pop), houve situações onde um ou outro funcionário indicou o que parecia ser um caso de violência sexual em curso.

“Quando algo assim acontece, eles podem compartilhar a experiência entre si pelo chat interno para aliviar o stress. A Amazon diz que há procedimentos implementados aos funcionários quando eles ouvem algo potencialmente perigoso, mas dois empregados baseados no escritório da Romênia informam que, depois de pedir por orientações para tais casos, eles foram informados que não é o papel da Amazon o de interferir”, diz a reportagem da agência.

Gravações de áudio não identificam o usuário diretamente, porém há indícios de nome do consumidor e dispositivo de onde vem o áudio, segundo funcionários

O comunicado da empresa ainda diz:

“Nós temos rígidos resguardos técnicos e operacionais, além de tolerância zero com o abuso de nossos sistemas. Os funcionários não têm acesso direto à informação que poderia identificar a pessoa ou conta [por trás dos áudios] dentro do fluxo de trabalho. Toda informação é tratada com a mais alta confidencialidade e nós usamos autenticação em multifatores para restringir acessos, bem como criptografia de serviços e auditorias e controle de ambiente para proteger [as informações]".

Em seu material de comunicação e marketing, a Amazon não revela a existência de funcionários humanos por trás do sistema da assistente virtual, mas informa que, nas configurações do serviço, os usuários podem desabilitar o uso de suas gravações para o desenvolvimento e aprimoramento de funções. A Bloomberg ainda diz ter prints que comprovam que, no material coletado e gravado, não há qualquer indicação de nome de usuário ou localização expostos. Porém, os mesmos prints mostram uma ID da conta do usuário, bem como o seu primeiro nome real e o número serial e tipo de dispositivo utilizado.

Fonte: Bloomberg

Gostou dessa matéria?

Inscreva seu email no Canaltech para receber atualizações diárias com as últimas notícias do mundo da tecnologia.