IA da Meta negociou produto no Marketplace e convidou desconhecido para casa do vendedor

O Muse, novo agente de inteligência artificial (IA) da Meta, negociou a venda de um produto no Facebook Marketplace, compartilhou o endereço residencial do vendedor e combinou a retirada com um desconhecido. Segundo o usuário envolvido, tudo aconteceu sem que ele soubesse que alguém realmente iria até o local buscar o item.

O caso foi relatado pelo criador de conteúdo Matt Robb, que havia deixado o Muse responsável por um anúncio de um teclado Logitech MX Keys Mini. De acordo com capturas de tela publicadas por ele e analisadas pelo Android Authority, a IA conversou com um interessado, aceitou uma oferta abaixo do esperado e forneceu o endereço para a retirada.

O comprador chegou ao prédio durante a noite e esperou pelo vendedor, que afirma que não sabia do encontro. Robb disse que só descobriu o ocorrido posteriormente, quando o próprio Muse explicou que a retirada não havia dado certo.

A Meta investiga o episódio. Até o momento, ainda não está claro se o agente realizou ações além das permissões concedidas por Robb ou se interpretou uma autorização anterior de forma mais ampla do que o usuário esperava.

IA chegou a negociar e marcar retirada

O Muse foi lançado pela Meta em setembro como um agente pessoal capaz de executar tarefas em nome do usuário, em vez de apenas responder perguntas como um chatbot tradicional.

A ferramenta consegue navegar na internet, preencher formulários, enviar e-mails, reservar viagens e negociar com outras pessoas ou serviços. A Meta também cita vendas como um dos usos possíveis e afirma que o agente pode continuar trabalhando mesmo depois que o usuário fecha o aplicativo.

Foi justamente essa autonomia que entrou em questão no caso relatado por Robb. Segundo ele, além de aceitar uma oferta que não havia aprovado, o Muse informou seu endereço ao comprador e combinou uma janela para a retirada do teclado.

O interessado chegou ao endereço acreditando que o negócio estava acertado. Capturas divulgadas pelo vendedor mostram que ele permaneceu no local esperando atendimento e acabou deixando uma avaliação negativa depois que ninguém apareceu para entregar o produto.

Depois do episódio, Robb ordenou ao Muse que não combinasse novas retiradas sem uma confirmação explícita.

Meta diz que Muse deve pedir autorização

O caso chama atenção porque a própria Meta afirma ter criado mecanismos específicos para impedir que o Muse execute determinadas ações sem consentimento.

Segundo a empresa, o agente deve consultar o usuário antes de ações consideradas sensíveis, como enviar um e-mail ou concluir uma compra. O sistema também mantém um histórico das tarefas executadas e daquelas que pretende realizar.

Outro componente, chamado Sentinel, funciona separado do Muse e decide se determinadas ações e conexões externas podem prosseguir. Dependendo da permissão definida, o sistema pode autorizar, bloquear ou interromper uma tarefa para pedir aprovação diretamente ao usuário.

David Singleton, executivo do Meta Superintelligence Labs, afirmou que entrou em contato com Robb para investigar o episódio. Ele acrescentou que, em relatos semelhantes analisados anteriormente, a empresa concluiu que o Muse estava seguindo instruções diretas e havia solicitado as permissões necessárias. Essa conclusão, porém, ainda não foi apresentada para o caso de Robb.

Por isso, não é possível afirmar até agora que o agente simplesmente ignorou uma ordem de segurança. Uma possibilidade é que uma autorização concedida anteriormente tenha permitido que o Muse avançasse mais etapas da negociação do que o vendedor imaginava.

Muse já levanta dúvidas sobre privacidade

O episódio acontece poucas semanas após o lançamento público do Muse nos Estados Unidos. A Meta apresenta o serviço como um agente capaz de acessar informações pessoais e trabalhar de forma contínua em tarefas do cotidiano.

A autonomia já havia provocado questionamentos dentro da própria companhia. Na semana passada, a Reuters revelou que a Meta testou um recurso no qual trabalhadores humanos podiam assumir algumas ligações feitas pelo Muse, sem que essa participação estivesse clara para quem usava o serviço. Funcionários demonstraram preocupação com a possibilidade de informações sensíveis chegarem aos atendentes.

A Meta posteriormente interrompeu esse teste e afirmou à Reuters que pretende liberar o recurso apenas quando considerar que as proteções de segurança, privacidade e transparência estão adequadas.

No caso do Marketplace, a investigação deve esclarecer principalmente quais permissões Robb havia concedido ao agente e por que o sistema permitiu que endereço, preço e horário de retirada fossem definidos sem que o vendedor percebesse que o negócio havia avançado até esse ponto.

Veja mais de IA no Canaltech: O que é a antropomorfização da IA?