Skynet, é você? OpenClaw sai do controle e apaga e-mails de executiva da Meta
Por Jaqueline Sousa • Editado por Jones Oliveira |
Summer Yue, diretora de alinhamento de superinteligência artificial e pesquisadora da Meta, relatou um incidente provocado pelo OpenClaw depois que a ferramenta “saiu do controle” e apagou e-mails de sua caixa de entrada.
- Especialistas alertam para falhas de segurança críticas no Moltbook
- Hackear ChatGPT e Gemini para replicar informação falsa leva só 20 minutos
A executiva relatou o incidente em seu perfil no X (antigo Twitter), comentando que o assistente começou a apagar e-mails relativamente recentes que não estavam inseridos na lista de itens importantes.
De acordo com Yue, assim que percebeu o que estava acontecendo, ela enviou uma mensagem para a IA dizendo “Não faça isso”. Contudo, mesmo com comandos diretos para interromper a ação, como “PARE, OPENCLAW”, o bot continuou apagando todos os e-mails que via pela frente.
“Nada te humilha mais do que dizer ao seu OpenClaw ‘confirme antes de agir’ e vê-lo deletar a sua caixa de entrada em alta velocidade. Não consegui impedir pelo meu celular. Tive que CORRER para o meu Mac mini como se estivesse desarmando uma bomba”, explicou a executiva da Meta.
Por trás do erro
O “descontrole” do OpenClaw foi resultado de uma tentativa malsucedida de configurar o assistente para automatizar a organização da caixa de entrada de e-mails, ajudando a executiva a reduzir a quantidade de mensagens congeladas na plataforma. O problema é que a IA começou a apagar todos os e-mails que foram recebidos há cerca de uma semana da ação "rebelde" e não estavam na lista de prioridades.
Yue chegou a fazer um teste do OpenClaw em uma caixa de entrada de teste, afirmando que o bot teria agido conforme o esperado. Mas o êxito não se repetiu quando a diretora da Meta usou o assistente em sua caixa de entrada real, resultando na exclusão de mensagens.
Embora Yue tenha instruído o OpenClaw a não agir sem aprovação direta, a própria infraestrutura da ferramenta bate de frente com isso, já que ela não precisa de aprovação humana para que ações sejam autorizadas no sistema, um fato que gera preocupação em especialistas.
Críticas na internet
Em meio às preocupações voltadas ao “espírito volátil” do OpenClaw, o relato de Summer Yue provocou críticas acaloradas na internet de usuários que questionaram o uso da ferramenta para testes.
Ben Hylak, cofundador da Raindrop AI e antigo funcionário da Apple, por exemplo, alertou para a ação no X, dizendo que “isso deveria te assustar” e questionando o porquê “a diretora de segurança e alinhamento da Meta concedeu ao OpenClaw acesso total ao seu computador”.
Outro usuário afirmou que “é um tanto preocupante que uma pessoa cujo trabalho é o alinhamento de IA se surpreenda quando uma IA não segue instruções verbais com precisão”.
A diretora de alinhamento ainda chegou a responder uma pessoa que perguntava se ela “estava testando intencionalmente os limites de segurança ou cometeu um erro de principiante”. Yue admitiu que havia cometido um erro, afirmando que “pesquisadores de alinhamento não são imunes a desalinhamentos”.
Leia também:
- Senhas geradas pelo ChatGPT e Gemini não são seguras, alertam especialistas
- Primeiro malware que usa IA generativa em ataques no Android é descoberto
- E-mails vazados sugerem que a Amazon monitora clientes por câmeras inteligentes
Fonte: Business Insider