Publicidade

Falha do Gemini permite criar 'armadilha' para golpes no Gmail, mostra relatório

Por  • Editado por Bruno De Blasi |  • 

Compartilhe:
Solen Feyissa/Unsplash
Solen Feyissa/Unsplash

O Gemini, dentro do Google Workspace, pode ser explorado de forma indevida para gerar resumos de e-mails que simulam conteúdos legítimos, mas incluem elementos maliciosos capazes de levar o usuário a cair em golpes de phishing.

A ameaça foi identificada em uma análise conduzida pelo pesquisador Marco Figueroa, gerente de programas de recompensas por bugs da The 0Day Investigative Network (0DIN), iniciativa da Mozilla com foco em pesquisadores que descobrem falhas em sistemas de IA generativa.

Ao Canaltech, o Google apontou que ainda não foi identificado nenhum golpe a partir da falha apontada pela pesquisa e que implementa defesas específicas contra ataques que envolvem a injeção de prompts. 

Canaltech
O Canaltech está no WhatsApp!Entre no canal e acompanhe notícias e dicas de tecnologia
Continua após a publicidade

"A defesa contra ataques que têm impactado nossa indústria, como aqueles que envolvem injeção de prompts, tem sido uma prioridade contínua para nós. Por isso, implementamos inúmeros recursos de defesa para manter os usuários seguros, incluindo aqueles que evitam respostas prejudiciais ou enganosas. Estamos constantemente fortalecendo nossas defesas e treinando nossos modelos para nos defender, cada vez melhor, desses tipos de ataques", explica o Google. 

Falha pode ser usada para phishing no Gmail

Na análise, Figueroa descobriu a falha "0xE24D9E6B". Essa vulnerabilidade permite que um invasor envie um e-mail com uma "injeção de prompt" direcionada à vítima, afetando o resumo de e-mails solicitado pelo usuário.

Essa falha impacta a geração de prompts e compromete aplicativos do Workspace, como o Gmail. Dessa forma, é possível manipular o resumo de mensagens não lidas para incluir informações maliciosas, capazes de direcionar o usuário a sites de phishing com o objetivo de roubar dados.

Nos testes feitos pelo pesquisador foi possível notar que após o resumo, o Gemini inseria um aviso falso de que a senha de login do Gmail estava comprometida e que era preciso entrar em contato com um número de telefone. 

O risco da falha foi classificado como médio, o que indica uma vulnerabilidade preocupante, com potencial para causar danos individuais, como o vazamento de dados pessoais.

Como se proteger 

Continua após a publicidade

Apesar do risco, é importante destacar que, em condições normais, o Gemini não exibirá resumos de e-mails com conteúdo malicioso. A descoberta da falha permite que o Google tenha ciência do problema e implemente as correções necessárias.

Para aumentar a segurança, recomenda-se sempre verificar os endereços de sites antes de acessá-los e manter um antivírus atualizado no computador ou celular, garantindo a proteção dos dados pessoais.

Leia mais:

Continua após a publicidade

VÍDEO: PARE de pagar as suas contas por E-MAIL