Ataque HashJack faz navegadores de IA roubarem dados com truque simples
Por Lillian Sibila Dala Costa • Editado por Jones Oliveira |
Uma pesquisa da empresa de cibersegurança Cato Networks descobriu um novo tipo de ataque virtual: chamado HashJack, ele esconde prompts maliciosos após o “#” de endereços de sites legítimos. Com isso, cibercriminosos conseguem fazer navegadores de IA executarem códigos enquanto fazem seu trabalho normal.
- O que é phishing e como se proteger?
- O que é Engenharia Social? Aprenda a identificar e se proteger de golpes
O tipo de ataque, por acontecer diretamente no navegador, não é detectado por antivírus da máquina ou defesas dos servidores dos sites, tendo ótima evasão. É uma espécie de injeção de prompt, que ocorre quando um texto que o usuário não digitou gera comandos para um bot de IA.
Ataques de prompt pelo navegador
Contextualizando, a injeção de prompt direta acontece quando o texto inusitado é alimentado no momento em que o usuário dá o prompt ao chatbot, enquanto a injeção indireta ocorre quando o conteúdo, como uma página web ou um PDF que o bot deve resumir, contém comandos escondidos.
Os navegadores de IA, um tipo relativamente novo de navegador que usa a inteligência artificial para adivinhar o que o usuário deseja fazer, é especialmente vulnerável a injeção de prompt indireta, respondendo a comandos escondidos como se o internauta os tivesse dado.
Segundo a Cato, o HashJack é o primeiro ataque de injeção de prompt indireta capaz de usar sites legítimos como arma para manipular os assistentes de IA virtuais. Ferramentas como o Copilot, do Edge, Gemini, do Chrome, e Comet, da Perplexity AI, estão vulneráveis a esse tipo de iniciativa maliciosa.
O ataque consiste em adicionar um “#” no final de uma URL normal, o que não muda o destino, e inserir instruções maliciosas após o símbolo. Após o usuário interagir com a página com o assistente de IA, as instruções são enviadas para o modelo e podem causar o roubo de dados, phishing, desinformação, instalação de malwares e muito mais.
Como a tendência dos internautas é a de confiar no assistente de IA, a chance de sucesso é muito maior do que a de phishings comuns. O braço de pesquisa da empresa, Cato CTRL, descobriu que navegadores de IA com agência, como o Comet, podem ser comandados a enviar dados de usuários para servidores de hackers, enquanto assistentes mais passivos, embora menos capazes, ainda conseguem dar instruções falsas aos usuários ou entregar links maliciosos.
A pesquisa foi compartilhada com a Google e a Microsoft em agosto, enquanto a Perplexity foi avisada em julho. As duas últimas empresas aplicaram correções nos navegadores, mas a Google afirmou que não irá corrigir a falha, já que representa comportamento esperado, e classificou o problema como de “baixa severidade”.
Leia mais:
- Após acusações, Google nega ler seus e-mails do Gmail para treinar IAs
- CrowdStrike nega violação de segurança após contato de funcionário com hackers
- Nem a autenticação de dois fatores escapa desta nova falha do Android
VÍDEO | O 'ChatGPT Atlas' chegou: o navegador da OpenAI que usa IA pra "lembrar" do que você gosta
Fonte: Cato Networks