Hackers agora miram roubo de contas de IA para acessar dados sensíveis de empresas

Criminosos virtuais estão ampliando o foco de malwares que roubam informações para capturar contas de inteligência artificial usadas dentro de empresas. O objetivo pode ir além de obter uma senha: uma sessão comprometida do ChatGPT ou de outra plataforma pode expor históricos de conversas, códigos, documentos internos e até chaves usadas para acessar modelos de IA.

Um levantamento da empresa de cibersegurança SOCRadar analisou mais de 1 milhão de registros coletados por infostealers, tipo de malware especializado em roubar informações armazenadas em dispositivos infectados. Os dados estavam relacionados a serviços de IA e envolviam mais de 80 mil domínios corporativos.

Esse número não significa que mais de 80 mil empresas tiveram suas redes diretamente invadidas. Os domínios apareceram nos registros coletados pelos malwares, que podem incluir contas corporativas usadas em computadores pessoais infectados.

Para uma análise mais detalhada, a SOCRadar selecionou 482 grandes empresas de 36 países e oito setores. Foram encontrados 5.434 registros ligados a cerca de 1,5 mil endereços de e-mail corporativos. Deste grupo, 295 companhias apareceram em registros produzidos nos últimos 90 dias.

Por que contas de IA interessam aos criminosos?

Infostealers normalmente são distribuídos por diferentes meios, como softwares adulterados, páginas maliciosas e campanhas de phishing. Uma vez no computador, o malware pode coletar senhas salvas no navegador, cookies de sessão, tokens de autenticação e chaves de API.

Com a adoção de ferramentas de IA no trabalho, essas informações ganharam valor adicional. Funcionários podem enviar códigos-fonte, contratos, dados de clientes e informações sobre projetos ainda não anunciados para chatbots, por exemplo. Caso um invasor consiga assumir uma sessão ativa, parte desse histórico pode ficar acessível.

Há ainda um problema com os cookies de sessão. Eles mantêm o usuário autenticado depois do login e, dependendo das proteções adotadas pelo serviço, podem permitir que um criminoso reutilize uma sessão roubada sem precisar digitar novamente a senha. Uma simples troca de senha pode, portanto, não encerrar todos os acessos comprometidos.

O Google Threat Intelligence Group (GTIG) também identificou criminosos interessados em ativos ligados à IA. Em relatório publicado neste mês, o grupo afirmou ter observado o roubo de credenciais de APIs e o uso de ambientes de nuvem comprometidos para executar cargas de IA sem autorização.

Pesquisadores da Gen Digital encontraram movimento semelhante ao analisar regras usadas por infostealers. Os malwares passaram a buscar dados locais de ferramentas de desenvolvimento com IA, incluindo tokens de acesso, configurações e informações de projetos.

ChatGPT aparece na maior parte dos registros

Entre as 482 empresas analisadas pela SOCRadar, credenciais ou sessões relacionadas ao ChatGPT e à OpenAI apareceram em 358 delas. Esses casos concentraram cerca de 90% dos registros encontrados no recorte da pesquisa.

A própria SOCRadar ressalta que o dado não indica necessariamente uma vulnerabilidade maior nos serviços da OpenAI. Segundo os pesquisadores, a concentração pode estar ligada à popularidade do ChatGPT e ao uso de contas criadas por funcionários com e-mails corporativos, inclusive fora dos dispositivos e sistemas gerenciados pelas empresas.

Esse tipo de adoção é chamado de shadow AI, ou “IA sombra”: ferramentas de inteligência artificial usadas no ambiente profissional sem conhecimento ou controle do departamento responsável pela tecnologia e segurança.

Claude e Gemini tiveram participação bem menor nos dados analisados. Para os pesquisadores, a diferença também não permite concluir que essas plataformas sejam mais seguras contra esse tipo de roubo.

Chaves de API também podem virar dinheiro

Outro alvo são as chaves de API, credenciais usadas por programas e sistemas para acessar modelos de IA. Depois de roubadas, elas podem ser usadas para consumir recursos pagos pela vítima ou revendidas a terceiros.

A prática ganhou o nome de LLMjacking. Em vez de pagar pelo processamento necessário para executar modelos de linguagem, criminosos utilizam contas, créditos ou infraestrutura pertencentes a outras pessoas e empresas.

A SOCRadar afirma ter encontrado anúncios em fóruns clandestinos oferecendo chaves de Claude, cookies de sessões pagas do ChatGPT e acessos a outras ferramentas de IA. O GTIG também relata casos de criminosos comprando contas comprometidas ou roubando credenciais para evitar os custos de serviços de inteligência artificial.

Veja também no Canaltech: OpenAI lança Dots, “mascotes” de IA que trabalham para você 24 horas por dia