Claude “dedura” países que tentaram usar IA para criar armas biológicas

A Anthropic identificou cinco casos em que pesquisadores usaram o Claude para atividades de pesquisa biológica que poderiam contribuir para o desenvolvimento de armas biológicas. A empresa não afirmou que os envolvidos tinham intenção de fabricar armas e decidiu não revelar os países, instituições ou agentes biológicos relacionados aos casos.

Os episódios fazem parte de um relatório de 154 páginas publicado pela Anthropic nesta quinta-feira (10), que reúne casos de uso indevido do Claude registrados entre dezembro de 2025 e agosto de 2026. O documento também descreve operações de espionagem, propaganda, vigilância, golpes e desenvolvimento de armas convencionais com auxílio da IA.

Como o Claude foi usado na pesquisa biológica?

Os cinco casos envolvem pesquisadores que tentaram contornar as proteções do Claude ou esconder a finalidade de suas consultas. Em um deles, cientistas acessaram o modelo por meio de uma plataforma intermediária que conseguiu driblar bloqueios regionais e utilizaram a IA em um projeto financiado pelo Estado envolvendo pesquisa de ganho de função com o vírus chikungunya.

Outro caso envolveu um pesquisador de uma região não atendida oficialmente pela Anthropic, que passou semanas usando o Claude para planejar experimentos relacionados à adaptação do vírus da gripe aviária para mamíferos. Segundo a empresa, os mecanismos de segurança limitaram esse trabalho aos modelos considerados menos capazes.

A Anthropic também identificou pesquisadores utilizando o Claude para preparar relatórios científicos e trabalhar com compostos que poderiam ter aplicações tanto benéficas quanto perigosas. Em alguns episódios, os usuários deliberadamente mantiveram informações sobre toxinas e proteínas virais em baixa resolução para esconder a natureza do trabalho.

Isso não significa que o Claude tenha sido usado para fabricar uma arma biológica. A própria Anthropic afirma que não tem evidências de que os pesquisadores pretendiam causar danos e decidiu ocultar detalhes que poderiam identificar os envolvidos.

Sabemos quais países estão envolvidos?

Nos casos de pesquisa biológica, não. A Anthropic afirma expressamente que não divulgará os países ou instituições relacionados aos cinco episódios.

O relatório, porém, identifica países em outros tipos de uso indevido. Na área de armas convencionais, por exemplo, a empresa descreveu seis casos: três na China, dois na Rússia e um no Iêmen. Os envolvidos usaram o Claude para atividades relacionadas a armas, incluindo desenvolvimento de software e coleta de informações para programas militares.

A empresa também identificou operações de propaganda ligadas a atores da Rússia, Irã, Turquia e países do Golfo, Sul da Ásia, África e Europa. Uma dessas campanhas produziu pelo menos 8.913 artigos em cerca de 20 idiomas e direcionou conteúdo a públicos de países como Estados Unidos, Brasil, França e República Democrática do Congo.

Na área de espionagem digital, a Anthropic atribuiu uma campanha contra autoridades, militares e diplomatas ucranianos a um grupo cujo comportamento seria compatível com o Midnight Blizzard, grupo que o governo dos Estados Unidos já associou ao serviço de inteligência estrangeira da Rússia.

Anthropic bloqueou os usuários

A empresa afirma ter banido as contas relacionadas aos casos e usado as informações coletadas para reforçar os mecanismos de segurança dos modelos. O relatório também reconhece uma mudança importante no cenário: modelos atuais conseguem auxiliar em tarefas científicas complexas que versões anteriores não conseguiam realizar com o mesmo nível de capacidade.

A Anthropic também afirma ter colocado proteções mais rígidas em modelos recentes, especialmente para consultas relacionadas a pesquisas biológicas de uso dual. A companhia também defende que sistemas de IA avançada sejam oferecidos em programas com usuários confiáveis quando houver risco elevado de uso indevido.

Veja mais sobre a Anthropic no Canaltech: Cientista da dona do Claude vê mais de 10% de chance de IA exterminar humanidade.