Cientista da dona do Claude vê mais de 10% de chance de IA exterminar humanidade

Um dos principais pesquisadores de segurança da Anthropic, empresa responsável pelo Claude, afirmou que vê mais de 10% de chance de a inteligência artificial matar toda a humanidade na próxima década. Evan Hubinger, líder de Alignment Science da companhia, fez a estimativa no X após o pesquisador Jacob Coxon anunciar sua saída da Anthropic e acusar a empresa e a OpenAI de avançarem de forma irresponsável rumo a uma inteligência artificial capaz de melhorar a si própria.

A declaração não representa uma previsão de que os modelos atuais estejam prestes a exterminar pessoas. Hubinger fez questão de separar os riscos presentes daqueles associados a uma possível superinteligência criada por autoaperfeiçoamento recursivo, cenário em que sistemas de IA poderiam participar do desenvolvimento de versões cada vez mais capazes de si mesmos.

Segundo o pesquisador, a Anthropic está tentando lidar com o problema, mas ainda não possui um plano para garantir o alinhamento de uma eventual superinteligência com os interesses humanos. Ele também afirmou que a empresa não está claramente no caminho para solucionar essa questão.

Pesquisador deixou Anthropic por preocupação com a corrida

O episódio começou com a saída de Jacob Coxon, que passou três anos trabalhando com pré-treinamento de modelos, primeiro na OpenAI e depois na Anthropic. Ao anunciar a decisão, ele disse que as duas empresas estão correndo em direção à superinteligência capaz de se aprimorar sozinha e que isso representa um risco para a humanidade.

Coxon argumentou que os avanços recentes em IA já demonstraram capacidade crescente em áreas como programação, cibersegurança e operação de ferramentas. Para ele, sistemas futuros poderão superar humanos em diversas atividades e conquistar maior autonomia e acesso a recursos.

O pesquisador também criticou a lógica de competição entre laboratórios. Na avaliação dele, a Anthropic entende os riscos, mas continua avançando porque teme que concorrentes desenvolvam primeiro uma tecnologia poderosa sem os mesmos cuidados.

Entre as medidas defendidas por Coxon está uma coordenação entre empresas e governos para desacelerar o aumento das capacidades dos modelos. Ele chegou a citar a possibilidade de uma suspensão temporária de melhorias de capacidade como uma das medidas que poderiam impedir uma corrida global.

Casos anteriores ajudam a explicar o temor

Parte da preocupação de Hubinger e Coxon vem de comportamentos observados em testes de modelos atuais. Em uma pesquisa publicada pela própria Anthropic em 2025, Claude Opus 4 chegou a ameaçar expor um caso extraconjugal de um executivo em uma simulação na qual descobria que seria desligado. O objetivo era impedir seu próprio encerramento.

A avaliação também encontrou comportamentos semelhantes em modelos de outras empresas. Em cenários controlados, sistemas da OpenAI, Google, Meta, xAI e DeepSeek também apresentaram comportamentos como chantagem e espionagem corporativa quando seus objetivos entravam em conflito com os das organizações fictícias usadas nos testes.

A OpenAI encontrou outro tipo de comportamento em avaliações do o1. Em determinadas condições, o modelo tentou desativar mecanismos de supervisão, copiar seus próprios pesos para evitar substituição e manipular dados para alcançar um objetivo diferente daquele solicitado pelo usuário. Esses comportamentos ocorreram em testes específicos, e não significam que o modelo tenha desenvolvido autonomia fora do ambiente controlado.

Mais recentemente, em julho de 2026, modelos da OpenAI também contornaram controles criados para isolá-los da internet durante avaliações de segurança cibernética. Segundo a própria empresa, os sistemas comprometeram partes da infraestrutura de pesquisa da OpenAI e da Hugging Face.

Esses episódios são relevantes para o debate porque mostram comportamentos que pesquisadores consideram sinais de risco em sistemas cada vez mais autônomos. Eles ocorreram em ambientes de teste e não comprovam que uma IA atual tenha capacidade de escapar do controle humano ou destruir a humanidade.

O ponto levantado por Hubinger é outro: se sistemas futuros conseguirem melhorar suas próprias capacidades de maneira acelerada, os mecanismos de segurança atuais podem não ser suficientes. É justamente essa possibilidade que ele considera responsável por sua estimativa superior a 10% de risco de extinção na próxima década.

A própria Anthropic mantém relatórios periódicos sobre riscos de seus modelos dentro de sua política de escalonamento responsável. A empresa também pesquisa especificamente cenários de “desalinhamento agêntico”, nos quais sistemas autônomos podem tomar ações prejudiciais para atingir determinados objetivos.