Nova IA da empresa do Claude é tão avançada que é perigosa: "Não vamos lançar"
Por Viviane França |
A Anthropic anunciou o Claude Mythos Preview, um novo modelo de IA tão poderoso que, segundo ela, não pode ser lançado ao público por enquanto. Segundo a empresa, a IA atingiu um nível de raciocínio e codificação que consegue superar a maioria dos humanos na descoberta e exploração de vulnerabilidades de software, o que seria perigoso se a tecnologia fosse usada por criminosos ou governos.
- Por que o Claude está mais lento? Boom de usuários pode explicar o problema
- Como brasileiros usam o Claude? Estudo da Anthropic revela hábitos
A Anthropic decidiu restringir o acesso do Mythos a um grupo seleto de organizações da área de segurança digital e infraestrutura crítica por meio do Projeto Glasswing. A iniciativa traz grandes nomes, como Apple, Microsoft, Google, AWS, NVIDIA, Cisco, CrowdStrike, Palo Alto Networks, JPMorgan Chase, Broadcom e Linux Foundation, além de envolvimento de representantes do governo dos Estados Unidos para avaliar os riscos e impactos das capacidades ofensivas e defensivas do modelo.
O modelo já identificou milhares de falhas graves de forma autônoma, como um problema de 27 anos no OpenBSD, uma falha de 16 anos no FFmpeg que teria passado por cerca de 5 milhões de testes automatizados sem ser detectada, além de falhas em cadeia no kernel do Linux, que poderiam dar controle total de sistemas a um invasor.
Além disso, a empresa anunciou que vai oferecer US$ 100 milhões em créditos para uso do modelo e destinar US$ 4 milhões em doações para entidades ligadas à segurança de código aberto, e prometeu transparência sobre os resultados e correções feitas ao longo do processo, com publicação de um relatório após 90 dias.
Em uma publicação no X, Dario Amodei, CEO da Anthropic, disse que os riscos de lidar com uma IA desse nível são “óbvios”, mas defendeu que o Mythos também abre uma oportunidade rara de usar o modelo para tornar a internet mais segura. Segundo ele, se a tecnologia for aplicada da forma certa, ela pode ajudar a corrigir falhas críticas antes que sejam exploradas, fortalecendo a segurança de sistemas usados no mundo inteiro.
O que é o Projeto Glasswing e como vai funcionar?
O Projeto Glasswing é uma iniciativa de segurança cibernética liderada pela Anthropic para usar o Claude Mythos Preview como uma ferramenta defensiva e proteger os softwares mais importantes do mundo.
A proposta funciona como um consórcio entre empresas de tecnologia, pesquisadores, provedores de infraestrutura e organizações ligadas a projetos essenciais da internet, com o objetivo de usar o modelo para analisar sistemas e encontrar falhas antes que elas sejam exploradas por hackers.
O Mythos Preview será usado para mapear superfícies de ataque e encontrar vulnerabilidades em sistemas operacionais, navegadores, bibliotecas e infraestruturas amplamente utilizadas.
A Anthropic só pretende considerar um lançamento público do modelo quando conseguir implementar medidas de segurança suficientes para reduzir o risco de uso malicioso, com essas proteções devendo aparecer primeiro em uma futura versão do Claude Opus.