Publicidade

DeepSeek e rivais usaram dados do Claude para treinamento de IA, acusa Anthropic

Por  • Editado por Bruno De Blasi |  • 

Compartilhe:
Marcelo Fischer/Canaltech
Marcelo Fischer/Canaltech

A Anthropic, desenvolvedora do Claude, acusou nesta segunda-feira (23) três laboratórios chineses de inteligência artificial (IA) — DeepSeek, MiniMax e Moonshot AI — de extraírem ilegalmente dados de seus sistemas para aprimorar modelos concorrentes. As empresas teriam gerado mais de 16 milhões de interações com o Claude por meio de 24 mil contas falsas.

A prática utilizada pelas companhias asiáticas é conhecida no setor como "destilação". O método consiste em usar os resultados gerados por um modelo de IA mais avançado para treinar um sistema menos capaz de forma rápida e com custo reduzido. 

O acesso comercial ao Claude é bloqueado na China. Para contornar a restrição, os laboratórios utilizaram redes de serviços de proxy para gerenciar o tráfego e contornar os bloqueios regionais.

Canaltech
O Canaltech está no WhatsApp!Entre no canal e acompanhe notícias e dicas de tecnologia
Continua após a publicidade

De acordo com a Anthropic, a MiniMax foi responsável pelo maior volume de extração, com 13 milhões de interações voltadas para codificação e uso de ferramentas. A Moonshot AI registrou 3,4 milhões de trocas e a DeepSeek cerca de 150 mil interações. 

A operação da DeepSeek incluiu também solicitações para que o Claude gerasse dados de treinamento baseados em raciocínio lógico e alternativas para burlar temas censurados.

Riscos e controles de exportação

A desenvolvedora do Claude publicou um comunicado oficial detalhando os riscos da extração de dados. A Anthropic apontou que os modelos de IA desenvolvidos por meio de destilação ilícita não retêm as barreiras de segurança originais

O documento cita que a falta de proteções pode gerar riscos à segurança nacional, como o uso da tecnologia para ciberataques e desenvolvimento de armas biológicas.

O caso também foi utilizado pela Anthropic para defender as restrições impostas pelo governo dos Estados Unidos à venda de chips avançados para a China. 

Segundo a companhia, a necessidade dos laboratórios chineses de extrair dados de modelos americanos comprova a eficácia dos controles de exportação. 

"Na realidade, esses avanços dependem em parte significativa de capacidades extraídas de modelos americanos, e a execução dessa extração em escala requer acesso à chips avançados", afirmou a empresa.

Continua após a publicidade

Para conter as ações, a empresa relatou que investe em sistemas de classificação para identificar padrões de ataque em seu tráfego. A companhia solicitou uma resposta coordenada da indústria, de provedores de nuvem e de autoridades governamentais.

Veja também:

Ouça o Podcast Canaltech:

Continua após a publicidade