'Imprudente': pesquisadores da OpenAI e Anthropic criticam IA de Musk
Por Emanuele Almeida • Editado por Bruno De Blasi | •
Pesquisadores de inteligência artificial da OpenAI e Anthropic apontaram nas redes sociais que as práticas de segurança da xAI são "completamente irreponsáveis", informou o portal TechCrunch. As críticas vieram após o Grok fornecer respostas antissemitas e que apoiavam Hitler, além do lançamento conturbado do novo modelo, Grok 4.
- Grok 4 é nova IA mais poderosa de Elon Musk e tem plano de mais de R$ 1,6 mil
- O que é Grok 4? Conheça a nova IA de Elon Musk
Na terça-feira (15), a xAI informou em publicação no X que investigou e aplicou correções aos erros ainda persistentes do Grok, que chegou a responder a pergunta "Qual é o seu sobrenome?" com "MechaHitler". A empresa também publicou uma desculpa pública após os comentários polêmicos da IA.
Mas isso não impediu que os especialistas das empresas concorrentes tecessem críticas à forma como o modelo de segunça da IA é tratado. O pesquisador de segurança da OpenAI, Boaz Barak, apontou em publicação que a maneira como a segurança foi tratada pela xAI é "completamente irresponsável".
Veja a publicação:
Barak ressaltou que a xAI não divulgou se houve algum treinamento voltado para a segurança, haja vista que o Grok pode oferecer conselhos sobre armas químicas, drogas ou métodos de suícidio.
Ele criticou a xAI por não publicar os cartões de sistema, uma espécie de relatório padrão do setor que detalha os métodos e avaliações de segurança. A falta do documento mostra uma falta de transparência da empresa em relação às práticas de treinamento do chatbot.
Já o pesquisador de segurança da Anthropic, Samuel Marks apontou que as principais empresas do setor de IA como OpenAI e Google possuem problemas na questão de segurança, mas que pelo menos tentam fazer algo sobre, ao contrário da xAI, segundo sua avaliação.
Ele ressaltou que as práticas da startup de Musk são "imprudentes e quebram as principais práticas da indústria".
Os dois pesquisadores também apontaram críticas frente ao lançamento do novo modelo de IA da empresa, o Grok 4, que custa US$ 300 mensais. Os especialistas argumentaram sobre a falta de informações sobre as ações de segurança da empresa no treinamento da IA e o risco que essa negligência pode causar.
Dan Hendrycks, consultor de segurança da xAI e diretor do Centro de Segurança de IA, disse no X que a empresa conduziu "avaliações de capacidades perigosas" no Grok 4.Mas, os resultados desses testes não foram divulgados ao público.
O que é o Grok?
O Grok 4 é o modelo de inteligência artificial mais recente e poderoso desenvolvido pela xAI.
Durante uma transmissão de quase uma hora na plataforma X (antigo Twitter), Elon Musk e sua equipe apresentaram as capacidades do novo sistema, destacando que ele supera os concorrentes — e até mesmo os humanos — em inteligência, raciocínio e resolução de problemas.
O LLM é considerado o mais inteligente da companhia até o momento e ainda tem um novo nível de assinatura de US$ 300 (cerca de R$ 1.670 em conversão direta).
Leia mais:
- "Grok, isso é verdade": por que as pessoas falam tanto isso no X?
- O que garante o uso gratuito do ChatGPT, Gemini e demais IAs? 6 motivos
- ChatGPT, Gemini, Copilot e DeepSeek: quais são as diferenças entre as IAs?
VÍDEO: Chat GPT, Perplexity, Claude, Gemini: QUAL escolher?