ChatGPT vai pagar até US$ 20 mil para quem encontrar bugs na IA

O ChatGPT, inteligência artificial (IA) generativa da companhia OpenAI, tornou-se uma febre em todos os setores, por conta de um novo patamar alcançado no aprendizado de máquina. Mais poderosa, precisa e veloz que os modelos anteriores, a novidade, contudo, também é alvo de vários cibercriminosos — no mês passado, houve vazamento de dados sensíveis de usuários, incluindo histórico de conversas e números de cartões de crédito.

• O que é ChatGPT e por que ele preocupa tanto?
• ChatGPT: tudo que você precisa saber antes de sair usando

Embora a companhia tenha melhorado sua segurança, parte dos esforços para construir uma defesa digital mais eficiente está nas ações proativas. E uma delas foi anunciada nesta terça-feira (11): um programa de recompensas para caçadores de bugs. “Nossas recompensas variam de US$ 200 [cerca de R$ 1 mil na conversão direta] para descobertas de baixa gravidade, até US$ 20 mil [R$ 101 mil] para descobertas excepcionais”, diz a OpenAI, que usa a plataforma Bugcrowd, especializada em bug bounty hunters.

“Mas o que seria uma vulnerabilidade para a OpenAI”, você pode se perguntar. Bem, todos que já usaram o ChatGPT puderam notar que o software ainda parece inacabado e está em constante atualização e construção. Portanto, a própria companhia já adiantou que não aceitará “jailbreaks” (interferência no código da própria plataforma para fazer com aja de maneira inesperada) ou prompts de texto com a intenção de fazer com que a IA viole suas próprias regras.

Desde que o ChatGPT surgiu pela primeira vez, os usuários encontraram maneiras de fazer o jailbreak do chatbot para postar palavrões, escrever sobre tópicos políticos proibidos ou até mesmo criar malware. Além disso, a OpenIA adiantou que também não aceitará relatórios de ChatGPT gerando fatos incorretos — há uma lista até considerável de itens que não serão considerados no programa de recompensas de vulnerabilidades.

O que o programa de recompensas do ChatGPT busca?

O bug bounty da OpenAI tem foco em falhas relacionadas à privacidade do usuário e segurança cibernética nos domínios da Web e APIs da empresa. Com isso, o programa de recompensas de bugs da empresa promete ser mais uma frente da companhia na busca por pontos fracos na forma como o ChatGPT processa os dados do usuário, que começaram a incluir acesso de terceiros por meio da API da IA em lojas de plug-ins.

O programa também permite que os usuários descubram bugs envolvendo o vazamento de dados do OpenAI por meio de fornecedores terceirizados ou a localização de chaves de API expostas circulando na Internet. E a companhia exige que os participantes “mantenham os detalhes da vulnerabilidade confidenciais até que sejam liberados pela equipe de segurança da OpenAI”.

Quem quiser saber mais detalhes sobre o programa, assim como participar, basta visitar o site original em inglês.