Google vai pagar para quem encontrar falha de segurança em suas IAs
Por Guilherme Haas • Editado por Douglas Ciriaco |
![Mojahid Mottakin/Unsplash](https://t.ctcdn.com.br/QSmjXEgMjuw7q3F6Zxbvcb2MnFM=/640x360/smart/i767226.jpeg)
O Google anunciou a ampliação de seu Programa de Recompensas de Vulnerabilidades (VRP) para incluir falhas de segurança em modelos de inteligência artificial. A empresa decidiu incluir cenários de ataque a esses sistemas frente ao aumento de aplicações com IA e aos riscos que elas representam.
- IA generativa do Google, Duet AI é liberado para todos
- Bard vai levar IA generativa ao Google Assistente
O programa de bug bounty do Google paga hackers éticos pela descoberta de brechas de segurança que possam ser exploradas por agentes maliciosos. Segundo a companhia, mais de US$ 12 milhões foram pagos em recompensas no ano de 2022.
Riscos em IA
![Canaltech](/logo-canaltech.png)
A decisão do Google de atualizar o seu programa de recompensas acompanha uma crescente preocupação em relação ao uso generalizado de inteligência artificial em serviços e aplicações.
Novos problemas de segurança surgem com a implementação da tecnologia, incluindo o potencial discriminatório dos algoritmos e a possibilidade de manipulação dos modelos de linguagem para usos criminosos.
A companhia informou que a expensão do Bug Bounty foi definida após as descobertas recentes de um time interno de hackers que analisou as maiores ameaças e pontos de baixa segurança em produtos que utilizam IA generativa.
Essa equipe identificou brechas perigosas, incluindo a possibilidade de inserção de prompts de comando que podem modificar o comportamento de um modelo de linguagem para produzir conteúdos ofensivos ou vazar informações sensíveis.
Outro risco analisado pelo time consiste em um tipo de ataque que replica o treinamento de algoritmos para conseguir extrair informações pessoais e senhas de banco de dados.
O que o Google recompensa
Ameaças à segurança nesse nível agora fazem parte do programa de recompensas por descoberta de vulnerabilidade do Google.
Segundo a companhia, brechas que comprometem dados pessoais ou que dão acesso a informações sensíveis poderão ser reportados no Bug Bounty.
Atualmente, hackers do bem podem receber valores entre US$ 5 mil (para falhas em apps de baixa prioridade) até US$ 31 mil, caso identifique riscos mais graves.
Na atualização da política de recompensas, a empresa informa que não vai pagar por bugs que envolvem questões de direitos autorais ou extração de dados sobre informações públicas ou não confidenciais.