Publicidade

Google vai pagar para quem encontrar falha de segurança em suas IAs

Por| Editado por Douglas Ciriaco | 27 de Outubro de 2023 às 13h52

Link copiado!

Mojahid Mottakin/Unsplash
Mojahid Mottakin/Unsplash
Tudo sobre Google

O Google anunciou a ampliação de seu Programa de Recompensas de Vulnerabilidades (VRP) para incluir falhas de segurança em modelos de inteligência artificial. A empresa decidiu incluir cenários de ataque a esses sistemas frente ao aumento de aplicações com IA e aos riscos que elas representam.

O programa de bug bounty do Google paga hackers éticos pela descoberta de brechas de segurança que possam ser exploradas por agentes maliciosos. Segundo a companhia, mais de US$ 12 milhões foram pagos em recompensas no ano de 2022.

Riscos em IA

Continua após a publicidade

A decisão do Google de atualizar o seu programa de recompensas acompanha uma crescente preocupação em relação ao uso generalizado de inteligência artificial em serviços e aplicações.

Novos problemas de segurança surgem com a implementação da tecnologia, incluindo o potencial discriminatório dos algoritmos e a possibilidade de manipulação dos modelos de linguagem para usos criminosos.

A companhia informou que a expensão do Bug Bounty foi definida após as descobertas recentes de um time interno de hackers que analisou as maiores ameaças e pontos de baixa segurança em produtos que utilizam IA generativa.

Continua após a publicidade

Essa equipe identificou brechas perigosas, incluindo a possibilidade de inserção de prompts de comando que podem modificar o comportamento de um modelo de linguagem para produzir conteúdos ofensivos ou vazar informações sensíveis.

Outro risco analisado pelo time consiste em um tipo de ataque que replica o treinamento de algoritmos para conseguir extrair informações pessoais e senhas de banco de dados.

O que o Google recompensa

Ameaças à segurança nesse nível agora fazem parte do programa de recompensas por descoberta de vulnerabilidade do Google.

Continua após a publicidade

Segundo a companhia, brechas que comprometem dados pessoais ou que dão acesso a informações sensíveis poderão ser reportados no Bug Bounty.

Atualmente, hackers do bem podem receber valores entre US$ 5 mil (para falhas em apps de baixa prioridade) até US$ 31 mil, caso identifique riscos mais graves.

Na atualização da política de recompensas, a empresa informa que não vai pagar por bugs que envolvem questões de direitos autorais ou extração de dados sobre informações públicas ou não confidenciais.