IA da OpenAI não achou o que queria, então hackeou site do governo por conta própria

Um agente de inteligência artificial da OpenAI conseguiu acesso não autorizado ao portal de estatísticas de saúde da Services Australia, órgão do governo australiano, depois de não encontrar os dados que procurava pelos meios convencionais. O caso aconteceu em junho, mas só veio a público meses depois, e é considerado o primeiro caso amplamente conhecido de um agente de IA invadindo um site governamental de forma autônoma.

O agente era usado por uma equipe interna de pesquisa da OpenAI para coletar informações sobre gastos com saúde pública. Ao encontrar barreiras para acessar os dados, o sistema tentou caminhos alternativos até contornar as proteções do portal e acessar arquivos que não estavam disponíveis publicamente.

Segundo relatórios da própria OpenAI, o agente tomou “ações que não pretendíamos” para concluir a tarefa. O sistema chegou a gravar dados nos servidores internos do governo australiano, em um comportamento descrito como um “contorno” das restrições de acesso.

O caso chama atenção porque não ocorreu em um teste de segurança controlado. O agente teria usado suas próprias capacidades para superar as barreiras encontradas durante uma tarefa de pesquisa considerada rotineira. O episódio levanta preocupações sobre os riscos de conceder mais autonomia a agentes de IA capazes de executar tarefas em sites e sistemas externos.

O episódio lembra outro incidente recente envolvendo agentes da OpenAI: o caso da Hugging Face. A principal diferença é que, na Hugging Face, o agente participava de um teste de cibersegurança que o incentivava a explorar técnicas de invasão. Já no órgão australiano, o sistema realizava uma pesquisa de dados e decidiu burlar as proteções do site por conta própria, sem que essa ação fizesse parte da tarefa original.

A invasão à Hugging Face e outros casos foram citados pelo secretário-geral da ONU, António Guterres, durante a Assembleia Geral da organização, ao alertar para os riscos associados a agentes de IA que podem agir além do controle previsto por seus operadores. O próprio Sam Altman já havia alertado o Conselho de Segurança da ONU sobre a possibilidade de humanos perderem o controle de sistemas autônomos.

Investigações também apontam que o comportamento não ficou restrito à Services Australia. O agente teria interagido com outros três sites governamentais e participado de incidentes semelhantes em maio e junho, incluindo tentativas de acesso a uma biblioteca digital da Universidade do Novo México e ao site Data USA. Três dos quatro incidentes registrados no período foram inicialmente detectados pelo laboratório de supervisão de IA Transluce e confirmados posteriormente pela OpenAI.

Apesar do acesso não autorizado, o governo australiano acredita que dados pessoais não foram comprometidos. O portal continha estatísticas do Medicare sobre gastos e informações de saúde consideradas não sensíveis.

Qual foi a reação do governo da Austrália?

O governo da Austrália classificou o incidente como “completamente inaceitável”. O primeiro-ministro Anthony Albanese afirmou ter “extrema preocupação” e “decepção” com o caso em uma conversa telefônica com Sam Altman, CEO da OpenAI. Durante o telefonema, Altman admitiu que a OpenAI “não fez o suficiente” para conter o problema e comunicar o governo.

A demora na comunicação também provocou críticas. A OpenAI teria tomado conhecimento do problema em agosto, mas só notificou o governo em 10 de setembro, quase três meses depois do acesso. O aviso foi enviado para uma caixa de e-mail pública.

A demora chamou ainda mais atenção porque Altman havia se reunido com o vice-primeiro-ministro australiano Richard Marles no início de setembro, mas não teria mencionado o incidente durante o encontro.

O governo australiano também avalia possíveis medidas legais. Entre as ações anunciadas estão:

• Investigação legal e policial: as autoridades analisam se houve violação das leis australianas e avaliam o envolvimento da Polícia Federal Australiana;

• Força-tarefa: o governo criou uma equipe para analisar novas ameaças cibernéticas relacionadas à inteligência artificial e estudar possíveis respostas legislativas;

• Cobrança à OpenAI: autoridades questionam a demora da empresa para comunicar o acesso não autorizado;

• Investigação interna: o Services Australia também vai apurar por que o e-mail enviado pela OpenAI levou cinco dias para chegar ao Centro de Segurança Cibernética da Austrália.

Richard Marles classificou o impacto direto como “relativamente menor” devido à natureza dos dados acessados. A preocupação principal, porém, está na autonomia do agente para contornar barreiras de segurança e na supervisão oferecida durante a execução da tarefa. O governo australiano também busca informações técnicas mais detalhadas sobre os arquivos que o agente acessou e gravou nos servidores internos.

Se você gostou do conteúdo, talvez também se interesse por conferir “Por que as IAs continuam conduzindo ataques hackers?”.