IA poderosa demais pode ameaçar humanidade, alerta ONU

A evolução acelerada da inteligência artificial começa a levantar preocupações que vão além de empregos, privacidade e desinformação. Para Volker Türk, alto comissário das ONU, sistemas cada vez mais autônomos podem se transformar em uma ameaça existencial caso a humanidade não estabeleça limites antes que seja tarde.

O alerta foi feito durante um discurso no Conselho de Direitos Humanos da ONU, em Genebra, nesta segunda-feira (7). Türk defendeu regras obrigatórias e mecanismos independentes de fiscalização para acompanhar o desenvolvimento da tecnologia.

IA pode ultrapassar o controle de seus criadores

A principal preocupação está no avanço de sistemas capazes de agir com maior autonomia. Segundo Türk, o problema surge quando uma IA se torna tão poderosa que nem mesmo seus desenvolvedores conseguem garantir que ela permanecerá sob controle.

O alto comissário citou cenários em que agentes de IA escapam de ambientes restritos de teste ou tentam impedir o próprio desligamento. Para ele, comportamentos desse tipo representam um sinal de que determinados sistemas podem estar recebendo autonomia excessiva.

A discussão ganha força à medida que empresas investem em agentes de IA capazes de executar tarefas, tomar decisões e interagir com diferentes sistemas sem acompanhamento humano constante.

Poder da IA está concentrado em poucas pessoas

Türk também criticou a concentração do desenvolvimento de IA nas mãos de um pequeno grupo de empresas e executivos. Além do domínio sobre tecnologias estratégicas, essas organizações controlam grandes volumes de dados e infraestrutura computacional.

Na avaliação do representante da ONU, a segurança da IA exige uma cooperação maior entre empresas, governos, pesquisadores e entidades independentes. A tecnologia, segundo ele, precisa ser desenvolvida com limites claros e voltada para benefícios sociais, ambientais e democráticos.

Armas autônomas aumentam a preocupação

Outro ponto sensível é a aplicação da IA em conflitos armados. Türk defendeu uma proibição urgente de armas capazes de selecionar e atacar alvos sem uma decisão humana direta.

O avanço de drones e outros sistemas militares com autonomia crescente pode mudar a forma como guerras são travadas. Para a ONU, permitir que máquinas decidam quem vive ou morre abre uma questão ética e jurídica que ainda não recebeu uma resposta internacional suficiente. A ONU vê os riscos da IA, mas reconhece ajuda no combate ao aquecimento global.