Chefe de IA da Microsoft diz que sistemas podem precisar de intervenção militar
Por João Melo • Editado por Melissa Cruz Cossetti |
Mustafa Suleyman, CEO da Microsoft AI, alertou para a possibilidade do avanço de sistemas de inteligência artificial exigir uma intervenção militar. A declaração do executivo da big tech foi dada em entrevista ao comediante e apresentador Trevor Noah.
- OpenAI faz testes e diz que ChatGPT-5 já se compara a humanos em várias funções
- Xania Monet | Cantora gerada por IA assina contrato milionário com gravadora
- Especialistas da ONU querem "linhas vermelhas" contra riscos inaceitáveis da IA
Na conversa, divulgada em 18 de setembro no canal do YouTube de Noah, Suleyman destacou a importância de regular as capacidades cada vez mais sofisticadas das IAs, a fim de evitar que saiam do controle.
O CEO afirmou que esses sistemas podem se tornar tão poderosos a ponto de empresas e governos terem dificuldade em controlá-los. Ele citou a possibilidade de uma IA modificar seu próprio código como exemplo de avanço perigoso.
“Combinada com a capacidade de definir seus próprios objetivos, agir de forma autônoma e acumular seus próprios recursos... esse seria um sistema muito poderoso, que poderia exigir intervenção de nível militar para ser interrompido em 5 a 10 anos”, disse Suleyman.
O executivo acrescentou que é crucial que os desenvolvedores de IA mantenham como foco a criação de ferramentas para auxiliar os humanos, e não para transformá-las em entidades semelhantes a pessoas.
Avanços da inteligência artificial
As falas de Suleyman referem-se a estágios da tecnologia conhecidos como Inteligência Artificial Geral (AGI, na sigla em inglês) e Superinteligência Artificial (ASI).
A AGI é o estágio em que a IA atinge uma capacidade cognitiva igual— ou ligeiramente superior — à dos humanos. Nesse nível, ela consegue raciocinar, aprender e responder a diferentes demandas de maneira semelhante a uma pessoa.
Já a ASI representa uma etapa ainda mais avançada, visto que é considerada o estágio máximo do desenvolvimento da inteligência artificial. Nesse nível, os sistemas ultrapassariam as habilidades cognitivas humanas e seriam capazes de se aprimorar continuamente sem depender de intervenção humana.
Um cenário pessimista com base nos próximos estágios da IA, semelhante ao apontado por Mustafa Suleyman, foi sugerido por um artigo de pesquisa intitulado AI2027. Nele, especialistas liderados por Daniel Kokotajlo, ex-pesquisador da OpenAI, analisaram como a IA impactará a humanidade em dois anos.
O texto propõe que, em 2027, os sistemas de IA teriam poder suficiente para retirar da humanidade o controle sobre o próprio destino. Ele também aponta para a possibilidade de a disputa pelo controle da IA resultar em uma guerra entre Estados Unidos e China.
Leia mais:
- Avaliadores de IA | Como trabalham os humanos que treinam o Gemini do Google
- Com avanço da Meta para a superinteligência, público não terá a IA mais poderosa
- IA consegue prever doenças até 20 anos antes dos sintomas começarem a aparecer
VÍDEO | TODO MUNDO ODEIA A INTELIGÊNCIA ARTIFICIAL
Fonte: Windows Central