Stephen Hawking previu o extermínio da humanidade pela IA há quase uma década

O renomado físico Stephen Hawking fez, há quase uma década, uma previsão ousada sobre o extermínio da humanidade por uma inteligência artificial avançada. A visão apocalíptica foi feita em uma carta enviada ao jornal The Independent, em 2014, muito antes de ChatGPT, Midjourney e outras IAs generativas ganharem os noticiários.

• IA pode se tornar tão capaz quanto humanos em breve, diz CEO da DeepMind
• Projeto de lei quer regulamentar inteligência artificial no Brasil

Na época, o gênio afirmou que as IAs seriam “a maior conquista da humanidade até então e possivelmente a última”. Hawking acreditava que os benefícios poderiam ser enormes, mas seria impossível prever as consequências de uma tecnologia tão evoluída — tanto para o lado bom quanto para o ruim.

O documento foi assinado por outros físicos e cientistas, como Max Tegmark, Frank Wilczek e Stuart Russel. O quarteto teceu alguns paralelos com fatos da ficção científica, como em Transcendence - A Revolução, filme estrelado por Johnny Depp e cuja temática gira em torno justamente uma rebelião das máquinas contra seu criador.

IAs seriam destrutivas porque não possuem limites

“Olhando lá na frente, não há limites fundamentais para o que pode ser alcançado: não há lei da física que impeça partículas de serem organizadas em maneiras que possibilitem computações ainda mais avançadas do que as realizadas no cérebro humano”, explicou.

O popular cientista lembrou também o ensaio publicado pelo matemático Irving John Good, em 1965, sobre as “máquinas com inteligência super-humana”. Esses robôs poderiam melhorar seu design repetidamente, aprimorando cada vez mais suas funções e desencadeando um conceito chamado singularidade.

Quase 70 anos depois, essa modelagem é aplicada na maioria dos chatbots e IAs modernas, que jamais deixam de se aperfeiçoar, mesmo que ainda pareçam distante de causar um apocalipse.

Por fim, Hawiking previu que as máquinas poderiam manipular mercados financeiros e seres humanos. Além disso, seriam capazes de desenvolver armas que as pessoas não poderiam controlar e que provavelmente decretarão o fim da espécie. É uma visão bem apocaliptica de futuro que já foi abordada com exaustão por Hollywood em séries e filmes.

Sem interesse em regulamentação e amarras

Hawking ainda ressaltou um problema que se mostra muito atual hoje em dia: a falta de regulamentação do setor de IA. Segundo o pesquisador, pouquíssimas pesquisas eram desenvolvidas em 2014 sobre a mitigação de riscos relacionados à IAs — a maioria feita por pequenos institutos sem orçamento para experimentos em larga escala.

“Será que se criássemos inteligência artificial, e essa inteligência decidisse viver, o desejo de viver seria algo irrelevante, pré-programado, mesmo que involuntariamente, ou algo espontâneo a ser respeitado? E o que as máquinas achariam disso?", concluiu Stephen Hawking no longínquo ano de 2014, numa reflexão que lembra a obra Animatrix, das irmãs Lana e Lilly Wachowski.

É incrível como a humanidade está diante dos mesmos dilemas levantados quase uma década antes. Essa reflexão mostra como gênios como Hawking conseguem pensar à frente do seu tempo, mas nem sempre podem agir para evitar uma catástrofe.

Você acha que as IAs trarão o futuro promissor da humanidade ou transformarão a Terra em um local arruinado como em Matrix?