"Padrinho da IA” deixa o Google e alerta para perigos da tecnologia

Um dos maiores nomes da inteligência artificial do planeta deixou seu cargo como um alerta para os riscos associados ao uso desenfreado da tecnologia. Geoffrey Hinton era vice-presidente do Google, membro da equipe de engenharia e conhecido como o “Padrinho da IA" por sua atuação histórica no setor.

• Google vai usar IA generativa para criar campanhas de publicidade
• Google Bard agora sabe programar em mais de 20 linguagens

Em entrevista concedida ao jornal The New York Times, o Hinton afirmou que sua renúncia em abril ocorreu para demonstrar sua preocupação com o desenvolvimento de IAs. Ele disse haver uma série de problemas éticos ainda não resolvidos relacionados a IAs generativas, como Bard, ChatGPT e Bing Chat.

O especialista acredita que esses modelos podem levar a uma onda de desinformação mundial, como já mostrado em estudo, na qual as pessoas seriam incapazes de diferenciar verdades e mentiras online. Outra preocupação do ex-executivo é sobre a extinção de empregos, indo muito além da eliminação das rotinas enfadonhas e causando problemas em vários segmentos sócio-econômicos.

O ex-chefão de IA também teme pelo uso de armas totalmente autônomas no futuro, já que os modelos poderiam ser treinados para aprender a manejar armamento. Imagine ser abordado por um robô autônomo armado com sua tecnologia descalibrada?

Preocupações teóricas, mas que assustam

A maioria das questões apontadas por Hinton ainda são teóricas, mas poderiam se tornar verdadeiras se não houver regulamentação ou mecanismos mais eficazes de controle. Ele teme por uma escalada no desenvolvimento que poderia culminar em usos nada positivos para a sociedade.

Embora tenha desenvolvido IAs durante15 anos, o profissional disse ter mudado sua postura no ano passado, quando Google, OpenAI e outras concorrentes começaram a criar sistema com inteligência superior aos humanos. Segundo ele, a evolução em apenas cinco anos foi “assustadora”, então isso poderia se tornar problemático nos próximos cinco.

Em entrevista concedida ao site Engadget, o cientista-chefe do Google, Jeff Dean, garante que a empresa se dedica a uma "abordagem responsável" e está atenta a "riscos emergentes". O problema é saber o que tal afirmação significa na prática, já que uma Big Tech importante não ficaria para trás no desenvolvimento de IAs.

O Google já tem uma versão com acesso público, porém restrito, do seu chatbot Bard desde março. A empresa já trabalhava em uma solução semelhante e acabou unindo suas principais tecnologias para desenvolver o robô de conversas humanizadas. Na semana passada, funcionários disseram que o chatbot era "inútil e perigoso" e já tinham pedido a interrupção do desenvolvimento.

Por outro lado, a companhia ainda tem outros serviços pouco conhecidos do público, com o Imagen, que poderia ser usado para criar artes em IA. Nos últimos meses, rivais como o Stable Diffusion, Midjourney e DALL-E enfrentaram problemas relacionados a direitos autorais e uso indevido da tecnologia para criação de imagens fake, que enganaram muita gente, como o Papa Francisco usando um casaco estiloso e a prisão do ex-presidente dos EUA Donald Trump.

Quem é Geoffrey Hinton?

Geoffrey Hinton dedicou sua carreira ao estudo de redes neurais, uma parte essencial de uma IA, mas ficou famoso por desenvolver um sistema de reconhecimento de objetos em 2012 — junto de seus alunos, ele criou uma rede neural que analisou milhares de fotos e desenvolveu sozinha a capacidade de identificar objetos comuns, como animais e plantas. Sua empresa, chamada DNNresearch, foi comprada pelo Google no ano seguinte.

Sua criação permitiu o estabelecimento de conceitos de realidade aumentada e a diversas outras otimizações. Se hoje máquinas conseguem diferenciar uma parede de uma maçã, por exemplo, parte disso é graças à tecnologia de Hinton.

Sinal de alerta

Uma preocupação vinda de alguém que atuou no desenvolvimento das principais IAs do Google certamente acende um sinal de alerta na sociedade. Ele não é o único a se posicionar de tal maneira: vários empresários, acadêmicos e especialistas já se posicionaram contra o desenvolvimento livre de IAs.

Recentemente, um grupo de especialistas pediu uma pausa de seis meses na criação de tecnologias para se estabelecerem bases legais e éticas. O problema é que até os signatários da tal carta, como o bilionário Elon Musk, já correm para lançar suas próprias IAs generativas.

Resta saber se o peso do nome de Hinton poderia endossar o coro pela pausa ou se a busca pelo lucro ainda se manterá como a bússola das Big Techs. É provável que a segunda hipótese seja a mais viável, porém é possível que a sociedade mundial precise dedicar tempo para debater os limites e aplicações das IAs em algum momento.

Fonte: Engadget, The New York Times