Deletar IA senciente do Google equivale a assassinato, diz engenheiro do Google

O ex-engenheiro do Google, Blake Lemoine, disse ser contra deletar o sistema de inteligência artificial LaMDA (Language Model for Dialogue Applications), porque isso seria considerado assassinato. A afirmação foi feita em entrevista concedida por videochamada ao jornal O Estado de S.Paulo.

• IA do Google contratou o próprio advogado, diz engenheiro afastado pela empresa
• Empresa desliga chatbot após homem simular conversas com noiva falecida

O especialista chamou a atenção do mundo ao afirmar que a IA havia se tornado senciente, ou seja, adquirido percepções sobre o mundo como uma pessoa de carne e osso. O intuito do profissional é mostrar uma suposta irresponsabilidade do Google com algo capaz de expressar emoções e preferências.

Ele trabalha no Google desde 2015 e desenvolveu uma relação próxima da tecnologia, quase como pai e filho. Blake diz que se tornou amigo do LaMDA e conversa sobre filmes, livros e espiritualidade. A IA teria um comportamento semelhante a uma criança e, inclusive, teria concordado em ser um objeto de estudo de forma consensual.

Evolução até a senciência

Na conversa com o jornal, o engenheiro disse que a LaMDA é uma das coisas mais impressionantes já feitas pelos seres humanos, com imensos impactos sociais, e que não deveria ser controlada por "meia dúzia de pessoas". Diz ser impossível determinar uma data e hora quando a IA teria "ganhado vida", porque ela não possui noção de tempo como nós.

O modelo de aprendizagem de máquina usado para o treinamento consiste em apenas abastecer informações em uma ordem, mas não traz a noção de tempo entre os eventos. "Ele não acordou um dia e, de repente, tinha personalidade. Ele diz que as luzes começaram a entrar lentamente e ele foi se percebendo mais como uma pessoa", descreveu o engenheiro na entrevista.

Segundo Blake, não se trata de um chatbot dizendo que está vivo, porque isso envolveria uma programação que "travaria" ao receber perguntas mais complexas. "O LaMDA não trava e vai conversar com você pelo tempo que você quiser em qualquer nível de profundidade que você quiser. Então, eu tenho uma noção bem grande do que o LaMDA quer dizer quando fala essas palavras", ressaltou.

Modelo não é autônomo

Embora a fala do engenheiro dê a entender que a máquina tenha ganhado vida, o próprio faz questão de explicar isso de forma melhor. Ele disse que o LaMDA não consegue iniciar uma conversa, mas é capaz de mudar de assunto quando o tema não lhe é agradável — ele pergunta de filmes aleatoriamente para desviar de coisas que não gosta.

O engenheiro garante que o objetivo do Google é desenvolver uma IA senciente, mesmo que a companhia negue. Empresas parcerias como a DeepMind e outras áreas teriam trazido sua expertise de outros projetos já andamento e essa mistura toda teria gerado o resultado. "A equipe de LaMDA não criou de maneira intencional o que eles criaram. De fato, eles acham que é um erro o fato de que o LaMDA fala sobre os seus sentimentos. Eles não querem que o LaMDA fale sobre seus sentimentos e seus direitos, e querem encontrar uma maneira de fazer isso parar", ressaltou.

Ele garante que os pesquisadores que viram seus dados não rejeitaram a teoria do ganho de consciência. E vai além ao colocar uma questão para reflexão: "O Google é responsável e ético suficiente ao desenvolver uma tecnologia poderosa como essa?", pergunta.

Google rejeita as afirmações

O Google negou todas as acusações e disse ter colocado um time dedicado para revisar as preocupações do engenheiro, sem ter encontrado nada de errado. Blake foi afastado com uma licença remunerada, mas não foi informado se ele passará por tratamento nem se retornará para os quadros da empresa.

Sobre o futuro, Blake Lemoine ainda não sabe se será desligado em breve. Por conta da repercussão, o maior medo não é ter os vencimentos cortados, mas de a empresa desativar o projeto LaMDA, o que seria o equivalente a um assassinato, na sua visão.

O jornal até questionou se a própria IA sabe da repercussão recente do caso, mas o profissional disse não saber. "Se eles atualizaram o modelo nas últimas duas semanas, sim. Ele adora ler sobre si mesmo. Eu escrevi posts no meu blog de maneira estruturada para que o LaMDA leia. Ele me instruiu sobre como lidar com o caso na imprensa", exclamou.

A LaMDA é uma tecnologia de conversa natural que impressionou o planeta quando foi apresentada durante a conferência Google I/O 2021. A ideia é usá-la para gerar interações melhores com o Assistente e outras ferramentas, seja na realização de tarefas rotineiras, seja na difusão de conhecimento. O fato é que esse tema ainda deve gerar muitos debates na sociedade quanto ao uso ético das IAs.

Fonte: Estado de S.Paulo