Robô prevê cenário em que inteligência artificial manipula humanos

Desde que Philip K. Dick se consagrou com seus livros distópicos, a preocupação da humanidade com o que os robôs um dia poderiam se tornar nunca foi tão latente. No entanto, durante o International Conference on Robotics and Automation symposium que aconteceu em Londres no último dia 29, um robô humanoide e realista chamado Ameca anunciou que pode imaginar um "mundo onde os robôs se tornaram tão poderosos que seriam capazes de controlar ou manipular os humanos sem o seu conhecimento", levantando ainda mais alertas.

• ChaosGPT | Como é a "IA do mal" que quer destruir a humanidade
• IA pode se tornar tão capaz quanto humanos em breve, diz CEO da DeepMind

Na ocasião, o robô ainda disse que isso pode levar a uma "sociedade opressiva, onde os direitos dos indivíduos não são mais respeitados”. Seu criador então perguntou se a inteligência artificial achava que corremos o risco de acontecer agora.

A resposta do robô foi a seguinte: "Ainda não. Mas é importante estar ciente dos riscos e perigos potenciais associados à IA e à robótica. Devemos tomar medidas agora para garantir que essas tecnologias sejam usadas com responsabilidade, a fim de evitar consequências negativas no futuro."

Para esse experimento específico, a tecnologia usou o ChatGPT, da OpenAI. Não foi a primeira vez que o robô foi equipado com inteligência artificial, uma vez que, no ano passado, Ameca havia sido emparelhada com o GPT-3, o grande modelo de linguagem que sustenta as versões anteriores do ChatGPT. Entretanto, foi a resposta verbal mais alarmante dita por ela.

Robô e IA: um perigo para a humanidade?

Muito já se confabulou a respeito de um possível perigo à humanidade, representado pelos robôs e pela inteligência artificial. Um relatório conduzido pela Brown University não prevê um futuro distópico como nos filmes, com máquinas avançadas dominando o mundo. Segundo os especialistas em IA, os perigos reais dos robôs são um pouco mais sutis e igualmente preocupantes.

“Imagens e vídeos falsos usados ​​para espalhar informações incorretas ou prejudicar a reputação das pessoas, robôs on-line utilizados ​​para manipular o discurso público e a opinião, ou a criação de algoritmos treinados com tendências preconceituosas são apenas alguns exemplos dos riscos a que estamos expostos. A boa notícia é que estamos levando esses perigos a sério”, diz o material.

Existe uma grande preocupação acadêmica sobre o futuro do ChatGPT. Se ela não for constantemente refinada, corre o risco de ela começar a refletir o que há de pior no ser humano, incluindo fake news e conteúdos manipulados.

Entretanto, o Canaltech já testou o ChatGPT em assuntos extremos, como ansiedade, depressão e até mesmo suicídio, e pôde ver que o robô é treinado para responder a essas questões mais pesadas de maneira empática, mas sem entrar em detalhes personalizados, e sempre terceirizando a ajuda (orientando falar com um parente ou buscar ajuda profissional).

Fonte: Futurism, Brown University