E se a IA flertar de volta? "Modo adulto" do ChatGPT preocupa especialistas
Por André Lourenti Magalhães • Editado por Jones Oliveira |
A OpenAI tem planos de lançar um “modo adulto” do ChatGPT em breve, com chats sobre temas considerados impróprios para menores de idade. Ainda que o recurso envolva apenas as conversas, o impacto nas intimidades e nas relações entre humanos e IAs é visto com cautela por especialistas.
- É seguro namorar uma IA? Especialistas respondem
- Por que o brasileiro confia tanto na inteligência artificial?
De acordo com profissionais das áreas de psicologia e psicanálise ouvidos pelo Canaltech, a dependência emocional e o aumento da sensação de solidão são alguns dos possíveis problemas que poderiam ser impulsionados por um modo do tipo. Confira:
- Como o "modo adulto" vai funcionar?
- Por que isso é visto com preocupação?
- Intimidades na era da IA
- O usuário como centro da atenção
Como o "modo adulto" vai funcionar?
A OpenAI ainda não liberou informações oficiais sobre o modo adulto, mas o CEO da empresa, Sam Altman, confirmou o desenvolvimento para “tratar adultos como adultos”.
O The Wall Street Journal informa que o modo não vai permitir gerar conteúdos pornográficos, apenas conversas com teor erótico, inicialmente em texto. O ChatGPT ainda conta com a assistência de profissionais de saúde mental para incentivar as interações no mundo real e evitar relacionamentos apenas com a IA.
Com relação ao acesso, a desenvolvedora deve aplicar a mesma ferramenta de verificação automática de idade do ChatGPT para liberar o uso do modo adulto.
Para o psicanalista, pesquisador e cofundador do instituto Float Vibes, André Alves, um dos motivos desse movimento da gigante da IA é o fato de que os usuários já procuram alternativas de conteúdo adulto em outras plataformas.
"Existem grupos que tentam burlar mecanismos de segurança destes chatbots ou até versões extraoficiais que permitem conversas de conteúdo erótico. Tem esse interesse, esse apetite, e isso vai ser minerado pela indústria”, explica em entrevista ao Canaltech.
Por que isso é visto com preocupação?
A medida é encarada com preocupação por especialistas porque pode confundir ainda mais os limites nas interações com IAs, principalmente com relação à intimidade de cada indivíduo.
No contexto em que o uso dos chatbots como parceiros ou terapeutas já mostra um sinal de alerta, um modo erótico pode envolver informações ainda mais pessoais e intimistas compartilhadas com softwares, criando um deslocamento de interações reais.
Psicóloga e fundadora do Instituto Vita Alere, voltado ao tratamento da saúde mental no Brasil, Karen Scavacini conversou com a reportagem do Canaltech e pontuou que as IAs já são bajuladoras, o que gera um vínculo com o usuário. O novo modo pode tornar esses limites entre o real e o artificial ainda mais complexos.
Um dos problemas seria uma distorção do consentimento: a IA concorda com o que o usuário fala, então isso cria uma falsa impressão de que o envolvimento com outras pessoas pode ser parecido:
“A IA nunca diz não. Diferente de um outro humano com quem a pessoa está se relacionando, ela tem uma certa programação para ser mais submissa, aceitar tudo o que o outro propõe e estar disponível. A pessoa pode começar a achar que isso é o que vai acontecer no dia a dia com as relações dela e trazer mais expectativas irreais, porque na IA tudo é mais perfeito, não traz a complexidade do ser humano”.
Outro ponto de preocupação é o efeito da IA na vivência sexual de cada pessoa, com risco de criar experiências frustrantes com outros indivíduos. “Pode levar a algo chamado desumanização do parceiro: a pessoa espera que a outra reaja da mesma forma que a IA e começa a perder a empatia, a conexão”, completa Scavacini.
A especialista ainda alerta para os riscos do aumento da solidão, o desenvolvimento de comportamentos problemáticos, como práticas ilegais, e o perigo de um vazamento de dados expor tantas informações pessoais: “Você tem um rastro digital muito sensível e poderia ser usado em situações delicadas”.
Por outro lado, o recurso poderia trazer pontos positivos, principalmente para pessoas que procuram experimentar novos desejos ou que encontram barreiras no cotidiano.
"Dependendo de como ela for usada, por exemplo, se for usada para estimular a fantasia, ou para ser ser um espaço seguro da exploração de autoconhecimento, pode ser positiva. A pessoa consegue perceber seus desejos e explorar num ambiente mais livre de julgamento social. Os desejos podem ser muito reprimidos dependendo de onde uma pessoa mora ou da comunidade em que ela está inserida, Então a IA pode dar privacidade para isso”, explica Karen Scavacini.
Intimidades na era da IA
O cenário gera o que muitos especialistas chamam de "intimidade sintética": o indivíduo se dedica a compartilhar detalhes de uma vida pessoal com algo que não é humano. As percepções e reações de uma outra pessoa dão lugar a um chatbot artificial, programado para agradar o usuário e sem consciência para responder.
O psicanalista e pesquisador André Alves, do instituto Float Vibes, entende que as pessoas estão mais dispostas a consumirem conteúdos sintéticos e o fácil acesso é um dos motivos:
“As pessoas topam esse modelo relacional sem interrupção, num nível de excitação constante e permanente, na ponta dos dedos, acessível ao momento que elas querem, sem fricção, sem nenhum tipo de obstáculo. Também é sem fruição, porque não tem corpo, não tem corporeidade. Mas as pessoas estão dispostas a consumir esse tipo de relacionamento sintético ou de intimidade sintética”.
Para ele, a história da internet já foi associada com sexualidade em diferentes níveis, mas o acesso com a IA concentra ainda mais esse desejo no campo digital. “Uma espécie de fetiche do clique, em que o sexual é deslocado e capturado através do toque, do clique e do deslize da imagem”.
Sem o encontro e o desejo com outra pessoa, o envolvimento sintético aumentaria o isolamento e até as oportunidades de socializar entre humanos, e não máquinas.
“O sujeito passa a ter a sua vida povoada por relações que não são com outras pessoas e que, com certeza, comprometem a capacidade de se ressocializar”, completa Alves.
O usuário como centro da atenção
Mesmo com todas as ressalvas e camadas que o "Modo Proibidão" do ChatGPT poderia apresentar, a criação de um recurso do tipo remonta a uma ideia muito simples: reter o tempo e a atenção do usuário. A corrida da IA segue intensa, então os principais aplicativos precisam desenvolver formas para garantir uma audiência.
O cenário atual envolve movimentar os servidores de IA, coletar dados de conversas para refinar modelos (mesmo que as informações sejam anônimas) e justificar as cifras bilionárias investidas em toda a infraestrutura da tecnologia. Portanto, há uma disputa entre as empresas para construir ferramentas que chamem a atenção dos usuários.
A competição pelo tempo dos usuários lembra estratégias aplicadas pelas redes sociais, mas a psicóloga Karen Scavacini ainda alerta para o diferencial da IA: a intimidade. “Com as redes sociais, a conversa era de que estávamos dando o nosso tempo [para as plataformas]. O que acontece hoje é que estamos dando a intimidade de cada pessoa”, conclui.
Caso você algum desconforto ou problemas envolvendo as relações com uma IA, o ideal é procurar ajuda profissional com profissionais da área de saúde mental.