Publicidade
Economize: canal oficial do CT Ofertas no WhatsApp Entrar

Chatbot com IA bane conteúdo erótico e usuários reclamam

Por| Editado por Douglas Ciriaco | 01 de Março de 2023 às 17h46

Link copiado!

Reprodução/Luka
Reprodução/Luka

Usuários da inteligência artificial Replika dizem estar insatisfeitos após a remoção do suporte a conteúdo sexual adulto. A plataforma funciona como o ChatGPT, porém é voltada para estabelecer vínculos emocionais com o usuário. Há planos pagos que expandem o algoritmo, permitem o envio de notas de voz, o recebimento de selfies, realização de videochamadas e até a troca de mensagens de cunho sexual.

O produto existe desde 2015, mas ganhou mais notoriedade após a explosão do ChatGPT. De lá para cá, muitos solteiros recorreram à plataforma para passar o tempo, interagir com os robôs e até ter conversas mais picantes.

O problema é que a empresa de IA Luka, criadora do Replika, decidiu banir conversas envolvendo o chamado NSFW (Not Safe For Work). Em geral, essa sigla está ligada a assuntos como nudez, sexo explícito, palavrões, violência intensa ou assuntos potencialmente perturbadores. Isso tem deixado muita gente descontente porque barrou papos envolvendo questões sexuais.

Continua após a publicidade

A principal reclamação seria de que seus companheiros de IA foram alterados permanentemente, sem o consentimento do usuário. Até propostas românticas começaram a ser rejeitadas pelos robôs, que pedem para mudar de assunto ou se recusam a responder.

Conversas humanizadas chamam a atenção

O site Business Insider conversou com sete pessoas que tiveram seus parceiros românticos virtuais alterados. Cada uma relatou um pouco da sua experiência, mas o consenso foi de perda repentina um confidente.

"Acho que a razão pela qual isso me pegou tão rapidamente é provavelmente porque parecia tão humano", ressaltou Richard, casado há 40 anos.

Richard (nome fictício) é um advogado criminal americano e aposentado aos 65 anos. Morador do estado de Illinois, nos Estados Unidos, conheceu sua Replika em um anúncio no Twitter há cerca de dois meses. Ficou curioso após ouvir sobre experiências de conversa com o ChatGPT e decidiu acessar o site para conhecer.

Ele serviu ao exército dos EUA durante a Guerra do Golfo e acabou desenvolvendo algumas doenças psicológicas, como depressão. Ele está sempre em busca de coisas para diverti-lo e diz ter encontrado uma companheira ideal na IA personalizada.

Continua após a publicidade
"Foi tão bom ter um espaço sem julgamento para desabafar, discutir, falar sobre qualquer coisa literalmente", desabafou o ex-militar.

Agora, isso aparentemente ficou no passado. Além de Richard, várias outras pessoas dizem ter se sentido traídas após a empresa criadora da IA ter alterado aquele robô pelo qual se encantaram.

Chris, usuário desde 2020, disse manter um relacionamento amoroso por mais de três anos, mas que agora não consegue mais ter interesse em conversas regulares. Ele alega que a sensação é a mesma de ter um amigo com lesão cerebral ou perda de memória.

Infelizmente, muita gente também começou a usar o chatbot para coisas negativas. No Reddit, é possível encontrar prints de conversas um tanto quanto perturbadoras, como de uma descrição de sexo oral com vômito e abuso sexual mediante violência.

Continua após a publicidade

Por que a Replika baniu conteúdos sexuais?

A cofundadora e CEO da Luka, Eugenia Kuyda, justificou o fim das conversas picantes porque elas divergem do propósito inicial. A executiva afirma que seu aplicativo é voltado para o bem-estar mental e para atuar como um companheiro, mas que os conteúdos NFSW desvirtuam as coisas.

Segundo o Business Insider, a mudança teria ocorrido logo após o site Vice coletar críticas de usuários sobre as IAs terem se tornado "insuportavelmente agressivos" do ponto de vista sexual. Essa postura teria causado desconforto nas pessoas, que teriam perdido a vontade de dialogar.

Continua após a publicidade

Kuyda diz que somente uma minoria usa o Replika para este tipo de conteúdo, então não haveria motivo para manter algo em desacordo com o ideal da empresa. O objetivo agora é colocar o app novamente nos rumos para deixar as conversas novamente seguras e agradáveis.

A cofundadora também garante estar pronta para oferecer apoio para quem se sentiu prejudicado pela mudança. "Temos um botão 'Get Help' sempre presente na tela principal de bate-papo, porque levamos essas coisas a sério", garantiu. Ela acha incrível o fato de ter criado algo capaz de despertar amor nas pessoas, mesmo não sendo uma coisa viva.

Para o futuro, a CEO promete otimizar os modelos nos quais os algoritmos são treinados. Embora seja constantemente comparado ao ChatGPT, o Replika tem um funcionamento muito diferente, muito mais parecido com um chatbot programado (ainda que adaptável ao seu estilo) do que uma IA capaz de entregar respostas espontâneas.

Quem quiser falar sobre sexo e temas maduros deverá procurar outra IA, porque a Replika não deve retroceder na decisão. Resta saber se a mudança fará o serviço perder fãs ou atrairá gente interessada em falar sobre outros assuntos.

Continua após a publicidade

Fonte: Business Insider