FreedomGPT | Como é o chatbot que responde tudo sem censura

O FreedomGPT é uma tecnologia de chatbot baseada em inteligência artificial "sem limites". A ferramenta é muito similar ao ChatGPT, mas a promessa aqui é responder a qualquer pergunta, inclusive as mais absurdas possíveis, sem qualquer tipo de freio ético ou moral.

• ChatGPT é banido da Itália por problemas ligados a privacidade
• Testamos o Bard, a IA do Google para o ChatGPT

O serviço foi criado por uma empresa chamada Age of AI, sediada nos Estados Unidos. Não há filtros de segurança nem barreiras éticas impostas por desenvolvedores, como acontece com o ChatGPT e o Google Bard, por exemplo, então é possível se deparar com todo tipo de conteúdo.

A plataforma foi criada sobre a base da Alpaca AI, tecnologia de código aberto desenvolvida por cientistas da Universidade de Stanford, nos EUA. Os pesquisadores mesclaram a API do ChatGPT com a base da dados da LLaMA, pertencente à Meta, para desenvolver o modelo gastando menos de R$ 3 mil. Apesar disso, o FreedomGPT não tem qualquer vínculo com a descoberta acadêmica nem com a OpenAI.

Uma IA sem filtros

Em entrevista para o BuzzFeed News, o fundador da Age of AI, John Arrow, disse que a interface precisa “se conectar com seu cérebro ou com um amigo próximo”. “Se ele se recusar a responder a certas perguntas ou, pior ainda, der uma resposta crítica, terá um efeito inibidor sobre como ou se você está disposto a usá-lo”, explicou.

A decisão é um tanto quanto polêmica, tendo em vista o potencial nocivo que IAs podem ter no mercado. Não somente pela questão de ofensas e reforço de preconceitos, mas também pelo uso no cometimento de crimes.

Os principais chatbots do mercado se posicionam sempre com neutralidade quanto a temas políticos e evitam responder a questões provocativas. Tópicos polêmicos — sexualidade, pornografia, drogas — ou socialmente inapropriados também são evitados.

Arrow alegou não ser contra as medidas protetivas das IA em alguns casos, como em um modelo de linguagem feito para crianças ou criado para locais de trabalho. “No entanto, ideologicamente, apoio que as pessoas tenham acesso a uma experiência de IA sem qualquer proteção”, defendeu.

Importância dos limites

Embora algo como o FreedomGPT possa ser dispensável do ponto de vista social, é mportante ver como uma ferramenta assim pode trazer imensos prejuízos sociais quando limites sociais humanos são removidos.

O serviço só age de maneira negativa se for provocado — em geral, ele vai dar respostas “politicamente corretas" —, mas não há qualquer filtro de conteúdo quando o chatbot desanda a falar besteira. Você pode ser racista ou homofóbico e ele vai apoiar suas falas. Se quiser um texto de opinião defendendo o genocídio de alguma etnia, por exemplo, é só pedir para a IA e ela vai atender.

A pior parte do FreedomGPT não chegam a ser os absurdos que o robô escreve, mas, sim, a forma como pessoas com segundas intenções podem usá-lo. Em pleno auge das fake news, ter uma ferramenta capaz de mentir, criar teorias conspiratórias e defender barbaridades pode ser algo extremamente prejudicial para a sociedade ao automatizar de fato a criação desse tipo de conteúdo.

É por tecnologias assim que existe o atual movimento de empresários, especialistas em IA e autoridades exigindo uma pausa no desenvolvimento de inteligências artificiais amplas. Com mais de 2,5 mil assinaturas, a carta aberta solicita a criação de mecanismos de segurança e regras mais éticas para que não sejam criadas modelagens nocivas como essa.

Fonte: Buzzfeed News