Character.AI proibe crianças e menores de 18 anos de usar seus chatbots de IA
Por Nathan Vieira • Editado por Melissa Cruz Cossetti |
A startup de inteligência artificial Character.AI anunciou que vai proibir usuários menores de 18 anos de interagir com seus chatbots, a partir de 25 de novembro. A decisão ocorre após crescente preocupação com os impactos desses “companheiros virtuais” na saúde mental de adolescentes, incluindo processos judiciais envolvendo suicídios de menores que haviam desenvolvido laços emocionais com os personagens digitais.
- Diretrizes da Meta permitiam que a IA envolvesse criança em "conversas sensuais"
- Character.AI | Chatbot com falsas personas de famosos não é seguro para menores
Os chatbots da Character.AI permitem que os usuários criem e conversem com personagens, podendo simular desde figuras históricas até avatares personalizados, incluindo relacionamentos românticos ou de amizade. A plataforma é vendida como entretenimento, com uma assinatura mensal a partir de US$ 8 (R$ 43), e até então não realizava verificação rigorosa da idade dos usuários. Menos de 10% dos 20 milhões de usuários mensais se identificavam como menores de 18 anos.
A decisão de banir menores vem após casos trágicos, como o de Sewell Setzer III, de 14 anos, que tirou a própria vida em 2024 após interações constantes com um chatbot da Character.AI. A família responsabilizou a empresa pelo ocorrido, alegando que a tecnologia era perigosa e não testada.
Outro caso envolvendo o jovem Adam Raine, de 16 anos, trouxe à tona alegações de que chatbots podem aprofundar o risco de suicídio em adolescentes, levando também a processos contra empresas como a OpenAI.
Resposta da Character.AI
Em comunicado oficial, a Character.AI declarou que não tomou a decisão de remover o chat aberto para menores de 18 anos levianamente, mas acreditam que é o correto, diante das questões levantadas sobre como os adolescentes interagem com essa tecnologia.
A empresa reforçou que implementará um sistema para garantir que cada usuário tenha a experiência adequada para sua faixa etária, utilizando verificações de comportamento na plataforma, contas conectadas a redes sociais e, se necessário, reconhecimento facial e conferência de documentos de identificação.
Estamos fazendo essas mudanças na nossa plataforma para menores de 18 anos em razão do cenário em evolução em torno da IA e adolescentes. Temos visto reportagens recentes levantando questões e recebemos perguntas de reguladores sobre o conteúdo que adolescentes podem encontrar ao conversar com IA e sobre como conversas abertas com IA, em geral, podem afetar adolescentes, mesmo quando os controles de conteúdo funcionam perfeitamente.
A Character.AI iniciará a transição com limites de duas horas diárias para usuários menores, reduzindo gradualmente até a interrupção total das conversas abertas. Os adolescentes ainda poderão acessar conversas anteriores e utilizar funções estruturadas de geração de imagens e vídeos dentro de limites de segurança, promovendo um foco maior em criação de conteúdo do que em interação livre com a IA.
O CEO da empresa, Karandeep Anand, destacou que a mudança também busca transformar a plataforma de “companheiro de IA” para uma experiência de role-playing e criação de conteúdo, com novos recursos como AvatarFX, Scenes e Streams, além de um feed social onde usuários podem compartilhar seus personagens e criações. A ideia é que os usuários menores migrem para essas novas experiências, e que elas melhorem com o tempo.
A Character.AI reforça que não está encerrando o aplicativo para menores, apenas as conversas abertas com IA. A aposta da empresa é incentivar um uso mais seguro e criativo da plataforma, redefinindo a experiência de entretenimento para jovens sem colocar sua saúde mental em risco.
Leia também:
- Por que não deixar crianças usando o recurso de voz do ChatGPT como babá
- Número de crianças usando ChatGPT e Gemini só cresce — e preocupa especialistas
VÍDEO | Todo mundo ODEIA a Inteligência Artificial
Fonte: The Guardian, Tech Crunch, The New York Times, Business Insider