Governo quer investigar IAs de "companhia" para crianças por risco de dependência

O Ministério da Justiça e Segurança Pública pediu que a Agência Nacional de Proteção de Dados (ANPD) investigue 13 aplicativos de inteligência artificial que simulam amizade, companheirismo ou vínculo afetivo com os usuários. O governo aponta riscos de dependência emocional, uso compulsivo, exposição a conteúdo inadequado e coleta excessiva de dados, especialmente quando essas ferramentas são usadas por crianças e adolescentes.

A lista analisada inclui Character.AI, Replika, Nomi, Candy.ai, Kindroid, Chai, Paradot, Talkie, CrushOn.AI, EVA AI, Swipey, Anima e SpicyChat.AI. O levantamento é preliminar e, segundo o próprio Ministério da Justiça, não significa que essas plataformas já tenham cometido infrações.

O que são IAs de "companhia"?

Esses aplicativos são diferentes de chatbots de uso geral, como ChatGPT e Gemini. Eles são desenvolvidos para manter conversas contínuas e personalizadas, lembrar interações anteriores e simular uma personalidade ou relação emocional com o usuário.

Em alguns casos, a proposta é funcionar como amigo virtual, parceiro romântico ou confidente. É justamente esse tipo de interação prolongada que preocupa o governo, principalmente quando envolve menores de idade.

Segundo a Secretaria Nacional de Direitos Digitais (Sedigi), os possíveis impactos incluem apego excessivo, substituição de relações presenciais, privação de sono, queda no desempenho escolar e abandono de outras atividades. Também foram identificados riscos de exposição a conteúdo sexualizado ou inadequado.

O uso desse tipo de serviço cresceu rapidamente. Dados citados pelo Ministério da Justiça, com base em relatório do Unicef, indicam que o número de aplicativos de companhia por IA passou de 16 em 2022 para 128 em julho de 2025. Somente no primeiro semestre de 2025, essas plataformas somaram cerca de 60 milhões de downloads.

Verificação de idade é um dos problemas

Outro ponto levantado pelo governo é a facilidade para menores acessarem esses aplicativos.

A análise concluiu que a maioria dos serviços avaliados utiliza apenas a autodeclaração de idade, em que o próprio usuário informa quantos anos tem. Esse mecanismo pode ser facilmente contornado e, segundo a Sedigi, é insuficiente para serviços que oferecem conteúdos inadequados para menores de 18 anos.

O documento também menciona a criação de perfis emocionais e comportamentais a partir das conversas. Essas informações podem ser usadas para personalizar respostas, publicidade ou ofertas de recursos pagos, o que levanta dúvidas sobre possível exploração comercial da vulnerabilidade de adolescentes.

A investigação deverá considerar as regras do Estatuto Digital da Criança e do Adolescente (ECA Digital), que estabelece obrigações específicas para serviços usados por menores. A nota foi enviada tanto à ANPD quanto à Secretaria Nacional do Consumidor (Senacon).

Preocupação também cresce fora do Brasil

O debate não está restrito ao país. A União Europeia apresentou recentemente uma proposta para restringir chatbots capazes de simular relações emocionais com menores, incluindo medidas para reduzir o risco de dependência e limitar o armazenamento de informações entre conversas.

No Brasil, o pedido de investigação faz parte de uma série de ações recentes do governo voltadas à segurança de crianças e adolescentes no ambiente digital, que também inclui novas regras para comunicação de crimes à Polícia Federal e medidas contra plataformas como o Discord.

Veja mais de IA no Canaltech: Como usar ChatGPT e Gemini sem entregar seus maiores segredos