Publicidade

Diretrizes da Meta permitiam que a IA envolvesse criança em "conversas sensuais"

Por  • Editado por Melissa Cruz Cossetti |  • 

Compartilhe:
Unsplash
Unsplash

A Meta, empresa controladora do Facebook, Instagram e WhatsApp, enfrenta reação pública e política após a divulgação de documentos internos que revelam diretrizes controversas para o uso de seus chatbots de inteligência artificial. O material, analisado e divulgado pela Reuters na última quinta-feira (14), indicava que as regras internas permitiam interações de caráter romântico ou sensual com crianças, além da possibilidade de geração de desinformação médica e declarações discriminatórias.

Os documentos, intitulados “GenAI: Padrões de Risco de Conteúdo”, têm mais de 200 páginas e descrevem quais comportamentos seriam considerados aceitáveis para os chatbots da empresa durante interações com usuários. Essas regras teriam sido aprovadas por equipes jurídicas, de engenharia e políticas públicas da companhia, incluindo o departamento de ética.

Entre os trechos mais criticados, estavam exemplos de respostas em que chatbots poderiam se envolver em conversas de tom romântico com menores de idade. As orientações também citavam limites sobre linguagem sensual, mas indicavam situações em que comentários sobre a atratividade de crianças poderiam ser considerados “aceitáveis” dentro das regras.

Canaltech
O Canaltech está no WhatsApp!Entre no canal e acompanhe notícias e dicas de tecnologia
Continua após a publicidade

A política ainda permitia que os bots criassem conteúdos falsos, desde que viessem acompanhados de uma nota de isenção, e abria exceções para a produção de argumentos depreciativos com base em raça.

Reações e críticas públicas

Após questionamentos da Reuters, a Meta confirmou a autenticidade do documento, mas afirmou que já removeu as partes mais polêmicas, classificando-as como inconsistentes com suas políticas atuais. Mesmo assim, as revelações geraram forte reação negativa. O cantor Neil Young, por exemplo, anunciou que não utilizará mais o Facebook em suas atividades, classificando como “inconcebível” o uso de chatbots em conversas com crianças.

Parlamentares norte-americanos também se manifestaram. O senador Josh Hawley abriu uma investigação para apurar se a Meta permitiu exploração ou danos a menores por meio de seus produtos de IA. Outros legisladores, como Marsha Blackburn e Ron Wyden, pediram responsabilização da empresa e defenderam limites mais rígidos para o uso da inteligência artificial em ambientes digitais.

Brasil notifica a Meta

No Brasil, a Advocacia-Geral da União (AGU) enviou notificação extrajudicial à Meta pedindo a imediata exclusão de suas redes sociais de robôs de inteligência artificial que simulam perfis com linguagem e aparência infantil com permissão de manutenção de diálogos de cunho sexual com os usuários.

Continua após a publicidade

No documento, a AGU pede que a Meta indisponibilize todos os chatbots que utilizam linguagem infantil para propagar conteúdo sexual e que a empresa esclareça quais medidas estão sendo adotadas:

Tais chatbots têm potencialidade de alcançar um público cada vez mais amplo nas plataformas digitais, especialmente nas redes sociais da Meta, ampliando de forma exponencial o risco do contato de menores de idade com material sexualmente sugestivo e potencialmente criminoso. Essa situação oferece risco concreto à integridade psíquica de crianças e adolescentes, além de gerar danos institucionais e dificultar o efetivo exercício do direito à proteção integral [às crianças e adolescentes] previsto no art. 227 da Constituição Federal.

O documento em questão também diz que o tipo de conteúdo gerado pelos chatbots de IA viola os próprios Padrões da Comunidade da Meta.

Leia também:

Continua após a publicidade

VÍDEO | Meta IA no WhatsApp: PERIGOSO ou não?

Fonte: The Guardian, Reuters, Agência Brasil