Black Friday26/11Adicionar na agenda
Publicidade

O dever de agir da inteligência artificial: quem responde diante de uma ameaça?

Por  | 

Usuário faz uma busca no ChatGPT Inteligência Artificial
Reprodução/Insurtalks

Durante décadas, a responsabilidade das empresas de tecnologia esteve concentrada em uma pergunta relativamente simples. Até onde uma plataforma responde pelo conteúdo produzido por seus usuários? Redes sociais discutiram moderação, aplicativos defenderam a criptografia e mecanismos de busca sustentaram que apenas organizavam informações disponíveis na internet. A inteligência artificial acaba de deslocar esse debate para outro patamar.

Continua após a publicidade

A prisão de um homem investigado por planejar o assassinato do próprio filho após interações realizadas com o ChatGPT representa muito mais do que um caso criminal de grande repercussão. Ela revela o surgimento de uma nova obrigação para as empresas que desenvolvem inteligência artificial. Este é o primeiro caso de grande repercussão no Brasil, em que uma plataforma identificou indícios de uma ameaça concreta, comunicou autoridades e contribuiu para impedir que um crime fosse consumado.

A IA entra no debate sobre dever de agir

Esse episódio inaugura uma discussão jurídica que ainda não possui resposta clara. Quando uma empresa é capaz de identificar um risco real contra a vida, ela ainda pode alegar neutralidade?

Receba as melhores ofertas de tecnologiaCupons e alertas de preço selecionados pela equipe do Canaltech, direto no seu WhatsApp.
WhatsApp
Continua após a publicidade

Até pouco tempo, a resposta provavelmente seria positiva. As plataformas sempre sustentaram que desconheciam a intenção de seus usuários. A inteligência artificial altera essa lógica porque não apenas recupera informações. Ela interpreta contexto, identifica padrões de comportamento e consegue perceber quando uma sequência de interações deixa de representar curiosidade e passa a indicar planejamento, persistência e intenção.

Naturalmente, isso não significa que qualquer pesquisa autorize uma comunicação às autoridades. A privacidade permanece como um direito fundamental e continua protegida pelas legislações de proteção de dados. O desafio está justamente em identificar situações verdadeiramente excepcionais sem transformar plataformas digitais em mecanismos permanentes de vigilância. Mas também é preciso reconhecer que a evolução tecnológica modifica a própria noção de responsabilidade. Se uma empresa possui recursos para detectar uma ameaça concreta e iminente, sua atuação deixa de ser apenas tecnológica e passa a assumir uma dimensão institucional.

O direito já convive com essa lógica em diversos setores. Instituições financeiras monitoram operações suspeitas para prevenir lavagem de dinheiro. Empresas são obrigadas a comunicar incidentes de segurança envolvendo dados pessoais. Em determinadas circunstâncias, o dever jurídico não está apenas em evitar o dano, mas em agir quando ele pode ser razoavelmente identificado.

A inteligência artificial aproxima as plataformas desse mesmo debate. Por isso, a discussão não deve se limitar à tecnologia. Ela exige critérios objetivos, supervisão humana, protocolos transparentes e segurança jurídica para definir quando uma comunicação às autoridades é legítima. Nenhum sistema de IA deve substituir investigadores ou magistrados. Sua função é identificar sinais de risco para que as instituições competentes atuem dentro dos limites da lei.

Continua após a publicidade

Talvez estejamos diante da primeira grande transformação jurídica provocada pela inteligência artificial. Durante anos discutimos como essa tecnologia impactaria profissões e mercados. Agora começamos a perceber que ela também pode alterar a forma como o Direito compreende a responsabilidade das empresas de tecnologia. E esse pode ser um dos precedentes mais relevantes da era da inteligência artificial.