Homem é preso na China por usar ChatGPT para criar fake news

Um homem foi preso após usar o ChatGPT para criar uma notícia falsa sobre um grave acidente de trem que teria matado nove pessoas. O criminoso, identificado apenas pelo sobrenome Hong, teria usado o chatbot para disseminar o pânico na população de Gansu, província no noroeste da China.

• 8 coisas incríveis que o ChatGPT com GPT-4 consegue fazer
• Stephen Hawking previu o extermínio da humanidade pela IA há quase uma década

A polícia foi alertada sobre o suposto caso por internautas e descobriu se tratar de uma mentira. Foi quando os agentes repassaram o artigo do acidente para autoridades de segurança cibernética, que iniciaram uma investigação.

O órgão de segurança digital descobriu 21 blogs cadastrados no Baidu, o “Google chinês”, que teriam publicado o artigo falso, porém relatando locais diferentes do acidente. Esses textos, quando somados, acumularam mais de 15 mil visualizações, o suficiente para assustar a população dos locais supostamente afetados.

A polícia conseguiu rastrear a origem das postagens falsas e descobriu a relação com uma empresa operada por Hong. O conjunto de sites estavam registrados no centro tecnológico de Shenzhen, uma espécie de “Vale do Silício” da China.

Preso admitiu ter usado ChatGPT para criar fake news

O acusado é morador de Kongtong e foi preso pela polícia local no domingo, conforme anúncio oficial das autoridades via WeChat. Os policiais divulgaram a série de fotos acima no post no qual documentaram a prisão do homem.

Ele admitiu ter usado o chatbot da OpenAI para gerar conteúdo falso sobre o acidente antes de publicar tudo online. O homem teria apenas modificado os locais para tentar ampliar o alcance da mentira criada pelo robô inteligente.

Se for condenado, Hong pode pegar até 10 anos de prisão pelo crime de “arrumar brigas e provocar problemas". Um processo judicial foi instaurado para averiguar os danos e comprovar a associação do empresário com a criação das fake news.

ChatGPT é bloqueado na China, mas isso não impediu crime

O governo chinês aprovou uma lei que regulamenta o uso de deep fake em janeiro, a qual foi aplicada neste caso. A legislação pune quem utiliza indevidamente tecnologias para alterar dados faciais e voz para enganar as pessoas.

Vale lembrar que o ChatGPT é bloqueado na China justamente para evitar problemas. Mesmo assim, muita gente burla o firewall oficial do governo usando redes privadas virtuais, as famosas VPNs. Rivais orientais também já desenvolvem alternativas aprovadas por Pequim, como o Tongyi Qianwen (Alibaba) e o ErnieBot (Baidu).

Existe uma grande preocupação de autoridades do mundo inteiro sobre o uso de IAs generativas para criação de mentiras, boatos e notícias falsas. Como esses chatbots são altamente avançados, conseguem simular um artigo criado por humanos para espalhar a desinformação.

Este é provavelmente o primeiro caso público de prisão por uso indevido do ChatGPT. O chatbot de IA viralizou no mundo inteiro por suas capacidades impressionantes, que vão desde gerar respostas com estilo humanizado até a execução de tarefas manuais, como criar códigos de programação.