China prepara novas restrições para o uso de algoritmos por big techs

A China iniciou uma campanha para conter o que Pequim descreve como um potencial abuso de algoritmos pelas big techs do país, incluindo a ByteDance e a Tencent. Segundo a Bloomberg, a nova ação das autoridades planeja verificar como as plataformas de mídia social exibem anúncios e conteúdo para atrair usuários chineses.

• China planeja regras para que algoritmos da web sejam menos invasivos no país
• China quer regulamentar IA e proibir "discriminação algorítmica"

A campanha conhecida como “Regulamento de Gerenciamento de Algoritmo Abrangente de Qinglang de 2022” busca investigar e corrigir problemas de segurança de algoritmos de empresas de tecnologia com o objetivo de proteger os direitos dos usuários.

De acordo com um comunicado da Administração do Ciberespaço da China (CAC), o órgão visará "sites, plataformas e produtos de grande escala com grande influência", sem citar nenhuma empresa em particular.

A campanha, que será realizado até dezembro deste ano, faz parte de um esforço implementado no final de 2020 para reprimir a influência das big techs que tem crescido exponencialmente, visto que as mesmas são ferramentas usadas para discurso público e entretenimento.

As regras determinam que as empresas enviem seus serviços para revisão e permitam a inspeção das mesmas para evitar “abusos” e “informações de baixa qualidade”, “formações de monopólio”, além de conter o vício online, perturbar a desordem social ou prejudicar a segurança nacional da China, segundo a Bloomberg.

Caso os algoritmos de uma empresa sejam de alguma forma falhos ou ilegais, as empresas enfrentarão multas e penalidades, ainda não especificadas. Com a maior repressão aos algoritmos, a China espera manter o controle da internet e a coleta de dados.

Considerando a popularidade de seus aplicativos e sites e a crescente conectividade da China, diversas empresas transformaram seus respectivos fundadores em bilionários. Porém, as autoridades chinesas têm aumentado o controle sobre a indústria em geral, sobretudo no setor de tecnologia nos últimos anos para frear o seu “crescimento selvagem”.

Pequim propôs diversas restrições em relação aos algoritmos de conteúdo em agosto do ano passado para proibir práticas que incentivam o vício online em redes sociais e principalmente jogos, além de atividades que representem um risco à segurança nacional ou perturbem a ordem social do país.

Alguns dos pontos relatados na proposta do CAC em agosto incluíam a divulgação dos princípios básicos de quaisquer serviços de recomendação de algoritmos e o fornecimento de opções convenientes para desativar as recomendações de algoritmos.

Controle de algoritmos

Em janeiro deste ano, o governo exigiu que provedores de serviços de algoritmo informassem aos usuários como eles são direcionados e fornecessem a opção de desativar os serviços de recomendação.

Para estar de acordo com as leis de privacidade pessoal, a ByteDance e a Tencent fizeram algumas mudanças, com a disponibilização da opção de desativar recomendações de inteligência artificial nos seus aplicativos, incluindo a versão chinesa do Tik Tok, Douyin e o app de mensagens, WeChat.

Com o aumento das regras em relação aos algoritmos, as empresas terão que encontrar novas maneiras de atingir os consumidores. Além do aumento da vigilância sob o uso dos dados pelas big techs, os conteúdos promovidos também têm sido alvo de descrença por parte dos consumidores, visto que os algoritmos há muito manipulam as informações.

Até agora, empresas e comerciantes foram capazes de usar algoritmos para segmentar dados demográficos ou públicos específicos para vender produtos ou influenciar opiniões. Os algoritmos têm o poder de antecipar o poder de compra dos consumidores — que garante a possibilidade dos comerciantes ajustarem sua seleção de acordo com suas preferências.

Fonte: Bloomberg