China quer regulamentar IA e proibir "discriminação algorítmica"

A China pretende regular os sistemas de inteligência artificial (IA) para evitar o que os legisladores locais estão chamando “discriminação algorítmica”. De acordo com as novas regras, as empresas serão proibidas de utilizar informações pessoais para oferecer aos usuários preços diferentes para produtos ou serviços.

• Facebook e Instagram reduzem alcance de posts da mídia estatal russa
• Brasileiros criam detector de fake news que usa IA e tem alta precisão

A lei abrange também algoritmos usados para definir valores, controlar resultados de pesquisas, recomendar vídeos, indicar publicações em redes sociais ou filtrar conteúdos seguindo o gosto e os hábitos de navegação online. A ideia é impor tais restrições às principais companhias de transporte, comércio eletrônico, streaming e mídias sociais.

“Os regulamentos estenderão uma repressão extraordinária às empresas de tecnologia mais populares e valiosas da China, incluindo grandes multas e ofertas de ações bloqueadas. Alguns sinais e tendências desordenadas ocorreram devido ao rápido desenvolvimento da economia digital de nosso país”, disse o presidente Xi Jinping, ao comentar sobre a nova legislação.

Proteção online

Alguns elementos dessa lei de regulação de sistemas de inteligência artificial visam resolver reclamações dos usuários sobre os serviços online na China. Além de proibir as empresas de utilizar características pessoais para definir preços, elas também serão obrigadas a notificar os clientes, permitindo que eles saibam quando algoritmos forem usados para fazer recomendações.

As companhias que violarem as novas regras podem ter que pagar multas pesadas, serem impedidas de registrar novos usuários por um determinado período, terem suas licenças comerciais suspensas definitivamente ou seus sites e aplicativos banidos do ambiante online para sempre.

“O público chinês apoia amplamente as medidas destinadas a reduzir o poder das grandes plataformas de tecnologia, cujos serviços eles usam diariamente. Esse sentimento público se compara ao que os ocidentais experimentam em relação ao Facebook e ao Google, que oferecem grande conveniência ao custo dos dados pessoais dos usuários”, explica a fundadora da revista de tecnologia Chinese Characteristics, Lillian Li.

Conteúdo sintético

Uma proposta relacionada ao novo marco regulatório chinês pretende aumentar o cerco ao chamado “conteúdo sintético” — um termo utilizado para identificar notícias falsas, áudios distorcidos e vídeos com deepfake — normalmente usados para constranger ou prejudicar pessoas no ambiente virtual.

Casos as novas medidas sejam aprovadas, os fabricantes de aplicativos de deepfake, por exemplo, seriam obrigados a verificar os nomes reais dos criadores desse tipo de vídeo, etiquetando de maneira visível qualquer conteúdo com imagens falsas sobrepostas às reais.

Segundo especialistas, essa legislação mais rígida proposta pela China é benéfica, mas precisa ser encarada com cautela, uma vez que, dificilmente, ela será aplicada aos algoritmos usados pelo governo para promover valores particulares ou manter o controle sobre publicações simpáticas ao regime.

“Apesar das ressalvas, essas iniciativas podem ter um efeito útil ao redor do mundo. No Reino Unido, alguns legisladores pediram que as empresas online protejam os jovens de conteúdo nocivo em uma abordagem que alguns compararam às propostas chinesas. Esse pode ser um indicativo de que tais ideias podem se espalhar”, pondera o pesquisador do Carnegie Endowment for International Peace Matt Sheehan, que estuda o ecossistema de IA na China.

Fonte: Wired