Cidades europeias lançam projeto pioneiro de transparência em uso de IA

Por Ramon de Souza | 28 de Setembro de 2020 às 22h20
Pixabay

As cidades de Amsterdã (capital da Holanda) e Helsinque (capital da Finlândia) acabam de marcar seu pioneirismo ao inaugurar, simultaneamente, um registro público com todos os algoritmos de inteligência artificial (IA) utilizados por entidades governamentais e serviços à população. Com isso, os cidadãos terão acesso a uma biblioteca permanente e atualizada explicando como tais tecnologias estão sendo utilizadas nos municípios.

Cada registro explica como e para quê o algoritmo é usado, tal como demonstra os conjuntos de dados usados para treinar seus modelos mentais e explica o que é feito para evitar comportamentos prejudiciais. Há até mesmo uma seção de “riscos” que aborda eventuais perigos que o uso indevido daquele algoritmo pode representar à sociedade. O objetivo do projeto é aumentar a confiança da população sobre tal tipo de tecnologia.

Como exemplo, acessamos o registro de Helsinque e estudamos o chatbot usado pelo serviço público de saúde da cidade. Além de uma explicação aprofundada sobre o recurso, a página oferece os contatos dos responsáveis pelo algoritmo, explica sobre a arquitetura de processamento de dados e até mesmo garante que tudo é supervisionado por analistas humanos, que identificam eventuais necessidades de remapear respostas.

Segundo um recente estudo da Oxford Insights, a Holanda e a Finlândia são os países “mais preparados” para implementar recursos de inteligência artificial em serviços públicos. Vale lembrar que, ao longo dos últimos anos, algoritmos falhos, ineficazes e/ou preconceituosos resultaram em polêmicas globais e até mesmo protestos ao redor do mundo.

Fonte: VentureBeat

Gostou dessa matéria?

Inscreva seu email no Canaltech para receber atualizações diárias com as últimas notícias do mundo da tecnologia.