Cidades europeias lançam projeto pioneiro de transparência em uso de IA

As cidades de Amsterdã (capital da Holanda) e Helsinque (capital da Finlândia) acabam de marcar seu pioneirismo ao inaugurar, simultaneamente, um registro público com todos os algoritmos de inteligência artificial (IA) utilizados por entidades governamentais e serviços à população. Com isso, os cidadãos terão acesso a uma biblioteca permanente e atualizada explicando como tais tecnologias estão sendo utilizadas nos municípios.

• Algoritmos de reconhecimento facial estão “surtando” com o uso de máscaras
• Algoritmo de fotos do Twitter é racista e nem a rede social sabe o porquê
• Governo vai usar sistema automatizado de ligações para monitorar COVID-19

Cada registro explica como e para quê o algoritmo é usado, tal como demonstra os conjuntos de dados usados para treinar seus modelos mentais e explica o que é feito para evitar comportamentos prejudiciais. Há até mesmo uma seção de “riscos” que aborda eventuais perigos que o uso indevido daquele algoritmo pode representar à sociedade. O objetivo do projeto é aumentar a confiança da população sobre tal tipo de tecnologia.

Como exemplo, acessamos o registro de Helsinque e estudamos o chatbot usado pelo serviço público de saúde da cidade. Além de uma explicação aprofundada sobre o recurso, a página oferece os contatos dos responsáveis pelo algoritmo, explica sobre a arquitetura de processamento de dados e até mesmo garante que tudo é supervisionado por analistas humanos, que identificam eventuais necessidades de remapear respostas.

Segundo um recente estudo da Oxford Insights, a Holanda e a Finlândia são os países “mais preparados” para implementar recursos de inteligência artificial em serviços públicos. Vale lembrar que, ao longo dos últimos anos, algoritmos falhos, ineficazes e/ou preconceituosos resultaram em polêmicas globais e até mesmo protestos ao redor do mundo.

Fonte: VentureBeat