Estônia está desenvolvendo o primeiro "juiz robô" do mundo
Por Rafael Rodrigues da Silva |
Quando pensamos em inovação em tecnologias de Inteligência Artificial, costumamos pensar em grandes empresas privadas como a Intel e a Google e não nos esforços de instituições governamentais — principalmente de países pequenos como a Estônia. Mas o pequeno país europeu, de apenas 1,3 milhão de habitantes, está na vanguarda da aplicação de soluções de IA para o funcionalismo público.
Em um projeto bastante ambicioso, o Ministério de Justiça da Estônia irá bancar o desenvolvimento de um “juiz robô”, uma IA que poderá ser usada para mediar pequenas causas (cuja disputa seja menor do que US$ 8 mil) com o intuito de liberar os juízes do país para se dedicarem a casos mais complexas. O projeto, que ainda está em fases iniciais, basicamente exigirá a criação de uma IA que tomaria suas decisões baseada em um banco de dados com todas as leis existentes no país.
A iniciativa está sendo encabeçada por Ott Velsberg, um jovem de 28 anos que assumiu o posto de executivo chefe de dados (CDO) do país báltico. Desde que foi contratado em 2018, Velsberg conseguiu implantar soluções de IA para que algoritmos assumam a tomada de decisões em 13 setores.
Experiência acertada
Um desses setores é o agrícola: inspetores não precisam mais ir checar pessoalmente se os agricultores que recebem subsídios do governo estão mesmo fazendo a colheita nas áreas especificadas (os subsídios são dados para que os agricultores não desmatem as florestas locais para expandir sua área de plantio). Em vez disso, o processo agora é feito por um algoritmo que utiliza imagens de satélite capturadas pela Agência Espacial Europeia semanalmente. Com as imagens, o sistema consegue descobrir se o dono da fazenda seguiu as regras de não desmatar as regiões do entorno. Claro, há algumas variações que podem atrapalhar essa análise, mas quando isso acontece um inspetor precisa visitar pessoalmente o local para ver se as fronteiras estão sendo respeitadas.
Em todo caso, a implantação do sistema já gerou uma economia de U$ 755 mil aos cofres públicos, pois diminuiu bastante o número de viagens dos inspetores e disponibilizou a eles mais tempo para se dedicarem a outros aspectos da função.
Os algoritmos também estão sendo utilizados no sistema de ajuda a desempregados do país, definindo quais são os melhores candidatos para cada vaga com base nas habilidades informadas por cada um. De acordo com os relatórios do projeto, cerca de 72% dos funcionários contratados pela indicação da IA continuam no emprego depois de seis meses da contratação, um aumento de 14% em relação à época em que a definição de candidatos era feita por humanos.
O uso da IA também tem ajudado o sistema de saúde e de educação do país: todo o sistema de registros de nascimentos dos hospitais é não apenas automatizado como está também vinculado ao cadastro das escolas do país. Então, assim que uma nova criança nasce, ela já está automaticamente matriculada em uma escola próxima de onde mora, e os pais não precisam se preocupar em ligar para diretores, preparar documentos e cartas de apresentação, tampouco enfrentar filas de espera por uma vaga. Tudo que eles precisam fazer é esperar a criança chegar à idade de poder frequentar as aulas e levá-la à escola designada no início das aulas, sem burocracia.
Assim como nas outras iniciativas de automação implantadas, o “juiz robô” não irá substituir totalmente o trabalho humano, e qualquer decisão tomada pela IA poderá ser revertida por um juiz de verdade caso seja necessário. O intuito do projeto não é necessariamente substituir a função dos juízes, mas livrá-los das partes mais burocráticas da profissão para que possam se dedicar às tarefas mais complexas do cargo.
Vanguarda da inovação
Ainda que o “juiz robô” da Estônia não seja a primeira vez que um órgão governamental propõe a utilização de uma IA para o sistema legal, o projeto do país europeu seria o primeiro a dar para o computador o poder de decisão — e pode dar certo no país principalmente porque todos os seus 1,3 milhão de habitantes já possuem um registro federal totalmente digital que permite até mesmo que os habitantes votem em seus representantes no governo pela internet.
Isso é possível graças aos bancos de dados de todos os órgãos do governo estarem conectados por uma infraestrutura chamada “X-road”, que facilita o compartilhamento de informações entre os diferentes setores da administração do país. E apesar de alguns problemas (como uma vulnerabilidade no sistema de identificação que obrigou o governo a trocar os cartões de identificação de toda a população em 2017), o país se orgulha de não ter tido nenhum tipo de invasão para roubo de informações desde o começo dos anos 2000.
Mas, de acordo com David Engstrom, especialista em governança digital da Universidade de Stanford, ainda que hoje os cidadãos da Estônia confiem que o governo irá usar seus dados digitais de maneira correta, essa concepção pode mudar caso o “juiz robô” ou qualquer outra IA que venha a ser implementada pelo governo tome uma decisão que seja vista como polêmica pela população.
Ainda que Engstrom assuma uma posição cética sobre a capacidade de as IAs julgarem processos ao invés de juízes humanos, ele acredita que não irá demorar muito para que esses dispositivos sejam usados como assistentes de tribunal, oferecendo a juízes casos parecidos, precedentes e todo o histórico de um caso para eles possam tomar decisões mais corretas na resolução de um processo.
O maior problema desses sistemas está exatamente em como programar os algoritmos para que eles sejam realmente neutros em decisões oficiais, já que testes com sistemas semelhantes nos Estados Unidos mostraram que eles podem apresentar um certo “preconceito” contra pessoas de etnia negra. Não porque a máquina em si é racista, mas porque sua programação introduziu processos de base onde houve preconceito por parte do juiz no momento da condenação (como, por exemplo, uma dupla de um negro e um branco cometem um crime juntos, e o negro é condenado a mais tempo de prisão pelo mesmo crime cometido pelo branco), o que acabou fazendo com que as decisões tomadas pela IA também viessem carregadas de preconceito.
Por enquanto, ainda não há uma data para quando o “juiz robô” da Estônia será introduzido aos tribunais do país, mas é bem possível que, dentro dos próximos anos, um país relativamente ignorado pelo mundo e com a população menor do que a da cidade de São Paulo possa se tornar o primeiro a dar o poder de decisão sobre vidas humanas a um computador.
Fonte: Wired