Google tem novas diretrizes para parcerias com inteligência artificial
Por Wagner Wakka | 08 de Junho de 2018 às 06h55
No final de maio, a Google anunciou que estava criando novas diretrizes para parcerias sobre inteligência artificial com militares. Nesta quinta-feira (7), o próprio CEO da empresa, Sundar Pichai, divulgou post no blog oficial em que apresenta estas novas políticas relacionadas à tecnologia.
Em um longo discurso no qual apresenta as vantagens e maravilhas dos avanços com os quais a inteligência artificial pode colaborar, Pichai explica com que projetos a Google pode colaborar e, mais importante, as aplicações com que ela não quer se envolver.
A empresa diz que não vai colaborar com iniciativas que pretendem aplicar inteligência artificial em “armas ou outras tecnologias cuja principal finalidade ou implementação é causar ou diretamente facilitar o dano às pessoas”.
Ela também informa que estão vetadas participações em “tecnologias que causam ou podem causar danos gerais. Quando houver um risco material de dano, procederemos somente quando acreditarmos que os benefícios superam substancialmente os riscos e incorporaremos restrições de segurança apropriadas”.
Contudo, o presidente executivo ressalta que a participação em projetos com governos pode continuar. “Queremos deixar claro que, embora não desenvolvamos IA para uso em armas, continuaremos nosso trabalho com governos e forças armadas em muitas outras áreas. Estas incluem segurança cibernética, treinamento, recrutamento militar, saúde dos veteranos e busca e salvamento”, escreve.
A mudança de diretriz é resultado de uma polêmica interna da Google sobre a parceria com o projeto Maven. Em conjunto com o Pentágono, a empresa ofereceu aporte tecnológico em inteligência artificial e machine learning para reconhecimento de imagens usado em sistemas de vigilância.
A iniciativa repercutiu de forma negativa dentro da Google e seus funcionários começaram a demonstrar repulsa em relação à parceira em e-mails internos. Em seguida, cerca de 3 mil trabalhadores assinaram uma carta endereçada a Pichai pedindo que reconsiderasse a parceria e informando que a companhia não tinha histórico de se envolver em questões do tipo.
Por fim, 12 funcionários chegaram a pedir demissão no início de maio alegando que a Google estava sendo cada vez menos transparente sobre o assunto.
No início de junho, fontes internas da empresa informaram que a CEO da Google Cloud, Diane Greene, garantiu a investidores que o atual contrato com militares vai até 2019 e que não há intenção de renová-lo.
O Maven é um projeto criado em abril de 2017 cuja descrição oficial é de “acelerar a integração do Departamento de Defesa com Big Data e machine learning”. A proposta inicial era de utilizar a tecnologia para seleção de imagens coletadas por drones. Segundo relatório do Center of New American Security, de julho de 2017, a quantidade de imagens produzidas era tamanha que se tornava impossível para que um ser humano pudesse analisá-las. Assim, o objetivo do projeto era automatizar a detecção de objetos capturados pelas lentes em 38 categorias.
A Google disse na época da parceria que estava apenas provendo ao Departamento de Defesa as APIs Tensor Flow, que são usadas para ajudar militares a detectarem objetos em imagens por machine learning, o que a companhia não considera nocivas.
Fonte: Google Blog