O que Google, Facebook e outras empresas pensam sobre a inteligência artificial

Por Caio Carvalho | 29 de Junho de 2016 às 23h21
photo_camera Divulgação

Tecnologia é progresso, mas também é sinônimo de ameaça se não for devidamente controlada. É o que pensam alguns executivos das principais empresas do setor que, embora acreditem que os recursos tecnológicos trarão inúmeros benefícios para nós, seres humanos, no futuro, temem por uma possível rebelião das máquinas impulsionada pela inteligência artificial (IA).

Pode até parecer coisa de ficção científica – afinal, robôs malvados querendo destruir a humanidade sempre foram um prato cheio para séries, livros e filmes do gênero. Só que nomes influentes na indústria estão cientes dos riscos ao criar máquinas cada vez mais conscientes de si mesmas. Basta ver alguns exemplos, como o supercomputador Watson, da IBM, e os assistentes virtuais presentes no seu smartphone: eles ainda devem levar um bom tempo até se tornarem, de fato, inteligentes por completo, mas servem como uma prévia de como máquinas e humanos vão interagir daqui a algumas décadas.

Para o bem ou para o mal, o desenvolvimento dessas tecnologias não vai parar. Na opinião de muitos executivos, não se pode desconsiderar os piores cenários, em que a inteligência artificial seguiu por rumos não muito animadores para os homens de carne e osso que a criaram. Por esse motivo, é necessário elaborar um consenso de como vamos agir com essas ferramentas daqui para frente. Veja abaixo o que esses CEOs e suas empresas esperam da IA.

Google

Eric Schmidt

De todas as companhias, o Google é a mais otimista quanto às potencialidades da inteligência artificial. À revista Fortune, o chairman Eric Schmidt escreveu que "algumas vozes têm alimentado temores quanto à IA e pediram medidas urgentes para evitar uma distopia hipotética", mas que sua entidade "tem uma visão muito mais otimista". O Google até criou um conselho de ética para acabar com esses medos levantados por outros executivos.

Só que, na semana passada, engenheiros da gigante das buscas publicaram um documento listando "problemas concretos em segurança de inteligência artificial" – ou seja, a empresa reconhece os riscos. São cinco pontos principais, mas que, por enquanto, tomam como exemplo apenas robôs voltados para tarefas mais simples, como limpar e organizar a casa. Então é bem provável que isso mude conforme a tecnologia se aprimore. Os problemas são:

  • Evitar efeitos colaterais negativos: como evitar que um sistema de IA não perturbe seu ambiente de forma negativa ao realizar suas tarefas? Por exemplo, um robô de limpeza que derruba um vaso para limpar mais rápido;
  • Evitar recompensas a soluções alternativas: como podemos evitar a manipulação da função de recompensas? Por exemplo, não queremos um robô de limpeza cobrindo sujeira com materiais que ele não vê como sujeira;
  • Supervisão escalável: como evitar que um robô pare frequentemente suas tarefas para receber feedback de um ser humano? Um sistema IA deve ser eficiente e conseguir usar os comentários já realizados para se adaptar e melhorar;
  • Exploração segura: como evitar que um sistema IA se machuque enquanto aprende? Por exemplo, um robô de limpeza deve tentar utilizar um esfregão, mas é evidente que não deve utilizar um esfregão molhado em componentes elétricos;
  • Robustez para mudanças distribucionais: como garantir que um sistema IA reconheça e se comporte de maneira robusta quando é colocado em um ambiente diferente daquele em que foi treinado? Por exemplo, práticas aprendidas em uma fábrica podem não ser ideais para um escritório.

Além disso, o Google já estuda implementar um "botão de emergência" para conter processos automatizados caso ache que uma determinada tecnologia represente uma ameaça para os humanos.

Microsoft

Satya Nadella

Seguindo os passos do Google, o CEO da Microsoft, Satya Nadella, detalhou nesta semana seis regras voltadas para as tecnologias baseadas em inteligência artificial. Estas, diferentemente das leis estipuladas pelo Google, são bem mais abrangentes e mais focadas em como esses recursos poderão caminhar lado a lado com a humanidade:

  • A IA deve ser projetada para ajudar a humanidade: ao construir máquinas mais autônomas, precisamos respeitar a autonomia humana. Robôs de colaboração, ou co-bots, devem fazer os trabalhos perigosos, como mineração, criando assim uma rede de segurança e salvaguardas para os trabalhadores humanos;
  • A IA deve ser transparente: nós devemos estar cientes de como a tecnologia funciona e quais são as suas regras. Nós não queremos apenas máquinas inteligentes, mas máquinas inteligíveis. Não inteligência artificial, mas inteligência simbiótica. A tecnologia vai saber coisas sobre os seres humanos, mas os seres humanos devem saber sobre as máquinas. As pessoas devem ter uma compreensão de como a tecnologia vê e analisa o mundo. Ética e design andam de mãos dadas;
  • A IA deve maximizar a eficiência sem destruir a dignidade das pessoas: deve preservar compromissos culturais, capacitando diversidade. Precisamos de engajamento mais amplo, mais profundo e mais diverso das populações na concepção destes sistemas. A indústria de tecnologia não deve ditar os valores e virtudes deste futuro;
  • A IA deve ser projetada para proteções sofisticadas e inteligentes de privacidade que fixam informações pessoais e de grupos de forma que ganhe confiança;
  • A IA deve ter algoritmos para que os seres humanos possam desfazer o dano não intencional. Devemos projetar essas tecnologias para o esperado e o inesperado;
  • A IA deve se proteger contra preconceito, assegurando a adequada e representativa investigação, de modo que as heurísticas erradas não possam ser usadas para discriminar.

No texto, Nadella ainda afirma que os seres humanos precisam desenvolver a inteligência artificial como uma ferramenta composta de empatia, educação, criatividade, julgamento e responsabilização.

Tesla Motors e Space X

Elon Musk

O CEO das duas empresas, Elon Musk, talvez seja o executivo que mais tem feito alertas sobre o quanto a IA pode ser perigosa para os usuários. Para ele, o ser humano já se transformou numa espécie de ciborgue e, se não formos cuidados, é questão de tempo até que o lado máquina nos domine por completo.

Em outubro de 2014, durante uma conferência no MIT, Musk disse que "se tivéssemos que adivinhar quais são as maiores ameaças ao ser humano no momento, certamente seria essa". Para Musk, trabalhar com esse tipo de tecnologia é como "invocar nosso pior demônio", além de defender a regulamentação e supervisão a nível nacional e internacional de pesquisas dessa natureza.

No início do ano passado, Musk doou US$ 10 milhões para financiar um programa que tem como objetivo proteger a humanidade da inteligência artificial. O valor vai ajudar pesquisadores de todo o mundo a analisar os riscos e oportunidades oferecidos pela tecnologia, e permitir que esses profissionais trabalhem para evitar que os robôs deixem de obedecer seus criadores.

Ainda em 2015, o CEO da Tesla manifestou em um livro escrito por Ashlee Vance que o Google é uma das empresas pioneiras no desenvolvimento da IA, mas que seu presidente e amigo pessoal, Larry Page, representa um de seus maiores medo,s porque este "pode criar algo ruim por acidente". "Page está longe de ser um Dr. Evil, mas tenho que dizer que estou verdadeiramente preocupado. O Google adquiriu mais de uma dúzia de empresas de robótica, mas o objetivo deles com este tipo de tecnologia continua sendo pouco claro", disse.

Facebook

Mark Zuckerberg

Por enquanto, Mark Zuckerberg e sua equipe têm implementado a inteligência artificial na maioria dos serviços vinculados à rede social. Você nem deve ter notado, mas a IA já está aí, no seu PC e smartphone: desde abril deste ano, o aplicativo Messenger ganhou chatbots, que permitem realizar determinadas funções sem precisar baixar ou instalar outras ferramentas. No mesmo mês, o app do Facebook para celular passou a usar a IA para descrever imagens de uma forma mais detalhada, ajudando principalmente pessoas com deficiências visuais.

Os planos de Zuck, claro, vão além. Todo esse sistema baseado em inteligência artificial é parte de uma estratégia maior voltada para a Internet das Coisas (IoT), já que a ideia do presidente-executivo do Facebook é criar um sistema de automação residencial semelhante ao Jarvis – a IA usada por Tony Stark nas HQs e filmes do Homem de Ferro.

"Meu desafio pessoal para 2016 é construir uma inteligência artificial simples para comandar minha casa e me ajudar no trabalho. Pense nisso como uma espécie de Jarvis do Homem de Ferro. Vou começar explorando a tecnologia que já existe. Então vou começar a entender como controlar tudo na minha casa por voz: música, luz, temperatura e muito mais. Vou ensiná-la a reconhecer os amigos quando eles tocarem a campainha, avisar se houver algo no quarto da minha filha Max que eu precise ver. No trabalho, vai me ajudar a ver dados em realidade virtual ajudando-me a construir melhores serviços e liderar minhas organizações de forma mais eficiente", escreveu em seu perfil na plataforma.

Amazon

Jeff Bezos

A gigante do varejo online pode não ter detalhado suas perspectivas quanto à inteligência artificial, mas o CEO da companhia, Jeff Bezos, tem uma visão otimista quanto à tecnologia. "É difícil exagerar sobre o quão grande será o impacto [da IA] na sociedade ao longo dos próximos 20 anos. [No entanto] Tem sido um sonho desde os primeiros dias da ficção científica, ter um computador com o qual você possa falar naturalmente, ter uma conversa e fazer com que ele faça coisas para você", disse.

Bezos também acredita que a inteligência artificial não vai substituir os PCs ou smartphones, mas que será um complemento para as interfaces já existentes. "Enquanto as pessoas tiverem olhos, elas vão querer [aparelhos com] telas", explicou.

Fontes: Business Insider, Slate, Google Research Blog

Fique por dentro do mundo da tecnologia!

Inscreva-se em nossa newsletter e receba diariamente as notícias por e-mail.