Google DeepMind cria “botão de emergência” para inteligências artificiais

Por Carlos Ferreira | 04.06.2016 às 08:45
photo_camera Reprodução/The Verge

Conforme diversos apostadores do meio tecnológico poderiam dizer, a inteligência artificial representa um elemento crucial em praticamente qualquer futurologia que projete a humanidade nas próximas décadas. Entretanto, mesmo o maior cultista da robótica e da internet das coisas também deve ter em mente certas visões distópicas – com robôs assumindo o controle da humanidade, conforme colocou Isaac Asimov ou mesmo a trilogia Matrix. E nisso certamente se inclui a Google DeepMind.

A companhia britânica de I. A. (inteligência artificial) publicou recentemente um texto em que trata da criação de um método capaz de conter processos automatizados, em caráter emergencial. Desenvolvido em conjunto com a Universidade de Oxford, o artigo “pressione em caso de emergência” descreve uma função capaz de interromper quaisquer inteligências artificiais cujas decisões e atos tragam perigo.

No documento, a Google DeepMind admite que agentes movidos por inteligência artificial “dificilmente manteriam um comportamento otimizado todo o tempo” enquanto interagem com o mundo real – enquanto que a parte do “dano” é definido como algo capaz de comprometer os arredores ou mesmo a própria máquina.

deepmind alphago

Seguro contra I. A. “espertinha”

Mas o método descrito pela DeepMind vai ainda um pouco mais longe. Afinal, de acordo com a própria definição, uma inteligência artificial deve ser capaz de aprender – o que normalmente é garantido por mecanismos de recompensa razoavelmente similares aos dos seres humanos.

Dessa forma, a função emergencial da companhia também assegura que a própria I. A. não conseguirá prevenir sua interrupção, o que ocorreria se o autômato conseguisse “contornar” o botão de emergência. Segundo os pesquisadores, alguns algoritmos já se encontram devidamente segurados com a função, enquanto outros devem passar em breve por implementação semelhante – embora não tenha ficado claro se um mesmo método deve servir indistintamente para qualquer tipo de autômato.

Deep mind

A medida da Google DeepMind, de fato, entra em ressonância com diversos esforços similares mundo afora, tais como o do filantropo e empreendedor Elon Musk. Juntamente com Peter Thiel (cofundador da PayPal) e outros empreendedores, Musk criou uma companhia sem fins lucrativos cujo objetivo é assegurar que todo o desenvolvimento relacionado à IA ocorre sempre em benefício da humanidade como um todo, por meio de bibliotecas livres como a OpenAI.

Via Business Insider.