A ficção científica e as previsões do futuro incerto da humanidade - Parte 2

Na primeira parte desta série, falamos sobre algumas obras clássicas de ficção científicas do século XX que não apenas previram as novas tecnologias que surgiram recentemente, como também nos fazem refletir sobre a sociedade que estamos construindo, e até mesmo como o próprio conceito de humanidade pode ser alterado dependendo de como permitimos que essas tecnologias moldem nosso cotidiano.

Para pensar um pouco além sobre as tecnologias que já estão em fase inicial de desenvolvimento, trouxemos obras mais recentes, de um outro nicho – as animações japonesas. Selecionamos algumas séries e filmes que também colaboram com o debate sobre as relações entre nós, humanos, e as máquinas que criamos e utilizamos todos os dias como ferramentas para nos auxiliar.

A vantagem dos animes nessa reflexão é que eles se permitem a uma dose maior de fantasia e exageros, além de possibilitar uma linguagem visual com poucos limites, capazes de ilustrar avanços tecnológicos de modo mais interessante. Um exemplo é a série Ergo Proxy, de 2006, que prevê um mundo que passou por um apocalipse ecológico. Entre as muitas questões filosóficas sobre a alma e a inteligência artificial, também nos traz um conceito semelhante ao clássico Admirável Mundo Novo: os seres humanos são gerados artificialmente, cada um com sua “raison d’être” (razão de ser) já pré-definida. Por se tratar de um anime, isso é retratado de uma forma bem interessante.

Essa libertade das animações japonesas nos ajuda a levar adiante os questionamentos que estamos propondo nessa série. Será que em algum futuro próximo as máquinas e inteligências artificiais se igualarão a nós? Vão nos superar? Se voltarão contra os humanos? Se um dia nos tornarmos seres híbridos com as máquinas, onde estará nossa humanidade? Quais são os limites éticos do uso da tecnologia para atividades altamente sensíveis, como combate ao crime?

Um pouco mais sobre vigilância

Na matéria anterior, abordamos bastante o problema da vigilância. Esse é um tema muito recorrente na ficção científica, talvez por ser um assunto urgente nos dias de hoje. Nossa sociedade tem caminhado cada vez mais rumo a estados policiais que investem em sistemas de vigilância altamente questionáveis. Por isso é inevitável citar animações japonesas que também abordam essa questão.

Psycho Pass é uma série de anime que estreou no Japão em outubro de 2012, e apresenta uma instituição policial que, para promover segurança, pode eliminar aquilo que considera uma ameaça à sociedade. E, para essa tarefa, conta com uma tecnologia avançada capaz de identificar o nível de estresse de qualquer cidadão. Sensores instalados na rua e nos ambientes de trabalho escaneiam e analisam o psicológico dos indivíduos - intenções, nível de estresse, hábitos, atividades, entre outros fatores - e os classifica de acordo com um coeficiente. Se determinada pessoa demonstrar sinais de instabilidade e for considerada um risco, de modo que o Estado considere que haja chance de que ela cometa um crime, o departamento responsável por prender – ou exterminar – a “ameaça” entrará em ação.

Nesse mundo altamente controlado, qualquer risco de causar estresse deve ser contornado. A felicidade é mandatória, como diz o subtítulo do jogo baseado na série. E claro, as tecnologias nesse universo acompanham essa necessidade. Por exemplo, trocar de roupa é incrivelmente fácil, quase como um passe de mágica. O mesmo vale para mudança do ambiente no lar. Dirigir se torna desnecessário, os indivíduos não precisam guiar seus carros por conta própria. E um robô assistente dirá qual é a melhor alimentação e qual o nível atual de humor e stress. Em parte, os esforços da tecnologia para diminuir nosso estresse – sem atacar a causa desse problema – e nos tornar mais dóceis já são uma realidade.

Hoje, existe um setor muito preocupado com o nível de estresse das pessoas: a indústria. Muitos são os fatores psicossociais que determinam a ocorrência ou não de transtornos como depressão, ansiedade e estresse entre funcionários de empresas, e um dos principais deles é o próprio contexto do trabalho. Atualmente, esses transtornos atingem 30% dos trabalhadores em todo o mundo, segundo a Organização Internacional do Trabalho (OIT). Por isso, algumas empresas de tecnologias já oferecem aos empregadores tecnologias para medir e monitorar o nível de estresse de seus funcionários.

Uma dessas soluções é o Gestress, um app onde trabalhadores podem monitorar individualmente o próprio nível de estresse – mas, além disso, permite à empresa ter um mapa da situação emocional no ambiente de trabalho. Se já existem implicações éticas sobre o monitoramento emocional de funcionários em uma empresa, com uma tecnologia que pode muito bem se expandir para outros tipos de ambientes, vamos pensar em outros contextos. Por exemplo, o sistema penitenciário.

Apenas pouco tempo após o encerramento de Psycho Pass, a Wired relatou um estudo científico que se aproxima de modo preocupante do Sibyl System, o sistema do anime de ficção científica usado para medir o coeficiente de criminalidade do cidadão. O estudo envolveu 96 infratores do sexo masculino com o objetivo de demonstrar que as varreduras cerebrais de criminosos condenados poderiam ser usadas para prever quem tem maior probabilidade de cometer novos crimes. O método foi testar a impulsividade dos indivíduos, e aqueles com baixa atividade cometeram mais erros e foram considerados como sujeitos que têm um controle de impulso menor. Ou seja, mais propensos a cometer novos crimes. Embora o psicólogo clínico Dustin Pardini, da Universidade de Pittsburgh, tenha elogiado o estudo, ele alerta que “em geral, somos horríveis em prever o comportamento humano, e não vejo isso sendo diferente, pelo menos não no futuro próximo".

Hoje, muitos aplicativos para medir o nosso estresse já estão disponíveis, como o S Health da Samsung, que pode ser utilizado gratuitamente, e é preciso lembrar que essas tecnologias em si não são ruins ou negativas. Mas, como abordamos na primeira parte dessa série, alguns governantes podem fazer mau uso delas. O programa de vigilância PRISM, denunciado por Edward Snowden, deve sempre servir para nos lembrar que os mais poderosos podem acabar por decidir colocar as mãos em dados de usuários coletados por aplicativos para monitorar toda uma população. Se pensarmos bem, pouca coisa nos separa de um mundo como o de Psycho Pass, e uma delas é meramente a decisão de algumas poucas pessoas poderosas o suficiente para tomar as decisões.

Somos todos ciborgues?

Amber Case estuda a interação entre humanos e tecnologia e tem o título de “antropóloga ciborgue”. Uma de suas premissas é a de que já vivemos em uma realidade em que nos transformamos em ciborgues. Se antes as ferramentas eram usadas pelos nossos antepassados como uma extensão do corpo físico, hoje a tecnologia traz uma extensão mental. O modo como lidamos com as interfaces tecnológicas nos define como ciborgues, só que no lugar de pernas e braços mecânicos temos dispositivos eletrônicos que ampliam nossa capacidade de ouvir, pensar, interagir e nos locomover.

Também podemos considerar que o uso de outros aparelhos tecnológicos nos aproxima ainda mais de ciborgues. Dispositivos que, ao contrário de smartphones, fazem parte do próprio corpo de muita gente que depende deles para viver. Por exemplo, marca-passos. E a ciência continua a desenvolver tecnologias para aprimorar o corpo e o nosso desempenho físico. Claro, podemos criar pernas e braços mecânicos, mas por que não inserir neles uma inteligência artificial? Esse é o próximo passo da nossa transformação em ciborgues, no sentido mais estrito da palavra.

Imagine só se pudéssemos comprar peças mecânicas que nos fornecem força sobre-humana para executar tarefas que, de outra forma, seriam impossíveis realizar. Os chamados exoesqueletos são recorrentes em obras de ficção científica japonesas. Algumas delas, como Megalo Box, mostram uma aplicação mais realista, com braços mecânicos para melhorar o desempenho de lutadores de boxe, por exemplo. Outras, como Infinite Stratos e Detonator Orgun, abusam da imaginação e nos brindam com verdadeiros mechas que envolvem o corpo humano, fornecendo melhorias para qualquer tipo de tarefa. Note que não são robôs para pilotar, e sim armaduras mecânicas dentro das quais os personagens se movimentam.

Pois bem, os exoesqueletos já estão em produção e devem se tornar uma realidade em um futuro próximo. O Laboratório de Biomecronica do Instituto de Tecnologia de Massachusetts (MIT) é um dos pioneiros na área, e pretende oferecer um exoesqueleto que trabalha em harmonia com o corpo do usuário.

Os exoesqueletos são, a priori, peças removíveis, para serem usadas como auxiliares aos membros do corpo humano. Mas também podem ser máquinas permanentes, no caso de deficientes físicos. Uma pessoa com membros amputados, por exemplo, poderia tirar proveito dessas soluções mecânicas permanentemente. O professor Hugh Herr perdeu suas pernas em uma escalada durante sua adolescência e, após ter implantado pernas robóticas, passou a se autodescrever como um “homem biônico”. Ele é a grande inspiração por trás da equipe do estudante de doutorado Tyler Clites, que desenvolveu a técnica chamada de design neuro-corporificada. Eles buscam encontrar maneiras de estender o sistema nervoso humano ao mundo sintético e vice-versa.

Em Detonator Orgun, uma série de três episódios dirigida por Masami Obari e lançada em 1991, a humanidade vive cercada de tecnologias autônomas, com veículos antigravitacionais e arranha-céus colossais. O ano é 2292 e a sociedade vive muito bem com seus avanços tecnológicos - até ser ameaçada por uma raça alienígena chamada Evoluders, criaturas misteriosas que parecem robôs sem emoção, apenas programados para destruir.

Acontece que (spoilers a seguir) os Evoluders são nada mais e nada menos do que descendentes da tripulação de uma nave espacial lançada da própria Terra séculos antes. As condições duras de vida no espaço fizeram com que eles criassem uma armadura, um exoesqueleto completo, integrando a máquina às terminações nervosas. Assim, os músculos se tornaram cada vez menos necessários, até o ponto em que os indivíduos se tornaram um sistema nervoso dentro de um mecha. Ou seja, “evoluíram” para uma forma híbrida, metade-humana, metade-máquina. Eles perderam suas identidades enquanto seres humanos, a ponto de desejarem destruir o planeta Terra e a própria humanidade.

Ciborgues vulneráveis

Ghost in the Shell é uma franquia lançada há quase 30 anos, que influenciou escritores de ficção científica e cineastas. A obra, escrita originalmente por Masamune Shirow, explora a interseção entre humanidade e tecnologia, e permanece profundamente pertinente até hoje por nos fazer refletir sobre os possíveis impactos dessa junção de um modo que podemos considerar bem realista.

Em um mundo onde ciborgues e inteligência artificial são comuns, e hackers são uma consequência natural dessa realidade, a Major Motoko Kusanagi investiga crimes tecnológicos. O ano é 2029, e Mokoto, assim como outros ciborgues, tem o corpo intricadamente mesclado com a tecnologia, e isso faz com que ela esteja propensa a hackers - uma ideia que não está muito distante do que pode acontecer hoje, já que até mesmo marcapassos, que fazem parte do corpo dos “ciborgues” dos dias de hoje, podem ser hackeados para matar o paciente.

O nome da série é uma referência a O Fantasma na Máquina de Arthur Koestler, um livro filosófico que examina a consciência humana na era da máquina. Em Ghost in the Shell, um "fantasma" é essencialmente a alma, o que torna os ciborgues únicos. A Major é um ciborgue, um ser completamente mecânico, exceto por seu cérebro. Seu corpo é um hospedeiro sem nenhum significado além de permitir que ela funcione no mundo. Isso significa que ela só pode existir e manter sua identidade enquanto mantiver seu "fantasma".

É um mundo onde, por um lado, a melhoria tecnológica fornece habilidades super-humanas. Mas, por outro lado, torna os indivíduos vulneráveis a ataques hackers que podem re-codificar suas memórias. É o caso do “Mestre das Marionetes”, um hacker que é procurado pelo governo por reescrever o “fantasma” das pessoas, usando interfaces cérebro-máquina implantadas. No entanto, à medida que a narrativa se desenrola, descobrimos que o famoso hacker não é uma pessoa, mas uma IA desenvolvida pelos serviços de segurança dos EUA que escapou de seus manipuladores e agora procura significado e propósito como uma entidade autoconsciente.

Com isso, Ghost in the Shell questiona o que significa ser humano em um mundo em que cada vez nos tornamos homens-máquinas, com tecnologias cada vez mais poderosas - com extensões mentais, como supercomputadores em miniatura, ou com extensões físicas, como exoesqueletos - enquanto, ao mesmo tempo, as máquinas e inteligências artificiais estão cada vez mais se aproximando de seres humanos. Indo mais além, a obra prevê e questiona a tecnologia ciborgue com interfaces cérebro-máquina.

Em 2018 surgiram as primeiras informações sobre uma nova empresa de Elon Musk, a Neuralink, que tem o objetivo de desenvolver interfaces cérebro-máquina sem fio. Ele declarou no Twitter que criar uma conexão neural é o que realmente importa para a humanidade “alcançar a simbiose com as máquinas". No entanto, como o Ghost in the Shell ilustra, se você tem conexões cerebrais de leitura e gravação, é provável que os hackers apareçam.

O desenvolvimento de tecnologias desse tipo exigirá muito cuidado, pois cientistas e empreendedores estão sobre a linha tênue entre "poderia" e "deveria". E exigirá questionamentos sobre a ética e os impactos negativos na sociedade. É aqui que filmes como Ghost in the Shell são extremamente úteis para ajudar a pensar nos riscos em torno de tecnologias como essa. Prever os riscos nos ajudam a pensar em soluções antes mesmo que estejamos nessa realidade futurista - que parece cada vez mais inevitável.

Os fantasmas da existência

A Major Kusanagi é atormentada por dúvidas sobre quem ela é. Seus aprimoramentos cibernéticos a tornam menos humana? Ela se tornou apenas uma arma nas mãos do governo? Seu senso de si mesma - seu "fantasma" - é apenas uma ilusão de uma programação artificial? E que autonomia ela tem quando falha ou precisa de uma atualização? O que sou eu, quem sou eu, por que sou eu, e o que faz com que eu seja eu? Essas perguntas já estão começando a ser pertinentes aos desenvolvedores no mundo real. À medida em que as tecnologias robóticas e cibernéticas se tornam cada vez mais avançadas, questões como essas começam a ser mais incômodas.

Em 2012, o atleta sul-africano Oscar Pistorius fez história ao ser o primeiro corredor a competir nos Jogos Olímpicos com duas pernas mecânicas no lugar das biológicas, algo que passou a representar a promessa de aprimoramentos tecnológicos para superar as limitações humanas. No entanto, também despertou o medo, já que muitos consideraram a prótese uma vantagem injusta, o que o levou a ser impedido de competir nas Olimpíadas anteriores. No mesmo ano em que Pistorius competiu com sucesso nas Olimpíadas, o pesquisador canadense Steve Mann foi agredido porque sua extensão ocular aumentada por computador incomodou alguém.

Esses são exemplos relativamente pequenos da tensão que aumenta cada vez mais entre o pensamento convencional e o aprimoramento humano. Não é difícil imaginar que, em um mundo semelhante ao de Ghost in the Shell, a angústia que Kusanagi sente por seu corpo aprimorado seja bem realista. Na verdade, já temos um prenúncio dessa angústia nos dias de hoje.

Obras como Ghost in the Shell transcendem o pensamento convencional e exploram as fronteiras do nosso entendimento moral e ético. Se pudermos olhar da maneira certa, essas obras podem ajudar a revelar algumas verdades incômodas sobre o nosso relacionamento com as tecnologias que estamos construindo e nos orientar para formas mais responsáveis ​​de desenvolvê-las e usá-las. A linha tênue entre o “poderia” e o “deveria” está prestes a ser ultrapassada, e será um caminho sem volta. Estamos refletindo corretamente sobre as implicações desse rompimento?

O preço a pagar pela irresponsabilidade em questionar é arriscar perder nossos próprios "fantasmas". Na tentativa de melhorar o ser humano, podemos acabar em uma realidade em que teremos que rever os próprios conceitos de humanidade.

Na próxima semana, publicaremos a terceira e última parte desta série, na qual abordaremos obras de sci-fi atuais que podem já estar "prevendo" (ou moldando) o futuro que nos aguarda. Fique ligado aqui no Canaltech!