A ficção científica e as previsões do futuro incerto da humanidade - Parte 1

Por Daniele Cavalcante | 24 de Setembro de 2019 às 19h50

Algumas obras de ficção científica são atemporais, não só pelas “previsões” de máquinas, dispositivos e tecnologias que surgiriam décadas mais tarde, como também porque refletem sobre os caminhos que a sociedade pode trilhar com o acúmulo de descobertas científicas e o desenvolvimento de novas tecnologias. Não é preciso procurar muito por obras da metade do século XX para encontrar um punhado delas que retratam quase com exatidão tecnologias que só passaram a existir nos últimos anos, mas algumas das mais importantes são especiais pelo seu poder de questionar no que essas tecnologias podem nos transformar.

Não é que a vida imite a arte. É que ambas estão em constante diálogo, inclusive quando falamos de ficção cientifica, gênero que sempre assume a amarga missão de discutir os conflitos da humanidade diante das tecnologias, dos novos conhecimentos científicos, e diante de si mesma. Por isso, a maior virtude dessas obras atemporais é, na verdade, o debate sobre as diversas formas de relações humanas e como as máquinas podem facilitá-las, seja para o bem ou para o mal. Com tanta tecnologia alterando nossos corpos, cotidiano, estilo de vida e, até mesmo, nossa mente, quais são os limites éticos do desenvolvimento tecnológico? E como ficam nossas relações interpessoais e políticas, que cada vez mais sofrem interferências das máquinas? Estamos realmente no controle?

Alguns escritores foram pessimistas durante toda a carreira, imaginando que a tecnologia nos levaria a um mundo cruel e desumano. As máquinas facilitariam o controle por parte de governos fascistas ou empresas megalomaníacas. Eles estavam certos? Estamos caminhando rumo a uma distopia? As máquinas se aproximarão de nós enquanto seres humanos? Os avanços levarão à destruição ou à evolução de nossa espécie?

Essas e algumas outras perguntas serão abordadas nessa série sobre os diálogos da ficção científica com nossa realidade, e as previsões para nosso futuro considerando os atuais avanços tecnológicos. Nesta primeira, falaremos sobre as obras clássicas do século XX que acertaram as tenologias atuais e como pessoas poderosas podem usá-las para nos levar a um mundo distópico.

Estaria o pesadelo distópico na próxima esquina?

O episódio Queda Livre, de Black Mirror, nos mostra uma tecnologia familiar sendo utilizada de forma assustadora

Algumas obras recentes, como Black Mirror, se propõem a discutir as tecnologias e a forma como as sociedades atuais são moldadas por elas, seja de maneira positiva ou negativa. Essas narrativas são propositalmente incômodas, para não dizer perturbadoras, e também fazem parte da discussão ética sobre os rumos que nossa sociedade está seguindo. Embora as histórias da série antológica se passem em um futuro um pouco distante, fica claro para nós o que está em pauta: nossos hábitos atuais sendo controlados por máquinas e algoritmos, e o tipo mundo que, com isso, permitimos ser construído pelas grandes corporações. O mais assustador em obras como Black Mirror é que vemos ali tecnologias que já existem, ou apenas uma versão mais evoluída das que já conhecemos. Ou seja, já temos o suficiente para que o mundo se transforme em um pesadelo.

No episódio Queda Livre, da terceira temporada, temos uma rápida identificação com o mundo futurista ali retratado. O motivo? Trata-se de uma sociedade obcecada por likes, onde o caráter e as capacidades das pessoas são julgados e medidos pela quantidade de curtidas que recebem. Sem likes, você não é ninguém. Imediatamente nos lembramos das atuais redes sociais, e entendemos que essa é apenas uma visão — bem pessimista — sobre onde essa cultura dos likes pode nos levar. Mas será que essa obra se tornará atemporal? Daqui a cem anos, ainda será pertinente?

Não sabemos a resposta, mas podemos olhar para obras que já consideramos atemporais para analisar o presente. Livros e filmes distópicos que, em uma outra época, em outra realidade, nos mostraram um mundo muito parecido com o de hoje em relação às novas tecnologias, às decisões governamentais que se aproveitam desse avanço para obter mais controle, e aos meios em que o corporativismo ganhou poder suficiente para controlar boa parte dos nossos costumes, influenciando nossas decisões e até mesmo nossos sentimentos.

Em Fahrenheit 451, livro escrito por Ray Bradbury no ano de 1953, existem televisões de tela plana e dispositivos de áudio portáteis semelhantes aos nossos fones de ouvido e fones bluetooth. Só que, ali, o governo totalitário faz aquilo que governos totalitários costumam fazer: proibir e queimar livros. Os bombeiros dessa distopia são enviados para incendiar qualquer obra literária ou mesmo didática. É curiosa a dicotomia entre a tecnologia, que está em constante avanço para o entretenimento e distração, e as obras feitas de papel, que são perigosas e devem ser eliminadas.

Este livro inspirou o filme Equilibrium, de 2002, em muitos aspectos. Um dos principais é o fato de que, em ambas as obras, vamos os infratores (colecionadores de peças proibidas) darem suas vidas para tentar proteger obras condenadas à fogueira. Ao ver esse sacrifício, os protagonistas — que são agentes que realizam os incêndios — se deparam com a questão sempre presente nas sci-fi distópicas: o que é, afinal, “humanidade”? Estamos deixando algo importante para trás na direção que seguimos?

Quem vigia os vigilantes?

Winston consegue se esconder da vigilância para escrever em seu diário, em 1984

Em 1949, George Orwell publicou 1984, livro considerado até hoje como uma das mais importantes e assustadoras distopias. Na obra, o Partido liderado pelo Grande Irmão vigia a rotina, os comportamentos e as relações interpessoais de sua população. A principal tecnologia usada para esse monitoramento são as “teletelas”, que se parecem grandes televisores e estão obrigatoriamente presentes em todas as casas. Também há microfones e câmeras nas ruas e pequenos helicópteros (quase semelhantes a drones) que filmam dentro das casas.

Hoje, tecnologias capazes de monitorar nossa vida já existem e as utilizamos todos os dias, sem nos importar muito se alguém está nos espionando ou não. As telas e micronofes estão sempre conosco: os smartphones, tablets, computadores, e alto-falantes de assistentes digitais são capazes de capturar informações a nosso respeito o tempo todo. Em troca de segurança, adotamos tecnologias de vigilância, implementamos sistemas inteligentes em nossas casas, e não nos importamos em ceder os dados coletados para empresas privadas ou para o governo. Pode ser que não exista um Grande Irmão usando essas ferramentas para nos vigiar e punir, como acontece no livro, mas o diabo está nos detalhes.

Em 2013, o ex-técnico da CIA, Edward Snowden, vazou informações sigilosas dos Estados Unidos. Assim, o mundo ficou sabendo sobre o PRISM, um programa de vigilância de agências governamentais para monitorar pessoas em vários países do mundo. Os documentos revelaram que o governo dos Estados Unidos tinha o poder de coletar vários tipos de dados de cidadãos, como histórico de pesquisas, conteúdo de e-mails, transferências de arquivos, vídeos, fotos, chamadas de voz e vídeo, e muito mais. Hoje, os sistemas e aplicativos instalados em dispositivos móveis controlam todo tipo de atividade, como viagens, lojas que visitamos, compras online, questões tributárias, movimentações bancárias, viagens. Imagine se uma pessoa, empresa ou governo mal intencionado colocasse as mãos em tanta informação?

Na China as coisas estão um pouco mais, digamos, "orwellianas". No final de 2018, o país, que já era bastante criticado por usar tecnologias invasivas de vigilância e monitoramento, inaugurou mais um sistema de câmeras inteligentes incrivelmente poderoso. Desenvolvido pela empresa Watrix, ele pode identificar uma pessoa apenas pela forma como ela caminha e formato do corpo. A identificação pode ser feita a até 50 metros de distância, sem precisar analisar o rosto.

Em julho deste ano, a organização Human Rights Watch descobriu que a polícia em Xinjiang utiliza um aplicativo conectado a uma base de dados com uma quantidade assustadora de informações pessoais da população. Com o aplicativo, as autoridades podem acessar detalhes como cor de cabelo e a altura precisa de uma pessoa, além de dados comportamentais, como consumo de energia, sociabilidade, e até uso de softwares considerados suspeitos.

Não é preciso ser um escritor de ficção científica para prever que essas informações podem ser usadas para perseguir povos e minorias específicas — e é isso o que aparentemente acontece na China, que utiliza esses sistemas para reprimir a população muçulmana. A região de Xinjiang se tornou o centro das atenções das organizações internacionais de direitos humanos. Elas denunciam violência e tortura contra muçulmanos uigures, com milhares de pessoas detidas e famílias inteiras desaparecidas. Em 2018, uma nova legislação anti-extremismo passou a permitir o uso de "centros de treinamento vocacional" para "educar e transformar" os uigures.

Qual inteligência deve dominar?

HAL 9000 é desativado em 2001, Uma odisseia no espaço

Uma das grandes preocupações dos antigos autores de sci-fi — e até de algumas das personalidades atuais mais proeminentes do ramo tecnológico e científico, como Elon Musk e Stephen Hawking — é se um dia a inteligência artificial se voltará contra nós. A guerra das máquinas inteligentes contra os seres humanos é um dos temas mais abordados pela ficção dos anos 1950 em diante, e um dos maiores responsáveis por disseminar o conceito de robôs na literatura e no imaginário popular foi Isaac Asimov.

Asimov criou um universo com suas séries Robôs, Império Galáctico e Fundação, e a robótica foi um dos temas mais explorado em suas obras. Ainda não vivemos em um mundo repleto de robôs parecidos com seres humanos como nas suas histórias, mas eles se tornam cada vez mais comuns. Temos robôs animais de estimação, robôs sexuais, robôs astronautas, robôs monges budistas, e muitos outros tipos. Temos até automóveis que andam sozinhos das ruas, dirigidos por Inteligência Artificial (IA), o que não deixa de ser um tipo de robô.

E por falar nela, a Inteligência Artificial também está em toda parte. Desde os assistentes virtuais instalados em nossos computadores e dispositivos móveis, coletando sabe-se lá que tipo de informações dos usuários, aos aplicativos de bate-papo, que aprendem conosco o tempo todo. Existe IA para todo tipo de aplicação imaginável, e cada vez mais damos a elas controle sobre aspectos de nossas vidas. Elas cuidam de nossas agendas, tomam decisões por nós, dirigem nossos carros, controlam até as lâmpadas de nossas casas, e também já nos derrotam no poker. E isso assusta a muitos.

O filme de Stanley Kubrick 2001, Uma Odisséia no Espaço, baseado em um conto de Arthur C. Clarke e lançado em 1968, aterrorizou a população com um futuro onde uma inteligência é capaz de decidir o destino de seres humanos e matá-los. HAL 9000 toma conta de uma espaçonave e começa a tomar decisões por conta própria, eliminando a tripulação. Para HAL, os humanos não têm mais capacidade de tomar as melhores decisões, e ele é a inteligência que deve dominar.

Assustador, né? Esse parece ser um dos pesadelos de Elon Musk. “Eu acho que precisamos tomar muito cuidado com a IA. Se eu tivesse que dizer qual a maior ameaça à humanidade hoje, diria que é provavelmente essa tecnologia”, disse ele. “Com a IA, é como se estivéssemos convocando o demônio, sem perceber que não temos domínio sobre ele”.

Singularidade e transhumanismo

O avanço da Inteligência Artificial e da robótica nos levam a um lugar que já é objeto de pesquisa de muitos estudiosos: a singularidade tecnológica, quando a IA supera — e muito — a inteligência humana, e é capaz de criar novas inteligências artificiais; além do transhumanismo, que é o início de uma nova era onde homem e máquina estarão integrados.

Na história de 2001, Uma Odisséia no Espaço, uma bomba nuclear aparentemente acaba com a humanidade. Na época do lançamento do filme e do livro, estávamos na era da corrida nuclear, que apavorou toda uma geração. Esse medo também representava a preocupação com a tecnologia fora do nosso controle. Hoje, 50 anos depois, esse medo permanece. Não medo das bombas atômicas, mas sim de tecnologias como a IA se manifestando como a sombra de um futuro que não podemos controlar. E o desejo de controle e de superar nossas limitações pode nos levar a um rumo no qual deixaríamos de ser o que somos hoje.

Para André Vellozo, da Drumwave, “este hype ao redor da IA reforça a crença na possibilidade de uma total virtualização da mente”. Ele está se referindo a uma ideia antiga sobre o desejo humano em busca de uma mente pura e abstrata, separada do corpo inferior. Já imaginou nossas mentes dentro de máquinas que duram muito mais que nossos corpos? Essa ideia é levada a sério por muitos pesquisadores, que preveem que a singularidade pode ser alcançada até 2045. A ideia é sobrepujar o corpo falho e dar a imortalidade aos seres humanos, com a transferência de suas personalidades para um “recipiente” superior, não biológico, que amplie a vida.

Se nossos corpos fossem máquinas, quem estaria no controle? Nós ou os desenvolvedores dessas máquinas? A quem pertenceríamos? Qual seria nosso papel na Terra? E mais: quantas pessoas teriam acesso a essa oportunidade? De quais classes sociais e de que cor elas seriam? Que tipo de poder elas exerceriam sobre “corpos biológicos”? Ainda seríamos humanos? Pessoas com suas mentes em máquinas superiores se julgariam a inteligência que deve dominar? Será que o HAL 9000 da vida real seremos nós mesmos?

O que é ser humano?

Em Blade Runner, a jornada de Roy questiona o que é ser humano. No livro original de Philip K. Dick, outros personagens contribuem com essa reflexão

E chegamos à pergunta mais pertinente em toda essa reflexão. Um dos autores que mais trouxe essa questão à ficção científica foi Philip K. Dick, escritor de obras que deram origem aos filmes Blade Runner e Minority Report, e à série Eletric Dreams. Seus mundos futuristas sempre trazem consigo a confusão entre o real e o fabricado, as memórias e os implantes artificiais, o mundo físico e a realidade virtual. O conjunto de todos os problemas causados pelas tecnologias e as maneiras que a sociedade as utiliza leva os protagonistas ao limiar entre o que é ser humano e… alguma outra coisa.

No romance Androides sonham com ovelhas elétricas?, (ou O caçador de androides, em edições mais recentes), o protagonista Rick Deckard está constantemente em conflito com essas questões. Afinal, o que é real? O que é humanidade? O que é empatia? Acontece que ele é um caçador de androides implacável, que nunca sentiu remorso em seu trabalho de “aposentar” — eliminar — as máquinas humanoides que fogem da colônia de Marte para a Terra. Na verdade, ele os considera exatamente dessa forma: não passam de máquinas, assim como uma geladeira.

No entanto, seu caminho é confrontado por J.R. Isidore (o Sebastian, do filme Blade Runner). Humilde e de Q.I. considerado baixo, Isidore passou a vida toda sozinho e nunca havia se considerado empático. Mas, ao relacionar-se com os androides Priss, Roy e Irmgard Baty, percebe a importância da socialização no conjunto de coisas que nos torna humanos. Enquanto isso, Deckard, em sua caçada implacável, começa a duvidar de sua empatia e de sua própria humanidade.

O que isso tem a ver com os dias de hoje? Bem, não precisamos de androides andando por aí para perceber como a tecnologia caminha a passos largos para nos afastarmos cada vez mais de conceitos sobre o que é ser humano. A própria empatia, por exemplo. As tecnologias às vezes nos desumanizam, fazem com que olhemos uns para os outros através de telas e palavras, em uma época em que o conflito de ideias ganha cada vez mais importância acima da nossa própria humanidade. Desse modo, é mais fácil deixar a empatia de lado.

Cada vez que a tecnologia nos coloca em uma nova situação de questionamento sobre o que é ser humano, corremos risco de errar a resposta. Em Admirável Mundo Novo, Aldous Huxley imaginou um futuro em que a engenharia genética é a lei, e a técnica CRISPR já está saindo dos laboratórios para ser usada em seres humanos e editar o código genético de indivíduos.

Na obra de Huxley, os embriões dos seres humanos são criados em laboratório e condicionados para viver em determinadas profissões, regiões e castas sociais. Se um embrião for criado para viver em uma das castas mais baixas e viver em uma região fria, trabalhando em, digamos, um sub-emprego, ele jamais almejará uma outra vida. Estará sempre satisfeito em viver no lugar onde foi designado. Assim, é simples criar pessoas para simplesmente viverem sendo apenas mão de obra — como os androides de Philip K. Dick.

A técnica CRISPR tem sido alvo de críticas porque pode acabar nos levando a um mundo parecido com este. No lado técnico, cientistas alertam para o perigo de que a edição de DNA pode causar uma perda considerável de material genético, o que pode levar a danos genômicos que levariam a consequências patogênicas até mesmo para muitas gerações seguintes. No lado filosófico e ético, há, por exemplo, preocupações com a utilização do CRISPR para fins eugenistas, ou para eliminar traços genéticos considerados “inferiores”.

No final de 2018, o pesquisador chinês He Jiankui alegou ter ajudado a criar os primeiros bebês com DNAs alterados com a CRISPR/Cas9. É nesse ponto do desenvolvimento tecnológico e científico que devemos refletir qual o interesse na aplicação de ferramentas como essa para criar bebês com DNAs alterados. Chegaríamos ao ponto de querer eliminar as “imperfeições” e criar uma nova “linha” de humanos de fábrica? Quais serão as consequências geradas pela diferença entre nós e aqueles que vierem de uma "linha de fábrica"?

Claro, essas perguntas são apenas um exercício de imaginação, e tudo o que podemos fazer é especular sobre uma tecnologia que ainda está nos laboratórios. Mas não foi assim que os escritores de ficção científica criaram seus clássicos atemporais? Esse exercício pode ser útil para definirmos, hoje, qual rumo tomaremos enquanto sociedade, antes que as próximas tecnologias sejam comuns no dia a dia. E, se não temos o poder de tomar as decisões importantes, podemos ficar sempre atentos.

Na próxima semana, na segunda parte dessa série, daremos mais destaque ao transhumanismo e à singularidade tecnológica, com referências a uma categoria de obras mais recentes que muito têm a dizer sobre isso: as animações japonesas. Afinal, onde se localiza o fator humano quando homem e máquina se tornam um só?

“Essa é uma das principais diferenças da ficção científica e da fantasia: normalmente, a primeira nos mostra coisas que a gente não quer que aconteça. Clarke dizia que, ao imaginarmos algo assim, talvez já tenhamos aberto caixa de Pandora” — Walda Roseman, presidente da Fundação Arthur C. Clarke.

Gostou dessa matéria?

Inscreva seu email no Canaltech para receber atualizações diárias com as últimas notícias do mundo da tecnologia.