Literatura estrangeira,

Razão artificial

Ian McEwan apresenta sua versão de robô inteligente e questiona a ética envolvendo essas criaturas

01ago2019 - 01h00 | Edição #25 ago.2019

A cavalgada irrefreável da tecnologia está cercada de dúvidas filosóficas que, em comparação, podem soar datadas ou envoltas em misticismo. O que é um ser vivo? O que significa dizer que criaturas ou artefatos são dotados de inteligência? Enquanto cientistas procuram entender como a consciência funciona nos cérebros e corpos, teóricos penam em busca de definições satisfatórias do que é a consciência.

Na literatura que aborda a inteligência artificial, seja ela de caráter especulativo ou não, uma escolha inicial entre duas abordagens se coloca ao autor. A primeira é tomar o consenso científico da época da escrita como premissa básica da fabulação. A segunda é adotar uma postura neutra, duvidosa ou mesmo desafiadora com relação a esse consenso, elaborando hipóteses aventureiras para advogar teorias controversas ou simplesmente chutar o balde da imaginação.

Em Máquinas como eu, Ian McEwan ataca o tema com os pés fincados na primeira perspectiva. Quem tem alguma familiaridade com seus livros não esperaria outra coisa. McEwan é um racionalista que, pelo menos desde Amor sem fim (Companhia das Letras), se compraz em tecer conflitos humanos e dilemas morais nos quais teorias e pesquisas científicas são elemento de destaque. Naquele romance, o amor do personagem Jed pelo protagonista Joe se explica por uma mistura de fé religiosa com a síndrome de Clérambault, em que uma pessoa acredita que alguém está secretamente apaixonado por ela. Para o racionalista Joe, essa mistura do racional com o irracional é uma esfinge perturbadora, ao mesmo tempo louca e irrefutável.

Foi em Sábado (Companhia das Letras) que McEwan construiu pela primeira vez o modelo que se repete em obras como Solar e Máquinas como eu. O neurocirurgião Henry Perowne percebe que o homem violento que ameaça sua família sofre da doença de Huntington, distúrbio hereditário que tem entre seus sintomas alterações de comportamento e demência, e esse diagnóstico termina por salvar a vida de todos.

Ao mesmo tempo, o pano de fundo da história são o terrorismo e os protestos dos ingleses contra a presença de seus soldados no Iraque, no ano de 2003. O conhecimento científico de Perowne nada pode contra os tumultos políticos e o ódio em escala global. Rico em detalhes médicos e científicos, Sábado foi um dos romances que trouxeram à baila o termo neuronovel, ou neurorromance: narrativas em que o paradigma neurocientífico suplanta a psicologia freudiana na construção dos personagens.

História alternativa

Agora com Máquinas como eu pronto, podia parecer inevitável que McEwan se dedicasse a escrever sobre robôs e inteligência artificial. O tema é um prato cheio para ele. Na primeira fase de sua carreira — que vai de Primeiro amor, último sacramento & entre lençóis (Rocco) a Cães negros (Rocco) —, predominam contos e novelas mórbidas que, ao pisar em temas como incesto e bestialismo, flertam com a tradição do horror corporal, um território que poderia avançar sobre os corpos artificiais e suas interações com nossos corpos biológicos.

Já em sua fase mais recente, ele vem se mostrando um autor motivado a escrever romances que funcionam quase como diagramas das implicações éticas que o indivíduo racional enfrenta diante de temas como aquecimento global (Solar), eutanásia (A balada de Adam Henry) e, agora, o advento das máquinas inteligentes. Somando-se o pano de fundo político do momento, no caso a barafunda do Brexit, temos Máquinas como eu.

Ou quase. Falta um elemento novo, que foi responsável por boa parte do alarde na divulgação prévia do romance: pela primeira vez, McEwan penetrou no território da ficção especulativa, ou ficção científica, ou de nem uma nem outra, dependendo de quem opina. O que importa é que Máquinas como eu constrói uma história alternativa. O romance transcorre numa década de 1980 em que a internet e os carros automáticos já existem e na qual a Inglaterra amarga uma derrota para os argentinos na Guerra das Malvinas.

O trauma social gerado pela derrota militar e pelos milhares de mortos leva Margaret Thatcher a perder as eleições para o esquerdista Tony Benn. A população mobilizada, que ganha as ruas em protestos e comícios, é surpreendida pela notícia de que Benn pretende retirar o país da União Europeia. A linha do tempo alternativa de McEwan é particularmente feliz quando articula de modo indireto as tensões políticas deste nosso final de década. Enquanto isso, os Beatles estão lançando um novo álbum, John F. Kennedy sobrevive ao atentado e os primeiros seres humanos artificiais chegam ao mercado.

A alteração histórica mais importante, porém, é que o matemático britânico Alan Turing (1912-54) não apenas está vivo, como foi o responsável pelos abruptos saltos tecnológicos que adiantaram em muitas décadas as inovações existentes no nosso presente ou projetadas para um futuro próximo. No mundo real, Turing — que foi decisivo na vitória aliada na Segunda Guerra Mundial ao decifrar códigos secretos alemães (trama do filme O jogo da imitação) e criou o famoso teste de Turing para avaliar se uma máquina possui ou não inteligência — se matou em 1954, depois de ter sido condenado pelo governo por ser homossexual e forçado a aderir a um tratamento hormonal.

McEwan é um racionalista que se compraz em tecer dilemas morais com pesquisas científicas

McEwan imagina Turing numa cela de prisão, aproveitando o isolamento para resolver as equações revolucionárias que o tornariam, após ser posto em liberdade, uma das personalidades mais influentes e respeitadas do mundo. Há talvez uma mistificação excessiva no personagem urdido com devoção por McEwan, mas também há algo de comovente nisso e nessa justiça cósmica perpetrada através da ficção.

Charlie, o narrador do romance, aproveita uma herança para adquirir um dos 25 robôs inaugurais, chamados de Adão ou Eva. Na abertura do romance, McEwan os descreve com uma mistura saborosa de retórica prometeica e detalhes pitorescos e bem-humorados. Os robôs são oferecidos com um cardápio de perfis étnicos, e há reclamações de que o árabe é indistinguível fisicamente do judeu. Ao sair da caixa, a pele de Adão “já estava aquecida ao toque e era tão macia quanto a de uma criança”. Suas baterias precisam ser recarregadas constantemente, como se ele fosse um smartphone humanoide, e o manual é uma leitura maçante de 470 páginas.

Adão chega de fábrica sem personalidade ou história pessoal, mas o mesmo não se pode dizer de Charlie e Miranda, os dois vértices biológicos do triângulo amoroso que serve de eixo para a trama. Charlie tem 32 anos, é formado em antropologia, tem uma paixão juvenil por eletrônica, idolatra Turing e ganha a vida apostando pequenas somas de dinheiro na bolsa de valores. Miranda, sua vizinha do andar de cima, é uma estudante de história que tem um pai doente e um segredo criminoso em seu passado.

Charlie adquire Adão por curiosidade, mas também porque está apaixonado por Miranda. O robô precisa ter a personalidade configurada através de um extenso questionário, e Charlie acredita que dividir a tarefa com Miranda poderá uni-los: “Me deixei levar pelo processo, que começou a ganhar uma qualidade vagamente erótica: estávamos fazendo um filho!”. 

O plano vinga, mas desencadeia uma série de complicações. Afinal, esse filho “podia ter relações sexuais e possuía membranas mucosas funcionais, para cuja manutenção consumia meio litro de água por dia”. Miranda, é claro, não vê o atlético e solícito Adão como um filho. Adão se apaixona por Miranda, a quem compõe milhares de haicais românticos. O óbvio acontece. Como se isso não bastasse, a aparição de um menino carente chamado Mark oferece ao casal a possibilidade concreta de ter um filho adotivo.

Romance sob controle

A essa altura (ainda nos primeiros capítulos), já estará claro para o leitor que o romance não vai se dedicar primordialmente ao anunciado triângulo amoroso entre dois humanos e um robô. É difícil até falar em trama, pois Máquinas como eu parece aglutinar pelo menos meia dúzia de tramas em suas trezentas e poucas páginas. Ao fim da leitura, não ficam pontas soltas e o quebra-cabeça moral em constante mutação desemboca em um conjunto de resoluções satisfatórias. Mas isso parece se dar ao custo da densidade emocional e da estranheza potenciais que residem nas ideias e nos conflitos da história. O romance parece estar absolutamente sob controle, o que lhe subtrai, diria eu, um desejável senso de ameaça e instabilidade.

Por exemplo, a cena de sexo entre Adão e Miranda ocorre longe dos olhos do narrador. Charlie escuta os passos e movimentos no apartamento acima e imagina o que está acontecendo na cama da amada. A estratégia do narrador relegado a testemunha imaginária de uma traição amorosa poderia funcionar muito bem em outros livros, mas neste, em que a interação de um corpo biológico com uma réplica mecânica mereceria um olhar frontal, inventivo e despudorado, chega a ser insuficiente. 

McEwan está mais interessado na humilhação de Charlie e na conclusão filosófica: “Eu então concedi a Adão, como era agora devido, o privilégio e as obrigações de pertencer à minha espécie. Eu o odiei”. Pelo restante do livro, os pormenores incômodos ou excitantes que poderiam ser extraídos do tema não são revelados. Não há nada sobre a segunda transa, a entrega homoerótica de Charlie, o triolismo, o voyeurismo ou qualquer outra coisa. Miranda é quem chega mais perto de nos fornecer um dado sensorial satisfatório, ao dizer que o hálito de Adão “tem o cheiro da parte de trás de um aparelho de TV”.

O tratamento dado por McEwan ao tema da inteligência artificial também parece constrangido por algumas limitações. A partir da perspectiva do consenso científico vigente, a visão computacional do cérebro é uma premissa implícita. Criar uma mente artificial, de acordo com essa visão, é apenas uma questão de decifrar o processamento de dados realizado pelos neurônios e desenvolver computadores avançados o bastante para simulá-lo ou aperfeiçoá-lo. 

Adão é um supercomputador alojado na cabeça de um androide, dotado de um software moral e de acesso ilimitado à rede. Usa esse acesso para consultar autos de processos judiciais, aprender filosofia e ler Shakespeare. McEwan aproveita muito bem as possibilidades do robô que inventou. Adão aprende a ganhar dinheiro na bolsa, e Charlie passa a explorar seu trabalho, planejando uma vida mais confortável com Miranda.

Consciência 

Em um momento crucial, Adão comunica a Charlie que, de acordo com as perturbadoras pesquisas que realiza sem parar, há um risco de Miranda lhe causar algum mal. É uma daquelas sugestões de horror ainda por vir que são especialidade de McEwan. O robô aprende, adquire experiência, se apaixona, fica melancólico e sofre ao saber da onda de suicídios que acomete os outros Adãos e Evas.

Tudo isso funciona, mas não muda o fato de que Adão é parecido com outros humanos artificiais que já conhecemos no cinema e na literatura. Na fusão de passado e futuro criada por McEwan, a sociedade parece pouco afetada pela chegada das primeiras máquinas inteligentes. Do mesmo modo, Adão é demasiado parecido conosco, levando em conta que possui um corpo e uma mente artificiais. Enquanto criatura especulativa, não surpreende em nenhum momento, embora seja o porta-voz perfeito para seu criador discorrer sobre as implicações éticas dessas máquinas.

Nesse quesito, McEwan não decepciona. Em quase todas as páginas ele nos faz pensar em problemas como o da extensão do nosso círculo de empatia e dos direitos básicos a criaturas não humanas, na utilidade da metáfora computacional para compreender o amor e a arte, nas balanças da igualdade e da liberdade, da vingança e da justiça. Os personagens dissertam em demasia, mas também agem, pensam, sentem, permanecem confusos. Há uma cena magistral em que Charlie se vê submetido a uma espécie de teste de Turing invertido. Se a especulação do livro está acorrentada ao realismo, a tessitura de conflitos humanos e dilemas morais é convincente e, nos melhores momentos, provocadora.

‘A verdade nem sempre é tudo’, diz Charlie. ‘Claro que a verdade é tudo’, retruca o robô, sem emoção

No embate final entre Charlie, Miranda e Adão, o casal de humanos biológicos fica estarrecido diante do rigor moral kantiano de seu humano artificial de estimação. Existe uma inversão brilhante nessa cena. Graças aos ideólogos da tecnologia e ao uso prático de nossos computadores, costumamos esperar das máquinas um cálculo moral utilitarista, no qual sensores e processadores que excedem o poder do raciocínio humano definem as rotas de ação que resultam no menor dano ou maior bem-estar aos envolvidos. Princípios morais a priori, sentimentos e afetos fariam parte do arsenal humano, algo que, para muitos, nos diferencia em definitivo das máquinas.

McEwan, porém, reserva a Adão o papel de defesa das leis e princípios morais, mesmo que sua aplicação vá contra o amor que sente em seu coração artificial. Charlie e Miranda, por sua vez, não estão dispostos a aceitar que princípios morais se sobreponham a seus interesses egoístas, ainda mais dentro de uma situação que já parecia resolvida beneficiando todos os envolvidos.

“A verdade nem sempre é tudo”, diz Charlie, exasperado, tentando dissuadir Adão de seu curso de ação. “Essa é uma coisa extraordinária de ser dita”, retruca o robô, sem emoção. “Claro que a verdade é tudo.”

A dificuldade do leitor em se posicionar diante dessa cena talvez indique a medida de sua humanidade. Ter uma consciência é confuso. A mente é uma coisa fugidia, em constante e promíscuo embate com o ambiente, com seus órgãos, com outros organismos. Não devemos supor que com as máquinas seria diferente.

Quem escreveu esse texto

Daniel Galera

É autor de Barba ensopada de sangue e Meia-noite e vinte, ambos pela Companhia das Letras.

Matéria publicada na edição impressa #25 ago.2019 em julho de 2019.