Ciências Sociais,

O futuro é das máquinas

A nova idade das trevas mostra como a tecnologia conduz à desigualdade humana em vários setores da sociedade

01mar2020

Nascido no Reino Unido e atuando como escritor, jornalista e artista visual, James Bridle recorre a uma vasta gama de disciplinas e competências em seu excelente livro A nova idade das trevas, que saiu no Brasil pela Todavia. Partindo da história dos sistemas de informação, passando pela literatura, história da arte, antropologia e semiótica, seu trabalho busca dar conta da complexidade da relação entre “tecnologia e o fim do futuro”, como diz seu subtítulo, além de investigar como a automação invadiu não apenas a produção capitalista, mas todo o campo de afetos e sentimentos da sociedade contemporânea.

A principal ideia de Bridle em seu livro é a de que vivemos sob o regime de um paradoxo: quanto mais sabemos, menos conseguimos agir; ou seja, quanto mais informação nossa “sociedade em rede” produz, mais se perde na confusão de possibilidades contraditórias. A nova idade das trevas não é um livro apocalíptico, as “trevas” de que fala não indicam que o fim do mundo está próximo — embora essa seja uma das possibilidades no horizonte. As trevas apontam para um estado de coisas no qual a informação habita uma “zona cinzenta”, um caos de estímulos simultâneos que reúne, ao mesmo tempo, teorias da conspiração, vídeos para crianças e mecanismos secretos de vigilância global.

O livro está dividido em nove capítulos organizados a partir de termos iniciados com a letra C: cova, computação, clima, cálculo, complexidade, cognição, cumplicidade, conspiração, concomitância e cumulus. Assim, joga com um dos temas centrais de sua argumentação, a dificuldade de estabelecer um critério de seleção e organização de dados que nunca param de se acumular, onde quer que seja.

Máquinas e humanos classificam de modo diverso, e uma das muitas histórias contadas por Bridle no livro exemplifica bem essa diferença. Em um depósito da Amazon, centenas de operários empurram carrinhos “por longos corredores cheios de prateleiras”, chegando a caminhar até 24 quilômetros por dia para dar conta do carregamento de itens (um caminhão cheio deve sair do depósito a cada três minutos).

Os operários são guiados por computadores portáteis nos carrinhos, caso contrário não conseguiriam navegar no depósito. A disposição das mercadorias é feita por uma “inteligência automática racional” que obedece a uma técnica de logística chamada “alocação caótica”: livros ao lado de caçarolas, ao lado de televisores, ao lado de brinquedos, replicando o caráter aparentemente aleatório das compras feitas pelo site.

Incompreensível para humanos

“Dispor o mundo da perspectiva da máquina a torna eficiente do ponto de vista computacional, mas deixa-a completamente incompreensível para os humanos”, escreve Bridle. “E, além de tudo, acelera sua opressão”, pois não há tempo para ir ao banheiro ou comer, e a interação entre colegas é fortemente desencorajada. “Por trás de alguns pixels na primeira página da Amazon se esconde o trabalho de milhares de operários explorados.”

Além da Amazon, o trabalho de Bridle passa em revista todos os algozes conhecidos: Google, Twitter, Facebook, Microsoft, ibm e outros do gênero. Seus produtos e serviços são fonte tanto de esperança quanto de angústia, de informações e interações engrandecedoras, libertadoras, e também de bizarras e perigosas fake news. No capítulo dedicado à “cognição”, o autor traça uma linha de aproximação entre os recentes programas de reconhecimento facial (como o DeepFace, do Facebook, ilegal na Europa) e os arcaicos sistemas de “reconhecimento de padrões” desenvolvidos pelas Forças Armadas dos Estados Unidos logo depois da Segunda Guerra Mundial. “A tecnologia não emerge do vácuo”, escreve Bridle, pois é “a reificação de um conjunto particular de crenças e desejos”, montada “a partir de uma caixa de ferramentas de ideias e fantasias desenvolvidas ao longo de gerações, através da evolução e da cultura, da pedagogia e da discussão, infinitamente emaranhada e envolvente”.

O uso lúdico da tecnologia e das redes sociais é indissociável de seu uso — pretensamente confidencial — como ferramenta para monitoramento e vigilância. Toda a expansão vertiginosa da velocidade das redes, justificada na superfície como aprimoramento dos “contatos sociais” e dos serviços de streaming, serve para alimentar a bolha do mercado financeiro. As operações ditas de “alta frequência” movimentam bilhões em nanossegundos, fragilizando por gerações a economia de base e intensificando a desigualdade social.

“A tecnologia é a condutora elementar da desigualdade em vários setores”, escreve Bridle, e isso porque as infraestruturas projetadas para apoiar os novos modelos de negócio (Uber, Airbnb, Amazon) funcionam para as máquinas e não para os seres humanos (que dormem, comem, adoecem e envelhecem). É preciso frisar que Bridle é rigoroso na apresentação de suas fontes, algo fundamental em um trabalho que busca investigar as “trevas” de indistinção que ameaçam democracias ao redor do planeta (fraudes em eleições, interferências de bots em redes sociais e assim por diante). Com suas referências, Bridle arma uma rede de informação que convida o leitor a se aprofundar nos variados tópicos que aborda.

Outro aspecto digno de nota é a natureza da bibliografia utilizada pelo autor, em sua grande maioria oriunda de artigos de veículos investigativos (The New York Times, The Guardian, The Independent, Intercept, Verge e muitos outros). A ênfase é deliberada e mostra um novo modo de fazer pesquisa no mundo contemporâneo, valorizando o jornalismo investigativo e a circulação crítica de informações que ainda não fizeram o demorado percurso em direção à bibliografia convencional dos acadêmicos. Se há algo de positivo no futuro, só pode vir desse tipo de escolha ética: desacelerar, ler tudo com atenção e investir em um relacionamento crítico com as tecnologias. 

Quem escreveu esse texto

Kelvin Falcão Klein

Professor da Unirio, é autor de Wilcock, ficçaão e arquivo (Papéis Selvagens) e Estratégias de visualidade na literatura: o Olho Sebald (Editora UFMG).