Sonhos de androide

Robôs futuristas, circuitos eletrônicos, equações matemáticas em telas cristalinas. Assim são as imagens da inteligência artificial: símbolos de algo etéreo, abstrato, existente apenas em uma “nuvem” fictícia. Esse imaginário visual tende a ocultar, porém, os recursos necessários para construir e manter essa tecnologia funcionando. E estes são concretos, sejam eles naturais, energéticos ou humanos.

É essa dimensão material da IA que uma série de livros recentes busca expor. Nos últimos meses, foram lançados A máquina e nós: promessas e armadilhas da inteligência artificial, da professora e pesquisadora de matemática Tatiana Roque, e O império da ia: por dentro da corrida irresponsável pela dominação total, da jornalista estadunidense especializada em tecnologia Karen Hao.

LISTÃO

O império da IA: por dentro da corrida irresponsável pela dominação total

Karen Hao

Trad. Ananda Alves e André Sequeira Editora Rocco // 480 pp • R$ 99,90

Listão

LISTÃO

Refém do algoritmo

Madhumita Murgia

Trad. Lívia de Almeida Editora Rocco // 288 pp • R$ 84,90

Listão

Entre os lançamentos do ano passado, destacam-se Refém do algorimo: a vida sob a sombra da inteligência artificial, da indo-britânica Madhumita Murgia, editora de iA do Financial Times, e Atlas da ia: poder, política e os custos planetários da inteligência artificial, da artista e pesquisadora australiana Kate Crawford.

Impérios

O império da IA, best-seller do New York Times, ganhou ampla repercussão ao desvelar os conturbados bastidores da fundação da Openai e da criação do seu principal produto, o Chatgpt. O modelo representou o primeiro contato de muitas pessoas com a inteligência artificial e permanece como sinônimo da tecnologia no imaginário popular.

A trajetória da empresa é narrada no livro como um drama corporativo, cada executivo tentando passar a perna no outro. Seu protagonista é o carismático e ambíguo fundador da Openai, Sam Altman. Já o restante do elenco inclui várias das mais poderosas figuras do Vale do Silício hoje, como o agora trilionário Elon Musk; o cofundador do Google, Larry Page; o fundador da Microsoft, Bill Gates; e os irmãos Dario e Daniela Amodei, à frente da Anthropic, uma das principais rivais da Openai.

A moral da obra se explicita no seu subtítulo em português, uma denúncia da “corrida irresponsável pela dominação total” da indústria da IA. Em outras palavras, o sacrifício da ideologia que supostamente guiou a fundação de várias empresas da área — o desenvolvimento de uma tecnologia capaz de beneficiar a humanidade — em nome de uma busca inescrupulosa por poder e lucro comparável àquela promovida pelos impérios ultramarinos do passado.

É a esses impérios que Hao faz referência no título do livro. À reportagem, a autora justifica a escolha listando as semelhanças entre as potências de antigamente e as big techs de hoje. Ambas, ela diz, baseiam seus modelos de negócio na apropriação das matérias-primas de outrem — o que, no caso da indústria da tecnologia, inclui não só elementos naturais como também dados de indivíduos comuns e propriedades intelectuais de artistas. Aproveitam-se da instabilidade política e econômica de países empobrecidos para explorar a mão de obra deles. Assumem o controle dos fluxos de informação. E, por último, justificam a própria existência apresentando-se como missões civilizatórias, imbuídas da tarefa de levar progresso e modernidade ao restante da humanidade.

‘Tudo parece brinquedinho de menino. E, se esse menino tiver muito poder, levará às últimas consequências’

“É exatamente a mesma narrativa”, afirma Hao em entrevista à Quatro Cinco Um. As big techs “estão supostamente construindo uma inteligência artificial geral para alcançar a utopia, mas somente se elas a controlarem”, diz. O livro começa com o mesmo episódio que guia um longa de ficção sobre a empresa atualmente em produção em Hollywood, dirigido por Luca Guadagnino e estrelado por Andrew Garfield.

Questionada pela reportagem se não temeu que as tantas intrigas corporativas do enredo acabassem por obscurecer essa analogia, Hao responde que essa foi, sim, uma preocupação constante durante a escrita. Ao mesmo tempo, prossegue, ela queria que o paralelo não se restringisse a uma metáfora, mas que ficasse evidente no cotidiano da empresa, na leviandade com que seus dirigentes parecem tomar decisões que moldarão o futuro da IA.

Além do Vale

A comparação entre big techs e impérios no que se refere ao expansionismo e à apropriação de recursos se evidencia nos momentos em que Hao sai do Vale do Silício em direção ao Sul Global. É em países como o Quênia e o Chile que ela mostra, na prática, como a IA afeta indivíduos comuns, relatando, por exemplo, as tentativas de ativistas latino-americanos de protegerem suas comunidades da exploração de recursos minerais e energéticos, ou o cotidiano muitas vezes degradante daqueles que atuam classificando e identificando textos e imagens para treinar a tecnologia.

A estratégia de ir até os lugares e as pessoas que mais sofrem os efeitos da IA também é usada por Murgia e Crawford em seus livros. Enquanto a primeira acompanhou dezenas de indivíduos pelo mundo para expor os potenciais benefícios e malefícios da inteligência artificial, a segunda mostra como essa indústria tem sido usada para aumentar a concentração de poder no planeta e maximizar a capacidade dos governos e das grandes empresas de explorar a natureza e o trabalho humano.

Elas também se alinham a Hao em sua crítica à expressão “inteligência artificial”. Para as três, o termo é acima de tudo uma ferramenta de marketing, uma estratégia retórica para mistificar algo que é em essência uma calculadora de previsão estatística.

Autômatos humanos

A mesma discussão guia a primeira metade de A máquina e nós. Nela, Roque diz temer que a sociedade tenha abdicado do debate sobre o que é inteligência e a importância da experiência humana para construí-la. Estamos cada vez mais adotando uma definição de inteligência que se ajusta às capacidades das máquinas, quando o certo seria o inverso.

“Os termos vão se adequando aos ares do tempo de tal maneira que nem sequer estranhamos quando um caminhão autônomo é visto como uma façanha da inteligência artificial, mesmo que até há pouco tempo não achássemos que dirigir fosse uma atividade inteligente”, escreve a autora.

A segunda parte do livro é dedicada aos impactos da IA sobre o trabalho, área que, segundo Roque, será a mais afetada social e economicamente pela tecnologia. É interessante, no entanto, como ela busca historicizar essas transformações, optando por posicioná-las não como uma novidade jamais vista, mas como mais uma etapa de uma “divisão do trabalho mental” que já vinha em curso.

‘Mitos sobrevivem onde há lacunas de informação. Nosso trabalho é preencher essas lacunas’

Afinal, explica ela no livro, a IA só assume tarefas intelectuais depois de elas serem mecanizadas. Ela cita o telemarketing como um exemplo: primeiro, os atendentes foram obrigados a seguir protocolos inflexíveis, agindo como robôs, para só então serem substituídos por essas máquinas.

Surgem daí dois riscos. De um lado, a transformação dos operários em algo como autômatos humanos, como vem acontecendo desde a Revolução Industrial. E, de outro, a apropriação da economia de tempo gerada pela IA pelas empresas e não pelos funcionários. “Há uma luta a ser travada, no sentido sindical, para manter esse tempo livre nas mãos do trabalhador”, afirma à reportagem a autora, que também atua na política institucional.

Roque diz ainda que não se surpreende com o fato de que os quatro livros citados aqui tenham sido escritos por mulheres. Elas estão bem menos deslumbradas com a IA do que os homens, observa. “Tudo parece um grande brinquedinho de menino. E, se esse menino tiver muito poder, ele levará isso às últimas consequências. É como o Elon Musk mandando foguete para a Lua, querendo colonizar Marte.”

Apocalípticos e integrados

As autoras das quatro obras também contestam a visão, predominante na indústria da IA, de que só há dois futuros possíveis em relação à tecnologia: desenvolvê-la a qualquer custo em nome de um imperativo moral, postura adotada pelos chamados “boomers” ou aceleracionistas, ou deter sua evolução para evitar que ela ameace existencialmente a humanidade, visão dos “doomers” ou pessimistas.

Pelo contrário, elas argumentam, essa polarização acaba funcionando como uma distração, ocultando os danos sociais e políticos que a tecnologia já provoca no presente e negando a possibilidade de agência das pessoas comuns no seu desenvolvimento.

“São duas faces da mesma moeda, duas maneiras de encarar o desenvolvimento da IA como inevitável. Acho que precisamos dizer que não, não há nada de inevitável. E isso significa fazer política”, afirma Roque. “Não acredito em nenhuma dessas versões, porque elas não são comprovadas por nenhuma evidência científica ou do mundo real. No fim das contas, não devemos nos fixar na ideia de que esses modelos possam, de alguma forma, sair do controle e agir por conta própria, mas sim nas pessoas por trás deles”, diz Hao. “Mitos sobrevivem onde há lacunas de informação. O trabalho dos jornalistas e dos pesquisadores é preencher essas lacunas.”