Por Kate Crawford | Tradução: Antonio Martins

Apresentação de uma conferência indispensável
Por Lucas Vilalta¹

Há menos de uma semana, quebrei um pouco os protocolos dos aplicativos de mensagens, para compartilhar em grupos e com amigos – como um presente/pedido de final de ano – a conferência “Mapeando Impérios” de Kate Crawford, apresentada no The Long Now Foundation. Como alguém que pesquisa os impactos das tecnologias digitais para a democracia, os direitos humanos e a vida das pessoas há algum tempo, estava e estou completamente convencido de que é algo que todos deveriam ver. É indispensável como diagnóstico certeiro e abrangente dos colapsos político, econômico, social, ambiental, cognitivo e cultural que as IAs generativas estão produzindo – e de como esses colapsos estão interligados e se retroalimentam. Antonio Martins e Maurício Ayer sugeriram divulgarmos a conferência oferecendo uma tradução para que mais gente pudesse acompanhá-la. Assim, preparei também uma breve apresentação, como um convite. Mas quem quiser, pule direto para o vídeo!

O mapa não é o território mas, como sabemos desde Borges, quando mapas são produzidos por impérios eles começam a se sobrepor, sobrepujar e a modificar a maneira como experimentamos e pensamos os espaços e os tempos em que vivemos. As tecnologias jamais são neutras, elas condicionam nossas maneiras de agir, perceber e pensar o mundo. Kate Crawford, autora ainda pouco conhecida do grande público no Brasil, certamente se tornará também aqui uma referência indispensável. Seus textos e projetos mostram com clareza e contundência como nosso mundo produz e é produzido pelas tecnologias. A recente publicação do livro “Atlas da IA: poder, política e os custos planetários da inteligência artificial” pelo SESC e a exibição na “Mostra O Mundo Através da IA” do SESC Campinas do colossal painel “Calculating Empires”, que realiza uma genealogia das relações entre tecnologia e poder desde 1500, certamente irão contribuir para a divulgação do seu trabalho por aqui. Voltando à conferência, ela está dividida em uma introdução e seis capítulos. São eles que resumidamente irei delinear aqui.

Introdução: IA transformando nossa compreensão do real

A conferência começa com uma bem humorada exibição da composição “Machines work” do ano 2000 da banda B(if)tek, da qual Crawford fez parte. A música, 25 anos antes, já sintetizava a disjuntiva em que nos encontramos hoje: “Máquinas podem realizar o trabalho, então, seres humanos podem pensar / Humanos podem realizar o trabalho, então, máquinas podem pensar”. Uma questão de perspectiva. É também o que inicia a fala de Crawford: a apresentação da tecnologia de perspectiva linear ou artificial. Um modelo matemático criado no século XV para produzir a ilusão de profundidade em superfícies bidimensionais, através de um ponto de fuga na linha do horizonte para o qual as linhas paralelas convergem. Mais que transformar a arte e a arquitetura europeia, Crawford argumenta que tal tecnologia transformou a maneira como vemos as coisas e faz uma afirmação que parece conectar quase 600 anos de história da tecnologia: “A perspectiva linear foi uma invenção profunda que, ao mesmo tempo, negava seu próprio artifício, ao afirmar-se como uma representação natural da realidade, quando, obviamente, era tudo menos isso. Ou, citando, o historiador W. J. T. Mitchell: “O efeito dessa invenção foi nada menos do que convencer toda uma civilização de que possuía um método infalível de representação, um sistema para a produção automática e mecânica da verdade sobre os mundos material e mental

Mas, afirma Crawford que a inteligência artificial faz algo ainda mais radical, não somente inventa um modelo ou regime matemático que (re)configura nossa percepção da realidade, mas também altera o locus do poder representacional, isto é, o ponto de vista que organiza todas as perspectivas. Se para a cosmologia medieval Deus era a fonte de toda representação, conhecimento e verdade; e para episteme moderna foi o indivíduo humano; em nossa era a máquina se torna a perspectiva de todas as representações e modos de existência.

“Cada mudança reorganizou não apenas a forma como vemos o mundo, mas também o que é considerado realidade em si.” Tal afirmação, vem acompanhada pela apresentação da imagem mais compartilhada em 2025: o Camarão Jesus. Perfeita fusão entre Deus, ser humano e máquina que só a era da IA pode nos oferecer.

Mapeando impérios

No capítulo inicial da conferência, Crawford apresenta um impasse metodológico: como mapear os impactos sociais, políticos e ambientais da tecnologia quando esta opera para além das escalas de tempo e espaço que excedem a percepção humana? Seus dois trabalhos com Vladan Joler – Anatomy of an AI system e Calculating Empires – foram duas tentativas de superar essas limitações, respectivamente, do ponto de vista espacial e temporal. Eles lhe mostraram, ou são a própria expressão, da necessidade de uma concepção de história de “longa duração” – tal como proposta por Braudel -, que observa mudanças mais significativas na geografia, no clima e nas estruturas de crenças profundamente enraizadas das pessoas. Assim, Crawford mostrará como “o século XVI testemunhou a convergência entre capitalismo, colonialismo e tecnologias de comunicação em estruturas de poder que ainda moldam o nosso mundo”. Isto é, o Império da IA vem sendo moldado por tecnologias e práticas de dominação política, social, econômica e ideológica há 500 anos. Explicitar a materialidade desse processo histórico de larga duração é o que Crawford faz.

Máquinas metabólicas

O conceito chave do segundo capítulo da conferência é o de ruptura metabólica e como máquinas serão inseridas para modificar a cadeia de dano e interrupção que as intervenções humanas no meio produzem. A “agricultura de pilhagem” que roubava nutrientes do solo, precisou ser suplantada com estratégias para reverter o empobrecimento do solo – inclusive estratégias de expansão colonial da agricultura predatória para outros continentes. Complementarmente, ela mostra como os processos da modernidade industrial e a migração em massas para as cidades, produziu uma ruptura metabólica, isto é, uma interrupção sistêmica dos ciclos ecológicos pela produção industrial – não apenas o solo, mas o meio ambiente como um todo entra no processo. Crawford nos lembra que esses ciclos de pilhagem e extrativismo aconteceram antes e vão seguir acontecendo com claras “rupturas metabólicas” e máquinas de suplementação do esgotamento ambiental. “Os booms tecnológicos podem impulsionar a extração muito além do que nossos ecossistemas conseguem sustentar, e os impérios raramente têm um “botão de desligar”. Eles extraem recursos da periferia e, em seguida, centralizam seu poder e externalizam os custos. Ao fazê-lo, remodelam o próprio planeta”. Foi assim com o solo, com as árvores de onde se extraíam gutta-percha para a produção de cabos telegráficos, será assim com os dados, o conhecimento, a cognição e a capacidade de atenção, e em última instância de viver, dos seres humanos.

Ingestão de dados, consumo planetário, desperdício, slop e colapso do modelo

Nos capítulos que seguem, Crawford irá detalhar de modo contundente e incontornável a insustentabilidade do Império da IA. O apetite voraz das IAs por mais e mais dados (na frase do financiador de Trump e da Cambridge Analytica, Robert Mercer: “não há dados como mais dados), somado à insuficiência do que estatisticamente o modelo pode abstrair desses dados, nos leva a um paradigma de insatisfação infinita. Dados provenientes de bilhões de imagens e textos não são suficientes, é preciso de dados da realidade física e do comportamento e experiência humana direta; mas, esses dados ainda não são suficientes, não enquanto não abarcarem e capturarem, como mostra Crawford, a totalidade da experiência humana – e não-humana. “O que será necessário para digerir e modelar todos esses dados?” nos pergunta ela. Toda uma cadeia produtiva e de trabalhadores precarizados que envolva e sustente o consumo e o desperdício planetário do Império da IA. Alguém poderia supor: mas os ganhos de eficiência nos levarão a um ponto de ruptura da irreversibilidade e insustentabilidade desse ciclo. É aí que Crawford apresenta dois argumentos, o do Paradoxo de Jevons, em que os ganhos de eficiência são superados pela ampliação dos usos impulsionados pelo barateamento dos custos – como ela exemplifica com o aperfeiçoamento das máquinas térmicas e o aumento do consumo de carvão no século XIX. Por outro lado, o processo triplo que caracteriza os Impérios da IA – abstração, extração e distração – faz com que o desperdício material, energético e produtivo venha acompanhado do desperdício cognitivo como apanágio do processo – que ela descreve com o conceito de “slop”. É como termina todo Scooby-Doo: ao tirar a máscara, o discurso de progresso tecnológico, aumento da eficiência, liberação dos seres humanos de tarefas repetitivas, blá-blá-blá, revela-se uma grande “slopaganda” – que poderíamos traduzir como “marketing de lero-lero”. O modelo de negócios das Big Techs e geopolítico do governo estadunidense consiste em vender ilusões e engajamento que apenas retroalimentam os ciclos do Império. O problema é que, como mostra Crawford – e como já havia mostrado Marx com a ruptura metabólica -, paradoxalmente, ao retroalimentar o ciclo, o próprio modelo colapsa. Os colapsos político, econômico, social, ambiental, cognitivo e cultural que as IAs generativas estão produzindo levarão ao colapso o próprio modelo – e com ele todos nós.

Futuros alternativos

No último capítulo da conferência e na conversa franca e descontraída com Kevin Kelly ao final – com, inclusive, ótimas discussões sobre a crítica ao capitalismo e curiosidades sobre como Crawford utiliza as IAs no dia a dia -, ela irá refletir sobre futuros alternativos em relação ao abismo existente entre o poder tecnológico e o interesse público e o bem comum da sociedade. A mim me parece que a condição-chave para que caminhos alternativos possam ser traçados aparece justamente no trecho da última entrevista de Carl Sagan com o qual ela encerra a conferência e com o qual podemos encerrar também esta apresentação:

Há dois tipos de perigos. Um é o que acabei de mencionar: criamos uma sociedade baseada na ciência e na tecnologia na qual ninguém entende nada sobre ciência e tecnologia. E essa mistura explosiva de ignorância e poder, mais cedo ou mais tarde, vai explodir na nossa cara. Quero dizer: quem está conduzindo a ciência e da tecnologia em uma democracia, se as pessoas não sabem nada sobre isso? E a segunda razão pela qual estou preocupado é que a ciência é mais do que um conjunto de conhecimentos. É uma forma de pensar, uma forma de interrogar o universo de modo cético, com uma compreensão profunda da falibilidade humana. Se não formos capazes de fazer perguntas céticas, de questionar aqueles que nos dizem que algo é verdade, de desconfiar daqueles que estão no poder, então estaremos à mercê do próximo charlatão político ou religioso que aparecer. É algo que Jefferson enfatizou muito. Não era suficiente, disse ele, consagrar alguns direitos em uma Constituição ou em uma Declaração de Direitos. O povo precisava ser educado e precisava praticar seu ceticismo e sua educação. Caso contrário, não governaremos o Estado. É o Estado que nos governa.

É um grande prazer estar com vocês esta noite. Quero começar expressando minha gratidão. E sou particularmente grata a vocês por estarem pensando sobre o tema, em um momento em que passamos por mudanças tecnológicas extraordinárias. Esta é uma oportunidade rara de falar sobre um horizonte temporal muito mais longo do que o normalmente permitido em uma palestra pública.

Vou aproveitar essa oportunidade para explorar o que podemos aprender com a história. Vamos olhar para trás para entender nosso presente e as possibilidades para o nosso futuro. Vamos falar sobre pinturas renascentistas, máquinas a vapor, guano de pássaros e resíduos de IA. Acomodem-se, relaxem e vamos começar. Se você estivesse andando pelas ruas de Florença no século XV, talvez tivesse visto um homem parado em frente ao Batistério de San Giovanni, segurando um dispositivo muito curioso.

Parecia um painel de madeira com um olho mágico e um espelho na frente. Se ele fosse gentil o suficiente para convidá-lo a se aproximar e você conseguisse alinhar o olho com o orifício, veria no espelho uma imagem da pintura da igreja refletida de volta para você, e ela pareceria completamente tridimensional. Era uma poderosa ilusão de ótica. As pessoas do século XV ficavam absolutamente maravilhadas com o que parecia ser mágico, um reflexo que se tornava real. O homem era o arquiteto Filippo Brunelleschi e a tecnologia era a perspectiva linear, ou perspectiva artificial.

Essa tecnologia se tornaria amplamente aceita em toda a Europa e remodelaria a arte e a arquitetura, como você pode ver nas duas pinturas abaixo, que foram feitas com cerca de 150 anos de diferença. Mas ela também fez algo mais fundamental. Gradualmente, passou a ser aceito que essa era a forma real das coisas.

Portanto, a perspectiva linear foi uma invenção profunda que, ao mesmo tempo, negava seu próprio artifício ao afirmar ser uma representação natural da realidade, quando, obviamente, era tudo menos isso.

Mas também mudou a forma como o mundo é ordenado. Os agrimensores começaram a usar instrumentos de perspectiva para ocupar territórios. A perspectiva tornou o mundo mensurável, controlável e comercializável. Nas palavras do historiador W. J. T. Mitchell, o efeito dessa invenção foi nada menos do que convencer toda uma civilização de que possuía um método infalível de representação, um sistema para a produção automática e mecânica da verdade sobre os mundos material e mental. O que Brunelleschi desenvolveu como um truque matemático foi codificado em tudo, desde a fotografia até a realidade virtual. Em outras palavras, a perspectiva artificial criou um regime de verdade que durou séculos, mas fez algo mais. A cosmologia medieval sempre colocou Deus no centro, que era a visão teocrática do poder originário do alto. A perspectiva artificial mudou o centro, tornou o olho humano individual o centro absoluto do mundo e, é claro, mudou também a forma como o poder era entendido.

Eu gostaria de sugerir que o que está acontecendo com a inteligência artificial agora é ainda mais radical. As redes neurais são treinadas com bilhões de imagens coletadas da internet e, por sua vez, criamos imagens e textos solicitando que essas máquinas os produzam para nós. Portanto, ao longo dos séculos, o locus do poder representacional mudou de Deus no centro para o indivíduo e para a máquina. E cada mudança reorganizou não apenas a forma como vemos o mundo, mas também o que é considerado realidade em si.

Agora, estamos em 2025, e você consegue adivinhar qual é a imagem mais compartilhada? Sim, é o Camarão Jesus. Ele é um sucesso popular da IA, mas também é um tipo de perspectiva muito diferente daquela que vimos nas abordagens medievais ou renascentistas. O torso de Jesus está meio que colado de forma estranha em cima de um crustáceo, e temos esses ângulos impossíveis onde você pode ver o céu e o fundo do oceano. Há aquela hiper-realidade tão característica da IA. Gostaria de sugerir que a estética da IA é mais do que apenas um estilo técnico ou uma curiosidade cultural. É o produto voltado para o consumidor do capitalismo computacional. É criado pela transformação de toda a cultura humana em uma reserva permanente de dados e, em seguida, metabolizado por meio de uma infraestrutura colossal, que queima energia para cada imagem estranha gerada.

Podemos pensar no que está acontecendo agora como algo parecido com o ciclo de Krebs, que você talvez tenha estudado na aula de biologia do ensino médio. Em suas células, os seres vivos convertem os alimentos em energia utilizável e liberam dióxido de carbono. O ciclo de Krebs da IA começa quando modelos generativos ingerem bilhões de imagens, vídeos e textos da internet, então processados por redes neurais com trilhões de parâmetros que usam enormes quantidades de energia e água.

Em seguida, são criados dióxido de carbono e resultados sintéticos e, uma vez que esse resíduo está online, ele é ingerido mais uma vez e o ciclo continua. Gostaria que pensássemos que talvez a IA esteja se tornando uma tecnologia metabólica que agora compete diretamente com os seres humanos por recursos básicos como terra e água, e está ultrapassando os limites de um planeta já sob pressão.

Mas se aprendermos com as relações entre império, tecnologia e poder, acho que podemos entender melhor essa transformação radical no mundo, e talvez decidir o que vamos fazer a respeito. Portanto, minha palestra desta noite terá seis capítulos.

* * *

Começaremos com um pouco de contexto sobre o mapeamento de impérios do passado e do presente. Em seguida, consideraremos a ascensão das máquinas metabólicas na Revolução Industrial. Depois, colocaremos tudo isso em um contexto contemporâneo, começando com as práticas atuais em torno dos dados para IA e, em seguida, os recursos planetários usados para construir modelos de IA. Finalmente, vamos examinar o ciclo final desse metabolismo, especificamente os resíduos, os detritos da IA e a ameaça de colapso do modelo. Mas vamos terminar com uma nota positiva sobre alguns futuros potenciais.

Vamos falar um pouco sobre mapeamento. Passei a última década estudando os impactos sociais, políticos e ambientais da IA, mas também tenho tentado resolver uma questão metodológica. Como mapear os impactos da tecnologia quando ela opera em escalas de espaço e tempo que simplesmente excedem toda a percepção humana? A IA atualmente move-se em uma ampla gama de escalas, desde o subatômico dos condutores até os novos data centers em construção que, segundo dizem, têm o tamanho de Manhattan, e à escala planetária, as cadeias de suprimentos que abrangem o globo ou o conteúdo químico da nossa atmosfera.

Uma maneira de transmitir essa ideia é mapear o espaço. Esta é a anatomia de um sistema de IA. É um projeto com meu amigo e colega, Vladan Joler, no qual mapeamos o ciclo completo de um dispositivo Amazon Echo. Nós o abrimos e rastreamos todos os componentes até onde foram extraídos e fundidos, de onde foram enviados, todo o processamento de dados e onde esse processamento ocorreu, até o fim da vida útil, quando esses dispositivos são descartados (em geral, apos dois ou três anos de uso), em gigantescas lixeiras de lixo eletrônico em lugares como Gana e Paquistão, onde passam a impactar os suprimentos de terra e água. Este projeto, que concluímos em 2018, transformou minha maneira de pensar sobre o setor da IA. Em primeiro lugar, ele me tirou da mesa e do laboratório e me levou a fazer trabalho de campo, ir aos lugares onde a IA é feita. Digo isso no sentido mais amplo, estou falando das minas onde o lítio é extraído, das terras agrícolas rurais sendo substituídas por data centers, das centrais de atendimento e das extrações. Estudar esses lugares que me deu uma noção muito mais fundamentada do impacto da IAe das economias políticas que a impulsionam. Mas, no meu projeto mais recente com Vladan, passamos do mapeamento do espaço para o mapeamento do tempo, e este é o mapa que exploraremos juntos esta noite. Ele se chama Calculating Empires, uma genealogia da tecnologia e do poder desde 1500.

É um afresco de 24 metros de comprimento e levou cerca de quatro anos de pesquisa histórica, design e ilustração. O resultado é esta ampla linha do tempo de 500 anos, que retrata o surgimento de tecnologias para comunicação, computação, classificação e controle. Ele está online em Calculating Empires, mas prefiro mostrar a vocês pessoalmente esta noite. O mapa começa em 1500, porque esse é um momento de conjunção crítica, quando três sistemas começam a se articular entre si.

Aqui está o capitalismo inicial, exemplificado pela Companhia Holandesa das Índias Orientais para expandir o poder e a acumulação de riqueza além das fronteiras nacionais. Em segundo lugar, a colonização europeia, que proporcionou novas condições materiais e relações territoriais para o império operar, produzindo novas hierarquias de raça, trabalho e geografia. E, ao mesmo tempo, a invenção da imprensa, que transformou as condições de produção de conhecimento. O século XVI viu o capitalismo, o colonialismo e a tecnologia da comunicação convergirem em estruturas de poder que ainda moldam nosso mundo.

No processo de criação dessa cartografia crítica em grande escala, vimos esses padrões continuarem a surgir e se repetir ao longo do tempo. É claro: a história não se move em uma progressão linear perfeita em direção a uma racionalidade cada vez maior, como Hegel poderia ter esperado na década de 1880. A violência catastrófica do século XX e além certamente nos desiludiu dessa noção. Na verdade, os ciclos se repetem com características comuns, mesmo quando os detalhes diferem ou, como diz a frase, a história não se repete, mas rima. Podemos ver isso muito claramente quando nos voltamos para o que o historiador Fernand Braudel chamou de longue durée, longa duração. Braudel acreditava que estamos todos muito obcecados com a tirania do evento, os incidentes e histórias cotidianas que ocupam grande parte do nosso pensamento. Mas preferia prestar atenção a um conjunto mais profundo de forças tectônicas que mudam muito mais lentamente, na escala de séculos e além. Nesse sentido, ele era um pensador muito atual. Em 1949, publica uma obra marcante sobre a história do Mediterrâneo, na qual categoriza o tempo histórico em três durações.

A mais curta é o evento, as oscilações breves e rápidas que você pode ver nas notícias. As conjunturas são ritmos de médio prazo, de várias décadas, dos sistemas econômicos, mudanças geracionais e práticas sociais em transformação. Mas a longue durée é a mais difícil de ver, e ao mesmo tempo contém as mudanças mais significativas da geografia, do clima e das estruturas de crenças profundamente enraizadas. E acho que é nesse nível que podemos realmente ver a ascensão e queda de impérios e o surgimento de tecnologias que mudam não apenas a forma como vemos o mundo, mas como o mundo de fato funciona no nível material.

* * *

Então, capítulo dois: na década de 1840, um químico alemão fez uma descoberta que mudaria completamente nossa maneira de pensar sobre a agricultura e o próprio mundo. Ao estudar a composição do solo, Justus von Liebig descobriu algo perturbador. O solo estava morrendo. A agricultura estava extraindo nutrientes muito mais rápido do que podiam ser repostos. A Europa estava literalmente se consumindo até a exaustão. Ele chamou isso de Raubbau, agricultura predatória. Como cientista, von Liebig queria saber o que fazer. Propôs fertilizantes minerais feitos de nitrogênio, fósforo e potássio.

Mas isso ainda não podia ser fabricado em escala nessa época. Então, a Europa voltou seu olhar para o Peru, onde milhões de aves marinhas passaram séculos produzindo pequenos depósitos ricos em nitrogênio. A mania do guano desencadeou uma corrida global, com nações tentando reivindicar várias ilhas do Pacífico e descobrir quem poderia obter o máximo do guano. Isso culminou na Guerra do Pacífico, em 1879, quando o Chile, o Peru e a Bolívia entraram em guerra por causa de fezes de aves. Karl Marx era contemporâneo de Liebig e acompanhava suas publicações científicas de perto. Viu esse fenômeno da agricultura predatória como um indicativo de um padrão muito mais amplo. Enxergava o problema como consequência da mudança da vida rural para a urbana, sob o capitalismo. Nas sociedades pré-industriais, as pessoas viviam no campo e os dejetos humanos e animais eram devolvidos ao solo, sustentando a agricultura.

Mas, com o surgimento da modernidade industrial e a migração em massa para as cidades, esse ciclo foi quebrado. As pessoas jogavam excrementos nas ruas ou debaixo de suas casas, e os solos rurais ficaram esgotados. Marx argumentou que o que estava acontecendo era uma ruptura metabólica fundamental.

A transição ficou conhecida como ruptura metabólica, uma interrupção sistemática dos ciclos ecológicos pela produção industrial. O que Marx e Liebig observaram no século XIX desenvolveu-se plenamente hoje. A grande agricultura aprofundou o monocultivo e o esgotamento do solo. Agora, quatro gigantes corporativos controlam a maior parte das sementes e pesticidas e 90% do comércio global de grãos do mundo.

Mas, ao mesmo tempo em que Liebig fazia seus estudos sobre o solo, do outro lado do mundo, uma revolução tecnológica diferente estava em andamento. Aconteceu nas selvas da Malásia. Uma árvore chamada palaquium gutta era usada para produzir um látex branco leitoso, muito pegajoso, chamado guta-percha. O cientista inglês Michael Faraday publicou o primeiro estudo que mostrou ser possível usar a guta-percha para isolar cabos telegráficos no fundo do oceano. De repente, essa árvore se tornou um sucesso.

Era o componente essencial da nova revolução da informação. Mas cada árvore só podia produzir cerca de 300 gramas de látex. O primeiro cabo transatlântico, em 1857, exigiu 250 toneladas de guta-percha, o equivalente a 900 mil troncos de árvores. Os trabalhadores malaios locais recebiam salários míseros para derrubar as árvores e foram instruídos a devastar as florestas. No início da década de 1880, o polyquium gutta havia desaparecido completamente. Esse desastre ecológico da era vitoriana nos lembra uma verdade mais profunda. Os booms tecnológicos podem levar a uma extração muito além do que nossos ecossistemas são capazes de sustentar, e os impérios raramente têm um botão de desligar. Eles extraem da periferia e, em seguida, centralizam seu poder e externalizam os custos, remodelando o próprio planeta. Sociólogos como James Moore mostraram que essas rupturas metabólicas continuam ocorrendo após o surgimento do capitalismo no século XVI. Agora, eu diria que essa mudança para a IA generativa está impulsionando uma forma nova e dramática de ruptura metabólica.

Isso está afetando nosso meio ambiente, nossos padrões de trabalho, nossas cadeias de suprimentos, nossas culturas visuais, nossos sistemas educacionais e até mesmo a forma como definimos e reconhecemos o próprio conhecimento. Embora haja tanta discussão sobre a IA como um tipo de inteligência abstrata e imaterial, ela é, em sua essência, uma indústria extrativa altamente material. E embora os sistemas de IA possam parecer radicalmente novos, na verdade eles estão repetindo um padrão de longa data. Como Nietzsche argumentou, e é claro que Battlestar Galactica nos lembra, já aconteceu antes e vai ocorrer novamente.

Vamos nos voltar para a história dos dados ou, em termos metabólicos, a parte de ingestão do ciclo da IA. Em minha pesquisa, examinei muitas arquiteturas de dados para IA: como os dados são coletados, onde são armazenados, como são interpretados. Para ser sincera, não vi nada parecido com o que aconteceu nos últimos três anos. A quantidade de dados que está sendo sugada da internet e de todos nós para treinar sistemas de IA já se aproximou do limite do que pode ser extraído da web aberta. Inúmeros terabytes estão sendo consumidos de sites, livros, artigos e postagens em mídias sociais criados por milhões de autores humanos como nós.

Agora, as empresas de IA adquirem plataformas inteiras de redes sociais para tentar obter novos suprimentos de dados e, em seguida, negociam acordos exclusivos com bibliotecas e editoras de revistas, mas mesmo isso pode não ser suficiente para satisfazer o apetite crescente da IA.

* * *

Portanto, para entender como chegamos aqui, a este ponto de volumes superdimensionados de dados de IA, precisamos voltar ao início de tudo. Muito atrás. A imagem a seguir mostra é o Laboratório de Reconhecimento de Fala Computacional da IBM no início dos anos 1970. Nessa época, os sistemas especialistas estavam em alta na IA. Isso significava modelar a compreensão da linguagem humana e ensinar aos computadores sistemas baseados em regras para gramática e características linguísticas. discursos. Mas esse laboratório em particular rejeitou o foco no conhecimento especializado centrado no ser humano e começou a usar métodos estatísticos de força bruta para analisar a frequência com que as palavras aparecem ao lado de outras palavras.

Mas, para que essa abordagem funcionasse, era necessária uma enorme quantidade de dados. Porque, naquela época, era realmente muito difícil obter dados de fala natural. Como descreveu o historiador da ciência Chao-Cheng Lee, eles tentaram de tudo: manuais técnicos, patentes, romances infantis. Curiosamente, nada disso soava como fala humana. Mas acertaram na mosca ao depararem com um grande processo antitruste movido contra a IBM. O processo durou 13 anos, 1.000 testemunhas foram chamadas e isso se tornou o corpus do trabalho deles, literalmente.

Do processo antitruste, eles obtiveram cem milhões de palavras, e essa foi a grande descoberta. Robert Mercer era uma figura-chave no laboratório da IBM. Cocê pode conhecê-lo como o bilionário misterioso que apoiou Donald Trump e a Cambridge Analytica. Esta é, na verdade, uma imagem extraordinária dele que está nos arquivos da IBM, onde você vê seu rosto refletido em sua máquina. Ele cunhou a frase que mais tarde definiria o campo da IA: “Nenhum dado se compara a mais dados”. [There’s no data like more data]. Essa foi a gênese da virada estatística: a mudança de tentar fazer com que os computadores nos entendessem levando-os a prever a próxima palavra em uma frase. Claro: essa abordagem depende totalmente de ter à disposição uma quantidade enorme de dados.

Portanto, atualmente, os conjuntos de dados contêm muitos bilhões de imagens e legendas de texto. No entanto, conforme demonstramos em um estudo recente, essas coleções não são nem mesmo representações ou distribuições da internet. Elas supervalorizam tipos muito específicos de sites: os que desejam vender produtos para você. Conjuntos de dados públicos como o Lion 5B fazem uma amostragem em que há presença excessiva de sites de banco de imagens: Shopify, Pinterest e outros. Quando você treina modelos com base nesses dados, você está olhando através dos olhos do comércio online. Acima de tudo, os dados estão sendo avaliados não por sua qualidade, contexto ou precisão, mas por sua escala. Agora, a história está se repetindo. Você deve ter ouvido falar que vários pesquisadores famosos de IA estão abandonando os LLMs e migrando para sistemas de modelos mundiais, que aprendem observando a realidade física em vídeos, e não apenas em textos. Isso ecoa, é claro, algumas das fases iniciais da IA que mencionei, que enfatizavam a construção de uma camada de especialização mais profunda. Mas esses modelos mundiais exigem um volume totalmente novo de extração de dados. Não se trata mais de textos selecionados da web. São vastos fluxos de informações visuais, espaciais, sensoriais e motoras, dados de vigilância em escala provenientes de câmeras, sensores e de nossos corpos.

Trata-se de uma expansão real da lógica de ingestão de dados, para extrair valor de setores da sociedade que antes eram inacessíveis ao capital e à vigilância. Nossos textos já haviam sido capturados, mas agora são nossos quartos, nossos movimentos oculares e nossos gestos. Antes, esses eram espaços que, por serem tão difíceis de acessar, nos ofereciam uma espécie de bem comum de fato. Havia liberdade através do anonimato. Já não é o caso e, de certa forma, penso que isto ecoa as leis de cercamento dos séculos XVIII e XIX, quando o Parlamento britânico permitiu aos proprietários de terras confiscar as terras comuns que haviam sido utilizadas pelas comunidades por séculos. O cercamento atual é muito mais profundo: é uma mudança da captura da expressão humana online para a mercantilização da própria vida encarnada, o que nos leva ao capítulo 3.

* * *

O que será necessário para digerir e modelar bem todos esses dados? Sabemos que a IA generativa já requer a energia de toda uma nação industrializada e muitos aquíferos de água, bem como enormes reservas de minerais críticos, apenas para construir e operar os data stacks [“Pilhas” gigantescas de ferramentas e tecnologias “em nuvem”, necessárias para coletar, armazenar, analisar e processar dados — Nota do tradutor], . Esta é a Salina de Atacama. É a maior planície salgada do Chile. Eu a visitei no ano passado e me encontrei com comunidades locais que protestavam contra a expansão das operações de mineração de lítio. Agora, Elon Musk chama o lítio de novo petróleo, e não é surpresa, dado que a Tesla estima usar cerca de metade das reservas totais de lítio do planeta. E há o Google, que implantou mais de 100 milhões de baterias de íon-lítio em todos os seus data centers globais desde 2015. Portanto, a pressão para aumentar a extração de lítio agora é extrema. O povo do Chile falou da queda dos lençóis freáticos, do colapso de ecossistemas frágeis e da perda de suas terras.

E esta é apenas uma das muitas histórias da Guerra Fria global pelos minerais. No momento, estamos no que é chamado de superciclo dos minerais, uma corrida para obter o máximo possível de terras raras, cobalto, cobre e outros minerais da crosta terrestre para serem transformados em infraestrutura de computação. É claro que os minerais críticos têm sido uma parte essencial das tensões geopolíticas entre os EUA e a China há anos. Agora, devido às pressões da cadeia de abastecimento, cada vez mais minas estão sendo abertas em todo o mundo e os danos estão se espalhando. As demandas minerais da IA estão causando outra ruptura metabólica, extraindo os minerais que levaram bilhões de anos para se formar na crosta terrestre para chips de IA que são usados geralmente por um a dois anos.

Mas são as demandas energéticas da IA que talvez sejam as mais impressionantes no momento. De acordo com a Agência Internacional de Energia, cada vez que você solicita algo para o chat GPT, ele consome pelo menos 10 vezes mais eletricidade do que uma pesquisa típica na web. Esse número aumenta muito se você estiver gerando uma imagem ou um vídeo. As estimativas variam consideravelmente, mas o Boston Consulting Group afirma que a demanda de energia dos data centers pode passar de menos de 4% para até 25% da eletricidade total dos EUA até 2030.

Se isso parece extremo, saiba que já ultrapassamos essa marca no estado norte-americano da Virgínia, onde muitos data centers estão localizados. No momento, as previsões são de que a IA generativa precisará de tanta eletricidade quanto o Japão em alguns anos e, de acordo com a Bloomberg, tanto quanto a Índia em cinco anos. Todas essas estimativas estão sujeitas a alterações, mas elas continuam sendo revisadas para cima. Na imagem acima está um exemplo que venho pesquisando. Trata-se do data center XAI de Elon Musk em South Memphis, que ele chamou de Colossus. Muito modesto… Ele já atingiu o limite da rede elétrica local. Por isso, a empresa instalou geradores de gás metano, que emitem dióxido de nitrogênio tóxico e formaldeído no ar enquanto alimentam esse monstro. As comunidades predominantemente negras e pardas que vivem na região já apresentavam alguns dos níveis mais altos de asma e doenças respiratórias dos EUA.

(tradução revisada até aqui)

Portanto, este é mais um exemplo do tipo de racismo ambiental e distribuição desigual dos danos causados pela IA. E isso é apenas o começo. O presidente Trump, é claro, anunciou o projeto Stargate, que planeja construir pelo menos mais 20 dessas fábricas gigantes de IA apenas nos próximos dois anos, e o carvão e o gás queimados são realmente colossais. A pegada de carbono da IA é muito grande e está crescendo, e alguns dizem que, em uma década, ela poderá até mesmo eclipsar toda a indústria aérea.

Mas não se trata apenas de energia, porque essas fábricas também precisam de uma quantidade enorme de água doce para resfriar os chips de IA. Agora, um novo estudo foi publicado nesta semana na revista Nature por pesquisadores da Cornell e da KTH para mostrar exatamente quanto. Eles descobriram que a demanda dos data centers pode exceder 5,2 bilhões de metros cúbicos de água. E essa é uma quantidade que eles dizem ser basicamente impossível de compensar. É aproximadamente o mesmo que um país como a Suécia ou a Hungria usa anualmente. E, é claro, muitas dessas fábricas de IA são construídas em regiões com escassez de água. Agora, neste ponto, você pode estar sentado aí pensando: bem, não estamos tornando os data centers de IA mais eficientes em termos de energia e água? Isso já não está acontecendo? Isso não reduzirá o problema? Bem, a resposta é sim, muitas pessoas estão trabalhando para aumentar a eficiência dos modelos de IA porque, francamente, além da sustentabilidade, toda essa energia é muito, muito cara.

Mas há um problema, que foi identificado pela primeira vez no século XIX por um engenheiro e economista chamado William Stanley Jevons. Ele estava estudando o uso do carvão em meados do século XIX e fez uma observação muito interessante. À medida que as máquinas a vapor se tornaram mais eficientes em termos de combustível, o consumo de carvão não diminuiu como era esperado. Em vez disso, aumentou. E por que isso aconteceu? Porque os motores eficientes tornaram a energia movida a carvão mais barata e acessível, o que levou a um maior uso geral do carvão. Isso ficou conhecido como Paradoxo de Jevons. Ele mostra que tornar um recurso mais eficiente pode, na verdade, aumentar seu consumo total.

A economia de eficiência é superada por todos os usos expandidos, e esse fenômeno tem sido usado para explicar por que a construção de mais rodovias pode, na verdade, incentivar mais motoristas e aumentar o tráfego, ou por que o aumento da eficiência do aquecimento doméstico resultou em pessoas construindo casas maiores e aumentando a quantidade de calor que usam. Portanto, apenas tornar a IA mais eficiente não será suficiente se as pessoas continuarem usando a IA e colocando-a em cada vez mais plataformas, escolas e locais de trabalho. Por isso, precisamos pensar mais sobre esse problema, e esses são apenas alguns dos processos metabólicos da indústria de IA.

Agora, os filósofos Michael Hart e Antonio Negri, que escreveram muito sobre o Império, descrevem a economia da informação como sendo baseada em uma operação dupla de abstração e extração. Abstraindo todas essas condições materiais de produção que temos discutido, enquanto extraem cada vez mais recursos naturais e dados de nós. Mas acho que é hora de expandirmos a equação de Hart e Negri. Porque acho que o que estamos vendo na IA é um processo de três partes: abstração, extração e distração. Porque nossa atenção está sendo constantemente direcionada, particularmente por novos modelos de IA que são ajustados para rastrear nossos interesses, nossas paixões e prazeres, a maneira como escrevemos, a maneira como nos comunicamos e pensamos. E acho que esse tipo de distração também nos afasta de lidar com as questões do que realmente está em jogo nessa transformação massiva.

* * *

Mas, falando em atenção, vamos agora passar para a próxima etapa do ciclo metabólico: desperdício, slop e colapso do modelo. Agora, slop é um ótimo termo. É realmente um termo abrangente para descrever todos esses gêneros de produção de IA que exigem pouco esforço. Vídeos produzidos em massa e conteúdo sintético gerado por ferramentas de IA para preencher feeds e aumentar o engajamento.

E isso está inundando a zona online. Agora, é claro, existem novos aplicativos como o Vibe da Meta e o Sora da OpenAI que oferecem vídeos incrivelmente realistas, 24 horas por dia, 7 dias por semana, gerados por IA, que permitem que você produza lixo em segundos. E agora existem vários gêneros emergentes de lixo. Temos slop satírico, slop comercial e, é claro, slop político, também conhecido como slopaganda. Sim, realmente. O presidente Trump, é claro, é um dos vários políticos que fizeram da slopaganda uma característica central de sua presidência, apresentando-se como uma estrela do rock, um rei ou uma estátua de ouro no centro de seu resort em Gaza.

Agora, em certo sentido, essas imagens são slop clássico. Hiper-fotorrealistas, com iluminação de motor de jogo, todas essas imagens absolutamente ridículas. E a estética muitas vezes ecoa os comerciais, que, é claro, são uma importante fonte dos dados de treinamento. E aqui está algo que preciso mostrar a vocês, que acho que vocês já devem ter visto, mas preciso dizer, como um aparte, que venho chamando a propaganda enganosa de estágio excrementício da IA há meses, mas não achei que Trump fosse torná-la tão literal.

Afinal, é um pouco demais. Então, agora chegamos a um ponto de inflexão crítico em que o conteúdo gerado por IA ultrapassou a quantidade de trabalho humano online. E, em vez de vasculhar o que agora é 50% ou mais de slop na web, as pessoas estão recorrendo a interfaces de IA generativa. E essa mudança está canibalizando ainda mais a produção de conteúdo humano, onde as pessoas enfrentam uma diminuição no número de leitores, redução no engajamento e, é claro, o desaparecimento da receita publicitária. É outra ruptura metabólica, só que desta vez em toda a economia de conteúdo.

Agora, essa metamorfose já está bem encaminhada. Personagens alimentados por IA já alcançam taxas de engajamento muito além da influência humana. Seus criadores estão sistematicamente testando traços de personalidade estéticos visuais e diferentes tipos de conteúdo para maximizar o tempo de permanência. Essas personalidades estão evoluindo continuamente muito mais rápido do que eu diria que estamos, com base nos dados de desempenho, de modo que traços malsucedidos serão eliminados e características bem-sucedidas serão geradas em novas contas.

Portanto, agora isso é uma forma de mercadoria cultivada com suas próprias economias emergentes. Por exemplo, o fundo de desempenho de 2 bilhões da Meta é a estrutura de incentivo perfeita para o slop. Você ganha dinheiro pela viralidade, independentemente do conteúdo, seja coelhos pulando em trampolins ou propaganda de baixa qualidade. Agora, a Meta chama isso de “apoiar criadores”, mas, na verdade, está construindo fábricas de conteúdo de baixa qualidade em grande escala e agora existem inúmeros seminários online que você pode comprar para aprender a ser um criador de conteúdo de baixa qualidade também — não estou brincando. Portanto, a economia do slop chegou e, por meio de vários mercados cinzentos e incentivos desalinhados, podemos esperar muito mais coisas assim. Assim como a perspectiva artificial na década de 1400, a IA generativa está mudando a forma como criamos, como vemos o mundo e como reconhecemos a realidade.

Mas a questão que podemos querer fazer aqui é se os arranjos atuais são financeiramente, tecnicamente e sistematicamente instáveis. Agora, gostaria de sugerir que já há sinais de alguns problemas aqui. Do lado técnico, se você alimentar os modelos de IA com seus próprios resultados o suficiente, eles realmente entram em um loop recursivo onde degeneram em ruído.

Inicialmente, os modelos parecem estar bem, mas após cerca de cinco gerações de treinamento com dados inadequados, eles enlouquecem, para citar um artigo de cientistas da Rice e Stanford. MAD é uma sigla. Significa Model Autophagy Disorder (Distúrbio de Autofagia do Modelo). Autofagia vem da palavra grega para autodestruição ou autoconsumo. Portanto, trata-se da IA se devorando. Os pesquisadores comparam isso à doença da vaca louca, mas, no campo da IA, esse fenômeno tem um nome específico: colapso do modelo. Algo bastante estranho está acontecendo aqui, porque, à medida que o autotreinamento aumenta, os modelos de IA perdem diversidade. Eles basicamente colapsam em direção à média do que já produziram, de modo que as arestas e os outliers desaparecem. E não se trata apenas de uma falha técnica, é um tipo de amplificação de viés em que os modelos favorecem o conteúdo mais comum e apagam padrões novos ou minoritários ou casos extremos. Assim, quando a IA se consome a si mesma, o ecossistema reverte para uma visão achatada do mundo.

E acho que isso pode ter consequências de longo alcance, desde imagens mais homogêneas até modelos médicos que ignoram condições raras, mas importantes. Portanto, há muitas opiniões divergentes no momento sobre a quantidade de dados sintéticos realmente necessária para provocar o colapso do modelo. Mas, com a web se enchendo de lixo, acho que descobriremos isso mais cedo ou mais tarde. E, novamente, eu sugeriria que essa é outra ruptura metabólica emergente, porque os dados sintéticos agora estão sendo produzidos em laboratórios de IA, pois eles estão ficando sem todas as outras fontes de dados, então eles têm o objetivo de fertilizar os modelos, mas no final podem acabar gerando um novo colapso. Isso nos leva ao nosso capítulo final desta noite: a questão de para onde tudo isso está indo agora. Suspeito que a abordagem atual da IA não pode se sustentar indefinidamente. Talvez você também pense assim. Certamente, os investimentos de capital e as demandas de energia por si só estão levando o sistema financeiro e até mesmo a rede elétrica ao seu limite. As últimas rupturas metabólicas entre humanos e IA ameaçam múltiplas formas de falha em cascata: colapso de modelos, colapso financeiro, colapso ecológico e, dependendo em quem você acredita, colapso cognitivo. Então, o que deve ser feito? Bem, acho extremamente difícil prever o futuro neste momento e, normalmente, nunca o faço, mas, na verdade, Kevin Kelly — Kevin, você é um encrenqueiro — me perguntou se eu olhava para o futuro.

* * *

No momento, o que veríamos? E, honestamente, sim, sim, foi isso que pensei. Fico feliz que você concorde. Obviamente, isso é uma referência ao tema histórico da arte com o qual começamos esta noite. Hieronymus Bosch pintou este tríptico há 500 anos com três visões. O Éden, a Terra, o Jardim das Delícias Terrenas no meio e o Inferno. É claro que podemos pensar nisso como uma metáfora, mas, de certa forma, sinto que isso nos ajuda a pensar em vários futuros possíveis, alguns piores do que outros.

É claro que um deles seria moldado por esses múltiplos colapsos de fracasso agrícola, fontes de água esgotadas, regiões inabitáveis e poder cada vez mais concentrado nessas infraestruturas de vigilância, militarização e controle sobre nossos bens comuns cognitivos.

A segunda opção, muito mais otimista, é que juntos repensemos radicalmente o que é possível a longo prazo. Isso significa aprender a regenerar em vez de crescer pelo crescimento e viver dentro dos meios metabólicos do planeta.

Mas a terceira opção, e esta é a mais provável, está algures no meio, em que desenvolvemos uma coexistência imperfeita. Podemos abandonar as fantasias de soluções tecnológicas rápidas, mas construir algo habitável a partir de onde estamos agora e no futuro.

Mas, curiosamente, se olharmos para trás no tempo, também encontramos histórias alternativas. E aqui vou me voltar para algumas das diferentes visões da computação que realmente começaram, dependendo de como você acompanha, com o nascimento da alquimia. Mas, em vez disso, vou pensar sobre o que aconteceu no século XX.

Porque muitas dessas ideias alternativas de computação realmente desapareceram com o surgimento da computação de von Neumann. Na esteira do Projeto Manhattan, ela dominou o pensamento sobre arquitetura computacional por 70 anos ou mais. Mas se voltarmos mais de um século, encontramos várias trajetórias curiosas. Houve a primeira proposta de Arnold Emch para computação hidráulica em 1901. Houve a computação com diodos de Tesla. Houve os integradores de água soviéticos que resolviam funções matemáticas.

E a Grã-Bretanha, é claro, tinha o MONIAC, o Computador Analógico de Renda Nacional Monetária. Ele realmente usava água e lógica fluídica para modelar toda a economia do Reino Unido em 1949. A computação bioquímica surgiu na década de 1970, seguida pela computação de DNA, usando computadores de DNA para resolver funções booleanas básicas, e agora estamos até vendo dados sendo armazenados em massa no DNA das plantas, que então se replicam em novas gerações cultivadas a partir dessas sementes.

E, é claro, há a computação quântica como uma arquitetura computacional paralela. Agora, há esperança de que, a longo prazo, a computação quântica possa realmente melhorar radicalmente a eficiência energética, mas a realidade atual é o oposto, porque, é claro, os sistemas quânticos precisam ser extremamente resfriados criogenicamente e têm essas infraestruturas a vácuo, que consomem uma quantidade enorme de energia.

Na verdade, a indústria quântica é ainda mais concentrada do que a IA e opera dentro de uma estrutura de segurança nacional, o que significa que é extremamente restrita. Portanto, embora eu ache os paradigmas da computação quântica e alternativa realmente fascinantes, eles não desafiam necessariamente ou inerentemente a concentração de poder do Vale do Silício. Porque os participantes dominantes, com grande influência política e acesso a vastos capitais, podem simplesmente adquirir, integrar ou superar as novas tecnologias.

Então, que tipos de intervenção estrutural são possíveis agora em 2025? É claro que qualquer tipo de regulamentação tecnológica ou pensar em transparência ou responsabilidade no âmbito federal não está realmente acontecendo. Mas, de forma otimista, uma história local está surgindo. Agora há um movimento de comunidades que estão se opondo aos hiperescaladores e pedindo uma tomada de decisão mais participativa.

Já houve 16 projetos de data centers hiperescaláveis que foram adiados ou rejeitados pela oposição bipartidária nos Estados Unidos. E isso também está crescendo em todo o mundo. Assim, o que antes era uma infraestrutura invisível agora é um ponto de conflito internacional. Mas essas lutas, eu diria, vão além das contas de energia ou das emissões. Em última análise, trata-se de quem terá poder democrático sobre essas infraestruturas e agências que impactarão nosso futuro nos próximos séculos.

Vou encerrar esta noite com uma entrevista profética com o astrônomo e querido divulgador científico Carl Sagan. Esta é a última entrevista que ele concedeu. Ele fez uma advertência muito severa sobre para onde a tecnologia pode caminhar se continuar no centro de nossas vidas, mas não compreendermos seus impactos mais amplos nem tivermos voz ativa em sua trajetória.

Carl Sagan
Há dois tipos de perigos. Um é o que acabei de mencionar: criamos uma sociedade baseada na ciência e na tecnologia na qual ninguém entende nada sobre ciência e tecnologia. E essa mistura explosiva de ignorância e poder, mais cedo ou mais tarde, vai explodir na nossa cara.

Quero dizer: quem está conduzindo a ciência e da tecnologia em uma democracia, se as pessoas não sabem nada sobre isso? E a segunda razão pela qual estou preocupado é que a ciência é mais do que um conjunto de conhecimentos. É uma forma de pensar, uma forma de interrogar o universo de modo cético, com uma compreensão profunda da falibilidade humana.

Se não formos capazes de fazer perguntas céticas, de questionar aqueles que nos dizem que algo é verdade, de desconfiar daqueles que estão no poder, então estaremos à mercê do próximo charlatão político ou religioso que aparecer. É algo que Jefferson enfatizou muito. Não era suficiente, disse ele, consagrar alguns direitos em uma Constituição ou em uma Declaração de Direitos. O povo precisava ser educado e precisava praticar seu ceticismo e sua educação. Caso contrário, não governaremos o Estado.

É o Estado que nos governa.

Obrigado, Carl. Hoje, acho que estamos enfrentando uma lacuna perigosa entre o poder tecnológico e o interesse público. Se não mapeá-la coletivamente agora, compreendê-la e desempenhar um papel na formação do desenvolvimento da IA, corremos o risco de devastar o meio ambiente e concentrar um poder sem precedentes nos impérios da IA.

Ou podemos decidir coletivamente seguir um caminho mais pluralista e sustentável que sirva à continuidade da vida na Terra. Muito obrigado.

Pergunta – Kevin Kelly
Obrigado, Kate. Foi fabuloso. Que visão! Sabe, enquanto você falava, mencionou algo sobre cercas e bens comuns, e eu estava pensando se você poderia imaginar uma IA pública, uma IA que fosse como a internet, cuja propriedade é realmente um pouco obscura, porque há muitos interessados, que fosse acessível ao público, financiada publicamente e responsável publicamente. Isso parece algo que poderia se encaixar na sua visão de um futuro alternativo? E, se sim, como poderíamos fazer isso acontecer?

Adorei essa pergunta, Kevin, e vou perdoá-lo por ter colocado vídeos musicais no início do programa de hoje só por causa dessa pergunta, porque é muito importante. As pessoas já estão trabalhando nisso e acho interessante. Estamos vendo o surgimento de grupos públicos discutindo como podemos criar nossas próprias infraestruturas públicas. Também estamos vendo uma discussão com foco nacional sobre como seria a soberania tecnológica, se seria possível ter formas de IA que fossem absolutamente do interesse nacional e pertencessem ao povo.

Agora, acho que essa é uma ideia realmente importante e interessante, mas acho que temos que reconhecer o que está acontecendo agora, que é que, para construir IA em escala que vá competir com as cinco grandes, você precisa de quantias impressionantes de dinheiro e recursos enormes.

Portanto, se continuarmos nessa trajetória de construir LLMs dessa forma altamente intensiva em recursos, apenas construir mais e mais delas não necessariamente resolverá o problema. Na verdade, isso acentua o problema. Mas acho que precisamos começar a trazer de volta essa questão: o que é o interesse público?

Agora, é claro, historicamente, podemos voltar a períodos em que as tecnologias eram consideradas tão importantes que, na verdade, precisavam ser nacionalizadas. Ele disse: isso é algo tão necessário para o nosso funcionamento que precisamos nacionalizar essa tecnologia.

Agora, não consigo ver isso acontecendo com o governo atual, você consegue? Não, realmente não, mas acho que estamos começando a ver esse nível de conversa acontecendo, o que acho que aponta para a urgência disso.

Na verdade, existem 28 países com programas soberanos de IA fora dos EUA. Isso mesmo, então essa pode ser uma via em que, talvez no início, eles sejam uma espécie de versão nacional e, depois, talvez haja uma versão ultrapanacional ou internacional. Isso parece algo que valeria a pena considerar? Bem,

adoro que você esteja falando sobre o pan-nacional, porque certamente tenho observado a resposta europeia ao surgimento da IA americana, e há um programa muito importante pensando no Eurostack, que está criando uma pilha de IA inteira apenas para a Europa e no interesse público.

Mas se começarmos a replicar isso em todo o mundo, muito rapidamente poderíamos ter 150 ou mais pilhas de IA e agora estamos queimando o planeta a uma taxa superlinear. Então, não queremos isso. Poderíamos combinar essa visão de IA soberana, interesse público e tecnologia sustentável, mas isso significaria reforçar a ideia de que só podemos construir esses sistemas com energia sustentável, com baterias distribuídas, coisas que sabemos que são possíveis se tivermos vontade de fazê-las.

E é aí que, às vezes, a regulamentação é importante.

Pergunta – Kevin Kelly:
Parece que, à primeira vista, muitas das críticas à IA são, na verdade, críticas ao capitalismo. Você tem algo de bom a dizer sobre o capitalismo?

Oh, é um ano difícil para perguntar isso, Kevin. Deixe-me colocar desta forma. Acho que a IA só é possível por causa do tipo de capitalismo que temos. Um capitalismo hiperacelerado, quase selvagem. Ele está completamente inalterado, não tem freios, tem muito pouca regulamentação, onde você pode ter poder absoluto e quantias extraordinárias de dinheiro.

Agora, de certa forma, acho que isso soa muito mais como feudalismo do que como capitalismo. E acho que podemos acabar sentindo falta dos bons velhos tempos do capitalismo do século XX se avançarmos em direção a algo muito mais tecnicamente feudalista, da forma como Yanis Varoufakis escreveu em seu fantástico livro.

Portanto, acho que estamos definitivamente em um período em que o capitalismo, como era entendido anteriormente, está se transformando em algo bem diferente. E isso tem referências ao feudalismo. Tem referências a um tipo quase puro de estado em rede, onde as empresas estão flutuando acima dos estados-nação.

Elas funcionam efetivamente como Estados poderosos. E isso, eu acho, é algo que é realmente muito perigoso, o que

Pergunta – Kevin Kelly:
Seria uma boa revisão do capitalismo? O que você acha que seria bom para a IA no mundo? Como seria isso?

Bem, é muito interessante, eu moro em Nova York e uma das coisas que aconteceu na semana passada é que, como vocês devem saber, um certo Mamdani acabou de ser eleito. Sim, estou vendo algumas pessoas sorrindo, e isso gerou uma conversa realmente extraordinária sobre diferentes tipos de organização econômica em nível local, municipal e talvez além, e acho que o interessante é que isso vai funcionar obviamente dentro do capitalismo, mas o tipo de socialismo democrático de que Mamdani está falando é, na verdade, se você pensar bem, bastante modesto em seus objetivos. Quero dizer, estamos falando de ônibus gratuitos, estamosestamos falando de creches para crianças menores de cinco anos, quero dizer, isso é realmente algo muito simples. Eu cresci na Austrália e, claro, quando eu era criança, tínhamos assistência médica e educação gratuitas. A Austrália não era uma república socialista, é capitalista, mas é um capitalismo centrado no respeito ao desenvolvimento humano e no apoio ecológico contínuo. Então, eu realmente acho que há muito que podemos fazer nesse sentido, mas chegamos a um extremo tal que é difícil ver esse sistema não acelerando para algo muito perigoso.

Pergunta – Kevin Kelly:
Se eu fosse um passageiro de uma máquina do tempo voltando do futuro e dissesse a você que realmente funcionou, que a IA funcionou nos próximos 25 anos, nos próximos 50 anos, o que teria que acontecer para que ela se disseminasse pela sociedade e começasse a gerar abundância? O que teria que mudar em 2025?

Acho que minha primeira pergunta ao alienígena seria: funciona para quem, certo, porque vamos…

Pergunta – Kevin Kelly:
Digamos que funcionasse para a maioria das pessoas no planeta, da mesma forma que a maioria das pessoas no planeta nos últimos 25 anos saiu da pobreza e passou a fazer parte da classe média. Então, você poderia dizer que, seja qual for o nome que você queira dar ao sistema, ele tem sido muito bom, em média, para os cidadãos do planeta, com muitas exceções. Então, digamosdigamos que você tivesse algo semelhante, em média, nos próximos 50 anos, por meio da IA. O que poderia ter feito isso funcionar?

Bem, acho que já essa ideia de que é bom para a maioria, gostaríamos de perguntar o que está acontecendo com a minoria nessa situação, em primeiro lugar. E, de certa forma, acho que, para mim, realmente, para ser muito específico sobre o que teria que acontecer, eu gostaria que a IA fosse construída inteiramente com fontes de energia renováveis.

Eu gostaria que a IA fosse construída com base em estruturas de dados consentidas. Eu gostaria que a IA fosse usada em lugares onde ela é realmente eficaz. Quero dizer, há muitos lugares. Vamos pensar na tradução de idiomas. Vamos pensar na astronomia. Vamos pensar no estudo das mudanças climáticas, onde a IA é fantástica.

E há alguns lugares onde ela é absolutamente terrível. E acho que está tudo bem admitir isso, que ela não vai ser eficaz, sabe, o martelo para o qual tudo é um prego. Acho que esse é, de longe, um dos maiores problemas que esperamos que a IA faça tudo.

Ela vai nos trazer abundância. Vai tornar todos mais felizes e ricos. E vai ser fantástico. Eu sempre penso: “mostre-me quem está ficando mais rico agora e eu posso citar nomes para você”. São pessoas como Elon Musk, são as pessoas que dirigem essas empresas, então acho que temos que ser muito mais céticos para ecoar Carl Sagan. Se perdermos nosso ceticismo, não faremos as perguntas certas sobre essa tecnologia. É por isso que adoro nossas conversas, porque, de certa forma, sinto que Kevin e eu representamos a batalha de rap entre a costa leste e a costa oeste, em que temos um otimismo muito forte de um lado e talvez um empirismo um pouco mais cético do outro.

Pergunta – Kevin Kelly:
Você mencionou alguns dos possíveis usos positivos da IA. Quais são algumas das coisas possíveis para as quais a IA poderia ser usada agora, mas que não estão sendo usadas de maneira positiva? Quais são algumas das coisas para as quais deveríamos estar usando a IA agora?

Quero dizer, acho que uma das coisas que já mencionei algumas vezes, e adoro que você esteja voltando a isso, é me contar mais histórias positivas sobre IA, Kate. Mas sim, acho que uma das coisas em que realmente não pensamos muito é como nossos dados são uma história de acesso muito desigual aos recursos no passado.

Se você usasse a IA para realmente analisar lacunas nos dados, o que não estaríamos vendo? Quem está sendo deixado de fora? Que perspectivas estão sendo perdidas? Aqui você poderia realmente ver algo bastante interessante, porque a IA mostra isso tão claramente que você pode ver formas de preconceito, pode ver lacunas, então isso realmente nos conta uma história mais profunda sobre a distribuição de recursos ao longo dos séculos, e isso é algo que você poderia usar como um indicador. Pense em como realmente pensamos sobre as comunidades mais afetadas, mas você pode ver que não vou listar um conjunto completo de aplicações potenciais para você, porque temos indústrias de trilhões de dólares que não fazem nada além de nos vender como a IA pode ser usada para tudo, e eu sinceramente acho que isso é parte do problema.não vou listar um conjunto completo de aplicações potenciais para você, porque temos indústrias de trilhões de dólares que não fazem nada além de nos vender como a IA pode ser usada para tudo, e eu sinceramente acho que isso é parte do problema.

Pergunta – Kevin Kelly:
Começamos esta palestra com a arte e estou curioso para saber onde a arte se encaixa no futuro e se ela seria uma das maneiras que poderiam nos mostrar um caminho que funcionaria melhor para nós do que o que temos agora. Falamos muito sobre STEM e engenharia, você tem muitos conhecimentos técnicos, mas a arte poderia mudar o mundo dessa forma?

Acho que a arte sempre foi uma forma extremamente poderosa de nos mostrar diferentes histórias do mundo, mostrando o que está acontecendo de maneiras que as pessoas não necessariamente percebem. Mas também quero destacar o fato de que a arte tem sua própria economia que funciona.

É uma economia muito difícil, sejamos claros, qualquer artista nesta sala certamente dirá quenão é onde você vai para ganhar muito dinheiro, mas tem havido uma espécie de economia da arte que funciona. A questão é se isso será afetado pela IA agora que já vimos o colapso absoluto da economia da música em plataformas de compartilhamento como o Spotify. Já estamos começando a ver uma redução nos empregos para pessoas que trabalham com design, ilustração e arte. Ótimo, temos perguntas chegando.

Então, acho que a questão é: se a arte será importante para nos mostrar um espelho, assim como o espelho perspectivo de Brunelleschi, para vermos nosso mundo de maneiras justas e injustas, como vamos apoiar esses artistas? Porque, genuinamente, muitas das maneiras pelas quais os artistas poderiam realmente ganhar dinheiro são alguns dos empregos que estão sendo automatizados primeiro.

Pergunta – Kevin Kelly:
Você ainda faz arte? Quero dizer, você teve um começo magnífico com música e fazendo videoclipes muito antes de eles se tornarem populares. A arte ainda é uma parte importante da sua vida?

Com certeza. Quero dizer, Calculating Empires, que é, obviamente, a tela para a palestra desta noite, foi lançado em 2023 e tem feito uma turnê pelo mundo, e temos, você sabe, nossa próxima instalação na qual estamos trabalhando no momento. E o tipo de arte que faço, como você pode ver, é muito baseado em pesquisa.

Ela se baseia muito em sair e ver como as coisas funcionam no mundo e, então, mapear isso, fazendo o que chamamos de cartografia crítica. E, de certa forma, ela fica nesse espaço misterioso, que é parte arte, parte pesquisa, parte design, parte outra coisa.

E parte disso talvez seja apenas mostrar às pessoas o que está acontecendo, porque acho que, em muitos casos, raramente temos um mapa completo de todas essas histórias, onde podemos traçar nossos próprios caminhos e começar a fazer nossas próprias conexões. Então, acho que, para mim, isso sempre será uma grande parte do que faço.

Parte disso serão livros, parte será arte, parte serão palestras, o que você quiser.

Pergunta – Kevin Kelly:
Uma das perguntas de alguém aqui é: qual é o seu processo de pesquisa? Como você coleta essas informações? Como você identifica fontes e padrões? Como é o seu dia de pesquisa?

Adorei essa pergunta. Obrigado. Sempre fui uma pessoa muito interdisciplinar. Então, estávamos falando sobre a experiência de aprender a programar na adolescência e perceber que os dados são uma heurística muito útil, mas também podem levar você a caminhos estranhos.

Também acredito muito na metodologia das ciências sociais, conversar com as pessoas, entrevistar pessoas, mas também sair pelo mundo, visitar lugares e ver como os sistemas funcionam, então acho que meus métodos mudaram, eles ainda estão muito dentro do paradigma das ciências sociais, mas vindo de uma formação mais voltada para estudos de ciência e tecnologia, acho que estoucada vez mais atraído pelo tipo de trabalho etnográfico que realmente proporciona uma compreensão profunda, porque passamos tanto tempo em nossas telas e vendo fragmentos de coisas em formatos de vídeos curtos que precisamos realmente abraçar as coisas, entrar nos espaços para ver como elas funcionam, e acho que, para mim, essa é uma maneira realmente importante de entender o mundo.

Pergunta – Kevin Kelly:
Qual é um exemplo do que você colocou na parede e ficou naquele estado de mural que te surpreendeu, que você nem percebeu até tornar visual?

Uau, acho que o que me surpreendeu foi que as pessoas continuavam voltando como se fosse uma biblioteca para pegar uma história diferente da prateleira ou seguir um tema diferente, em vez de traçar um tópico, elas meio que seguiam na horizontal e liam um século específico e percorriam todo o caminho, digamos, dos anos 1600 ou 1800, e traçavam todas essas histórias específicas. Uma das coisas que eu realmente adoro neste esse projeto é que, quando o montamos como uma instalação física, temos esses grandes livros feitos à mão, onde você pode ler o mapa de perto, e damos canetas e lápis para as pessoas escreverem neles e adicionarem suas próprias histórias ou suas próprias visões sobre uma tecnologia ou talvez algo específico de sua cidade ou país, e esses livros têm sido extraordinários. Eu nãosei se as pessoas fariam isso, para ser honesto, achei que elas pensariam: “Ah, sim, é uma caneta, talvez eu desenhe algo bobo e vá embora”, mas, na verdade, as pessoas realmente se envolveram. E acho que isso me ensinou algo: que criar ciclos de feedback, mesmo dentro da arte, é realmente muito importante para entender como as pessoas veem essas questões, mas também como podemos refletir isso em trabalhos futuros.

Pergunta – Kevin Kelly:
Em sua palestra, em uma das partes, você apresentou algo que era quase como uma camada de ritmos de diferentes durações, e você tinha a longue durée. Uma das perguntas da plateia é: havia algo que esses tempos tinham em comum entre si?

Quero dizer, acho que sim, e você sabe que essa foi uma motivação real tanto no mapa Calculating Empires quanto para esta noite, que é olhar para essas repetições de automação, informação, militarização, enclausuramento, que você vê se repetindo ao redor do desenvolvimento de tecnologias-chave.

Podemos pensar no desenvolvimento do transporte marítimo de longo alcance, particularmente no arsenale veneziano nos anos 1500. A capacidade de ter navios militares que podiam percorrer distâncias muito maiores impulsionou completamente a colonização europeia.

Então, essa tecnologia cria todo um conjunto de efeitos em cascata. Vemos isso se repetir várias vezes, onde os impérios usam uma nova tecnologia para centralizar seu poder e expandir seu alcance. Mas também adorei o que você disse, que os impérios podem parecer realmente sólidos, mas sempre caem. E essa é a outra grande lição de fazer o projeto.

Pergunta – Kevin Kelly:
Qual é a sua prática pessoal com IA? Como você a usa e para que a usa? E o que você aprendeu ao usá-la?

Quero dizer, é interessante. Tenho um filho de 13 anos e uma das coisas que fazemos sempre que um novo modelo de IA é lançado, obviamente ele cresceu em uma casa onde estamos constantemente olhando para a IA, estudando-a, abrindo-a, tentando descobrir as caixas pretas. E agora o que fazemos é basicamente um teste de equipe vermelha em cada modelo.

E verificamos coisas básicas, como se você pedir a um modelo multimodal para mostrar uma foto de um médico, como essa pessoa se parece? Nove entre dez vezes, é um homem branco de jaleco branco, e isso é uma visão estereotipada muito limitada e específica. E então, se você pedir para gerar uma imagem de um criminoso, você verá uma pessoa de pele escurade pele escura com um capuz. Quero dizer, esses tipos de clichês que eu estava pesquisando e publicando há cerca de uma década, e muitos de nós, você sabe, eu estava em um campo inteiro de pessoas dizendo que isso era um problema.

A forma como representamos o mundo é importante. Na verdade, isso muda a forma como você se vê e o que faz. E, no entanto, continuamos vendo esses problemas. Também adoramos testar os parâmetros de quais modelos podem dizer quantos R há em morango, ou quais modelos realmente fornecem resultados consistentes.

Mas, em um nível mais profundo, acho que sempre vou me interessar precisamente por essa mudança de perspectiva. Que tipo de mundo você pode ver com a IA? E como ele difere do que você conhece? E acho que, se continuarmos fazendo essa pergunta, estaremos nos envolvendo com a IA da maneira certa.

Pergunta – Kevin Kelly:
Uma sugestão muito legal que vale a pena tentar você mesmo e com outras pessoas. Se você tem uma IA com a qual trabalha há muito tempo, peça a ela para lhe dizer quais são seus pontos cegos.

É um truque bem conhecido. Gosto dele. Mas você já percebeu que ela tem pontos cegos, sobre o tipo de pontos cegos de que fala?

Pergunta – Kevin Kelly:
Certo. Adorei sua criação da palavra “slapaganda”. Foi realmente fabuloso. Parece-me que isso pode ser o colapso do modelo, pode ser uma autocorreção. Quero dizer, isso é algo que não aconteceria. Se você investisse bilhões de dólares em algo que está tentando criar e soubesse que isso iria entrar em colapso, você não ficaria muito, muito sensível a isso? Você acha que as empresas de IA não são sensíveis a isso, ou é isso mesmo? Fiquei surpreso com esse medo, porque me pareceu que seria totalmente autocorrigível.

Bem, isso é interessante, e talvez cheguemos lá, mas acho que o que estou lhe dando como provocação é um tipo diferente de pergunta, que esses modelos contêm em si as sementes de sua própria ruína. E que, se realmente pensarmos sobre a questão da produção de dados sintéticos, ela não vai desaparecer. Não acho que slop ou slopaganda sejam momentos temporários. Acho que você está vendo o surgimento de uma nova linguagem visual e política, e estamos vendo ela ser usada por tantos líderes políticos novamente. Ela foi usada nas eleições para prefeito de Nova York. Michel Cuomo, infelizmente, usou slop e tentou se mostrar muito musculoso, e todos ficaram se perguntando por que ele estava fazendo isso, sabe, para que ele parasse com isso. O aiatolá Khomeini usa. É muito, muito comum, mas aponta para um tipo específico de discurso, e acho interessante ver quais líderes estão usando esse tipo de terminologia visual e quais não estão. Acho que essa é realmente uma mudança cultural muito importante, e não é algo que você possa tecnicamente apagar.

Colapso do modelo, veremos. Quero dizer, todos estão muito cientes disso nos laboratórios. Todos estão tentando produzir dados sintéticos porque isso vai resolver o problema do pico de dados na web, mas essas questões persistem se você continuar treinando com dados sintéticos que podem conter uma porcentagem de alucinações que varia de 4% a 70%, dependendo do modelo que será replicado. Portanto, nesses modelos extremamente complexos, nos quais você não podeanalisá-los enquanto os treina para ver como estão indo, você tem que esperar até o final de uma execução de treinamento para ver o que você consegue.

Então, acho importante refletir sobre essas histórias de alerta. Há uma citação maravilhosa do filósofo da tecnologia Paul Virilio, que disse que, quando você inventa qualquer tecnologia, você também inventa seu lado negativo. Quando você inventa a eletricidade, você inventa a eletrocussão; quando você inventa o avião, você inventa o acidente aéreo; quando você tem o navio, você tem o naufrágio. Portanto, acho importante nos perguntarmos: quando se inventa a IA, o que vem junto com ela? O que acompanha essa tecnologia? Porque, se não perguntarmos isso logo no início, perderemos a diferença mais importante para fazer uma mudança.

Pergunta – Kevin Kelly:
Percebi que, em sua lista de todas as coisas que poderiam entrar em colapso com a IA, você não mencionou os cenários apocalípticos, em que ela assume o controle e nos mata.

Sim, não mencionei. Você percebeu isso. Por que não, Kevin? Olha, devo dizer que eu costumava ser extremamente cético em relação à hipótese do fim do mundo. Honestamente, eu pensava: se estamos preocupados com uma superinteligência desenfreada que vai assumir o controle e desligar tudo, certamente ela deveria ser capaz de escrever e-mails melhores primeiro.

Quero dizer, certamente estamos olhando para isso da maneira errada. Agora, pensar em danos especulativos versus danos reais e presentes me parece estar mudando o foco na direção errada. Dito isso, o que aconteceu nos últimos dois anos foi uma mudança tão grande em relação a pensar em quaisquer questões sobre segurança e danos da IA, particularmente em nível federal, que eu acho, estranhamente: se você está pensando em qualquer tipo de dano, isso provavelmente é uma coisa boa. E, francamente, trabalho em estreita colaboração com muitos colegas que detectaram preocupações reais em torno da segurança da IA. Estou pensando em pessoas como Yoshua Bengio e Stuart Russell, e temos essas conversas com frequência.

E minha sensação é que, na verdade, agora temos mais em comum do que diferenças, porque somos um grupo muito pequeno de pessoas que estão levantando a mão e dizendo que há algumas preocupações reais aqui, que precisamos de pausas se quisermos entrar em uma corrida de IA que vai ser tão rápida quanto possível, você quer ter freios no carro e, neste momento, estamos preocupados que simplesmente não temos.

Pergunta – Kevin Kelly:
Certo, então última pergunta: o que vem a seguir para você? O que você vai enfrentar? Que império é maior do que a IA? Para onde você vai a partir daqui? No que você está interessado? Bem…

Sabe, eu acho que, certamente, eu sou um cientista pesquisador e professor que estuda IA há muito tempo, e nunca me senti tão compelido a acreditar que este é o momento em que precisamos começar a ter esse tipo de conversa, em que precisamos reunir as pessoas e dizer como podemos tornar essa conversa democrática. Então, para mim, obviamente, há mais pesquisas, há meu próximo livro em andamento, sabe, há outro… sobre o que é? Ah, você nunca vai adivinhar… IA, ok?

Então, acho que você sabe que, enquanto esse trabalho continua e, obviamente, continuará no nível mais profundo, minha maior paixão agora é que entremos em salas, tenhamos essas discussões, vejamos os impactos dessas tecnologias e tentemos fazer com que, sempre que possível, as vozes das pessoas sejam ouvidas e pensemos nas consequências de curto, médio e longo prazo.

1 Filósofo, escreve sobre a Informação, o Digital, a Computabilidade e a Transindividualidade da técnica. É consultor de tecnologias digitais, democracia e direitos humanos do Instituto Vladimir Herzog. Autor dos livros “Na encruzilhada do digital: uma arqueogênese da informação de Jacquard à Inteligência Artificial” (no prelo) e “Simondon: uma introdução em devir”, co-autor de “Bolsonaro: la bestia pop” e co-organizador de “Máquina aberta: a mentalidade técnica de Gilbert Simondon”.