Boletim Outras Palavras

Receba por email, diariamente, todas as publicações do site

Assinar

Loading...

Assinar

Loading...

Agradecemos!

Você já está inscrito e começará a receber os boletins em breve. Boa leitura!

Entrevista a Carles Planas Bou, em El Periodico | Tradução: Antonio Martins

No final de 2019, Karen Hao tornou-se a primeira jornalista a visitar os escritórios da OpenAI. Naquela época, a startup de inteligência artificial era desconhecida fora do Silicon Valley. Seu líder, Sam Altman, insistia que sua missão era criar uma máquina com a capacidade de aprendizagem e raciocínio da mente humana para salvar o mundo, mas Hao soube detectar muitas fissuras nesse discurso idealista. Após publicar sua reportagem crítica e rigorosa, a empresa proibiu que ela voltasse a entrar em sua sede. “No começo me senti muito mal (…) mas o importante não é manter o acesso, e sim dizer a verdade”, explica a El Periodico. Dois anos depois, o lançamento do ChatGPT desencadeou uma competição comercial e geopolítica que já alterou nossa realidade.

Hao usou o desprezo da OpenAI como motivação. Suas habilidades jornalísticas e conhecimentos técnicos profundos — ela é engenheira mecânica formada pelo MIT — cristalizaram-se em The IA Empire [O Império da IA, recém-publicado na Espanha pela Edições Península], uma pesquisa enciclopédica que disseca com precisão cirúrgica o impacto global da indústria de IA. Baseia-se em mais de 200 entrevistas, documentos internos e uma lucidez narrativa que transforma o primeiro livro de Karen hao, um ensaio de quase 600 páginas, numa leitura fascinante. Sam Altman ficou tão perturbado que tuitou que ninguém deveria ler a obra.

Você compara a indústria da IA com os antigos impérios. Por quê?

Porque essas empresas estão acumulando uma quantidade histórica de poder econômico e político.

Como?

Faço quatro paralelos. O primeiro é a apropriação de recursos que não são delas, como os dados que coletam da internet para treinar seus modelos. O segundo é a exploração de trabalhadores que não recebem quase nada em troca e que também se manifesta no desenho de sistemas que automatizam o trabalho e corroem os direitos trabalhistas. Isso não é uma característica inerente à IA, e sim uma escolha política. O terceiro é que monopolizam a produção de conhecimento, capturam o talento dos pesquisadores em IA e distorcem a compreensão fundamental que o público tem das limitações e capacidades dessas tecnologias, permitindo apenas determinados tipos de pesquisa e censurando a pesquisa crítica. E o quarto é que recorrem a um discurso moral imperativo sobre sua existência.

Ganhar a corrida para evitar que a China o faça.

Dizem que são os impérios bons com uma missão civilizatória de levar o progresso e a modernidade a toda a humanidade. Precisam de acesso sem restrições a todos esses recursos porque estão imersos numa intensa corrida existencial com o suposto império malvado: a China, segundo o Vale do Silício. E se os maus chegarem primeiro à meta, isso levará ao desaparecimento da humanidade. Em contrapartida, se os Estados Unidos vencerem, a humanidade terá a oportunidade de elevar-se a uma utopia ou a um paraíso da IA.

Muitos políticos abraçam acriticamente essa narrativa de que a IA equivale a progresso. Mas para um império prosperar, sempre é preciso sacrificar uma parte da população.

Exato. Devemos rebater a crença de que precisamos de impérios e das zonas de sacrifício que acarretam para obter os benefícios da IA. Há certos tipos de IA que podem ser profundamente benéficos para a Saúde ou as oportunidades econômicas. Mas é preciso separar isso da concepção que o Vale do Silício vende – a de que se requer uma forma imperial para controlar toda a terra, a energia, a água, os dados, a mão de obra e o capital e produzir algo que, em última instância, não gera tantos rendimentos e não é realmente um modelo de negócio viável. Por isso creio que, quando os políticos caem na armadilha de que só há um caminho para o desenvolvimento da IA, também caem no erro de que há certos tipos de danos planetários que temos que aceitar.

Danos ambientais, trabalhistas…

Não apenas. O que está ocorrendo é muito perigoso porque não falamos de danos isolados, e sim de um perigo para a democracia. Com o governo Trump 2.0 temos visto como estas corporações estão despojando tanta gente de seus recursos, de sua capacidade de ação, a ponto de pensarem que já não podem controlar seu futuro. E então voltamos a uma época em que um pequeno grupo de pessoas no topo pode ter uma profunda influência na vida de bilhões de pessoas em todo o mundo. E essa erosão fundamental da liberdade é o que permite a proliferação desses impérios.

A OpenAI passou da promessa de curar o câncer à criação de algo parecido com um chatbot pornô. A empresa está a caminho de perder 27 bilhões de dólares nos próximos dois anos. O boom de investimentos em IA são sete empresas fazendo empréstimos umas às outras de forma circular. E o investidor Michael Burry, que antecipou a crise hipotecária de 2008, vendeu suas ações na Nvidia. É um negócio viável?

Não é de forma alguma um negócio viável. As corporações já estão ficando sem meios para monetizá-lo. Testaram com assinaturas, mas a maioria das pessoas e empresas não quer pagar por esta tecnologia. Por isso, agora estão tentando montar uma estratégia para oferecer anúncios. Mas nem mesmo isso funciona para o Google, que tem o maior negócio publicitário da história. A OpenAI está tentando tapar um buraco de 1,4 bilhão de dólares. Também estão tentando lançar um monte de produtos de consumo que, como o Sora 2, viralizaram e depois decaíram. Não vejo como vão fechar este buraco, porque nunca existiu um modelo de negócio na indústria tecnológica que tenha gerado os rendimentos necessários. A coisa não parece nada bem.

Com as redes sociais nos acostumamos a ceder nossa privacidade. O que muda com a IA?

No passado, as pessoas forneciam todos os seus dados sem se dar conta de que essas empresas podiam corroer as democracias em todo o mundo. Depois vimos como a Meta estava fomentando uma limpeza étnica em Mianmar e a violência em todo o mundo. Os impérios da IA elevaram os danos a outro nível. O ritmo atual de construção de data centers está provocando um aumento histórico da demanda energética tanto nos EUA quanto na Europa, e está começando a colocar em perigo os objetivos de luta contra a mudança climática, a reverter todos os avanços climáticos que conseguimos, a aumentar a contaminação atmosférica nas comunidades, a agravar a crise da água.

O que você diria então aos usuários do ChatGPT?

Que quando fornecem dados a essas empresas, o que realmente estão fazendo é fornecer poder aos impérios, para que sejam cada vez mais fortes e menos responsáveis. Não estão apenas erodindo nosso meio ambiente, nossa saúde, nossa privacidade, nossa propriedade intelectual e nossa capacidade futura de ter oportunidades econômicas. Também estão erodindo as liberdades e capacidades fundamentais para determinarmos nosso futuro. Que ferramenta pode valer nossa liberdade?

É preciso apostar em alternativas?

Há muitas formas de desenvolver tecnologias de IA benéficas que não requerem impérios, nem esse comportamento exploratório e extrativista. Quanto mais se reforça a imagem de marca de empresas como a OpenAI, menos investimento é destinado a alternativas que não nos prejudiquem. No primeiro trimestre de 2025, quase 50% do capital de risco foi destinado unicamente à OpenAI e à Anthropic. O investimento em tecnologias climáticas diminuiu drasticamente porque os mesmos investidores estão retirando seu dinheiro e destinando-o à ampliação desses modelos de IA. Esses impérios estão prejudicando nosso futuro de muito mais formas do que pensamos.

O código aberto é essa alternativa?

Claro que sim. Quando se utilizam modelos de código aberto, não se cede poder ao império. Os dados não saem do seu dispositivo. Não vão parar no servidor de alguma empresa que depois os utiliza para construir modelos cada vez maiores. A forma-chave de desafiar os impérios é minar sua monopolização do conhecimento. O código aberto permite isso, porque pesquisadores independentes que não são financiados por essas empresas, podem investigar os modelos, compreender as limitações e capacidades das tecnologias e criar conhecimento de interesse público sobre como queremos utilizar essas ferramentas, como regulá-las e governá-las. Precisamos de mais dessa produção de conhecimento independente para minar o monopólio narrativo que os impérios possuem.

Os gigantes que querem implantar seus centros de dados vendem, a políticos locais que não entendem de tecnologia e só pensam em ciclos eleitorais, promessas de grandes investimentos e criação de postos de trabalho. Essa assimetria de poder é uma ameaça para as comunidades?

Sem dúvida. Vão às cidades mais vulneráveis e economicamente subdesenvolvidas, para seduzir o governo local de plantão. E o fazem a portas fechadas, ocultando suas atividades, de modo que os moradores não possam protestar. Nos EUA já estão pedindo aos funcionários públicos que assinem acordos de confidencialidade antes mesmo de negociar esses acordos sobre data centers. Estão tornando impossível o funcionamento da democracia. Negam que as pessoas possam se opor a como utilizam enormes quantidades de recursos públicos, como a água, ou a como aumentam as contas de energia das pessoas. Atuam na obscuridade porque querem instalar sua infraestrutura antes que os cidadãos reajam, o que demonstra até que ponto suas ações são impopulares.

Não podemos falar de IA sem mencionar que as tarefas cruciais são terceirizadas de forma precarizada no Sul Global. Qual é essa outra realidade que tentam ocultar?

O usuário médio do ChatGPT não percebe que a razão pela qual não é inundado por discursos de ódio tóxicos, e por assédio, é o fato de haver outras pessoas expostas a isso – cujo papel é ensinar aos filtros de moderação de conteúdo o que bloquear. A OpenAI contratou esses trabalhadores no Quênia. Sua tarefa é similar à dos moderadores de conteúdo das redes sociais – ou até pior, porque não só lhes é mostrado o mais daninho que as pessoas publicam na internet, mas também o mais prejudicial criado pelos próprios modelos de IA. É como um espaço infinito de dor.