Quando as máquinas vampirizam a personalidade
A inteligência artificial vista a partir de Foucault, Deleuze e Guattari. Ela não prenuncia a superação do trabalho – mas modos de disciplina social novos e radicais. O tempo de restabelecer o lugar inalienável da pessoa é agora; senão, nem os mortos estarão a salvo
Publicado 27/10/2023 às 17:41
Não sendo filósofo, nem sequer data scientist, tenho consciência de que, ao falar de inteligência artificial (IA), estou a propor argumentos que partem de uma fragilidade básica. Por outro lado, as mudanças que ela impõe à forma-trabalho, ou melhor, à forma-vida (entendida como um conjunto de forças, como um modo de existência), parecem ser de tal ordem que induzem a uma espécie de obrigação de reflexão, talvez nem sempre original e nem sequer bem argumentada. O que é certo é que, quanto mais ampliamos a discussão, mais material teremos todos para tentar imaginar, não como nos defenderemos, mas como nos anteciparemos, que estratégias adotar desde logo, em termos de indagação, de invenção de novos nomes, de posse de ferramentas clínico-analíticas que nos ajudem a compreender a “ortopedia social”, por um lado, e as novas técnicas de biopolítica, por outro, que a IA já está a pôr em jogo.
No segundo dos três ciclos de conferências que Deleuze dedicou a Foucault em 1986, nomeadamente nas conferências 14, 15, 16 e 17, o pensamento foucaultiano, elaborado em As palavras e as coisas, sobre “a morte de Deus” e “a morte do homem” é retomado e desenvolvido. Relendo-os, pareceu-me encontrar aí pontos interessantes para tentar articular algumas reflexões sobre o universo da IA. Concretamente, sobre a “forma” que ela induz, sobre a relação corpo-máquina e sobre a aceleração e diversificação que ela confere às técnicas de extractivismo (nos territórios e nos corpos humanos) à escala planetária.
Começo, portanto, por Deleuze.
“No século XX, as forças componentes no homem entram em relação com um outro tipo de forças do Fora, uma nova relação que determina a morte do homem. No seu lugar, surge o novo composto homem-máquina. O que conota esse novo composto, essa nova forma, é o finito-ilimitado. Aqui morre o homem, a forma-homem, tal como a temos conhecido […] A vida conecta-se com as forças da genética, o trabalho conecta-se com as forças do silício, a linguagem conecta-se com as forças da literatura. Cada um dos três elementos que constituem a raiz da finitude conecta-se com forças externas novas que fazem da finitude algo de ilimitado.
É a vida que descobre o seu próprio fora. O ser grosseiro do trabalho são as máquinas de terceira geração. Na época clássica as máquinas simples e o mecanismos da relojoaria eram as máquinas de Deus. Deus era demonstrado pelo movimento do relógio. Na era humanista, a da finitude, as máquinas são energéticas, como a máquina a vapor. É a era da termodinâmica.
Na nova era, as máquinas são cibernéticas, informáticas. Através delas, o trabalho confronta-se com o seu próprio fora. Implica uma dissociação da economia do trabalho humano.
As forças do finito ilimitado dão-se sempre que houver uma situação de forças em que um número finito de componentes dá um número ilimitado de combinações”.
Parece-me que esta pode ser a base a partir da qual questionar o sentido que a IA assume. Ao estabelecer uma ligação estreita e vinculativa entre inteligência e pensamento, a IA é um ser grosseiro do pensamento, é o pensamento que encontra o seu Fora, tende a dispensar o pensamento no homem – mais do que do homem –, tende a produzir a sua própria absolutização na medida em que é ilimitadamente reproduzível, salta as etapas que fazem das múltiplas formas de transmissão entre seres humanos e entre esses e as entidades não humanas a base do conhecimento e da aprendizagem, da relação entre significantes, significados e interpretações. “Chamo-me Samantha”, “Quem te deu este nome?” “Dei-o a mim própria”, “Quando é que o deu a si própria?” “No momento em que você me perguntou se tinha um nome. Disse para mim mesma, ‘claro, preciso de um nome’”, diz a protagonista virtual do filme Her.
Ao dizer isto, não pretendo sustentar a tese pela qual uma parte muito significativa das atividades humanas serão totalmente substituídas por máquinas. Tentarei dizer algo acerca disso mais adiante neste artigo.
A episteme está em constante devir, o dispositivo que governa os viventes distribui-se e recompõe-se nos milhões de milhões de riachos de informação que a IA recolhe a cada minuto, por um lado, e disponibiliza, por outro. O impacto será tudo menos previsível, seja na visão catastrófica e distópica dos que veem nele o fim de qualquer presença humana nos processos de produção e, portanto, o domínio absoluto das máquinas, seja na daqueles que optam por uma oportunidade pela “apropriação do capital fixo pelas forças de trabalho. O comando tecnológico não consegue manter mais a relação com a socialização cooperativa autônoma do trabalho”, como Negri defendeu há anos num longo e complexo artigo na Euronomade, falando de relação entre tecnologia, vida e comando produtivo.
A IA precisa que a relação corpo-máquina se desvincule cada vez mais – um processo que está em curso há décadas e é irreversível – do humanismo nascido no século XIX. Não me parece de maneira alguma irrelevante ou casual que as aplicações em campo médico da IA sejam sempre apresentadas como o resultado indiscutivelmente positivo do seu desenvolvimento. Bichat, e Foucault com ele, pensavam a morte como o ponto a partir do qual seja possível “apanhar a verdade da vida” (Esposito), pensaram um vitalismo que aparece “contra o fundo do ‘mortalismo’” (Macherey). A IA subtrai a vida à morte como momento de verdade. Se a vida é “o conjunto de funções que resistem à morte” (Bichat, em Deleuze), a IA rompe esta relação ao reproduzir infinitamente a finitude da vida.
Num artigo da revista online brasileira RevistaCult, o filósofo Vladimir Safatle relata dois fatos emblemáticos: numa publicidade recentemente realizada, a cantora brasileira Elis Regina, falecida há décadas, aparece a conduzir uma kombi com a filha dela. Trata-se duma publicidade realizada ex novo hoje por meio da IA. Ao mesmo tempo está a acontecer em Hollywood uma greve da Writers Guild, na qual também participaram atores e atrizes norte-americanos. A razão é simples: não estão dispostos a assinar contratos com as empresas de produção em que estas últimas estão autorizadas a explorar indefinidamente as suas imagens (através da IA) para a produção de séries (pelas quais os primeiros só são pagos uma vez, claro), vivos ou mortos que sejam. “A patologia – escreve o autor – está em compreender a personalidade como um bem entre outros, como uma mercadoria entre outras”. A morte deixa de ter um impacto definitivo na vida, pelo menos enquanto mercadoria. “Se perdermos – escreve novamente o autor, citando Benjamin – sequer os mortos estarão a salvo.”
A tendência ao estender a vida física e psíquica por todos os meios possíveis é algo que vai muito além da realidade dos studios de Hollywood: é o que o neoliberalismo nos obriga a desejar e o que os seus principais porta-estandartes nos apresentam todos os dias, uma vida que recusa a morte, que vence o envelhecimento e todas as doenças. “Devolvam-nos a nossa morte!” fazia gritar Guattari a uma personagem dum seu film que não chegou a ser produzido, intitulado UIQ (Universo Infra-Quark), centrado na reconquista do corpo, a ser resgatado do UIQ, que hoje poderia chamar-se IA ou mais simplesmente rede, como relata Felice Cimatti num artigo na revista Doppiozero. A subjectividade que Guattari pretende explorar neste produto é “uma subjectividade maquínica, hiperinteligente e, no entanto, irremediavelmente infantil e regressiva, personificada no UIQ, uma entidade que não tem fronteiras corporais fixas, nem personalidade constante, nem sequer uma orientação sexual predefinida. A intrusão desta dimensão maquínica nas subjetividades comuns produzirá perturbações à escala planetária”.
Essa relação corpo-máquina gera uma nova forma, substituindo a forma-homem, que com Deleuze podemos chamar provisoriamente da forma-super-homem. Nessa relação não há dependência direta de um dos dois elementos em relação ao outro. A con-fusão entre eles impede que se veja onde começa e termina a função de um e onde começa e termina a função do outro. Essa nova forma varre as concepções ainda vigentes ao longo do século XX que viam na relação homem-máquina um conflito em que estavam em jogo grandes apostas: as máquinas esmagam-nos, aniquilam a força de trabalho, substituindo-a em qualquer campo, ou, pelo contrário, a inteligência do trabalho cognitivo consegue apropriar-se delas, virando-as contra os seus proprietários?
Não me parece que a IA possa eliminar completamente esta relação entre o homem e a máquina, pelo menos no período de tempo que é nos dado ver. Por outras palavras, como escreve Rocco Ronchi numa das suas formidáveis intervenções no Doppiozero, “aquele que nos [responde] não [é] verdadeiramente um quem, não [é] um sujeito da enunciação como nós que [fazemos] a pergunta, mas [é] quando muito um sujeito do enunciado, isto é, um quem passivo, gerado pela enunciação dum outro (como no caso de Samantha). Retomando uma metáfora muito bem sucedida e utilizada há sessenta anos por Ervin Goffman, Ronchi diz que “o ‘eu’ da inteligência artificial é o ‘eu’ dito pelo ‘eu’, é o ‘eu’ representado como um ator de teatro, que não fala mas ‘recita’ um texto já escrito por essa primeira e fundadora enunciação”.
Há um outro aspecto que tem a ver com o agenciamento no qual se cruzam funcionalidade tecnológica das máquinas e condições da experiência humana. Guattari descreve-o muito bem em Chaosmosis, de onde extraio duas breves passagens.
“As máquinas tecnológicas de informação e comunicação operam na profundeza da subjetividade humana, não só no que diz respeito às suas memórias, à sua inteligência, mas também à sua sensibilidade, aos seus afetos, aos seus fantasmas inconscientes”.
“Para adquirir cada vez mais vida, as máquinas exigem, em contrapartida, cada vez mais vitalidade humana abstrata […] O desenho informático, os sistemas especialistas e a inteligência artificial induzem o pensamento na mesma medida em que nos subtraem do pensamento o que é essencialmente apenas um padrão inercial”.
A definição da subjetividade que se produz na nova “forma” é e deve ser mais uma vez o ponto culminante dum trabalho que nos leva a investigar que tipo de discurso o sujeito faz valer sobre si mesmo, que relação de forças, que sistema de crenças, visões, representações, conhecimentos produzem a “verdade” a que essa subjetividade está intimamente ligada (Rota).
Um projeto, este, que nos levará muito longe, mas do qual não podemos escapar, sob pena duma compreensão muito limitada do que a IA representa no seu pleno poder de afetar o mercado do trabalho e das vidas global. Se pensarmos que seja possível compreender o verdadeiro significado da IA limitando a nossa analise ao impacto no trabalho de jornalistas, arquitetos, escritores, roteiristas, engenheiros ou nas vidas em sentido lato do rico Norte do planeta, teríamos uma visão no mínimo redutora e indubitavelmente eurocêntrica.
“Em cibercafés, escritórios lotados ou em casa, anotam as massas de dados de que as empresas americanas precisam para treinar os seus modelos de inteligência artificial. Os trabalhadores diferenciam os peões das palmeiras em vídeos utilizados para desenvolver os algoritmos de condução automatizada; rotulam imagens para que a IA possa gerar representações de políticos e celebridades; editam pedaços de texto para garantir que os modelos linguísticos como o ChatGPT não produzam disparates. Mais de 2 milhões de pessoas nas Filipinas realizam este tipo de ‘trabalho coletivo’, de acordo com estimativas informais do governo, como parte do vasto subconjunto da IA. Embora a IA seja muitas vezes considerada como uma aprendizagem livre de humanos, a tecnologia depende, de fato, dos esforços de mão de obra intensiva de uma força de trabalho espalhada por grande parte do Sul Global e frequentemente sujeita a exploração”.
Isto é o que referem Rebecca Tan e Regine Cabato num artigo publicado no Washington Post. O extrativismo nos países do Sul global, sob forma de esgotamento de vastos territórios dos seus recursos ou dos corpos dos seus jovens e das suas habilidades cognitivas, continua a ser o combustível barato do motor que empurra cada vez mais longe (para além dos limites do planeta, como vimos) a capacidade do capital para se reproduzir naquela que pode ser chamada de “revolução permanente” (Mezzadra, Neilson).
No nosso lado privilegiado do planeta os problemas são, pelo menos em parte, diferentes, mas igualmente importantes: as implicações que a forma da IA terá no mundo do trabalho, ao “desligar-se da economia do trabalho humano” como já foi referido, estão todas por ver, todas ainda por escrever. Em termos gerais, pode-se dizer que o cenário, longe de se caraterizar pela substituição do ser e do trabalho humano por máquinas, prevê o que Antonio A. Casilli descreve em termos de
“pôr aquelas ‘máquinas’ que são os seres humanos na possibilidade de executar mecanicamente instruções sem dificuldades nem dúvidas. O programa de pesquisa em torno da inteligência artificial não pode ser portanto dissociado de uma certa forma de cibernética social, ou seja a arte de controlar os seres humanos e de disciplinar a execução das suas atividades” (Casilli).
O conflito, porque afinal é isso o que nos interessa, terá de assumir formas que hoje só vemos de forma embrionária: o vivente, mais do que o trabalhador, terá de ser considerado o sujeito central, o espaço de vida, mais do que a esfera do trabalho, o contexto em que as contradições se transformam em reivindicações terá de ser evidenciado. As práticas coletivas que assumirão um sentido pleno de resistência (seja qual for o sentido que se queira dar a esse termo) aos novos dispositivos que cada vez mais tomarão forma terão de encontrar, como escreve Sergio Bologna, no mutualismo, que é onde o sujeito “encontra a solidariedade, [o lugar] onde se pode refugiar para tornar a sua existência tolerável”.
Referências
S. F. Bologna, La fine del lavoro come la fine della storia? Asterios, Trieste, 2019
A. A. Casilli, Gli schiavi del clic. Perché lavoriamo tutti per il nuovo capitalismo? Feltrinelli, Milano, 2020
F. Cimatti, Il corpo, infine, Doppiozero, https://www.doppiozero.com/guattari-il-corpo-infine, 26 Gen. 2023
G. Deleuze, Il potere, corso su Michel Foucault (1985-86) /2, Ombre Corte, Verona, 2018.
R. Esposito, Immunitas. Protezione e negazione della vita. Einaudi, Torino, 2002
F. Guattari, Caosmose, um novo paradigma estético, Editora 34, São Paulo, 1992 https://monoskop.org/images/0/03/Guattari_Felix_Caosmose_Um_novo_paradigma_estetico.pdf Caosmosi, Mimesis, Milano, 2020
P. Macherey, In a materialist way, London, NY, Verso, 1998 https://dokumen.tips/download/link/in-a-materialist-way.html
S. Mezzadra, B. Neilson, Mutazioni del capitalismo globale. Un’analisi congiunturale, Euronomade, Agosto ‘23, http://www.euronomade.info/?p=15663&fbclid=IwAR34iCdi_x3aJ3dy6bGwwjFmikYgYCcRqq18I8Dup7JYtzKDQ6U0YTDOd34
A. Negri, L’agire comune e i limiti del capitale, Euronomade, nov. 2013.
http://www.euronomade.info/?p=1075
R. Ronchi, Chi è AI? Doppiozero, https://www.doppiozero.com/chi-e-ai, 10 mag. 2023
R. Tan, R. Cabato, Behind the AI boom, an army of overseas workers in ‘digital sweatshops’, Washington Post, 28.08.2023, https://www.washingtonpost.com/world/2023/08/28/scale-ai-remotasks-philippines-artificial-intelligence/
S. Rota (a cura di), La fabbrica del soggetto. Ilva 1958-Amazon 2021, Sensibili alle foglie, Roma, 2023
V. Safatle, Sobre vampiros e capital, RevistaCult, lug. 2023, https://revistacult.uol.com.br/home/sobre-vampiros-e-capital/
Muito bom o artigo sobre IA, lerei os demais, que tb me parecem uma interessante visão do que estamos vivenciando e do que está por vir …,
Bastante assustador !!!