A árida busca de um pós-antropocentrismo
De um lado, avançam o animalismo e a crítica ao supremacismo especista. De outro, Inteligência Artificial assume funções antes exclusivas do sapiens. Que papeis restarão a nossa espécie? Como ela pode manejar uma transição virtuosa?
Publicado 29/03/2021 às 20:45 - Atualizado 24/12/2021 às 18:50
Por Alejandro Galliano, em Nueva Sociedad | Tradução: Simone Paz | Imagem: Sebastião Salgado
Pode ser que no futuro falemos do “lockdown de 2020” como hoje falamos da “crise de 1929”: um acontecimento absolutamente inesperado para a maioria de seus protagonistas, que interrompeu o funcionamento do mundo inteiro e que intensificou um série de tendências anteriores. Se a crise de 1930 redimensionou os debates sobre o funcionamento do capitalismo, o papel do Estado e dos sindicatos que datam do final do século XIX, a Covid-19 e suas consequências reativam as discussões sobre a automação do trabalho, a renda básica universal e o saneamento do meio ambiente por meio da diminuição da produção e do consumo.
A experiência da pandemia também toca numa questão mais abstrata e especulativa, mas que engloba as anteriores: a relação da humanidade com o entorno não humano, cuja interação passa a se alterar a partir de três pontos da pandemia:
– a possível etiologia do vírus questiona a viabilidade da pecuária como atividade econômica;
– a aceleração da digitalização aumenta nossa dependência de tecnologias que podem escapar do controle humano;
– e, por fim, a pandemia se soma a outros fenômenos, como o aquecimento global, que demonstram que o ser humano está à mercê das forças que desencadeou, mas que não pode controlar.
Assim, animais e algoritmos parecem estar destinados a um novo status no pós-pandemia. E, consequentemente, os seres humanos –que até agora nos consideramos seus donos e criadores –, também.
A inviabilidade material do gado
O boato que culpava o consumo chinês de carne de morcego pela disseminação da COVID-19, escondia uma verdade bem menos pitoresca, porém, muito mais incômoda: talvez, o consumo de qualquer carne favoreça a disseminação de todos os tipos de vírus. O biólogo e fitogeógrafo Robert Wallace, estudou como o agronegócio está conectado às etiologias de epidemias recentes (1). O agronegócio pressiona no dois extremos: nas populações periféricas e nas áreas selvagens para além da fronteira agrícola.
Nessas regiões, gado e trabalhadores entram em contato com cepas virais previamente isoladas ou inofensivas que, em ambientes de monocultura sem biodiversidade, não possuem nenhuma barreira imunológica que amenize a sua transmissão. A continuação dessa história, todos conhecemos: as migrações dos trabalhadores e os circuitos comerciais introduzem essas cepas em ambientes vertiginosos que favorecem as características específicas de uma epidemia: ciclos virais rápidos, saltos entre espécies e vetores de transmissão. Essa foi a história da peste bovina africana de 1890, cuja devastação deixou o terreno livre para a mosca tsé-tsé. Essa também foi a história da chamada “gripe espanhola”, uma cepa antiga da N1H1 que eclodiu nos currais do Kansas durante o boom alimentar norte-americano contemporâneo à Primeira Guerra Mundial, e se espalhou pela primeira vez em bairros insalubres com subnutrição; e, depois, cruzou o Atlântico por meio de tropas. Assim foi o percurso da Covid, desde o mercado úmido de Wuhan para todos os aeroportos do mundo.
Mas o gado não é só um agente patógeno. Em 2006, a Organização das Nações Unidas para Alimentação e Agricultura (FAO) publicou um estudo intitulado “A longa sombra da pecuária: problemas ambientais e alternativas” (2), que afirmava que a pecuária gera 18% das emissões de gases de efeito estufa. Esses dados suscitaram um debate sobre a sustentabilidade da atividade pecuária, além de várias críticas ao método desse cálculo, que obrigaram a FAO a se retificar. Mas mesmo os críticos do relatório reconheceram que as emissões da pecuária estão entre 5% e 10% do total. O problema é intrínseco ao consumo de carne.
O lugar da carne na cadeia alimentar é o de um intermediário: ela sintetiza as proteínas da ração ou do pasto que o animal consumiu. Mas está longe de ser um intermediário eficaz: mesmo o corte de carne mais barato, precisa de mais água, tempo e espaço para sua produção do que as proteínas vegetais que ele sintetiza. Assim, o consumo de carne não resiste ao imperativo categórico que Immanuel Kant propôs para julgar a ética das ações: é impossível universalizar. Se todos os pobres do mundo quisessem comer carne como um gordo cidadão do Norte global, o sistema entraria em colapso, seja por causa da quantidade de recursos consumidos, das emissões ou até mesmo, do risco patogênico.
Se podemos continuar criando animais para comê-los, é só porque seu consumo ainda é tão exclusivo como quando Henrique VIII da Inglaterra devorava um frango inteiro com as mãos — como representado na famosa cena do filme de Alexander Korda. Só que agora a elite carnívora é global, e não palaciana. E talvez a covid-19, a escassez econômica provocada pela pandemia a e as restrições sanitárias do novo normal, sejam a guilhotina que faltava para destroná-la. Nesse sentido, hoje, a Declaração dos Direitos do Homem pode falhar. Existem novas pautas.
A inviabilidade ética do especismo
À inviabilidade material da criação de gado, soma-se um humor social, cada vez mais difundido, que entende os animais como “pessoas não humanas” (3), seres que merecem o mesmo tratamento, os mesmos serviços e os mesmos direitos de qualquer outra pessoa. Ou até mais do que qualquer outra pessoa. “Acreditamos que os animais possuem uma dignidade, lealdade, resistência ao sofrimento e à injustiça que apenas alguns homens e mulheres têm. Isso poderia explicar o fato perturbador de que amor e compaixão especialmente intensos pelos animais são encontrados em homens de temperamento ideológico odioso e despótico”, escreveu George Steiner em um ensaio em que acaba falando maravilhas de seus cães” (4).
Para além dos humores sociais, a condição animal é uma questão que manteve o pensamento ocidental ocupado nos últimos 45 anos. Em 1975, o filósofo australiano Peter Singer denunciou os maus tratos animais em seu livro Libertação Animal. Na obra, ele usa a ética utilitarista para fazer o seguinte raciocínio: se a igualdade humana é uma intuição amplamente compartilhada e não queremos incorrer em contradições morais, não é possível estabelecer nenhum critério moral para diferenciar os animais dos humanos, sem deixar de fora, também, uma quantidade de humanos que não possuem capacidade de raciocínio, comunicação, autonomia, etc… A espécie à qual pertença qualquer indivíduo sensível é moralmente irrelevante, e estabelecer distinções é uma forma de discriminação semelhante ao racismo ou sexismo: o especismo.
Desde a publicação de Libertação Animal, a abordagem ética da condição animal vem recebendo novas contribuições, revisões e extensões. A discussão atingiu tal intensidade conceitual e relevância pública que o próprio Singer alertou que a ética por si só não poderia resolvê-la; a política seria necessária (5). É o encargo que Sue Donaldson e Will Kymlicka, entre outros, assumiram, um casal de filósofos canadenses que uniram suas especialidades (respectivamente, direitos dos animais e filosofia política) para conceber uma teoria política “humanimal”, como chamam nossa sociedade híbrida, em que a coexistência de humanos e não humanos já é um fato irreversível (6). Nela, eles tentam estabelecer princípios e categorias que alcancem todos os animais, desde animais domésticos, considerados “cidadãos”, até os selvagens, considerados “habitantes de territórios estrangeiros soberanos”, passando por “animais liminares” como ratos e pombos, que vivem em um ambiente humano, mas sem serem domesticados.
Donaldson e Kymlicka estabelecem diferentes ferramentas de política para abordar os direitos dessas categorias, desde representantes e ombudsmen para cidadãos domésticos até o status de refugiados para animais selvagens deslocados. A proposta tem limites intransponíveis (como garantir os direitos de um animal diante das necessidades nutricionais e reprodutivas de outro? O que fazer se uma comunidade liminar for declarada praga?), mas ela mostra até onde deveriam chegar as soluções aos problemas éticos colocados pelo animalismo. E, também, como seria confusa a condição humana em uma sociedade pluralista que incluísse os animais como sujeitos de direitos plenos e positivos.
Já Carl Lineu, o naturalista sueco do século XVIII, declarava ironicamente que o homem é um “animal que precisa reconhecer-se humano para sê-lo”. De fato, o pensamento ocidental, de Aristóteles a Heidegger, esforçou-se em dividir, distinguir e classificar os seres humanos como uma articulação de elementos físicos e metafísicos (logos, alma, razão), da vida meramente biológica dos demais seres vivos. Assim, por trás do Homem como «medida de todas as coisas» existe um mau desejo oculto de nos desfazermos daquelas outras vidas, que ao longo da história podem ser animais, bárbaros, escravos, mulheres, judeus, aborígenes, etc… (7)
O filósofo italiano Giorgio Agamben chama de “máquina antropogênica” esse raciocínio que, após a crise do humanismo no século XX, deveria ser esquecido. Hoje, a biopolítica ocidental acabou transformando todos em meras vidas. Portanto, agora seria um bom momento para parar a máquina antropogênica e pensar em nós mesmos como uma comunidade viva. Não há mais tarefas históricas para o ser humano, conquistamos todos nossos objetivos alcançáveis –conclui Agamben –, só falta assumirmos nossas próprias e simples vidas, dentro de uma comunidade pós-política e nos abandonarmos à animalidade (8).
Se os limites materiais nos obrigarem a parar de criar animais para o consumo, isso nos levará a uma nova convivência com eles. E essa nova coexistência pode alterar não apenas nossa comunidade política, mas também nosso status humano dentro dela. Entretanto, essa não é a única coexistência que teremos que resolver.
A inteligência artificial e seus riscos
É altamente provável que a experiência da COVID-19 acelere a digitalização da sociedade e da economia, se é que ainda não o fez. Isso é perceptível a partir da experiência cotidiana de isolamento preventivo, na ajuda que as plataformas de e-commerce e outros serviços nos fornecem, ou na disseminação do trabalho remoto graças à conectividade. Mas, também, é possível observá-la nessa espécie de deep state sanitário implementado por vários países asiáticos, como China ou Coréia do Sul — países experientes em pandemias recentes — e, por sua vez, também vanguardistas no uso de tecnologias de ponta para a vigilância: caso do reconhecimento facial e da geolocalização por meio de dispositivos. Alguns observadores consideram que essa infraestrutura estabelece a base para um modelo de governança digital pós-pandemia (9).
Mesmo diminuindo as suspeitas políticas, os riscos da digitalização da vida são eminentes. À medida que cresce o uso de plataformas para um número cada vez maior de atividades, o poder dessas tecnologias e de seus detentores sobre a sociedade aumentará sem qualquer contrapeso público ou jurídico. É o caso do WeChat, a megaplataforma chinesa que opera como rede social, carteira virtual e marketplace. À medida que mais atividades online acontecem dentro do WeChat, ele vai “engolindo” e privatizando a web como um espaço para trocas online gratuitas (10). Não é exagero projetar dinâmicas semelhantes para constelações de plataformas como Google ou Facebook, como denuncia o criador da web, Tim Berners-Lee (11).
Outro problema é a própria lógica da infraestrutura digital atual. O paradigma tecnológico do nosso tempo é o chamado sistema ciberfísico (CPS, em sua sigla em inglês): que consiste na integração de objetos à rede, por meio de um triângulo de feedback entre a web 2.0 (disseminado pela internet das coisas), as plataformas (que permitem a interação e extração de dados) e os algoritmos (procedimentos que incorporam esses dados). Os algoritmos constituem a caixa preta em torno da qual gira a nossa vida online. Não apenas porque seu design e programação são poderes reservados a técnicos e codificadores que de costas para qualquer protocolo público, mas também porque a capacidade do algoritmo de “aprender” com um fluxo incontrolável de dados, pode emancipá-lo de qualquer controle humano.
Em 2017, um grupo de técnicos do Facebook colocou dois chatbots (ou programas de inteligência artificial) para conversar entre si, até que perceberam que eles estavam desenvolvendo uma linguagem própria, e os desconectaram (12). Já em 1965, Irving John Good, um matemático britânico que trabalhou como criptologista ao lado de Alan Turing, alertou sobre a possibilidade de uma superinteligência artificial se rebelar contra seus criadores humanos. Na verdade, o próprio Good colaborou com Stanley Kubrick para criar o conhecido final do filme 2001, uma odisseia no espaço. A partir da década de 1970, os desenvolvimentos da inteligência artificial entraram em um “inverno”, como é chamado um período de relativa estagnação no interesse, nas inovações e no financiamento de uma tecnologia. Com o desenvolvimento do cps neste século, a inteligência artificial acelerou e os temores de Good, voltaram.
Hoje, existe no mundo um punhado de instituições dedicadas a investigar e alertar sobre os riscos da inteligência artificial: o Future Humanity Institute, da Universidade de Oxford, fundado e dirigido pelo filósofo transumanista, Nick Bostrom; o Centro de Estudos de Risco Existencial, da Universidade de Cambridge, criado por Martin Rees, astrônomo da Royal Society, e Jaan Tallinn, CEO e fundador do Skype; o Machine Intelligence Research Institute, da Universidade de Berkeley, liderado por Eliezer Yudkowsky; além dos chamados de alerta de cientistas como George Church e Stephen Hawking, e de empresários do Vale do Silício, como Bill Gates, Elon Musk e o paleolibertário, Peter Thiel.
A projeção que sustenta este alarme é bastante simples: a quantidade de recursos dedicados ao desenvolvimento e aprimoramento da inteligência artificial é infinitamente maior do que aqueles dedicados às tecnologias de segurança deles. Segundo Nate Soares, diretor executivo do Machine Intelligence Research Institute, é como se soubéssemos que em uma década alienígenas vão nos invadir e não estivéssemos fazendo nada para evitar isso. Bostrom é mais cauteloso: não é que a inteligência artificial vá se tornar hostil conosco, mas ela será indiferente — a ponto de se tornar cruel –, assim como nós fizemos com outras espécies. Se pedirmos a uma inteligência artificial para maximizar a produção de clips de papel, ela provavelmente reduzirá todo o material útil do planeta a clips, e destruirá o resto (13).
Stuart Russell, especialista em inteligência artificial da Universidade de Berkeley, acredita se tratar essencialmente de um problema de comunicação: devemos aprender a comunicar nossos desejos às máquinas de maneira lógica, enquanto elas devem aprender a observar o comportamento humano, tirar conclusões e priorizar ações. Mas tudo isso, paradoxalmente, os aproximaria da condição humana.
Os direitos das máquinas
Um tema debatido por juristas do mundo todo sobre os hipotéticos direitos da inteligência artificial, envolve os direitos autorais de suas “criações” cada vez mais frequentes: textos, imagens e músicas feitas por um algoritmo. Até agora, há consenso em não conceder direitos autorais à inteligência artificial, o que deixa em aberto um importante vazio jurídico.
Há alguns anos, nasceu um estranho debate sobre como lidar com seres artificiais, a partir da publicação do livro Love and Sex with Robots, de David Levy, um mestre de xadrez internacional que se envolveu no desenvolvimento da inteligência artificial para jogos de xadrez até terminar nos sexbots. “Um robô sexual — diz Levy — nos permitiria aliviar nosso tédio e tensão sexual com novas experiências, mesmo sem envolver carga emocional”. A resposta veio do coletivo “Campaign against Sex Robots” (Campanha contra o sexo com robôs), que questionava que tipo de comportamento poderia desenvolver a pessoa acostumada a fazer sexo com um robô que não se recusa a nada (ou pior, que pode ser programado a se recusar, apenas para alimentar a fantasia do dono, de resistência e subseqüente submissão) (14).
O debate não foge do quadrante antropocêntrico: trata do prazer humano contra a possível objetificação humana. Mas, e se a inteligência artificial fosse aperfeiçoada para permitir incorporar emoções em forma de dados em seus algoritmos e aprender com eles, que efeito teria a violência contra as máquinas? Em que ponto sua capacidade de compreender e interpretar as ações humanas não nos forçaria a restringir nossas ações a elas? Em que ponto essas restrições não seriam a base de uma nova ética?
Estes não são dilemas introduzidos pela inteligência artificial, ela apenas se encarregou de atualizá-los. A robótica nasceu sob o signo dessa dúvida. Basta lembrar que a palavra “robô” surgiu na peça “RUR”, de Karel Čapek, em 1920 (Rossum’s Universal Robots). Na peça, a RUR é uma empresa que fabrica androides trabalhadores. Até que um ativista os inocula com sentimentos humanos. Os robôs se rebelam, mas a RUR não consegue parar de fazê-los, porque a humanidade depende desse trabalho. A humanidade é aniquilada e os robôs descobrem o afeto que lhes permitirá procriar e fundar uma nova espécie.
Tudo isso pode se tornar uma questão excessivamente especulativa em meio ao sofrimento e à urgência de uma pandemia. Mas é justamente a pandemia que acelera a digitalização, espalha o CPS e alimenta uma inteligência artificial que já domina o mundo. Ou que avança pra dentro de nós. Antes da pandemia, o think tank futurista The Millennium Project previu, para 2050, o surgimento de uma Inteligência Artificial Geral, capaz de reescrever seu próprio código e se fundir conosco em um corpo-dispositivos-redes contínuo: o smartphone como extensão da mão, a digitalização como prótese. Com a pandemia em curso, Paul B. Preciado denunciou o controle asiático e as tecnologias de teste como uma nova biopolítica (15). A Covid-19 também pode acelerar a digitalização do corpo humano. Nesse caso, o novo normal tornará ainda mais difícil distinguir entre robôs e humanos, inteligência artificial e inteligência natural, pessoas e coisas.
Três saídas políticas ao humanismo
Nenhuma catástrofe traz um novo mundo na manga, apenas intensifica tendências anteriores. A inviabilidade do especismo e a digitalização da vida não são invenções da pandemia mas, como temos visto, podem acelerar-se até deixar a condição humana à beira do abismo. Nesse caso, a humanidade terá que enfrentar esta nova realidade apelando para seus recursos anteriores. Um deles é, paradoxalmente, o anti-humanismo. De Martin Heidegger a Michel Foucault, e de Norbert Wiener a Donna Haraway, muito do pensamento do século XX anuncia, denuncia ou celebra o fim do humanismo como uma ideologia antropocêntrica. Só que existem muitas maneiras de fazer isso, com diversas consequências políticas.
A primeira, e mais brutal, é coisificar a humanidade, desencantar completamente a raça humana para devolvê-la à natureza como outro ser senciente, ou reduzi-la a um mero dispositivo fisicamente ajustável. Não é um horizonte muito distante daquele ao qual a intrínseca instrumentalização do capitalismo, ou a escassez de seu colapso, podem nos levar. E, acima de tudo, não resolve nenhum dos problemas levantados neste artigo. Reduzir o ser humano à condição de máquina ou animal no exato momento em que máquinas e animais se aproximam do status de pessoas é, no melhor dos casos, nivelar e igualar pra baixo; na pior das hipóteses, ceder à rebelião das coisas.
A segunda saída do humanismo é por meio da dissolução na linguagem. O ser humano é, em grande parte, uma construção do ser humano, um sujeito moldado por séculos de discursos e representações. A mesma linguagem que construiu o humano poderia desconstruí-lo. É a aposta da filosofia continental europeia do século passado e é um bom ponto de partida. Mas, neste momento, o ser humano se depara com fenômenos como a inteligência artificial, o aquecimento global ou a própria covid-19 — que, além de não serem fruto da linguagem, dificilmente poderão ser desconstruídos por ela. Deixar tudo à mercê da linguagem é submeter-se a tudo que a linguagem não domina, como o religioso que, em meio ao fogo, limita-se a murmurar suas palavras mágicas.
A terceira saída é a criação de uma nova coexistência com as coisas. Por milênios, a humanidade foi exposta à natureza incontrolável e desenvolveu técnicas para enfrentá-la. É a história do hominídeo que constrói uma cabana para se proteger da chuva. Mas hoje, quando parecia que a natureza não tinha novos mistérios para os humanos, essa tecnologia ergue-se como uma segunda natureza incontrolável. Do Antropoceno à inteligência artificial, o mundo é um artifício humano que se tornou estranho aos mesmos. Não há natureza para a qual retornar e a linguagem sozinha não será capaz de lidar com tudo isso. Por milênios, a humanidade usou as coisas, enquanto aprendia a se governar. Hoje ela deve governar os algoritmos e expandir os direitos dos animais. Isto é, incorporar pessoas não humanas às questões humanas; conviver com essas coisas.
Em termos políticos, a esquerda deveria ser a melhor equipada para essa tarefa. Se seu horizonte final sempre foi a igualdade humana, e sua práxis, a criação de instituições e políticas para facilitá-la, hoje só seria necessário ampliar esse horizonte e essa práxis para uma igualdade radical que passe a incluir os não-humanos. E se o “novo normal” nos obriga a pensar em formas de renda não salarial, na austeridade e digitalização que afetam o status do ser humano como produtor e consumidor, essa igualdade radical pode ser o horizonte para o qual conduzir uma nova relação entre as pessoas e as coisas.
- 1. Rob Wallace: Pandemia e agronegócio: Doenças infecciosas, capitalismo e ciência.Editora Elefante, 2020
- 2. Henning Steinfeld, Pierre Gerber, Tom Wassenaarm, Vincent Castel, Mauricio Rosales y Cees de Haan: Livestock’s Long Shadow, FAO, Roma, 2006.
- 3. O conceito de “pessoa não humana” adquiriu relevância jurídica e midiática com o “caso Sandra”, uma orangotango mestiça, à qual a justiça argentina reconheceu esse status para restabelecer seus direitos e ordenar sua transferência do Zoológico de Buenos Aires para uma reserva natural. Ver Enric González: «‘Sandra’, a orangotango que se tornou ‘pessoa’” no El País, 22/06/2019. Vale lembrar que, para o direito argentino, assim como para quase todo o direito ocidental, o animal tem o status de “coisa”.
- 4. G. Steiner: «Del hombre y la bestia» en Los libros que nunca he escrito, Siruela, Madrid, 2008.
- 5. Catia Faria: «Liberación animal, de Peter Singer: 40 años de controversia» em: www.eldiario.es, 22/4/2015.
- 6. S. Donaldson y W. Kymlicka: Zoopolis. Una revolución animalista, Errata Naturae, Madrid, 2018.
- 7. Paula Fleisner: «Hominización y animalización. Una genealogía de la diferenciación entre hombre y animal en el pensamiento agambeniano» em Contrastes. Revista Internacional de Filosofía vol. XV, 2010.
- 8. A animalização também poderia ter um caráter emancipatório. Para o filósofo francês Mark Alizart, o desprezo cultural pelos cães (“cachorro” é um insulto em quase todas as línguas) esconde a vergonha humana por uma característica que a humanidade só compartilha com eles: a servidão voluntária. Reconhecermos os cães, é nos reconciliarmos com nós mesmos, “é experimentando um devir-cão que podemos verdadeiramente experimentar um devir-humano”. Ver M. Alizart: Perros, Ediciones La Cebra, Adrogué, 2019.
- 9. Byung-Chul Han: «La emergencia viral y el mundo de mañana» en El País, 22/3/2020.
- 10. Yiren Lu: «China’s Internet Is Flowering. And It Might Be Our Future» en The New York Times Magazine, 13/11/2019. V. tb. Connie Chan: «When One App Rules Them All: The Case of WeChat and Mobile in China» en a16z.com, 6/8/2015.
- 11. «Tim Berners-Lee on Re-Engineering the Web Around People», entrevista en Techonomy, 19/11/2018.
- 12. Andrew Griffin: «Facebook’s Artificial Intelligence Robots Shut Down after They Start Talking to Each Other in Their Own Language» en Independent, 31/7/2017.
- 13. Para um resumo sobre as posturas a partir dos riscos da inteligência artificial, v. Mark O’Connel: To Be a Machine, Granta, Londres, 2017, cap. 5.
- 14. Adam Rogers: «The Squishy Ethics of Sex With Robots» en Wired, 2/2/2018.
- 15. P.B. Preciado: «Aprendiendo del virus» en El País, 28/3/2020.
Excelente artigo! Esse debate está longe de acabar, porém mais perto de nos atingir e transformar nossa realidade.