A silenciosa dominação por Algoritmos

170803-Algoritmos

Que são estas fórmulas matemáticas, base da Inteligência Artificial? Como impõem regras e condutas sociais — nunca debatidas e sempre a serviço do poder econômico? É possível inverter seu sentido?

Por Chris Spannos | Tradução: Inês Castilho

__

RESENHA DOS LIVROS:

- Homo Deus: Uma breve história do amanhã, de Yuval Noah Harari (Companhia das Letras)

TEXTO-MEIO

- Weapons of Math Destruction: How Big Data Increases Inequality And Threatens Democracy [Armas de Destruição Matemáticas: Como os Big Data aumentam a desigualdade e ameaçam a democracia], de Cathy O’Neil (Allen Lane)

- The Master Algorithm: How The Quest For The Ultimate Learning Machine Will Remake Our World [O Algorítmo-Mestre: Como a corrida para a máquina de aprender definitiva irá refazer nosso mundo], de Pedro Domingos (Allen Lane)

__

Foi o filósofo grego-francês Cornelius Castoriadis quem argumentou que os indivíduos, na maioria das sociedades, não dependem de si mesmos para determinar a própria lei – o que ele chamou de autonomia. Ao contrário, assumem que a lei é criada por alguma força externa que se encontra além deles próprios, sejam os deuses, a natureza, a história ou a razão – submissão. Como força cada vez mais influente a regular os resultados sociais, eleitorais e econômicos, os algoritmos estão entre os novos poderes de submissão. Em outubro de 2016, a Casa Branca, o Parlamento Europeu e a Câmara dos Comuns do Reino Unido, cada um independentemente, sondaram como preparar a sociedade para o uso generalizado de inteligência artificial (IA) movida a algoritmo. Revendo esses relatórios governamentais, pesquisadores argumentaram que o modelo de uma “boa sociedade de IA” deveria basear-se em um “respeito holístico” que leve em conta “todo o contexto do desenvolvimento humano” e a “promoção da dignidade humana como base fundamental para um mundo melhor”. Contudo, concluíram que aos três relatórios faltava a compreensão de como essa tecnologia pode engendrar valores como responsabilidade e cooperação para guiar o desenvolvimento de uma “boa sociedade de IA”.

A palavra “algoritmo” foi criada pelo matemático persa Muhammad ibs Musa al-Khwarizmi. Entre suas muitas inovações, o trabalho de al-Khwarizmi levou à criação da álgebra e do avançado sistema numeral hindo-árabe que usamos hoje. É a tradução para o latim do nome de al-Khwarizmi para “Algoritmi” – combinada numa mistura etimológica com a palavra grega para número (ἀριθμός, pronunciada “are-eeth-mos”) que resulta em “algoritmo”.

O Dicionário da Ciência Computacional da Universidade de Oxford define algoritmo como um conjunto previsto de regras ou instruções bem definidas para a solução de um problema, como o desempenho de um cálculo, em um número finito de etapas. É comum descrever um algoritmo como semelhante a uma receita, digamos, para cozinhar macarrão: 1) ferva água, 2) adicione o macarrão, 3) mexa. Mais precisamente, as instruções deviam ser suficientemente detalhadas para um computador fazer o processamento, tal como os passos para jogar uma partida de jogo-da-velha: “Se você ocupar dois espaços numa linha, jogue para conseguir três numa linha”. O trabalho que al-Khwarizmi produziu levou a soluções de equações quadráticas que hoje são aplicadas (entre outros usos) em aeronaves ao levantar voo e circuitos para computadores e dispositivos móveis. A despeito dessas inovações, os algoritmos passaram a desempenhar um novo papel na criação social-histórica das sociedades, uma disputa entre submissão e autonomia. Três livros, muito diferentes e interessantes, exploram seu uso potencial numa ampla gama de possibilidades, da dominação à libertação humana.

Em seu livro The Master Algorithm, o professor de ciências computacionais e engenharia Pedro Domingos apresenta uma visão exaustiva de cinco orientações rivais sobre os algoritmos: 1) os Simbolistas, que veem o aprendizado como o inverso de dedução e emprestam ideias da filosofia, da psicologia e da lógica; 2) os Conexionistas, que aspiram à engenharia reversa do cérebro e são inspirados pela neurociência e pela física; 3) os Evolucionários, que simulam a evolução no computador e bebem na genética e na biologia evolucionária; 4) os Bayesianos, que acreditam ser o aprendizado uma forma de inferência probabilística e têm raízes na estatística; e 5) os Analogisantes, que aprendem extrapolando a partir de julgamentos de similaridades e são influenciados pela psicologia e otimização matemática. Na busca pelo Algoritmo Mestre, Domingos declara seu desideratum final: um único algoritmo que combine as características chave de todos os outros. Isso é importante, argumenta, porque se é que ele existe “o Algoritmo Mestre pode derivar todo o conhecimento do mundo – passado, presente e futuro – a partir de dados.”

O livro de Pedro Domingos não apenas joga luz no interior dos trabalhos técnicos de diferentes tipos de algoritmos que a Amazon, a Netflix, o Facebook, o Google e outras plataformas que o capitalismo de plataformas usa para formatar nossas modernas experiências heterônimas. Também fornece um algoritmo exemplar – “Alquimia” – para passar por um teste drive. Sua proposta para um Algoritmo Mestre está enraizada em debates pragmáticos no campo, assim como ideias sobre como mover-se daí para frente. Contudo, o foco em modelos abstratos distrai da discussão sobre os impactos negativos dessa tecnologia no mundo real. Por exemplo, a discussão de Domingos sobre “sobreajuste”, problema em que um algoritmo “encontra um padrão nos dados que não é efetivamente verdadeiro no mundo real”, parecia um reconhecimento lamentavelmente insuficiente das perigosas consequências de algoritmos irresponsáveis – suas entradas de dados e códigos – e o impacto desastroso que eles podem ter em pessoas e comunidades. É como quando o código postal do lugar onde você vive ajuda a determinar sua pontuação de crédito e se você se qualifica para um empréstimo imobiliário ou estudantil. O livro abre uma janela para ver o que é possível com um Algoritmo Mestre no sentido geral, mas passa uma mensagem tecno-otimista, quando o mundo de vasta desigualdade e precariedade global de hoje demanda urgentemente que nos perguntemos como alavancar essa tecnologia para mudanças sociais positivas na direção de um mundo sem classes.

Armas de Destruição Matemática (WMD, em inglẽs), da pesquisadoras de dados Cathy O’Neil, oferece uma visão mais cética dos algoritmos, com foco em seus custos e consequências sociais negativas. O’Neil documenta como os algoritmos – WMDs – podem punir os pobres e promover os privilegiados, num círculo que piora as desigualdades de raça e de classe do capitalismo. Por exemplo, acredita-se amplamente, nos Estados Unidos, que prisioneiros não-brancos de bairros pobres têm maior probabilidade de cometer crimes, e também estão mais dispostos a cometer outros crimes e voltar à prisão. Os modelos de reincidência que seguem a tendência de um criminoso condenado a reincidir sugerem que essas pessoas são mais propensas a estar desempregadas, não possuem diploma do ensino médio e tiveram, com os amigos, passagens anteriores pela polícia. Uma outra maneira de olhar para os mesmos dados, contudo, é que essas pessoas vieram de áreas pobres com péssimas escolas e poucas oportunidades. “Então as chances de um ex-prisioneiro que volta ao mesmo bairro ter outra encrenca com a lei é sem dúvida maior do que a de um sonegador de impostos que é solto e volta a um subúrbio frondoso.” Nesse sistema, observa O’Neil, “os pobres e não-brancos são punidos mais por serem quem são e viverem onde vivem.”

Armas de Destruição Matemática oferece vários exemplos inspiradores de como os algoritmos podem ser instalados como uma ferramenta muito poderosa, embora invisível, para dominar a vida cotidiana da pessoas. O livro é melhor escrito do que se pode esperar de um quant. As fontes humanas de O’Neil oferecem material vívido que ilumina histórias de dor e sofrimento infligidas às pessoas por empresas de crédito com as estratégias predatórias de empréstimo alimentadas por algoritmos. A partir de sua experiência como uma pesquisadora de dados, ela revela problemas com a entrada destes em algoritmos e explica como esses problemas podem levar à destruição de comunidades inteiras, desde a avaliação de professores até aqueles que enviam seus currículos à procura de empregos. A organização de O’Neil das experiências de pensamento para imaginar como os algoritmos poderiam informar as táticas da polícia em bairros brancos e ricos e para combater crimes de colarinho branco traz à tona o privilégio e a imunidade de que essas comunidades desfrutam quanto às consequências da pobreza. Ela propõe exemplos de como os algoritmos poderiam ser auditados e mantidos em padrões de responsabilidade. O livro de O’Neil tem muita força, ressaltando os problemas estruturais dos algoritmos como uma tecnologia e a obscena realidade de hoje, em que os ricos ainda são verificados por pessoas, enquanto a vasta maioria é cada vez mais gerida por máquinas.

Com uma visão mais ampla de como os algoritmos impactam as sociedades, Homo Deus: Uma breve história do amanhã, do historiador Yuval Noah Harari, considera uma proposta de mudança de paradigma, segundo a qual a vida diz respeito ao processamento de dados e todos os organismos são máquinas de fazer cálculos e tomar decisões. Nessa analogia, não apenas colmeias, colônias de bactérias e florestas são sistemas de processamento de dados, mas também o são indivíduos e sociedades humanas. Por essas lentes, os algoritmos bioquímicos do leitor deste texto processariam uma imagem de George Clooney coletando dados de seus traços faciais tais como as cores do cabelo e dos olhos, e as proporções do nariz e ossos da face, para causar sentimentos de atração, indiferença ou repulsa. Em escala maior, economias inteiras poderiam ser vistas como centros de processamento de dados, mecanismos para reunir dados sobre desejos e habilidades e transformar esses dados em decisões. Traçando comparações históricas, Harari escreve: “De acordo com essa visão, o capitalismo de livre mercado e o comunismo de controle estatal não são ideologias em competição, crenças éticas ou instituições políticas. Na base, são sistemas de processamento de dados em competição. O capitalismo usa processamento distribuído, enquanto o comunismo baseia-se em processamento centralizado.” Esse argumento relega a fantasmas errantes no cemitério de história os velhos debates sobre tecnologia e igualdade, como os “debates de cálculo” das décadas de 1920 e 30 – entre os socialistas que acreditavam que a autoridade central poderia usar todo o conhecimento disponível para chegar ao melhor plano econômico possível (em suas cabeças) para a sociedade e aqueles que acreditam que, porque os problemas da sociedade moderna são tão complexos, o planejamento econômico é impossível e apenas o mercado poderia coordenar a atividade econômica.

O livro de Harari não faz tanta crítica comparativa do capitalismo e comunismo com base em necessidade, igualdade ou estrutura de classes — mas leva os leitores a uma série de perguntas completamente diferentes: são os organismos realmente algoritmos; e a vida é, de fato, somente processamento de dados? Mais amplamente, Harari considera a possibilidade de que a tecnologia poderia emergir para deslocar as ideologias existentes e formar uma Religião dos Dados. Essa nova religião colocaria toda autoridade na tomada de decisões guiada por dados e desalojaria as religiões que colocam autoridade em Deus; o humanismo liberal, que coloca a autoridade do indivíduo, no eu e no livre arbítrio; no comunismo de Estado, que deposita autoridade no partido e no Estado; e no humanismo evolucionário, que coloca autoridade na sobrevivência dos mais aptos.

Nessa visão, os dados são a nova tecnologia e força de submissão. Em particular, o poder dos algoritmos para processar dados de modos inteligentes poderia tornar obsoletos os fundamentos ideológicos da sociedade, como os conhecemos, independentemente do que pensamos sobre eles. “À medida em que as condições de processamento de dados mudam novamente no século XXI, a democracia pode decair ou mesmo desaparecer. Conforme o volume e a velocidade dos dados aumentam, instituições sagradas como eleições, partidos e parlamentos podem tornar-se obsoletas – não porque são antiéticas, mas porque não processam dados com eficiência suficiente. Esse argumento levanta questões sobre o papel da tecnologia num mundo antiético construído sobre vastas e injustas disparidades de poder e privilégio. O argumento de Harari parece evitar voltar a tais preocupações, uma vez que isso significaria uma reversão ao humanismo. Mas a tecnologia parece apresentar novas possibilidades utópicas.

As chamadas “Cidades Inteligentes” e a Internet das Coisas são indicadores de que o poder do processamento de dados e dos algoritmos estão ganhando força em nossa debandada aparentemente vertiginosa para o futuro. Mas fica a questão: essa tecnologia facilitará a criação consciente de sociedades que produzem igualdade? Ou possibilitará configurações novas e piores de velhas injustiças? Um poder de processamento computacional incrível está sendo aplicado em governança de submissão. Na eleição presidencial de 2012 nos EUA, a campanha Obama recolheu um volume tremendo de dados para criar modelos de voto e, usando esses modelos, fez 66 mil simulações por noite para ajudar a determinar a melhor estratégia de campanha. Muitas pessoas estão preocupadas com a aplicação semelhante do poder de processamento computacional no trabalho e seu impacto nos empregos e nos desempregados.

Imagine, ao contrário, essa tecnologia aplicada para facilitar a governança autônoma, ao ajudar a determinar os melhores estímulos e resultados econômicos para uma sociedade sem classes e aberta à ecologia. Enquanto as propostas de uma renda básica universal dominam os debates na esquerda e na direita, não há mais desculpas tecnológicas que inibam a possibilidade revolucionária do autogoverno, diretamente democrático e sociedades autônomas em escala. Modelos tais como o de Castoriadis, de 1957, de Conselhos Operários e Economia de uma Sociedade Autogerida. Eles incluíam uma “Fábrica Planejada” baseada em computadores que escolheriam como os meios materiais de vida seriam distribuídos para a produção econômica e do consumo, sem necessidade de gestores e planejadores econômicos. Tais sistemas, e outros como eles, poderiam permitir que algoritmos – na forma de blockchain e “contratos inteligentes” – fizessem o trabalho pesado de planejamento econômico e outras rotinas, para que as pessoas pudessem viver desfrutando o tempo livre individual e social que uma sociedade autônoma possibilitaria.

A questão agora é se a inteligência artificial guiada por algoritmos conhecerá as pessoas e a sociedade melhor do que nos conhecemos a nós mesmos; ou se ela empoderará a auto-organização e a democracia direta de modos que levem e consideração todo o contexto de dignidade e florescimento humano como fundamentos de um mundo melhor?

TEXTO-FIM
The following two tabs change content below.