IA: Toda a subversão será castigada?
Há algo de sombrio no uso de bots para o policiamento, para além de suas falhas e racismos. Cria-se novo risco: ao bloquear qualquer possibilidade de transgressão, a justiça reduz-se a uma tirania cega, incapaz de ver as complexidades do mundo
Publicado 29/05/2023 às 20:02 - Atualizado 29/05/2023 às 20:22
Por Samuel Witteveen Gomez, no CTXT | Tradução: Rôney Rodrigues
Existem supermercados onde as câmeras de segurança apontam por si mesmas quem comete um furto. Utilizando inteligência artificial, essas câmeras são capazes de identificar os gestos e atitudes que costumam acompanhar a subtração de algum produto. Isso acontece em países como Estados Unidos e Japão. Há também estações de trem e metrô, na Catalunha por exemplo, onde câmeras alertam se um passageiro entra sem bilhete.
Além disso, espera-se que cada vez mais veículos incluam sistemas que reduzam automaticamente a velocidade quando o motorista excede o limite permitido. Os algoritmos também são os que muitas vezes se encarregam de detectar e penalizar a fraude fiscal. E um juiz da Colômbia materializou um horizonte com que sonham alguns juristas ao recorrer ao ChatGPT para redigir uma sentença.
Esses exemplos, por mais díspares que possam parecer, apontam para uma mesma tendência: a automatização da lei. Dadas as possibilidades que a tecnologia nos oferece, é tentador investir em sistemas que ajudem a garantir o cumprimento das normas. E se essas ferramentas realmente decolarem, pode chegar o dia em que ninguém, independentemente da situação, poderá furtar, entrar furtivamente no metrô ou pisar fundo demais no acelerador do carro. Mas isso, mais do que o triunfo da lei, pode significar o fim da lei como prática de uma comunidade moral e sua substituição por algo mais parecido com um molde, um túnel, uma tirania cega.
É, ainda, no contexto dos grandes desafios que os Estados enfrentam onde o risco da automação deve ser compreendido. Problemas de grande alcance, como mudanças climáticas, migração, pandemias e ameaças terroristas, muitas vezes encontram sua solução correspondente na boca de políticos e empresários com a promessa de controle que a tecnologia nos oferece. Uma união entre urgência e coerção parece ser o sinal de nosso tempo, uma união, segundo todos dizem, temível.
Tal acúmulo de ameaças justificará para muitos que as autoridades deleguem o controle a sistemas automatizados, possivelmente os únicos capazes de aplicar regulamentos em larga escala. Há, porém, uma diferença intransponível entre o cumprimento de uma lei (por condenação ou por simples submissão) e a impossibilidade de transgredi-la (porque a arquitetura do poder só permite o cumprimento).
O filósofo Maxim Februari explica em seu último livro que as máquinas, ao contrário de nós, não são sujeitos morais que agem por responsabilidade. Por isso, não são capazes de ver e compreender que nós, sobre quem eles decidem, somos de fato seres morais. “As máquinas”, escreve Februari, “não estão nem um pouco preocupadas com a verdade de nós como pessoas, nem se importam em entender, a única coisa que buscam é funcionar: realizar operações”.
Assim, por mais severo que seja um condutor de metrô, ele sempre será infinitamente mais compassivo do que um sistema automatizado. O condutor, diferentemente da máquina, tem a capacidade de entender que existem motivos para entrar furtivamente no metrô, que cada passageiro representa um caso particular. A máquina, por outro lado, não vê pessoas, não vê histórias ou necessidades, só é capaz de detectar aqueles indicadores que tornam possível o seu idêntico funcionamento.
Ramón López de Mántaras, especialista em inteligência artificial do CSIC, denunciou recentemente em um fórum o erro generalizado de atribuir características humanas à tecnologia. “Acreditamos que a IA é virtualmente ilimitada quando, na verdade, é extremamente limitada e, mais importante, não tem nada a ver com a inteligência humana.” Apesar das virtudes e usos dessas ferramentas, Mántaras alerta que a inteligência artificial não é realmente inteligente, mas executa tarefas sem ser capaz de entendê-las. Embora a IA possa certamente ser mais habilidosa do que nós na execução de operações concretas, ela carece do conhecimento complexo do mundo que qualquer pessoa possui.
O mundo funciona em grande parte graças a processos informais, experiências e gestos não quantificáveis. Mesmo a pessoa mais bruta conhece uma imensidão de sentimentos completamente alheios à máquina, sentimentos que informam suas ações a todo momento. Empatia, indignação, dúvida, conflito, flexibilidade, medo, paciência, justiça. Aqueles que, ignorando tudo isso, igualam a máquina ao humano, tomam como critério as capacidades da máquina e desprezam o que distingue o vivo do inerte. A história também nos mostra que ignorar a importância dos processos informais sempre leva ao desastre.
A aplicação mecânica da lei também contradiz os princípios do Estado de direito. O que diferencia um Estado de direito de qualquer modelo autoritário é que o poder está sujeito a garantias. As decisões não dependem simplesmente da autoridade, mas devem ser legítimas e justificáveis. A primazia da lei sobre o poder implica, portanto, a existência de uma comunidade imersa em uma prática constante de apelar, interpelar, decidir e justificar. Desistir dela em busca de uma ordem fechada implica dissolver a comunidade e suspender o direito. Quando falamos de automação, não estamos falando de mera sofisticação, mas de uma forma radicalmente diferente de governança.
A lei é incompatível com o mecânico. Não há lei aplicável a todos os casos porque a norma exige necessariamente, sempre, interpretação e execução. Februari usa a história de dois membros da resistência holandesa na Segunda Guerra Mundial para ilustrar isso. A anedota diz que esses dois partisanos capturaram um membro da SS que se dedicava a deletar outras pessoas em seu povoado. Quando tiveram este homem em seu poder, quiseram matá-lo, mas duvidaram que estivessem fazendo a coisa certa. Então eles foram até o padre e perguntaram se é permitido matar um nazista. O padre respondeu: “Na verdade, não.”
Na breve resposta do padre está contido todo aquele terreno propriamente humano que é incompreensível para as máquinas. Bem, o padre não simplesmente toma o quinto mandamento e os proíbe de matar, mas os informa sobre o conteúdo da lei e acrescenta que o “na realidade”, que é a abertura para a exceção. Entre a lei universal (não matarás) e o caso concreto e premente (enquanto esta pessoa estiver viva trairá outras), cabe aos dois partidários a responsabilidade de decidir da forma mais justa. A lei não pode simplesmente ser aplicada porque deve primeiro passar por essas histórias particulares para se materializar. Isso é o que Franz Rosenzweig quis dizer quando escreveu: “A lei é entregue ao homem, não o homem à lei.”
O problema de deixar as tarefas de governança nas mãos da inteligência artificial não é apenas que ela costuma ser suscetível a vieses e erros. Por mais que o algoritmo seja aperfeiçoado e os dados lapidados, um sistema automatizado jamais igualará a capacidade interpretativa do ser humano. A diferença entre inteligência artificial e humana não é quantitativa, mas qualitativa.
Claro que a tecnologia pode nos auxiliar em tarefas monótonas, por exemplo, na hora de localizar ou organizar informações, e isso pode aliviar os tribunais e agilizar os processos. A decisão de um juiz, por outro lado, não deve ser tomada por um sistema generativo de inteligência artificial (como o ChatGPT) porque por mais jurisprudência que a ferramenta seja capaz de moldar, ela jamais conseguirá entender do que realmente se trata: transmitir a justiça.
O juiz é o elo entre a legislação e o caso concreto e em cada uma de suas decisões deve introduzir um elemento original. Uma norma aplicada automaticamente pode criar a ilusão de equidade, mas na realidade ocorre o oposto: a mesma interpretação é imposta em casos diferentes. A justiça requer uma consideração especial em cada caso, um momento de perigo onde a doutrina aparece no fundo da vida. Jacques Derrida colocou assim em Força da Lei: “A lei é o elemento de cálculo, enquanto a justiça é incalculável, exige que calculemos com o incalculável”.
Bom dia.
Gostaria de parabenizar aos que promovem os conteúdos do “Outras Palavras”. Tem sido especialmente para mim, enriquecedor. Hoje com tantos conteúdos jogados na rede mundial de computador, raríssimos são aqueles que nos trazem boas informações.
Sou da área de Sociologia e História pela Universidade Paulista e tenho trabalhando o assunto da cibercultura em nossa sociedade atual. Com relação a matéria hora exposta “IA: Toda a subversão será castigada?”, é um assunto com bastante relevância atualmente. Houve um momento da história dos computadores que a sociedade ficou amedrontada devido ao fato de que as máquinas tomariam o seu lugar de humano. Mas o tempo passou e as máquinas careceram dos humanos para lidar com elas.
Na atualidade houve uma intensificação maior dos usos das máquinas. A sociedade ficou mais dependente e com a dependência veio a necessidade de se desenvolver soluções para os usos sociais. Acontece que esses usos sociais tomaram proporções gigantescas, que agora as máquinas literalmente estão realizando operações substituindo os humanos. Nesse sentido, começa a ficar perigoso devido ao fato da inexistência da emoção. Uma máquina não tem emoções realmente. Elas apenas realizam aquilo para o qual foi programada. AI que funciona com o chamado “aprendizado”, realizará operações que estão dentro do arcabouço do algoritmo. Quantos movimentos semelhantes uma pessoa que comete uma infração, pode realizar igualmente aquela que não cometeu? Esse ponto a AI não tem condições de julgar. Na área do direito, é ainda mais complexo. Como um algoritmo julgará alguém que não esteve na sena de um crime? Se for inserida nos autos que aquela pessoa estava na sena mesmo não estando, será jugada culpada sendo inocente.
Apenas essas duas menções para nossas reflexões nesse espaço muitíssimo importante.
Abraços…..