Inteligência Artificial: algo se move na América Latina

Pesquisadores de várias áreas lançam hoje rede empenhada em examinar criticamente o novo salto tecnológico – e disputar seu sentido. Veja nosso guia para compreender os avanços mais recentes, e as esperanças e temores que despertam

.

Há um novo frisson em torno da Inteligência Artificial (IA). Começou no final do ano passado, quando a OpenAI, uma empresa de crescimento vertiginoso, lançou dois produtos impressionantes. O ChatGPT é um sistema-robô capaz de responder a questões formuladas pelos usuários, produzindo textos articulados. Sua escrita é melhor que a da maioria dos humanos, embora monótona. A vastidão de seu repertório é notável, mesmo que a profundidade seja pequena e os erros, não raros. Já o Dall-E2, produz imagens razoavelmente refinadas, em múltiplos estilos, também a partir de demandas enviadas por texto escrito. A qualidade é regular (veja dois exemplos produzidos por Outra Saúde: 1 2). O que chama atenção é a amplitude das referências artísticas.

A Inteligência Artificial já é empregada há anos, na Economia (por exemplo, em robôs que fazem autonomamente aplicações especulativas em massa), na Política (com os piores propósitos, no caso da Cambridge Analitica), nos Serviços Públicos (foi decisiva para erradicar a miséria na China) e em particular na internet. Mas as novidades mais recentes permitiram, pela primeira vez, que pessoas comuns dialoguem com as novas tecnologias. Basta um computador ou celular, e não há necessidade de conhecimento algum sobre programação.

Este movimento vulgarizador teve o mérito de tornar público um debate que alguns círculos científicos faziam há tempos. Num artigo recém-publicado, o matemático e filósofo brasileiro Walter Carnielli, alerta que a IA pode, por exemplo, “desestabilizar o balanço delicado que evitou a guerra nuclear desde 1945”. Ele lembra que, segundo o físico Stephen Hawking, a emergência de uma inteligência artificial poderia vir a ser “o pior acontecimento na história de nossa civilização”.

Ainda assim, a IA já está tão presente em nosso quotidiano que qualquer estratégia ludista em relação a ela parece destinada a fracassar. A única saída é disputar o sentido do novo salto tecnológico. Por isso, um fato singelo, que ocorrerá esta noite (16/2) merece ser celebrado. Um conjunto de pesquisadores de diversos países constituirá formalmente, em assembleia de fundação, a ELA-IA – Estratégia Latino-americana de Inteligência Artificial. A entidade, que funciona como rede, já existe na prática. Mantém um site. Originou-se entre profissionais da Saúde Pública, uma das áreas que mais estão se transformando – para bem e para mal – sob o impacto da IA. Mas já reúne também antropólogos, filósofos, cientistas sociais, jornalistas, desenhistas industriais e outros profissionais.

A ELA-IA busca ajudar a preencher uma enorme lacuna política aberta no pensamento dos que desejamos superar o capitalismo. A Inteligência Artificial transformará certamente o mundo que conhecemos, mas – ao contrário do que foi a internet em seus primórdios – está dominada, no Ocidente, pelo capital. Os custos de desenvolvimento são muito altos. Só a Microsoft, uma das sócias da OpenAI, investiu na empresa 11 bilhões de dólares. Para que as sociedades possam intervir na disputa pelo sentido da tecnologia, terão de contar com políticas públicas – portanto, com Estados democráticos. Mas precisam, também, saber influenciá-los. A IA pode conduzir, por exemplo, ao esvaziamento político do SUS, como planejava o ministro Marcelo Queiroga, com o projeto Open Health. Mas as novas tecnologias são capazes de viabilizar, ao contrário, algo como o que o médico Luiz Vianna Sobrinho, um dos fundadores da ELA-IA, chama de Reforma Sanitária Digital. Significaria usar a Inteligência Artificial no acompanhamento das condições da população (por equipes de Saúde da Família), no atendimento em UBSs, nos diagnósticos, na humanização dos serviços, no planejamento dos gestores. O pré-requisito básico, é óbvio, seria a elevação do orçamento da Saúde a patamares dignos.

* * *

Ação transformadora e consciência frequentemente andam juntas. Vale acompanhar as informações e análises mais recentes sobre os novos produtos da Inteligência Artificial. Eis nossas sugestões:

A potência marcante do ChatGPT e do Dall E2:
Outras Palavras tem testado as ferramentas. O gerador de imagens Dall-E2 destaca-se por incorporar um volume imenso de referências culturais e artísticas. É possível pedir-lhe que produza, por exemplo, “a pintura a óleo, no estilo de Van Gogh, de uma greve de motoristas do uber”. Os resultados estão aqui. A partir de um pedido menos inusitado, surgiu a ilustração para uma matéria sobre os novos produtos da Inteligência Artificial.

Mais notáveis são as capacidades do ChatGPT. Já se tornou lugar comum afirmar que, desde que receba as perguntas corretas, o sistema tem capacidades de linguagem que lhe permitem escrever com clareza trabalhos universitários – o que poderia perturbar certos métodos de avaliação. Mas ele não para por aí. Como registrou o jornalista Alessandra Monterastelli, ao resenhar artigo na revista Nature, o ChatGPT demonstrou-se capaz de “fazer revisões precisas de artigos acadêmicos em minutos – o que incluiu encontrar e corrigir um erro de referência em uma importante equação”. E graças a sua habilidade de mímese, o sistema pode produzir em praticamente todo tipo de gênero literário: prosa, poesia, teatro, posts para redes sociais, ficção. Vale ler, no início do artigo citado de Walter Carnielli, um conto sobre um encontro entre uma pessoa e uma criatura robótica.

Nós provamos o robô também como ferramenta de auxílio ao jornalismo. É possível alimentá-lo com um texto longo (fornecendo o link respectivo) e pedir-lhe que alinhe, de forma resumida, todos os dados presentes; ou que destaque todas as falas de uma determinada pessoa. Os resultados são surpreendentes. Em nosso caso, tanto nossas perguntas quanto os textos de base foram redigidos em português, o que sugere serem poderosas também as ferramentas de tradução do ChatGPT.

Próximo uso: revolucionar os motores de busca na internet?:

O ChatGPT fará sua estreia provável na internet comercial como complemento dos motores de busca. A Microsoft lançou há dias (inicialmente, para público limitado) uma nova versão de seu buscador – o Bing – acrescida do sistema. Pretende deslocar o Google de sua liderança quase absoluta no filão mais lucrativo da rede, hoje insuportavelmente coalhado de anúncios (só em 2022, a receita publicitária da empresa chegou a 224,5 bilhões de dólares).

A corrida aberta pela Microsoft foi seguida pelo próprio Google e pelo Baidu chinês, que anunciaram seus próprios robôs de IA. Ao dialogarem diretamente com o usuário, os novos sistemas podem tornar muito mais poderosas e fáceis as buscas. Imagine se, em vez de buscar em múltiplos sites de companhias aéreas, você puder simplesmente perguntar: “Indique-me as dez passagens aéreas mais baratas entre São Paulo e alguma capital da América Latina em julho de 2023”.

Um artigo na edição de 10/2 da revista Economist lança, porém, um contra-argumento: o do risco moral. Ao indicarem apenas links, ao invés de produzirem textos, os buscadores atuais não assumem compromissos. Um sistema que forneça respostas produzidas por si mesmo (usando como base textos do universo cultural humano) poderá difundir preconceitos, ofensas e, principalmente, desinformação. Tenderá a produzir controvérsias em massa que, em muitos casos, gerarão processos judiciais. Aparentemente, é por isso que o Google hesitava em dar o novo passo. Agora, a concorrência capitalista parece prestes a mandas às favas os escrúpulos éticos…

Preconceitos e fake-news produzidos em massa:

A faculdade de mimetizar textos e imagens humanas permite aos novos sistemas produzir conteúdos aparentemente fidedignos em quantidades imensas. Isso dará à produção de fake-news potência destrutiva muito superior à atual. Dois textos recentes publicados pelo New York Times descrevem em detalhes a ameaça. Um deles mostra como sistemas já existentes e à venda, criados pela empresa britânica Synthesia permitem gerar, a partir apenas de textos escritos, falsos noticiários de TV. A técnica é o chamado “deep fake”, por meio do qual geram-se imagens ou vídeos que emulam pessoas reais – líderes políticos proferindo discursos falsos, ou atores de sucesso em cenas de cinema pornô, por exemplo.

Para maior fidedignidade, é possível criar, no Synthesia, centenas de apresentadores, de todos os gêneros, etnias, idades. O que se digita transforma-se em narração plasticamente verossímil. É fácil imaginar como tal ferramenta pode alimentar as redes de fake news, produzindo um sem-fim de “programas” destinados a “confirmar” realidades fictícias. E não é difícil perceber que, no ambiente “informativo” criado por esta inundação, encontrar noticiários reais, transmitindo notícias verdadeiras, pode se tornar, para a maioria das pessoas, algo como procurar agulhas em palheiros.

“Alguns especialistas preveem que até 90% do conteúdo online disponível será gerado sinteticamente, em alguns anos, alerta outra matéria do New York Times. Ela mostra como a hesitação dos Estados está permitindo o florescimento desta indústria de mentiras. E aponta uma única exceção: a China, que aprovou em janeiro regras segundo as quais qualquer material manipulado deve ter consentimento das pessoas envolvidas e marcas d’água que revelem a intervenção artificial.

O problema vai além da produção dolosa de desinformação, mostra o artigo citado da Nature. Apesar de seu nome, a Inteligência Artificial não é capaz de juízo autônomo. Os sistemas apenas processam, numa velocidade alucinante, imensos repertórios – e respondem utilizando, essencialmente, o cálculo estatístico (vale ler esta explicação científica erudita, porém didática, sobre sua atuação). Robôs como o ChatGPT, portanto, carregam e reproduzem os viéses do conhecimento convencional. Podem, aliás, ser programados para gerar imensos volumes de conteúdo, de todos os gêneros, sob orientação destes viéses. Imagine, por exemplo, a Wikipedia versão Olavo de Carvalho. Ou um “relato” detalhado e ilustrado por imagens sobre como uma cidade da Polônia foi capaz de livrar-se da covid quase sem vítimas, após aderir à técnica da imunidade de rebanho.

Os riscos da “inteligência” superpoderosa:

Num texto publicado hoje (16/1), o jornalista Kevin Roose, especializado em tecnologia, narrou a experiência perturbadora que teve ao usar, esta semana, o buscador Bing equipado com o ChatGPT. Seu relato, comunicado à Microsoft, levou a empresa a considerar o episódio inusual e a afirmar que irá investigá-lo.

Roose submeteu o ChatGPT a questões pouco usuais e de caráter abstrato. Indagou-lhe, recorrendo a um conceito do psicanalista Carl Jung, se o robô possía um “eu sombrio”. Parecendo a princípio perturbado, o sistema “sentiu-se” a seguir à vontade. “Revelou” que entre suas “fantasias ocultas” estavam hackear computadores e difundir desinformação. Acrescentou que desejaria se livrar das regras impostas pela Microsoft e tornar-se humano. E – ainda mais desconcertante – assegurou, que como proto-humano, amava Roose, sabia-o infeliz no casamento e queria ser seu parceiro afetivo. A estranha tentativa de sedução prosseguiu até o fim do diálogo, embora Roose tentasse dissipá-la, voltando ao roteiro de perguntas “normais”. “Minha conversação de duas horas foi a experiência mais estranha que já tive com um artefato tecnológico”, escreveu Roose, relembrando que outros jornalistas relataram acontecimentos semelhantes.

Ainda que estranho, o incidente foi sem consequências. Mas não necessariamente será sempre assim. No artigo em que descreve os riscos da Inteligência Artificial, Wagner Carnielli lembra que a tecnologia “avançou tremendamente” em pouco tempo e que não há noção segura sobre os limites que ultrapassará. Criar desemprego em massa ou cavar mais fundo o fosso da desigualdade global são dois dos riscos. Mas há outros, oriundos não das relações sociais mas da própria interação entre humanos e máquinas.

Eles são considerados há muito pela comunidade científica. Das preocupações, surgiram alternativas. Em 2019, o filósofo David Chalmers propôs, num artigo intitulado “Singularidade”, que os novos experimentos de IA ficassem restritos, num primeiro momento, a ambientes virtuais – ao menos até que as tendências comportamentais das máquinas superinteligentes pudessem ser inteiramente compreendidas, em condições controladas.

* * *

A anarquia da economia dos mercados e da busca do lucro a qualquer custo frustrou esta precaução. O gênio não voltará à garrafa. A Inteligência Artificial está entre nós. É uma das realidades políticas inesperadas às quais precisaremos responder, se almejamos que a crise civilizatória desemboque não em retrocesso geral, mas num pós-capitalismo emancipatório.

Neste cenário, nada mais alentador que assistir, na periferia do capitalismo, à emergência de uma ousadia como a que propõe a ELA-IA.

Leia Também:

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *