ChatGPT: o que não está se debatendo
Inteligência artificial é utilizada há anos, mas agora gerou-se um evento de percepção na sociedade. O marketing em torno dele expõe a guerra entre as Big Techs mas esconde o debate crucial: é preciso examinar os impactos sociais da nova tecnologia
Publicado 24/04/2023 às 18:49 - Atualizado 24/04/2023 às 19:40
Título original: Por outras formas de arguição do Chat GPT e das inteligências artificiais
As inteligências artificiais (IAs) já estão sendo uma revolução há algum tempo e têm transformado muitas áreas das nossas vidas cotidianas, mesmo que a maioria de nós não perceba esse acontecimento. Elas fazem parte das tecnologias que compõem a sigla NBIC (Nanotecnologia, Biotecnologia, Tecnologias da Informação, e Ciências Cognitivas) e são impulsionadas por enormes investimentos das maiores empresas de tecnologia (as Big Tech) sediadas no Vale do Silício, além de serem incentivadas por transhumanistas e singularistas, que veem na convergência dessas tecnologias a superação dos limites da espécie humana (1).
Diferentes pesquisadores se referem à Inteligência Artificial como uma Tecnologia de Uso ou de Propósito Geral, que curiosamente tem a sigla em inglês GPT (General Purpose Technologies). Ainda que se trate das mesmas letras, a sigla de ChatGPT designa que essa inteligência artificial se caracteriza por ser um transformador treinado para gerar conversas (Generative Pre-Training Transformer). Ao que tudo indica, é uma daquelas coincidências que dizem muito.
A sigla comum nos ajuda a pensar no impacto que o ChatGPT vem causando desde o seu lançamento nos últimos meses de 2022. Afinal, as tecnologias de propósito geral (GPT) são as que têm capacidade de compor intensos processos de transformação na sociedade, afetando desde o nosso modo de organização, produção e geração de valor até a forma como produzimos conhecimento. Dentre essas tecnologias-chave conhecidas como GPT estão a máquina a vapor, a eletricidade e o computador. Isso nos dá uma dimensão da revolução que já é prevista, indicada pelos desenvolvedores dessas tecnologias e motivo de uma acirrada competição entre países e grandes empresas (2).
Tendo em vista essa capacidade de transformação, em uma recente análise publicada no Wall Street Journal (3), o ex-CEO da Google, Eric Schmidt e Henry Kissinger, o ex-secretário de Estado e conselheiro de segurança nacional da Casa Branca, anunciaram o Chat GPT como uma revolução intelectual (4), e uma questão que talvez seja importante de se pensar é sobre a direção que está sendo dada para esta revolução, que já está em andamento e da qual nós já participamos.
A perspectiva deste artigo segue nesta direção, apontando como o nosso relacionamento com essas tecnologias e a compreensão do modo de funcionamento das IAs são aspectos centrais para esse tipo de reflexão. Para tentar levantar apenas alguns elementos desse funcionamento e dessas relações, podemos observar o ponto aonde estamos, esse de intenso debate sobre ChatGPT e seus impactos, e junto com isso refletir sobre o processo de desenvolvimento dessa inteligência Artificial (IA).
“Chapação maquínica, alucinação estatística: pensar como o ChatGPT” é o título de um artigo (5) muito interessante de Murilo Duarte Costa Correa (professor da UEPG) que, em meio a uma crítica à reação de Noam Chomsky ao ChatGPT, nos apresenta uma ideia que pode auxiliar a pensar sobre o que estamos vivendo. Correa define esse momento como um “evento de percepção”, entendido como “um acontecimento que altera a sensibilidade coletiva com relação à tecnologia”. Trata-se de um momento que nos obriga a reconhecer uma realidade que já estava presente há muito tempo, mas que não era efetivamente percebida pelas pessoas.
A ideia de “evento de percepção” me pareceu um estimulante ponto de partida para outras reflexões. Notem que não se trata de pensar o entorno da tecnologia ou seu contexto, mas a própria tecnologia por outras vias.
De fato, as inteligências artificiais já estavam presentes em diferentes chatbots usados no comércio online, em atendimentos bancários e nas redes sociais que a maior parte das pessoas usa. Além disso, só para citar dois exemplos, que talvez estejam mais próximos do ChatGPT, há 2 anos saiu uma matéria no portal G1 mencionando textos jornalísticos escritos por inteligências artificiais e, antes disso, em 2016, a Microsoft lançou a TAY, uma inteligência artificial ou um chatbot que interagia com usuários no Twitter, e que abordarei mais adiante. Por ora, é importante sublinhar que as IAs já estavam conosco.
O impacto do lançamento do ChatGPT tem sido composto por muitos debates que giram em torno de efeitos positivos e negativos da tecnologia, indo dos riscos aos benefícios, do temor ao fascínio. Essa oscilação, muitas vezes marcada pela oposição entre tecnofobia e tecnofilia nos revela um tipo de relação muito específico com as tecnologias. É possível observar nisso um movimento oscilatório entre extremos que remete a algo que compõem a própria lógica de funcionamento de parte das inteligências artificias, como aquelas que estão nas redes sociais. O conflito que se estabelece entre opiniões opostas já foi percebido (e é estimulado) pelas inteligências artificiais nas redes sociais, como forma de manter os usuários utilizando continuamente uma plataforma, de maneira a aumentar a interação dos usuários e, consecutivamente, a produção de dados para essas empresas estruturadas pelo capitalismo de vigilância (6).
Por analogia, podemos nos questionar sobre a quê nos mantemos atados ou quais restrições esse tipo de debate nos impõem. No caso das divergências sobre o ChatGPT, a polarização nos mantém atentos exclusivamente aos efeitos e a eficácia das tecnologias, compreendendo as IAs como produto pronto para ser consumido, sem que observemos seu modo de funcionamento e a lógica na qual estamos incluídos. Isso não significa negar a importância de debater riscos e benefícios, mas localizar o ponto do processo de desenvolvimento no qual estamos colocados e quais as relações que estabelecemos a partir disso. De certa forma, nos mantermos apenas nesse local invisibiliza vários aspectos e restringe nossa inventividade sobre outros tipos de relação possíveis com as tecnologias.
Por outro lado, é um momento que alavanca uma visibilidade mais geral, o uso desse tipo de inteligência artificial e também pode ser visto como uma grande peça de publicidade. Isso não exclui a ideia de “evento de percepção” mencionado antes, mas situa esse evento como partícipe de um modo de funcionamento, exatamente porque a sensibilidade coletiva está mobilizada nesses dualismos. Ainda que o momento nos faça notar a presença e a potência de transformação do ChatGPT, acaba mobilizando conflitos que funcionam muito bem para a continuidade do desenvolvimento desta aplicação, direcionando essa revolução para o rumo específico das Big Techs (7). Afinal, apontar soluções tecnológicas para problemas de tecnologia é uma perspectiva da situação rapidamente absorvida pelas empresas do Vale do Silício. Portanto, o debate não problematiza a tecnologia a ponto de abrir brechas para desenvolvimentos e relações de outros tipos, mas induz a um aprimoramento do que já está sendo feito.
Outro elemento do modo de funcionamento dessas tecnologias sobre o qual podemos refletir diz respeito a relação que o usuário estabelece com as tecnologias de informação e comunicação como produto pronto, ou acabado.
O ChatGPT que estamos usando é uma versão Beta, ou seja, em desenvolvimento, mas colocada em uso para teste e aprimoramento. Antes eu nomeei temporariamente esse momento de lançamento do ChatGPT de “grande peça publicitária”. Agora eu procuro apontar que esses momentos de *desenvolvimento, *teste e *divulgação de uma tecnologia não ocorrem separadamente em tempos distintos. Aliás, para a continuidade do desenvolvimento do ChatGPT era necessário que ocorresse essa publicização.
É na nossa interação com o ChatGPT que fornecemos novos volumes de dados e que novos treinamentos dessa IA são feitos ou corrigidos. A interação humana é parte fundamental do desenvolvimento. Mas distante de pensarmos o modo de funcionamento em que o usuário é parte, nós acabamos estabelecendo uma relação e uma interação como consumidores que muitas vezes é lúdica, caracterizadas por desafios e uma certa competição da parte dos usuários que ao final concluem – sempre pautados pelas medidas do humano (8) – que determinados retornos do ChatGPT são absurdos, pouco inteligentes, claramente inferiores, espantosos, perigosos, risíveis. Enquanto na relação que o usuário estabelece parece reinar a constatação obvia de que a máquina não é humana, no modo de funcionamento da máquina o humano já é parte do seu circuito integrado de desenvolvimento e de funcionamento.
Até o momento do seu lançamento, o ChatGPT trabalhava com uma base de dados de 8 milhões de textos em inglês disponíveis na internet. Ao que tudo indica nessa base de dados limitada havia uma triagem para que textos ofensivos e de estímulo à violência não compusessem essas informações. A inteligência artificial da Microsoft de 2016, a TAY que mencionei antes, passou a produzir textos com teor racista e violento apenas 24 horas depois do seu lançamento no Twitter. O que se concluiu disso pela via dos desenvolvedores, foi que os dados coletados pela IA nas interações na rede e uma triagem ou treinamento inadequados da TAY levaram a esse resultados. Ao abrir o ChatGPT para ampla utilização na internet não apenas a base de dados se amplia, como o treinamento do ChatGPT pode ser realizado para tentar evitar o que ocorreu com a TAY. Isso ocorre enquanto os usuários brincam com a nova tecnologia e a desafiam ou a desmerecem pela obviedade de sua não humanidade. Esse momento que vivemos também funciona como gerador de desenvolvimento mais geral a partir das reações dos usuários, das críticas recebidas, que medem a aceitabilidade do Chat GPT num contexto de ausência de regulação jurídica.
Se de fato se trata de uma revolução, a permanência dessas relações com a tecnologia pode fazer com que seja uma revolução com um direcionamento já bastante especifico, aquele ditado pelas Big Techs (9) e pela competição por essa área tecnológica. Tanto o lugar dos dualismos, que se vinculam aos efeitos e a eficácia das tecnologias, como a interação que desafia a máquina por suas características não humanas parecem nos levar na direção do aprimoramento dessas tecnologias como solução, mas mantendo a direção do desenvolvimento tecnológico traçado pela revolução desejada e gestada no Vale do Silício. Conhecer a relação que nos é colocada por essas empresas, os pontos do processo de desenvolvimentos em que estamos colocados (como usuário e como países), como é projetada a nossa participação neste circuito integrado, as lógicas e modos de funcionamento dessas tecnologias, pode pode ser um bom modo de começarmos a inventar outras formas de relação e de funcionamento que revolucionem, por outras vias, as tecnologias de inteligência artificial.
*Marta Mourão Kanashiro é doutora em Sociologia e pesquisadora do Laboratório de Jornalismo (Labjor) da Unicamp. Ainda nesta universidade, é professora do Programa de Pós-Graduação em Divulgação Científica e Cultural (Unicamp) e colaboradora do Programa de Pós-Graduação em Sociologia. Atualmente é coordena o Grupo de Pesquisa Informação, Comunicação, Tecnologia e Sociedade, do Labjor.
Notas:
(1) Transhumanistas e singularistas apostam no melhoramento do ser humano por meio de tecnologias que permitam a superação dos limites da espécie. Para mais informações e uma perspectiva crítica desta abordagem, acesse: Para entender transumanismo e pós-humanismo (entrevista com João Manoel de Cózar) e o artigo Entre a obsolescência programada e a eternidade transumanista
(2) Como parte da corrida da inteligência artificial, no dia 21 de abril, a Alphabet (conglomerado dono da Google) anunciou o lançamento da união de equipes do DeepMind e Brain voltadas para o desenvolvimento desta tecnologia. A aceleração dos esforços surge em meio a criticas severas ao Bard, inteligência artificial da Google mencionada pelos trabalhadores da empresa em matéria da Bloomberg como “mentiroso patológico”. A moratória de seis meses para o desenvolvimento de IAs destoa da liberação do Bard para testes abertos no Reino Unido e Estados Unidos. O ritmo de desenvolvimento permanece ditado pela competição que se acirrou com o lançamento do Chat GPT.
(3) Henry Kissinger, Eric Schmidt, Daniel Huttenlocher ChatGPT Heralds an Intellectual Revolution , Wall Street Journal (WSJ), Opinion, 24 de fevereiro de 2023, disponível online.
(4) A afirmação de Schmidt e Kissinger apareceu em formato de pergunta no título da Aula Inaugural dos Programas de Pós-Graduação do Instituto de Estudo da Linguagem, da Unicamp: Chat GPT: uma revolução intelectual? Com 3 horas de duração, o evento teve como palestrantes Ricardo Matsumura Araújo, Giselle Beiguelman, Thiago Sampaio, Marcelo Buzato, Marta Kanashiro e Márcio Seligmann.
(5) Correa, Murilo Duarte Costa Chapação maquínica, alucinação estatística: pensar como o ChatGPT , Uninômade, 23 de março de 2023.
(6) Lucas, Rob . Origem e limites do capitalismo de vigilância trad. Simone Paz, Outras Palavras, 03 de fevereiro de 2021.
(7) É importante notar que apesar de não se saber qual a arquitetura exata do Chat GPT, a versão 3.5 trabalha com 175 bilhões de parâmetros. Isso requer uma infraestrutura que, por exemplo, nenhuma universidade brasileira possui. Trata-se de uma corrida tecnológica que demarca enormes diferenças entre países, em sua maioria incapazes de participar dessa competição. Sobre esse tema veja Os desafios do ChatGPT ao ensino e à pesquisa , texto de Mauro Bellesa para o IEA-Usp.
Paralelamente, o Chat GPT e essa via de desenvolvimento tecnológico tem grandes custos ambientais, seja em termos de emissão de CO2, extração de minérios ou consumo de recursos. Esses são aspectos do atual direcionamento da revolução tecnológica que devem ser conectados à perspectiva de colonialismo digital . Veja também Faustino, Deivison; Lippold, Walter “Colonialismo digital, racismo e acumulação primitiva de dados”. Revista Germinal, Salvador, v.14, n.2, p.56-78. Ago. 2 https://periodicos.ufba.br/index.php/revistagerminal/article/view/49760/27526
(8) Giselle Beiguelman trata dessa relação com o humano no artigo “Máquinas companheiras”
(9) Em agosto de 2002, pesquisadores, intelectuais e ativistas digitais publicaram uma carta endereçada ao presidente Luiz Inácio Lula da Silva propondo nove ações para um ecossistema tecnológico nacional robusto, que se contrapusesse à dependência das Big Techs. O documento pode ser acessado em https://outraspalavras.net/tecnologiaemdisputa/programa-de-emergencia-para-a-soberania-digital/
Eis aqui um artigo espetacular, que traz o melhor da inteligência humana e natural, sagaz, bem informado e realmente bem organizado, bem escrito e que contrapõe de forma óbvia e contundente a escrita maquinizada que repete o que é apenas o comum e preponderante da base de dados coletada pela “Inteligência Artificial” generativa atual.
Que leitura maravilhosa e essencial a autora nos traz, com uma abertura de horizontes e clareza mental em meio à névoa embaçante dos usos e abusos ainda comuns da escrita atual dos chatbots.
Eu desenvolvo software.
Mais precisamente aplico inteligência artificial em processos e manutenção.
Entendo perfeitamente que a tecnologia irá mudar muita coisa. Realmente acredito que certos profissionais serão profundamente afetados nesse processo.
Jornalistas, advogados e outros que dependem da racionalização e da interpretação de uma quantidade massiva de dados vão precisar se reinventar para sobreviver.
Assim compreendo o temor que transpira em seu texto.
Porém, não acho que seja possível “parar o bonde da história”.
Agora, mesmo que seja proibido às big techs a utilização das IAs, desenvolvedores e matemáticos independentes e rebeldes continuarão seu desenvolvimento.
Elas vão chegar, preparem se.