Boletim Outras Palavras

Receba por email, diariamente, todas as publicações do site

Assinar

Loading...

Assinar

Loading...

Agradecemos!

Você já está inscrito e começará a receber os boletins em breve. Boa leitura!

Às Sereias chegarás em primeiro lugar, que todos
os homens enfeitiçam, que delas se aproximam.
Prossegue caminho, pondo nos ouvidos dos companheiros
cera doce

Mas se tu próprio quiseres ouvir o canto,
deixa que, na nau veloz, te amarrem as mãos e os pés
enquanto estás de pé contra o mastro; e que as cordas sejam
atadas ao mastro, para que deleitado oiças a voz das duas Sereias.

E se a eles ordenares que te libertem,
então que te amarrem com mais cordas ainda

Odisseia, CANTO XII (1)

Este texto integra o dossiê Inteligência Artificial da nova edição da revista Aurora — que aborda temas relacionados a arte, mídia e política. A revista é editada pelo Núcleo de Estudos em Arte, Mídia e Política (NEAMP) da PUC-SP. Você pode acessá-la aqui. Leia também o editorial.

A busca pelo conhecimento pode nos levar a situações de perigo, mas o exemplo homérico aponta o mastro da razão para o uso do saber como salvação.

Comenta-se da distinção fundamental entre os dois principais e mais simbólicos heróis dos grandes poemas que marcam fundamentos da cultura grega e ocidental: Aquiles e sua ira – na Ilíada; Odisseu e sua astúcia – na Odisseia. Sem derivar para as discussões historiográficas sobre a autoria dos poemas, nem as inúmeras abordagens literárias possíveis, recolho o exemplo do segundo.

Em um rápido resumo de interpretação do cântico XII da Odisseia, temos o herói, constituído marcadamente por suas limitações humanas, em seu longo e tormentoso retorno para casa, sendo orientado pela deusa Circe ao encontro com as Sereias. Ouvir o canto desses seres poderia ser comparado ao encanto das Musas épicas, divindades que nos inspiram. Mas, no caso desses seres mitológicos, o efeito enfeitiçante conduz à morte de desesperados que acabam por se atirar ao mar, onde encontramos “amontoadas ossadas de homens decompostos e suas peles marcescentes” (HOMERO, 2018). Odisseu, então, evita que seus companheiros caiam no encanto, tapando-lhes os ouvidos com cera. Mas, para si próprio, acolhe a artimanha que lhe dita a deusa, amarrando-se fortemente ao mastro do navio, para que possa ouvir o canto, mas escapar da fatalidade.

A astúcia de Odisseu nesse canto marca um dos principais momentos do poema; repleta de simbolismo, deu margem a inúmeras interpretações filosóficas, além da questão literária, dada a importância dos exemplos homéricos na formação do ethos da Grécia Clássica. Ouvir o relato de suas vitórias nas lutas e batalhas da guerra de Troia, era a promessa tentadora desse cântico, e o mais irresistível chamado que todo herói almejava; saber e rever ainda em vida os seus feitos de coragem iluminavam sua honra, sendo o valor maior para a constituição do seu caráter – o ethos da época homérica (MACINTYRE, 1976). Assim, o que as Sereias ofereciam era o retorno e acesso ao conhecimento do que constitua o maior valor para a vida, e o astuto guerreiro pretendia levar para sua viagem de volta à Ítaca esse saber.

Sabemos, pela continuidade do poema, que Odisseu sai exitoso em seu desejo de conhecimento. Sim, buscar o conhecimento é a grande representação que podemos fazer desse anseio em ouvir o relato de suas glórias no passado em Troia (PUCCI, 1997). Equivale a outros exemplos da relação do homem com a conquista do conhecimento, como no mito de Prometeu. Mas no caso deste último, será o Titã quem pagará com seu suplício eterno, por trazer aos homens o saber do fogo divino. O exemplo de Odisseu nos serve melhor nesse momento, pois credita à sua astúcia, uma capacidade humana, a garantia de preservar a sua vida ao mesmo tempo em que lhe permite alcançar uma glória única.

Assim, permanece muito mais presente na cultura e no senso comum o simbolismo e a utilização do ‘canto da sereia’, como algo ludibrioso que nos é oferecido, tendo arraigada a imagem de ser uma proposta enganosa, que tem grande chance de nos iludir. A saída é seguir o conselho da deusa: é preciso estar atento ao que podemos considerar aquilo que nos mantém seguros, capazes de ter acesso ao saber, sem arriscar tudo o mais que nos caracteriza – seja a nossa alma, o caráter, ou a própria vida. Esse mastro onde nos fixamos é a escolha astuciosa dos que se permitem permanecer sem os ouvidos tapados pela cera da indiferença e da ignorância. Esse mastro é a opção de quem está atento ao saber, mas sabe reconhecer os perigos desse encanto.

Sem necessidade de recuar na história, nosso tempo é repleto de tentativas de encanto pela promessa de conhecimentos que nos levarão à redenção absoluta. O domínio sobre a energia das partículas e forças nucleares e o controle da dinâmica do processo bioquímico que envolve os genes e as proteínas são dois grandes exemplos de cantos que têm esta potência. Anunciadas como tecnologias que salvariam a humanidade de suas carências e mapeariam a vida e suas mazelas, em ambos os casos, permanecemos de algum modo seguros ao mastro que ainda nos protege da ruína. O perigo de aniquilamento total, vez por outra, nos assalta no primeiro caso, mesmo após Hiroshima e Nagazaki (2); e a possibilidade de quimeras ou transformações irreversíveis das nossas características, que embalam alguns sonhos transhumanistas, continuam nos rondando, apesar das resoluções da Conferência de Asilomar (MUKHERJEE, 2016).

Podemos assim deixar demarcado o que desejamos distinguir como o conhecimento, pensado como possibilidade ontológica, como referência àquilo que é; do conhecimento, como as modalidades de apresentação da realidade, não só para distintos modelos de sensibilidade (GABRIEL, 2021), como também com distintas intenções de informação (FLORIDI, 2013). Essa é parte da discussão entre o aspecto ontológico e epistemológico da realidade (FERRARIS, 2016). E é uma demarcação de suma importância para o que vamos aqui passar a denominar como conhecimento, corresponde à primeira acepção e é o que temos buscado; para a segunda, que podemos determinar como o Canto, temos de nos cuidar.

O novo canto

A revolução anunciada da era da informação se estabelece de vez a partir da última década com o desenvolvimento de um conjunto de tecnologias de grande impacto na sociedade, sob a designação genérica de Inteligência Artificial (IA). As tecnologias de informação, no contato comum da vida do cidadão, participavam mais como mecanismos de suporte à gestão e emprego das tecnologias eletroeletrônicas; mas na virada da última década – a partir da expectativa do emprego ubíquo da IA, da total datificação da gramática social, da plataformização como organização do espaço das relações sociais – tornou-se claro o poder e controle sobre os dados o ponto central da questão. Paralelamente a isso, a velocidade do progresso específico da área computacional não vem dando espaço para o acompanhamento normativo legal assegurar o suficiente para a proteção individual, nem muito menos regular o impacto político das iniquidades que já se anunciam.

O ‘canto da sereia’, que a promessa do progresso tecnológico sempre nos oferece, aponta para o benefício que a humanidade desfrutará, com a redenção de seus problemas mundanos. No entanto, a história desde sempre, e mais claramente nos tempos modernos, tem nos demonstrado que a posse e o desenho do próprio desenvolvimento tecnológico estão vinculados ao controle e à manutenção das relações de poder. Assim, apesar do estrondoso avanço tecnológico do último século, tragicamente acentuamos mais a distribuição da riqueza produzida socialmente e mantemos grande parte da população mundial sem acesso a esses recursos, nem às condições mínimas para a dignidade humana. E nesse contexto, apresentam-se as capacidades da IA, como a tecnologia que nos ajudará a solucionar todas as crises mundiais. Reconhecendo que essa sempre foi a promessa de outras ondas tecnológicas, esperamos pelo acerto com algo que irá nos redimir de nós mesmos.

Desde já, então, devemos localizar aquilo que é da ordem do discurso e as várias interpretações que se confundem com o conhecimento do objeto tecnológico. De saída, o ‘canto da sereia’ se vislumbra aqui no frequente debate equivocado que aponta as polaridades de uma postura tecnofóbica ou tecnofílica relacionada à IA, mas também pretendendo um posicionamento neutro, em geral voltado às características puramente objetivas do mecanismo do objeto técnico. Observar como um instrumento isolado uma faca, uma máquina de costura ou um algoritmo para decisão terapêutica, sem a perspectiva de sua reprodução em um conjunto com o humano e suas relações sociais é o mesmo que estar com “cera nos ouvidos”.

Da mesma forma, entender a relação humana com o objeto técnico dentro da concepção evolutiva da epifilogenética (STIEGLER, 2014), não comporta o caráter de continuidade a que se pretende dar segurança a uma cadeia de novas descobertas. Nenhum olhar sobre a história da técnica ou da tecnologia nos obriga ou impõe esse determinismo de progresso sempre inevitável que invalide o temor de um fracasso civilizacional. Pelo contrário, a exploração acelerada pela industrialização massiva da mnemotécnica, em sua reprodução para o investimento capitalista, poderia estar chegando a um ponto sem retorno, onde a tecnificação psíquica nos conduziria a uma crise da individuação e da temporalidade, para um mundo sem futuro (STIEGLER, 2019).

Cibernética médica

O modelo do capitalismo financeiro propriamente chega à área da assistência à saúde com o avanço da desregulação neoliberal (SESTELO, 2018), justamente acompanhando o alvorecer da Era da Informação – ou quarta revolução industrial (FLORIDI, 2014). No entanto, já havia um solo propício à datificação das práticas assistenciais na área médica, desde a virada do último século. Depois do boom tecnológico de insumos diagnósticos e terapêuticos nas últimas décadas do século XX, as adaptações da propedêutica médica resultaram não apenas da formalização de protocolos para a melhor parametrização científica do uso dessas tecnologias – a Medicina Baseada em Evidência (MBE) –, como também da disseminação de métodos de controle dos custos que se agrupavam nas práticas de managed care (VIANNA SOBRINHO, 2022). Uma transformação que atingiu gradualmente a autonomia da decisão médica, reduzindo a participação de opiniões e intuições subjetivas e direcionando para a quantificação totalmente objetiva da abordagem sobre o processo de saúde/doença. Para essa concepção, a base epistemológica da medicina praticamente encaminhou-se rumo à visão mais naturalista, ligada ao modelo bioestatístico do filósofo Christopher Boorse (BOORSE, 2014). Uma concepção que dá possibilidade à precisão de limites e determinação numérica da ‘patologia’ – disease, sem as considerações subjetivas e imprecisas da ‘doença’ – illness (GAUDENZI, 2014). Tudo agora pode – ou terá – de ser lido, traduzido ou reduzido ao dado. Mesmo as questões ligadas aos processos mentais e psíquicos, o que fora até mesmo excluído do escopo deste autor. Estamos agora lidando com extração, processamento, fluxo e armazenamento de dados (VIANNA SOBRINHO, 2021).

E esse modelo, que chamamos de ‘medicina de dados’, já poderia ter sido batizado a partir de uma importante sentença do médico e pesquisador Eric Topol, em seu livro A destruição criativa da medicina (TOPOL, 2013). Mestre e mentor de gerações de cardiologistas no final do século passado, Topol propõe uma total transformação – de inspiração confessadamente schumpeteriana – das técnicas médicas com o seguinte vaticínio: “A medicina está prestes a passar por seu maior abalo na história […] pela primeira vez, podemos digitalizar humanos” (TOPOL, 2013, P.13). Uma sentença que claramente demarca a datificação da medicina, e anuncia o autor como um dos líderes e arautos da medicina de precisão, mantendo uma prolífica produção tanto acadêmica quanto de diretrizes para esse novo momento da prática médica com a chegada das tecnologias de IA (TOPOL, 2019a).

Já no começo da última década, este autor destacava as condições que possibilitariam essa mudança, como a imensa capacidade de armazenamento e processamento de dados, a universalização de conexão da população global através da internet e das redes sociais e a onipresença de smartphones conectados em velocidade de banda larga. Essa estrutura de coleta e armazenamento, circulação e processamentos de dados já suportaria um poderoso sistema para se implantar um modelo de leitura e identificação de cada indivíduo. A ‘digitalização do humano’ envolveria a leitura de dados funcionais objetivos a partir de biossensores remotos, o sequenciamento genético de cada indivíduo, o armazenamento de imagens diagnósticas e a troca permanente de informações formando o ecossistema sanitário. Mas o avanço das tecnologias de IA foram tão acelerados, principalmente após os modelos de aprendizado de máquina, deu um novo rumo às expectativas e fechamos a mesma década com a conclusão teórica de que, em breve, podemos não precisar de médicos (VIANNA SOBRINHO, 2021).

Ora, para lidar com dados, principalmente se são muitos, variados, simultâneos e complexos, a capacidade dos sistemas computacionais parece ser incomparável. As diversas tecnologias sob o rótulo de IA têm demonstrado uma potência antes inimaginável para o tratamento com grande velocidade de quantidades gigantescas de informação. Em poucos anos, já demonstraram a acurácia em sistemas de diagnósticos e caminham para a área do tratamento cognitivo dessa informação com os novos modelos de processamento de linguagem (Large Language Models – LLM). A expectativa verdadeiramente passa de uma posição da tecnologia como uma instrumentação, para a possibilidade da IA assumir o raciocínio clínico, a decisão e o controle. Nesse ponto em que chegamos atualmente (e essas mudanças agora surgem com periodicidade semanal…) a discussão gira em torno do limite de atuação dos programas de IA, seja como um assistente ao profissional (MOOR & TOPOL, 2023) ou mesmo indo além (LEE, GOLDBERG & KOHANE, 2023). Assim, é o momento de se perguntar: onde estará aí o canto da sereia?

É do conhecimento geral que o mercado da saúde movimenta uma fatia expressiva do PIB das principais economias do mundo. A tendência para a exploração desse mercado pelo dinâmica do colonialismo dos dados (COULDRY & MEJIAS, 2019) já atrai as grandes detentoras e formuladoras das tecnologias digitais – as denominadas Big-Techs – que rapidamente ingressaram nesse ramo para a oferta de serviços de assistência na área médica (THOMASON, 2021). Como as características do capitalismo financeiro se expandem ao extremo com a digitalização, para alguns, isso poderá resultar na derrocada da relação do capital com o trabalho, com possível dispensa de maior parte ou quase toda força humana (DYER-WITHEFORD, 2019). Temos então, um momento grandes expectativas e incertezas, pois a velocidade das novas descobertas e o volume de investimento vem, como de costume, amparado no forte apelo de se estar oferecendo sempre ‘o melhor da medicina’ – um canto irresistível (VIANNA SOBRINHO, 2013).

Enquanto as forças do encantamento nos rondam de forma cada vez mais inescapável, ainda é possível pensar no que podemos construir na exploração desse conhecimento. Notadamente, mesmo antes do acelerado uso da web como espaço social ocasionado pela maior pandemia dessa geração, várias entidades governamentais e civis, universidades e organizações, já se ocupavam da fundamentação ética para avaliar os conflitos resultantes do emprego da IA e os caminhos para a sua regulação, dado o poder transformador dessas tecnologias. Chegando ao consenso de que essas transformações podem se dar em várias direções nas relações de poder, praticamente constatamos ser uma tendência mundial a institucionalização da ética em estruturas oficiais em vários níveis, tanto de governança quanto operacionais.

A ética já foi requisitada dos bancos da academia para a vida prática, no intuito de resolver os conflitos da tecnologia com as ciências médicas nas últimas décadas do século XX, período de nascimento da bioética. Em artigo desta época, o filósofo Stephen Toulmin expõe esse fato defendendo que “a medicina salvou a vida da ética” (TOULMIN, 1982, P.750). Destacamos que a reflexão filosófica atualmente se torna novamente necessária, porém mais extensamente agora, com o auxílio da epistemologia e da ontologia para a fundamentação das condutas éticas. E o que deveríamos estar mais atentos é justamente aos limites que nos separam de qualquer outra existência. As relações entre o humano e a tecnologia nunca foram a ponto tão extremos quanto agora, onde aquilo que propriamente nos caracteriza, a capacidade cognitiva, é apresentada em objetos técnicos que “se tornam independentes porque são tão perigosamente semelhantes a nós” (MALABOU, 2019).

Podemos considerar o conceito contemporâneo de cibernética recuperado por Wiener como o poder de controle pela máquina através dos processos informacionais (WIENER, 1970). Não vai muito distante do pensamento grego, onde a cibernética como arte da navegação e do governo dava o tom de uma práxis que se desenvolvia na vida prática, com as nuances e variações dos casos particulares. Em uma realidade “carente de exatidão, não há arte ou preceito que abranja a todos, mas as próprias pessoas atuantes devem considerar, em cada caso, o que é mais apropriado à ocasião, como sucede na arte da navegação e na medicina” (ARISTÓTELES, 1987. P.28). Nessa modulação que o humano sofre na sua interação com seus objetos técnicos, resta esperar e observar como encontraremos em breve as capacidades humanas, moldadas pela leitura digital do mundo.

Seguindo o exemplo de Odisseu, é preciso seguir a estratégia de amarras e cuidado permanente e definir em que mastro nos fixaremos para resistir ao engodo do ‘canto’, podendo assim explorar o conhecimento, que é aquilo o que realmente desejamos – as potências libertadoras dessa tecnologia.

Referências

ARISTÓTELES. Ética a Nicômaco. Poética. São Paulo. Nova Cultural, 1987.

BOORSE, Christopher. A second rebuttal on health. J Med Philosophy, v. 39, n. 6, p.683-724, 2014.

COULDRY, Nick; MEJIAS, Ulisses Ali. The costs of connection. How data is colonizing human life and appropriating it for capitalism. Stanford. California, 2019.

DYER-WITHEFORD, Nick; KJOSEN, Atle Mikkola; STEINHOFF, James. Inhuman Power – Artificial Intelligence and the Future of Capitalism. Londres. Pluto Press, 2019.

FERRARIS, Maurizio; RAMÍREZ, Mario Teodoro (coord). El nuevo realismo : la filosofía del siglo XXI. México. SigloXXI editores, 2016.

FLORIDI, Luciano. The Ethics of Information. Oxford. Oxford University Press, 2013.

______. The 4th Revolution. How the infosphere is reshaping human reality. Oxford. Oxford University Press, 2014.

GABRIEL, Markus. O sentido do pensar: a filosofia desafia a inteligência artificial. Petrópolis. Vozes, 2021.

GAUDENZI, Paula. A tensão naturalismo/normativismo no campo da definição da doença. Rev. Latinoam. Psicopat. Fund. São Paulo, 17(4), 911-924, dez, 2014.

HOMERO. Odisseia. Trad. Frederico Lourenço. Lisboa. Quetzal, 2018.

LEE, Peter; GOLDBERG, Carey; KOHANE, Isaac. The AI Revolution in Medicine: GPT-4 and Beyond. New York. Pearson, 2023.

MACINTYRE, Alasdair. História de la ética. Barcelona. Paidós, 1976.

MALABOU, Catherine. Morphing intelligence. From IQ measurement to artificial brains. New York. Columbia University Press, 2019.

MOOR, Michael; TOPOL, Eric (cols). Foundation models for generalist medical artificial intelligence. Nature 616, 259–265. 2023.

MUKHERJEE, Siddhartha. O gene. Uma história íntima. São Paulo. Schwartcz, 2016.

PUCCI, Pietro. The Song of the Sirens. Essays on Homer. Lanham. Rowman & Littlefield, 1997.

SESTELO, José. Planos de Saúde e dominância financeira. Salvador. EDUFBA, 2018.

STIEGLER, Bernard.Symbolic Misery – Volume 1 -The Hyper-industrial Epoch. Cambridge. Polity Press, 2014

______. The age of disruption : technology and madness in computational capitalismo. Cambridge. Polity Press, 2019

THOMASON, Jane. Big tech, big data and the new world of digital health. Global Health Journal, Vol. 5, Issue 4, Pag. 165-168, 2021.

TOPOL, Eric. Creative destruction of medicine: how the digital revolution will create better health care. New York. Basic Books, 2013.

______. The Topol Review: preparing the healthcare workforce to deliver the digital future. Feb 2019. Disponível em: <https://topol.hee.nhs.uk/wp-content/uploads/HEE-TopolReview-2019.pdf>. Acesso em: 18 jun. 2019a.

TOPOL, Eric. High-performance medicine: the convergence of human and artificial intelligence. Nature Medicine. Vol 44 n25. p.44-56. Jan 2019b.

TOULMIN, Stephen. How Medicine Saved the Life of Ethics. Perspectives in Biology and Medicine. Vol. 25; n. 4; p. 736-750. 1982.

VIANNA SOBRINHO, Luiz. Medicina financeira. A ética estilhaçada. Rio de Janeiro. Garamond, 2013.

______. O ocaso da clínica. A medicina de dados. São Paulo. Zagodoni, 2021.

______. Eficiência e valor em saúde: ensaio crítico. in Ocké-Reis, CO (org.) SUS: avaliação da eficiência do gasto público em saúde. Brasília. Ipea, CONASS, OPAS, 2022.

WIENER, Norbert. Cibernética e sociedade. O uso humano de seres humanos. São Paulo. Cultrix, 1970

Notas:

(1) HOMERO. Odisseia. Trad. Frederico Lourenço. Lisboa. Quetzal, 2018

(2)No momento da confecção deste artigo, o uso de armas nucleares é um dos temas das mídias que cobrem a guerra entre Rússia e Ucrânia/OTAN.