Boletim Outras Palavras

Receba por email, diariamente, todas as publicações do site

Assinar

Loading...

Assinar

Loading...

Agradecemos!

Você já está inscrito e começará a receber os boletins em breve. Boa leitura!

Este texto integra o dossiê Inteligência Artificial da nova edição da revista Aurora — que aborda temas relacionados a arte, mídia e política. A revista é editada pelo Núcleo de Estudos em Arte, Mídia e Política (NEAMP) da PUC-SP. Você pode acessá-la aqui. Leia também o editorial.

Introdução

Embora as discussões sobre inteligência artificial — sua possibilidade de existência, suas eventuais utilidades, os dilemas éticos envolvidos em seu uso, seus impactos na sociedade e na economia etc – já viessem se intensificando há alguns anos, foi a partir da liberação do acesso público ao ChatGPT que o assunto saiu das matérias jornalísticas especulativas para ganhar os bate-papos cotidianos do cidadão comum. Uma chave para entender isso possivelmente passa pelo fato de o ChatGPT ser uma inteligência artificial generativa, ou seja, ela se utiliza de padrões identificados de textos antigos para gerar textos novos, simulando a capacidade de criação textual humana. Além disso, o ChatGPT sempre oferece respostas, mesmo que falsas. Ainda que o usuário seja avisado que não deve confiar naquelas informações, pois a ferramenta se atém à produção de formas de expressão – trata-se de um modelo de linguagem — e não de informações de confiança, o fato de as respostas serem tão eloquentes, pois são expressas de modo formalmente muito correto, acaba produzindo no usuário uma sensação de confiança.

Ao colocar nas mãos do público geral, pela primeira vez, uma ferramenta capaz de emular diferentes padrões de conversação e produção textual humanos, além de oferecer respostas a questões complexas com a confiança de alguém que tem boas respostas, ainda que falsas, a openAI, responsável pelo ChatGPT, tocou a opinião pública ao se aproximar do imaginário social sobre uma inteligência artificial forte. Nas discussões mais técnicas sobre o assunto, feitas no campo da computação, tem sido estabelecida uma divisão entre inteligência artificial (IA) forte e IA fraca (Searle, 1987). A primeira, a IA forte, se aproximaria daquilo que vemos na ficção científica, a máquina que ganha autonomia e é capaz de tomar decisões por si só, para as mais variadas situações. É a imagem que povoa as imaginações quando se fala em IA, que fascina e desperta temores. É o HAL 9000, personagem de 2001, ou a Skynet de O exterminador do futuro. Espelha também as ambições de download da mente dos Singularistas (EVANGELISTA, 2011) (2). “O computador apropriadamente programado com as corretas entradas e saídas literalmente tem uma mente como eu e você temos” (3), escreve Searle (1987, p.210), em artigo em que justamente refuta a ideia de IA forte, no qual mostra como a simulação de entendimento de uma situação simbólica específica pelas máquinas não deve ser confundida com a compreensão humana dessa mesma situação, que passa pela semântica.

Já a IA fraca é aquela que realiza funções mais limitadas. O sistema toma decisões, mas estas têm parâmetros já definidos, predeterminados. É uma visão muito menos glamourosa e mais tangível da mesma tecnologia, mas também menos ameaçadora, que aceitamos mais facilmente como auxiliar em nosso cotidiano. Não deixa de ter o charme sedutor da IA mas executa funções aparentemente mais inofensivas, como as recomendações de compra da Amazon ou a escolha de postagem que o algoritmo do Facebook faz determinando o que vai aparecer na linha do tempo dos usuários.

Já o ChatGPT e outros grandes modelos de linguagem, fazem uma simulação de uso consciente da linguagem pela replicação de padrões de comunicação incorporados. Ainda que tecnicamente não sejam uma IA forte, os LLMs terminam por causar essa impressão, um efeito que, por um lado, amedronta em suas possíveis consequências, mas, ao mesmo tempo, fascina a imaginação e desperta investimentos. A IA fraca, que parece forte, imita tão bem os resultados produzidos pelo cérebro consciente humano que com ele se confunde e desperta cobiça esperançosa. O lançamento ao público do ChatGPT pode significar para a Microsoft, empresa a qual o serviço é ligado, uma subida de 300 milhões de dólares no valor de mercado da empresa, com as ações saltando 40% (BOVE, 2023)

Para além do cálculo dito racional dos mercados, pode-se afirmar que os investimentos são, também, interconectados e povoados de imaginações sobre o futuro (e lucratividade) das novas tecnologias. Nesse sentido, os escritos do antropólogo Eric Wolf (1999), em especial sobre o conceito de ideologia, podem nos ser particularmente úteis para entender como cultura e poder se relacionam no sentido de desempenharem um papel relevante nos caminhos trilhados pelo desenvolvimento tecnológico. Não se trata aqui de assumir uma posição idealista, que ignora a luta de classes ou os limites estabelecidos pela materialidade no desenvolvimento tecnológico. Pelo contrário, é a partir de uma posição marxista que Wolf busca entender como as ideias e as disputas em torno da ideologia funcionam no sentido de organizar o trabalho social. O arranjo produtivo das sociedades, a disputa em torno de como elas definem o emprego de recursos naturais, a formação dos trabalhadores, o local de desenvolvimento de quais tecnologias etc, são questões social e culturalmente determinadas, assim como quais linhas de desenvolvimento tecnológico merecerão maior atenção.

O desenvolvimento das tecnologias de inteligência artificial, desde as disputas em torno da própria definição e utilidade do termo, configura uma complexa intersecção de dimensões materiais e simbólicas. A dimensão material é composta pelos hardwares, redes e softwares que, no contexto do que tem sido chamado de capitalismo de vigilância (ZUBOFF, 2021) e/ou colonialismo digital (KWET, 2019), preveem e modulam comportamentos, enquanto que a dimensão simbólica está intrinsecamente ligada a disputas ideológicas. Esta última não apenas orienta as fantasias, esperanças e ficções que circundam a IA, mas também desempenha um papel crucial na direção dos investimentos. Estes investimentos, em sua dimensão concreta, se traduzem em horas de trabalho humano dedicadas ao desenvolvimento de softwares, equipamentos e redes.

O objetivo deste artigo é empregar conceitos derivados de diversas tradições teóricas para enfatizar a inextricável interrelação entre as ideias que circundam a IA e seus efeitos tangíveis na construção material e na organização social do mundo contemporâneo. A IA não é apenas uma discussão simbólica que povoa a imaginação coletiva dos povos sob a influência do Ocidente – embora, como dito, essas elaborações sejam importantes para seu desenvolvimento — mas é também uma força ativa que produz efeitos no real, na ecologia e na organização das sociedades.

Para isso, partimos da contribuição teórica e etnográfica de Eric Wolf, em especial sua discussão sobre ideias, ideologia e poder, para delimitar duas, das quatro modalidades de poder que Wolf discute, e que podem ser interessantes para circunscrever mais precisamente como a inteligência artificial exerce poder de maneira complexa. Nessa tarefa, mobilizamos também conceitos como dadaísmo, trabalhado por van Djick (2014); poder instrumentário, como trabalhado por Zuboff (2019); sociedade disciplinar e sociedade de controle, como trabalhados por Foucault (2014) e Deleuze (1992), estes interpretados particularmente por Hui (2015) em sua discussão sobre molde e modulação. Como dito acima, entendemos o contexto econômico e político a partir da discussão de capitalismo de vigilância, por Zuboff; e colonialismo digital, por Kwet. Ou seja, um momento específico na história do capitalismo no qual os modelos de negócio baseados na coleta e extração de dados ganham protagonismo, sem que relações políticas de dominação entre países e regiões deixem de desempenhar papel relevante, dominação essa exercida agora também por meio do controle das redes, de hardwares e softwares. Metodologicamente, procuramos trabalhar com os conceitos da mesma maneira a qual Ribeiro e Feldman-Bianco (2003) interpretam que Wolf o faz: como se fossem kits de ferramentas, por meio dos quais revisamos periodicamente nosso estoque de ideias, funcionando “como procedimentos de descoberta que expõem e, ao mesmo tempo, colocam em questão os modos pelos quais conceituamos nossas unidades de investigação” (p.271). Isso significa também validar a etnografia como método de pesquisa aplicável à inteligência artificial, vista também como um conjunto de práticas simbólicas e materiais em diálogo com as culturas.

Quatro dimensões de poder para Eric Wolf

Eric Wolf é um autor que nunca se debruçou propriamente sobre desenvolvimento tecnológico ou Inteligência Artificial. O antropólogo é mais conhecido por seus estudos sobre políticas do campesinato, com foco na sociedade agrária, tendo suas pesquisas reorientado a análise antropológica do conceito de sociedade folk (RIBEIRO; FELDMAN-BIANCO, 2003). Mas, em especial nos últimos anos de sua carreira, ele desenvolveu uma abordagem crítica da antropologia, destacando a necessidade de entender a relação entre cultura, poder, ideias e ideologia. Esta última é vista como “um elemento que se entrelaça com o poder em torno das relações sociais fundamentais para a administração do controle social do trabalho” (RIBEIRO; FELDMAN-BIANCO, 2003, p.274). Ideias e ideologias são separadas, sendo as ideologias um esquema unificado de ideias que referendam ou manifestam poder, enquanto as ideias, como conceito, serviriam para cobrir uma faixa inteira de constructos mentais, os quais são tornados manifestos nas representações públicas (ou seja, possuem materialidade, dado que são expressas) (WOLF, 1999; EVANGELISTA, 2010). Nesse sentido, a “cultura funcionaria como matéria-prima a partir da qual as ideologias são construídas e ganham influência”, com a ideologia selecionando do plano mais geral da cultura aquilo que é mais apropriado ao que se busca afirmar ou negar (RIBEIRO; FELDMAN-BIANCO, 2003). Por isso é importante, para nossos objetivos aqui, apontar a Inteligência Artificial não apenas como uma tecnologia, em seus efeitos práticos, mas como parte da cultura e entremeada a uma disputa ideológica que procuraremos elucidar. Algoritmos e as tecnologias informacionais são legitimados socialmente, o que tem efeitos na planificação e financiamento. As utopias e distopias em torno da Inteligência Artificial são parte de seu poder concreto.

O poder, para Eric Wolf, aparece não como concentrado em um pacote, não como “uma força unitária e independente, encarnada em imagens como a de um monstro gigante como Leviatã ou Behemoth, ou uma máquina que cresce em capacidade e ferocidade pelo acúmulo e geração de mais poder” (WOLF, 1999, p.4), mas como um aspecto de todas as relações sociais. E aqui, podemos acrescentar, relações entre humanos, entre humanos e coisas e entre humanos intermediadas por coisas.

Wolf fala em quatro modalidades de poder, alertando que o poder funciona de maneira diferente em relações interpessoais, em arenas institucionais e no nível de sociedades inteiras. E essas quatro modalidades que define vão se sobrepondo, em níveis que vão do individual ao coletivo. A primeira modalidade, a qual classifica como Nietzschiana, seria o poder da potência, uma capacidade que habita o indivíduo. Essa análise repousaria atenção em porque alguém entra num jogo de poder, mas sem se qualificar esse jogo. A segunda modalidade, que ele chama de a Weberiana, seria manifestada em interações e transações entre pessoas e referindo-se à habilidade de um eu em impor sua vontade na ação social sobre um outro, sem especificar a natureza da arena em que essas ações se dão. Na terceira, que ele chama de a tática ou organizacional, observa-se o contexto em que as pessoas exibem suas capacidades e interagem com as outras, chamando a nossa atenção para as instrumentalidades – essa palavra vai ser importante aqui – pelas quais indivíduos ou grupos direcionam ou circunscrevem as ações de outros em certas configurações. E a quarta modalidade, para a qual ele dedica mais atenção, é o poder estrutural, em profunda relação com seu conceito de ideologia e fundamental na mobilização de trabalho social.

O poder estrutural se manifestaria não apenas nas relações que operam dentro de configurações e domínios, mas também produziria e orquestraria as configurações por si mesmo, especificando a direção e a “distribuição do fluxo de energia”. É central nas preocupações de Wolf os modos como as sociedades se organizam economicamente, quer dizer, como elas desenvolvem formas para usar seus recursos naturais e estabelecer trocas entre si. Mas também, filiado a preocupações típicas do pensamento marxista, Wolf dedica muita atenção a como as sociedades organizam o seu trabalho, ou seja, como socialmente estabelecem algumas atividades às quais vão se dedicar cotidiana e repetidamente. Essa é a chave da expressão “ distribuição de fluxo de energia” em sua conceituação de poder estrutural.

A distinção entre poder estrutural e organizacional (a terceira modalidade) na concepção de Wolf é chave para os objetivos deste texto. É a partir dela que poderemos falar sobre um poder que incide sobre o mundo como produto direto de disputas ideológicas com efeitos sobre a organização da produção humana (tanto aquela que é reputada como intelectual como aquela que se dá pela produção de bens e máquinas), e um poder em diâmetro imediatamente menor, no qual alguns controlam as relações sociais estabelecidas entre outros em campos determinados. A palavra controle precisa ser entendida aqui em seu sentido derivado do campo da cibernética, ou seja, não necessariamente uma ação de imposição direta da vontade, mas um acompanhamento informacional constante sobre um alvo, acompanhamento que é essencial para ações de influência, frequentemente também informacionais.

Nesse sentido, enquanto as disputas em torno do poder estrutural conversam bem com as perspectivas ficcionais ou científicas em torno de uma IA forte, as IAs fracas, em seus efeitos concretos e já reais, são fundamentais para o poder organizacional no contexto do capitalismo de vigilância.

Poder estrutural e o dadoísmo

Em texto em que explora a intersecção de três fenômenos, dadificação (MAYER-SCHOENBERGER; CUKIER, 2013), dadoísmo (4) e vigilância de dados, Jose van Djick (2014), nos dá pistas que podem informar uma discussão mais ampla sobre as disputas ideológicas que atravessam o capitalismo de base informacional do século XXI. Enquanto o termo dadificação serve para qualificar um “novo paradigma na ciência e na sociedade”, que opera pela “transformação da ação social em dados quantificados online, que por sua vez permitem o rastreamento em tempo real e as análises preditivas” (5) (p. 198), podemos ler o dadoísmo como sua contrapartida ideológica. A autora fala em uma crença generalizada na quantificação, incluindo a percepção de sua objetividade, somada a uma confiança no potencial do rastreamento de todos os tipos de comportamento humano e social através de tecnologias informacionais online. Ela destaca também a confiança nos agentes institucionais em torno dessas operações, tanto nos que coletam, interpretam e compartilham dados como aqueles que deveriam zelar para que essas atividades tivessem uso socialmente justo. Destaco aqui que se trata de um processo interrelacionado, em que as ações na produção, extração e análise dos dados não podem acontecer desconectadas de uma ideologia que a suporta, permite e incentiva.

Há um conjunto bastante diverso de autores que vem discutindo mais amplamente os fenômenos da dadificação e do dadoísmo, em especial em aspectos relacionados à falta de confiabilidade das ferramentas e dos vieses relacionados à programação e aos dados utilizados nas aplicações (O’NEIL, 2016; BENJAMIN, 2019). Esses autores rebatem concepções correntes de que softwares são meras ferramentas, argumentando que os mesmos são criações humanas, carregando intrinsecamente os vieses de seus criadores. Os algoritmos são moldados por decisões humanas e refletem os valores, crenças e preconceitos de seus desenvolvedores. Além disso, sistemas para decisão automatizada frequentemente se utilizam de bases de dados contendo decisões historicamente dadas, ou seja, tendem a repetir padrões de preconceito e injustiça anteriormente praticados.

Dois outros autores, porém, ajudam a qualificar o quanto o que van Djick entende por dadoísmo é um fenômeno complexo, que interrelaciona transformações científicas e culturais, e não um modismo comportamental de curta duração. Kitchin (2014) discute as implicações epistemológicas do Big Data e das análises de dados, em especial para o campo das ciências sociais. Não se trata simplesmente de uma virada quantitativa, o que não seria nada novo, mas de um novo tipo de abordagem científica que praticamente se exime de formular perguntas de pesquisa, ficando refém de correlações muitas vezes espúrias feitas por algoritmos encarregados de lidar com grandes massas de dados de todos os tipos. Nesse sentido, as abordagens Big Data não trabalham com amostragens, como a pesquisa quantitativa tradicional, mas buscam capturar populações inteiras (n = todos), com escopo bastante detalhado (n= tudo que puder ser dadificado), na prática se isentando mesmo de fazer seleções amostrais que em si conteriam questões de pesquisa. O efeito que se produz é de uma pesquisa que parece ser espelho fidedigno do real, tornando opaco o fato de que os dados não são naturais ou absolutos, mas construídos no contexto de sistemas criados para capturar certos tipos de dados. Além disso, fazer sentido dos dados é sempre algo derivado de um enquadramento – os dados são examinados através de uma lente particular que influencia como eles são interpretados. Mesmo que o processo seja automatizado, os algoritmos usados para processar os dados são imbuidos de valores particulares e contextualizados dentro de uma abordagem científica específica.

Ao discutir o conceito, o qual elabora, de cultura da vigilância, David Lyon (2018; 2019) opera com um sentido um pouco mais especificado de cultura do que o de Wolf (1999), embora não contraditório a ele. Enquanto a cultura, em Wolf, se coloca mais como uma espécie de repositório a partir do qual a ideação e as disputas ideológicas operam, Lyon se concentra em distinguir analiticamente — embora afirmando o cruzamento — imaginários e práticas envolvidas na cultura da vigilância (6). Lyon argumenta que conceitos como o de Estado de Vigilância e de Sociedade da Vigilância, muito usados nos últimos anos, não são mais suficientes, tanto para dar conta tanto de um aparato que que vai muito além do Estado, como para dar conta de um arranjo que funciona não apenas tendo cidadãos, consumidores, trabalhadores etc como alvos, mas como partícipes da vigilância. Ao discutir a cultura da vigilância, Lyon busca demonstrar que nesse arranjo complexo, a complacência, adequação, negociação, participação (responsiva ou iniciatória) e a resistência precisam ser levadas em conta. Aspecto chave da cultura da vigilância seria o imperativo de compartilhar, este diretamente ligado a práticas de exposição de si e de afirmação da identidade dos sujeitos nas redes sociais. Para ele, esse imperativo, que se materializa como uma prática, se combina ao dadoísmo como discutido por van Djick (2014), o qual está relacionado a imaginários nos quais é possível confiar nas instituições públicas e privadas responsáveis pelo zelo à privacidade dos usuários online. De fato, o escândalo derivado das revelações de Edward Snowden, em 2013, mudou o comportamento de agentes públicos e usuários de internet. Ainda que a quantificação e a crença nas verdades do Big Data permaneçam, ainda que a exibição de si continue a ser um meio para ser valorizado socialmente, alguns setores tem conseguido colocar em discussão tópicos como soberania digital e proteção de dados.

Ainda que analiticamente ela possa ser feita, a distinção entre imaginários e práticas, como feita por Lyon, não nos parece tão útil aqui. O que nos parece relevante é frisar que dadoísmo, cultura da vigilância e a virada epistemológica do Big Data, assim como as discussões em torno da viabilidade, perigos e utilidade de uma IA forte, são elementos de uma disputa ideológica em torno de um modelo de sociedade informacional (ou civilização informacional, nos termos de Zuboff, 2021). Desse modelo de sociedade, por sua vez, deriva uma divisão social do trabalho e uma previsão e planejamento de uso dos recursos naturais de modo a viabilizar essa sociedade. E, como discutiremos a seguir, uma configuração típica de poder organizacional.

Poder instrumentário e poder organizacional

Até aqui, procuramos discutir a mais ampla das modalidades de poder segundo Wolf, o poder estrutural, e as disputas em torno dele, que se dão pela construção de ideologias. Quero me concentrar agora no poder organizacional, aquele em que alguns controlam as relações sociais estabelecidas com outros em contextos determinados.

Há algo de recursivo na relação entre poder estrutural e organizacional. Pois, enquanto o primeiro projeta, referenda e sustenta as estruturas do segundo, é no segundo que o poder é diretamente exercido, constrangendo ou facilitando as relações sociais em contexto que o primeiro cria e cujo domínio é pelo poder estrutural sustentado. É onde a prática, de que fala Lyon, acontece, nos limites e com os constrangimentos e nudges (GANDY; NEMORIN, 2018) dos domínios validados e sustentados pelo poder estrutural. Alguns exemplos podem ajudar a tornar menos abstrata a relação que queremos apontar. Há uma considerável controvérsia, que data da popularização das redes sociais online, sobre o quanto as plataformas de conversação pública produziriam os chamados filtro-bolha (PARISER, 2011). Ou seja, ao conectar sujeitos com ideias e interesses semelhantes, seria produzido uma espécie de filtro do real, em que as concordâncias reverberam como numa câmera de eco. Por outro lado, pesquisas mais recentes (TÖRNBERG, 2022) tem apontado o contrário, que é justamente a fricção de opiniões que causa a chamada polarização política, dado que os sujeitos acabam se isolando em suas posições contrastantes como afirmação de suas identidades online. Na controvérsia, que trazemos como exemplo, se destaca o papel das plataformas, como moduladora das relações entre os indivíduos em rede. O que produz um melhor engajamento, aquele que mais interessa aos mecanismos de coleta e extração de dados e atenção, a bolha, cujas opiniões se auto-validam, ou o atrito que desperta paixões? Qualquer que seja a resposta quem controla essa relação são as plataformas.

Ao discutir o poder estrutural, uma das relações que Wolf faz é com o conceito de “governance” (Wolf, 1999, p.5) para Foucault, a ação sobre a ação. No caso, a preocupação de Wolf é entender “os caminhos em que relações que comandam a economia e a política, e aquelas que dão forma à ideação, interagem para tornar o mundo compreensível e gerenciável” (WOLF, 1999, p.5). A referência a Foucault nos ajuda porque a discussão sobre sociedade disciplinar e sociedade de controle pode servir de caminho para entendermos como o poder estrutural produz contextos em que o poder organizacional será exercido.

Quando Deleuze (1992) afirma um momento de passagem da sociedade disciplinar como discutida por Foucault — com suas contíguas instituições fechadas de introjeção de códigos sociais e modos determinados de subjetivação, para a sociedade de controle com, não apenas com uma transição dos espaços confinados, mas também com maior espaço para os indivíduos, como se eles tivessem espaço para criar — a passagem é de um modelo de moldagem para um de modulação (HUI, 2015). Na moldagem, as instituições trabalham sobre indivíduos, de modo a darem uma determinada forma a eles, que permitirá um encaixe que se busca perfeito entre a escola, o quartel, o trabalho e assim por diante. Na modulação, a liberdade no espaço “aberto” parecerá total, com o exercício da atividade criativa imperceptivelmente modulada de modo a que essa criação, ação ou comportamento produza o que dela se busca extrair. Para que exista a transição entre a sociedade disciplinar para a sociedade de controle, todo um conjunto de saberes, técnicas e tecnologias terão que ser desenvolvidos e/ou obsolescidos com legitimidade social.

Assim, ao discutir a genealogia do poder instrumentário, o qual entendemos aqui como um modo específico de exercício do poder organizacional no capitalismo de vigilância, Zuboff (2021) vai discorrer sobre o behaviorismo radical, cujo expoente maior e pioneiro é B. F. Skinner. O argumento de Zuboff é que o behaviorismo radical, em seus conceitos mas também em suas utopias, como as expressas no livro Walden 2, de Skinner, forneceu as bases teóricas que fundamentam a ideia de que, para que um determinado alvo apresente um comportamento desejado, o importante não é operar sobre seu “interior” mas sobre o contexto em que a ação será desenvolvida. Trata-se de uma mudança de método que, podemos adicionar, está em sintonia também com outro campo científico importantíssimo para o Vale do Silício, para o capitalismo de vigilância e para as bases técnicas da sociedade de controle: a cibernética.

A cibernética é um ramo interdisciplinar amplo, que congrega influências da matemática, física, biologia, engenharia, medicina, psicologia e antropologia. Suas ideias canônicas foram discutidas entre as décadas de 1940 e 1950, sendo o matemático Norbert Wiener uma das grandes referências. Em 1948, Wiener publicou num livro seminal que leva praticamente o mesmo nome que a definição do termo: Cibernética ou controle e comunicação no animal e na máquina (1970). Igualmente importante para a cibernética, enquanto movimento científico-cultural, são as Conferências Macy, das quais Wiener participou e no contexto das quais aconteceram as Conferências em Cibernética (1946-1953), que reuniram intelectuais e cientistas influentes, cuja contribuição foi decisiva para o espalhamento dos conceitos ali discutidos em direção às disciplinas tradicionais.

A cibernética, como delineada por Norbert Wiener, propõe uma visão dos humanos como seres informacionais, definidos não por um interior intrínseco, mas por sua performance comunicativa e interações com o mundo exterior (BRETON, 1994). Esta perspectiva desloca a noção tradicional de humanidade, que se baseia em uma essência interna ou inconsciente, para uma compreensão de humanos como processadores de informação, semelhantes em função às máquinas. A cibernética não apenas coloca humanos e máquinas em um mesmo plano funcional, mas também propõe uma igualdade fundamental entre todos os seres humanos, independentemente de suas diferenças físicas (EVANGELISTA, 2018)

Zuboff não cita a cibernética, detém-se apenas no exame do behaviorismo radical. Porém, a influência mútua entre os campos é patente. Ressalte-se ainda que não só os conceitos científicos, mas também as utopias cibernéticas — como a possibilidade de upload da mente, que é sugerida em Cibernética e sociedade: o uso humano de seres humanos (WIENER, 1988) – se mostram presentes até hoje nos futuristas influentes no Vale do Silício (CHIODI, 2017). Essa transformação na compreensão sobre o humano, em que a cibernética se insere, e a qual o behaviorismo radical trata como “tecnologia do comportamento”, Zuboff trata também como uma passagem, mas entre o que chama de poder totalitário, como teorizado principalmente por Hannah Arendt, para o poder instrumentário.

“…precisamos compreender a lógica interna específica de uma invocação de poder típica do século XXI para a qual o passado não oferece qualquer referência adequada. O totalitarismo voltava-se para a reconstrução da espécie humana através dos mecanismos duais de genocídio e de ‘engenharia da alma’. O poder instrumentário, como veremos, nos leva a uma direção muitíssimo diferente. Os capitalistas de vigilância não têm interesse no assassinato ou na reforma das nossas almas. Embora seus objetivos sejam de muitas maneiras tão ambiciosos quanto os dos líderes totalitários, são absolutamente distintos. (Zuboff, 2021, p. 393)”

O poder instrumentário é tipicamente exercido no contexto do capitalismo de vigilância e fundamentado na ciência behaviorista. Como ela afirma, o totalitarismo buscava alcançar seus objetivos fazendo modificações no interior dos sujeitos, seja por processos às vezes até violentos de mudança de mentalidade (manipulação), seja pela importância, num contexto democrático, de uma educação que forme cidadãos, uma educação que vá além dos conteúdos, dando suporte a sujeitos críticos e solidários que vão ser fundamentais na sustentação da democracia. Um dos exemplos que Zuboff cita, para apontar a diferença entre as tentativas de influência exercidas no totalitarismo, é o melancólico final do livro 1984 (ORWELL, 2021) quando Winston Smith finalmente passa a amar o Grande Irmão. O sujeito “reformado” é a imagem do poder totalitário, por isso 1984 não seria uma boa representação da vigilância contemporânea e do poder no século XXI, em que a sujeição não passa pela moldagem, mas pelo controle do ambiente e da amplificação ou abafamento das expressões. Para o poder instrumentário, o interior ou consciência dos indivíduos, ainda que exista, é irrelevante. É um poder que opera com base na produção de estímulos, que vão desencadear determinadas respostas esperadas, assim como um cachorro treinado vai correr até o pote de comida depois de ouvir um sino. O poder instrumentário opera nessa estratégia de controle e condução, de sujeitos e grupos populacionais, que não passa pela formação de um sujeito para agir de maneira A ou B. Ou seja, se trata de um poder que se operacionaliza organizando contextos, conduzindo comportamentos e limitando possibilidades.

E o Sul Global?

O que delineamos aqui, até o momento, foram dois campos distintos, ainda que inter-relacionados, de exercício do poder. O poder estrutural, como apontado por Wolf, se refere a uma esfera ampliada, em que ideias são amarradas em esquemas unificados de modo a viabilizar poder. Ou seja, está ligado a uma capacidade simbólica, de comunicação e convencimento de certos grupos, em formular, se apropriar ou transformar ideias de modo a favorecerem sua capacidade de executarem projetos de transformação material do mundo. O domínio desse poder estrutural significa, por consequência, a capacidade de construir ou controlar espaços de interação onde a segunda modalidade de poder, o poder organizacional, será exercido. Estamos entendendo o poder organizacional, no contexto do capitalismo de vigilância, tipicamente como o que Zuboff chama de poder instrumentário, e em uma relação muito próxima ao que autores como Deleuze (1992) e Hui (2015) descrevem como modulação.

Assim sendo, resta-nos porém um problema a discutir: como entender as relações de poder que se estabelecem, assimetricamente, entre o que vem sendo chamado de Norte Global e Sul Global. Esta, inclusive, é uma lacuna patente no trabalho de Zuboff, o qual ignora completamente o que não é Ocidente, com exceção de uma breve menção à China. Nesse sentido, em outra oportunidade pudemos apontar que “o livro seria mais poderoso se pudesse ser descentralizado; o que abriria a possibilidade de construção de outros entendimentos, complementares a esses localizados nas democracias liberais e os quais poderiam também ser críticos re assimetrias de poder assim como das divisões globais do trabalho e do conhecimento” (EVANGELISTA, 2019, p. 250).

Para nos colocarmos esta tarefa, no entanto, antes é preciso delimitar o que entendemos por Sul e Norte Global. A expressão “Sul Global” tem sido tradicionalmente usada dentro de organizações intergovernamentais de desenvolvimento (…) para se referir a Estados-nação economicamente desfavorecidos e como uma alternativa pós-guerra fria para [a expressão] ‘Terceiro Mundo’. No entanto, em anos recentes e em uma variedade de campos, o Sul Global é empregado em um sentido pós-nacional para abordar espaços e pessoas negativamente impactadas pela globalização capitalista contemporânea (MAHLER, 2017). Podemos acrescentar que essas pessoas “negativamente impactadas” geralmente vêm do sul geográfico, são imigrantes ou refugiados, possuem uma classe social, cor e gêneros específicos. Além disso, é importante levar em consideração não apenas os territórios mais pobres ou mais desiguais do planeta, mas também as populações em países mais prósperos, mas que vivem em condições frágeis e historicamente precárias naquelas sociedades. Entender o componente geográfico como apenas de vários elementos a ser levado em consideração nos permite, simetricamente, também perceber as populações privilegiadas que vivem nos países tipicamente identificados com o Sul Global. Essas populações, em geral com corpos que materializam privilégios históricos que datam do tempo da colonização, constroem e mantém espaços mais semelhantes com aqueles encontrados no Norte do que no Sul. Também em seus imaginários, práticas e relações sociais, estão mais próximas das populações do Norte do que do Sul, embora não devam ser confundidas com as primeiras.

Sabemos o quão problemático é equiparar todas as regiões e realidades que são abrangidas pelo termo Sul Global. De fato, esse é um dos desafios, porque Sul Global é um bom termo para abordar uma condição economicamente marginalizada, assim como Norte Global se refere a populações privilegiadas, de alguma forma herdeiras dos frutos dos processos dominação, mas são termos que carecem de complexidade para descrever diferentes culturas e diferentes histórias de colonização ou imperialismo. O uso dos termos Sul/Norte Global é uma escolha sociológica e política. Sociológica interessa dar relevo a um processo de domínio socioeconômico conectados com materialidades ecológicas. Política porque busca falar a partir de uma posição periférica comum de entender o mundo e construir o futuro.

Ressaltar as relações globais assimétricas no contexto de uma economia baseada em dados e na vigilância é algo que tem sido buscado por alguns autores contemporâneos. Nick Couldry e Ulisses Mejias (2019) exploram o conceito de colonialismo de dados. Partem da colonização histórica, que visava a extração de recursos naturais e humanos das colônias e criou as bases para o capitalismo industrial, e buscam entender a formação contemporânea de estruturas sociais e relações de dados onde estes são combinados e o valor é extraído. Se o colonialismo histórico envolveu a apropriação de terras, recursos e corpos, o colonialismo de dados seria a apropriação da vida humana através da extração de valor dos dados. Nesse sentido, embora citem a continuidade de práticas exploratórias na relação Norte-Sul, abarcam na expressão colonialismo de dados processos extrativos que impactam também as populações do Norte Global.

Por outro lado, Michael Kwet (2019) emprega um termo semelhante, colonialismo digital, mas com um foco diferente, também voltado para um questionamento sobre aqueles que controlam as infraestruturas (e não apenas os que criam as “relações de dados”, como Couldry e Mejias), e enfatiza que as dominações e controles políticos entre regiões e grupos de países estão em jogo, em continuidade com o sistema colonial. Segundo a visão de Kwet (2019), o capitalismo de vigilância não seria uma novidade: ele recorda que a vigilância foi usada, por exemplo, para controlar corpos de escravizados negros. Nos tempos atuais, o termo teria ganhado novos significados, que incluem a vigilância corporativa-estatal, a exploração comercial, a governança da internet, a monetização de dados e a discriminação algorítmica. A supremacia tecnológica do Norte Global, com seu controle sobre os hardwares, softwares e da rede, implementaria um jugo imperial.

Esses alertas, entre outros, configuram o que Couldry e Mejias vão denominar “decolonial turn” (2023). Em artigo mais recente, os autores fazem um levantamento extensivo sobre uma literatura decolonial crítica à dominação tecnológica digital, a qual os autores utilizam para propor lutas e a necessidade de construção de “um novo espaço conceitual [o qual] busque definir e demandar espaços tecno-sociais para além do modelo motivado pelos lucros, do Vale do Silício, e os motivados pelo controle do Partido Comunista Chinês, os dois centros de poder da nova ordem extrativista” (p. 798) (7).

Para os objetivos deste artigo, o colonialismo e/ou o imperialismo se apresentam como problemas de pesquisa interseccionados aos do poder estrutural e do poder organizacional. Podemos dizer que as ideologias que mobilizam o poder estrutural no que se refere às relações Norte-Sul, estão atravessadas pelo que Aníbal Quijano se refere como “colonialidade”. Ricaurte (2019) vai nessa mesma linha apontando que “a racionalidade dadocêntrica deve ser entendida como uma expressão da colonialidade do poder, manifesta como a imposição violenta de maneiras de ser, pensar e sentir que levam à expulsão dos seres humanos da ordem social, negam a existência de mundos e epistemologias alternativos e ameaçam a vida na Terra” (8) (p. 351).

Conclusão

Neste texto, procuramos apontar como a inteligência artificial pode se referir a duas modalidades distintas de poder. Por um lado, ela ocupa o imaginário social e centraliza expectativas, esperanças e investimentos, de modo que, ao se apresentar com habilidades quase humanas ou mais que humanas, signifique uma melhoria na qualidade de vida. Para isso, a IA mobiliza o que Ricaurte (2019) chama de uma “epistemologia dadocêntrica” e que van Djick (2014) trata como uma ideologia, ao posicionar os dados digitalizados e o rastreamento do comportamento e das interações sociais como base de um modo mais objetivo e superior de produção de conhecimento. Ao mesmo tempo, ao ser aplicada em contextos delimitados, como as interações entre indivíduos em redes sociais, algo que já não está mais na esfera das expectativas ou planos futuros, a inteligência artificial de capacidade restrita se apresenta como ferramenta para a modulação de comportamentos. A partir da construção de ambientes de interação digitais e da coleta de dados em massa – que não se restringe aos dados coletados na rede, dado que o espaço das cidades já é hoje repleto de sensores – a inteligência artificial já atua não somente na modulação de interações, mas na seleção e bonificação de professores, no policiamento preditivo (O’NEIL, 2016), na discriminação perpetrada por sistemas de reconhecimento facial, entre outros.

O que se coloca para nós, então, são dois campos, distintos porém relacionados, de investigação etnográfica. Em um deles, o do poder estrutural, se destacam as produções simbólicas em torno da inteligência artificial, do Big Data e das práticas de quantificação como justificativas para a digitalização dos mais diferentes campos da atividade humana, da educação à saúde, do urbanismo à comunicação social e além. Nelas, se produzem novas ideias, ou se refazem antigas que são apresentadas como novas, que por sua vez são amarradas em esquemas que consolidam, produzem e manifestam relações de poder materializadas em políticas de digitalização de tudo o que for possível (o que ainda não é de alguma maneira só será tomado como real se em alguma dimensão puder ser capturado em termos informacionais).

Em outro campo, o do poder organizacional, cabe investigar como, quando essas relações sociais são produzidas mediante a informatização, se configuram as relações de poder, não somente entre aqueles que interagem, por exemplo, em uma plataforma, mas nas relações que se dão por ação da própria plataforma. Que relações são essas que são criadas? O que pode cada um ver/perceber? Qual as ações estão no escopo daqueles que atuam na plataforma? Que incentivos ou estímulos esses agente recebem?

É importante sublinhar que ambos os campo são atravessados por relações históricas de poder que se referem a assimetrias Norte-Sul. Essas se dão tanto em termos de domínio, controle e conhecimento das estruturas (hardware, software e redes), como se realizam em um contexto histórico de dominação e privilégio, simbólico e material, de certos grupos sobre outros. A ordem dessa dominação é bastante contextual, o que significa que grupos dominantes em determinados contextos não o são igualmente em outros, e que os grupos constroem relações de proximidade entre si, utilizadas tanto para reproduzir e perpetuar dominações como para resistir. Um projeto etnográfico que considere essas assimetrias Norte-Sul precisa entendê-las tanto para o poder estrutural como para o poder organizacional. Ou seja, estão referidas tanto em grandes esquemas de aceitação e incorporação de tecnologias e modos de conhecer dadificados vindos do Norte como, ao se realizarem organizadas por meio de plataformas e tecnologias do Norte, incorporam espectros de ação relacionados a imaginários e práticas da colonialidade. Elites do Sul, por exemplo, representadas e identificadas com o Norte, não apenas funcionam como intermediários e facilitadores da adoção dessas tecnologias, como são beneficiadas, nas relações que estabelecem nos contextos do poder organizacional, por terem corpos, práticas e estabelecerem relações sociais de maior proximidade com o Norte.

Notas:

2 Para os Singularistas, uma IA forte, quando chegar, seria utilizada para melhorias no corpo humano e significaria até mesmo um salto evolutivo da própria espécie humana. A nossa espécie, na mistura com as máquinas, teria acelerado um processo que até então tem sido apenas biológico e que se arrasta por milênios. É uma visão que fascina ao mesmo tempo que amedronta. Tem um apelo de fruto proibido, só conquistado pelos mais audazes e, por isso, trazendo maiores recompensas. Não surpreendentemente, a IA arrecada volumosos investimentos dos fundos de alto risco.

3 Tradução nossa de: “The appropriately programmed computer with the right inputs and outpu-ts literally has a mind in exactly the same sense that vou and I do”

4 Do original em inglês dataism. Em outros textos o termo foi traduzido para o português como dataísmo.

5 No original: “transformation of social action into online quantified data, thus allowing for real–time tracking and predictive analysis” (p. 198)

6 Lyon não pretende descrever uma situação unificada ou completamente abrangente relacionada à expressão cultura da vigilância. Ele postula o termo como expressão guarda-chuva, ciente de variações inclusive, mas não somente, referentes a contextos locais distintos.

7 No original: “…a new conceptual space must be built that seeks to define and claim techno-so-cial spaces beyond the profit-motivated model of Silicon Valley and the control-motivated model of the Chinese Communist Party, the two centers of power of the new colonial extractivist order”

8 No original: “…data-centric rationality should be understood as an expression of the coloniality of power, manifested as the violent imposition of ways of being, thinking, and feeling that leads to the expulsion of human beings from the social order, denies the existence of alternative worlds and epistemologies, and threatens life on Earth”

Bibliografia

BENJAMIN, Ruha. Race After Technology: Abolitionist Tools for the New Jim Code. [s.l.]: John Wiley & Sons, 2019.

BOVE, Tristan. ChatGPT could rocket Microsoft’s valuation another $300 billion after Nvidia’s massive gains, according to analyst Dan Ives. Yahoo Finance. Disponível em: <https://finance.yahoo.com/news/ChatGPT-could-rocket-microsoft-valuation-182436958.html>. Acesso em: 7 ago. 2023.

BRETON, Philippe. A utopia da comunicacação. [s.l.]: Instituto Piaget, 1994.

CHIODI, Vitor França Netto. O singularismo como ideologia e a reconstrução da relação centro-periferia no capitalismo informacional. Universidade Estadual de Campinas, Campinas, 2017. Disponível em: <http://repositorio.unicamp.br/jspui/handle/REPOSIP/322242>. Acesso em: 6 out. 2020.

COULDRY, Nick; MEJIAS, Ulises A. The Costs of Connection: How Data Is Colonizing Human Life and Appropriating It for Capitalism. 1a edição. Stanford, California: Stanford University Press, 2019.

______. The decolonial turn in data and technology research: what is at stake and where is it heading? Information, Communication & Society, v. 26, n. 4, p. 786–802, 2023.

DELEUZE, Gilles. Post-scriptum sobre as sociedades de controle. In: Conversações: 1972-1990. Tradução de Peter Pál Pelbart. Rio de Janeiro: Ed. 34, 1992. p. 219-226.

DIJCK, Jose van. Datafication, dataism and dataveillance: Big Data between scientific paradigm and ideology. Surveillance & Society, v. 12, n. 2, p. 197–208, 2014

EVANGELISTA, Rafael. Singularidade: de humanos feitos simples máquinas em rede. ComCiência, n. 131, p. 0–0, 2011.

FOUCAULT, Michel. Vigiar e Punir. [s.l.]: Leya, 2014.

HUI, Yuk. Modulation after Control. New Formations, v. 84, n. 84–85, p. 74–91, 2015.

KITCHIN, Rob. Big Data, new epistemologies and paradigm shifts. Big Data & Society, v. 1, n. 1, p. 2053951714528481, 2014.

KWET, Michael. Digital colonialism: US empire and the new imperialism in the Global South. Race & Class, v. 60, n. 4, p. 3–26, 2019.

LYON, David. “Cultura da vigilância: envolvimento, exposição e ética na modernidade digital” Em BRUNO, Fernanda; CARDOSO, Bruno; KANASHIRO, Marta; et al. Tecnopolíticas da vigilância: Perspectivas da margem. [s.l.]: Boitempo Editorial, 2019.

LYON, David. The Culture of Surveillance: Watching as a Way of Life. [s.l.]: John Wiley & Sons, 2018.

MAHLER, A. G. Global South. Oxford Bibliographies Online Datasets. Oxford University Press (OUP) 25 Oct. 2017.

MAYER-SCHÖNBERGER, Viktor; CUKIER, Kenneth. Big data: A revolution that will transform how we live, work, and think. Boston, MA: Houghton Mifflin Harcourt, 2013.

O’NEIL, Cathy. Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. [s.l.]: Crown/Archetype, 2016.

ORWELL, George. 1984. [s.l.]: Tricaju, 2021.

RIBEIRO, Gustavo Lins; FELDMAN-BIANCO, Bela. Antropologia e poder: contribuições de Eric Wolf. Etnográfica. Revista do Centro em Rede de Investigação em Antropologia, v. 7, n. 2), p. 245-281, 2003.

RICAURTE, Paola. Data Epistemologies, The Coloniality of Power, and Resistance. Television & New Media, v. 20, n. 4, p. 350–365, 2019.

SEARLE, John. Minds and brains without programs. Mindwaves, p. 209–233, 1987.