Seriam cândidas as plataformas de internet?
Debate sobre o PL das fake news está marcado por um mito pueril – o de que as Big Techs não controlam o que circula por elas. Não só o fazem como concentram o poder de construir mundos, muito superior ao de selecionar conteúdos
Publicado 09/08/2023 às 19:26
Por Lucas Vilalta, no Desinformante
Só agora é que assoma, muito lento, o difícil clarão reminiscente, ao termo talvez de longuíssima viagem, vindo ferir-lhe a consciência. Só não chegam até nós, de outro modo, as estrelas.
João Guimarães Rosa. Nenhum, nenhuma.
A epígrafe acima utiliza uma figura de linguagem chamada “litote”. Trata-se, normalmente, de afirmar algo pela negação do contrário; mas, como ensinou Guimarães Rosa, ela também pode ser usada para afirmar que alguma coisa é diferente de tudo que existe, singular, específica. Nesse sentido, eis a tese que defenderei aqui: só não podem ser isentas de responsabilidade, pelo conteúdo que moderam, as plataformas.
O contexto no qual defendo esta tese é o da votação do PL 2630 (“PL das Fake News”) e o da discussão sobre a responsabilidade das plataformas pelo que é veiculado e mediado por elas. Contexto em que, recentemente, a Suprema Corte estadunidense não viu indícios de responsabilidade das plataformas em ações movidas contra o Google e Twitter por conteúdos que circularam em seus ambientes e o STF adiou o julgamento do artigo 19 do Marco Civil da Internet.
Primeiramente, então, parto da premissa de que não faz sentido discutirmos se as plataformas e suas redes sociais são ou não moderadoras de conteúdo. A essência de sua arquitetura informacional e de seu modelo de negócios está relacionada à moderação de conteúdo, ou seja, organizar e controlar os modos como as informações irão se relacionar. Assim, proponho compreender “moderação de conteúdo” como algo muito mais abrangente do que as regras privadas ou públicas de publicação ou visualização de dados e informações.
Djick, Poell e Waal explicam esse aspecto ao definir o que é uma plataforma: “uma arquitetura digital programável desenvolvida para organizar as interações entre usuários – não apenas entre usuários finais, mas também entidades empresariais e organismos públicos”, e que todo esse conjunto de interações são governadas por meio da “extração sistemática, processamento algorítmico, circulação e monetização dos dados dos usuários”. Isto é, a arquitetura digital, o modo de funcionamento e a lógica na qual opera o ecossistema das plataformas está fundado na premissa de que “as plataformas não refletem o social: elas produzem as estruturas sociais nas quais vivemos”[1].
Isto significa que as plataformas não expressam de modo neutro, não são um mero reflexo do que já está acontecendo na sociedade. Justamente o contrário, elas organizam e controlam as maneiras com que as interações podem se dar nas redes e nos ambientes digitais. Como caracterizou Ted Striphas em Algorithimic Culture, os seres humanos vêm delegando o trabalho e o espaço da cultura ao processo computacional e com isso o que vemos é um gradual abandono do caráter público da cultura. Podemos agregar: também da comunicação e da esfera pública em geral. Em troca de serviços perfilizados, da delegação de funções cognitivas e da assistência algorítmica, os seres humanos têm entregado as dimensões da socialidade e da coletividade às conectividades e mediações realizadas pelas plataformas. Isto, conforme comentei em artigo anterior, as têm alçado ao papel de verdadeiras instituições sociais que utilizam de seus algoritmos como elemento mediador entre dados e metadados, do ponto de vista informacional, e entre normas e valores, do ponto de vista ético, político e social.
Dados, metadados e algoritmos
Um algoritmo pode ser definido como “um conjunto finito de instruções ou passos que servem para executar uma tarefa ou resolver um problema de tipo matemático por meio da manipulação de símbolos. Toda a complexidade de sua influência na atualidade reside no fato de que tal conjunto é o que faz funcionar o computador e, por extensão, também qualquer sistema informático baseado em um sistema de codificação binária”[2]. Por exemplo, qualquer pessoa que já preencheu uma planilha digital e mesmo uma tabela em folha de papel – por exemplo, no jogo “STOP” – sabe que inserir dados em uma tabela é posicioná-los em relação a outros dados. Quando realizamos operações básicas de aritmética, calculamos matrizes ou quando um programa de computador importa dados de uma planilha para outra – entre vários outros exemplos -, um algoritmo está sendo executado.
Dados são informações codificadas, relações já estruturadas. Dados não são fatos, são informações captadas de acordo com um modelo ou uma estrutura previamente estabelecida, isto é, segundo um conjunto de metadados. Não existem dados sem metadados, qualquer pessoa que já catalogou um livro sabe disso. Existem o livro, as letras, as páginas, mas os dados só são legíveis a partir de metadados. Como definiu Jeffrey Pomerantz, “os metadados são uma afirmação sobre um objeto potencialmente informativo”[3]. Computar informação é relacionar dados a metadados, seja quando um algoritmo de plataformas o faz ou quando nós resolvemos problemas de aritmética adicionando ou subtraindo símbolos numéricos. Os algoritmos são o código, modelo ou estrutura que determina como algo é “potencialmente informativo”, a partir do estabelecimento preditivo ou generativo de relações entre dados e metadados.
Outro exemplo, dados de geolocalização são informações geoespaciais codificadas de acordo com um conjunto de coordenadas. Essas coordenadas são metadados que estruturam as posições espaço-temporais. Isto é, ninguém está em uma certa latitude ou longitude sem que se estabeleça o meridiano de Greenwich como referência. Não é possível localizar nem posicionar nada em uma mapa sem os metadados cartográficos: não existe “estar ao sul de”, se o Norte e o Sul não foram estabelecidos.
Aliás, podemos dizer que os metadados são o mapa enquanto os dados são o território; e como o mapa não é o território, os algoritmos são os operadores computacionais que selecionam as parcelas de informações relevantes para o mapa. Repare que os aplicativos de GPS (Waze, GoogleMaps, etc.) não fornecem dados topológicos (por exemplo, as ladeiras): seu algoritmo é feito para carros, não para pedestres. Toda vez que um algoritmo processa uma miríade de dados para me informar que eu devo seguir na direção “x” para chegar ao meu destino, ele está computando uma série de dados a partir de metadados já estabelecidos.
Como no texto de Borges Do rigor na ciência, as plataformas instituíram um império que criou um mapa que parece coincidir perfeitamente com o território; elas criam as coordenadas e orientam os caminhos a serem seguidos.
Moderação e controle das plataformas
Todos sabem que vídeos e imagens são atualmente mais relevantes para o algoritmo das redes sociais do que textos. Isso é um metadado de relevância conhecido que modera diariamente milhões de informações que serão produzidas e dados que serão gerados. Perfis negacionistas ou que promovem discursos de ódio não atuam na ausência de moderação, pelo contrário, aproveitam da moderação dos algoritmos, a partir do que conhecem sobre como eles relacionam dados e metadados, de modo a que se impulsione ou torne relevantes determinados conteúdos. Eles surfam nas ondas da moderação das plataformas. Por isso que defendi em outro artigo que a desinformação não é ausência de informação, mas manipulação do excesso de informação e de como ele é distribuído algoritmicamente nas redes.
Agora, isto não ocorre apenas na moderação de conteúdo. Um algoritmo não precisa saber se tal ou qual publicação é sobre racismo, terrorismo ou assassinato de crianças em escolas, mas apenas o tipo de vínculo que o conteúdo estabelecesse entre informações que estão presentes nas publicações. Isto é justamente o contrário da discussão sobre censura que temos visto, por exemplo, nas perguntas sobre como a plataforma vai saber se uma postagem é racista ou se discute o racismo, se é fascista ou se discute o fascismo?
Essa diferenciação não é outra coisa senão o que os algoritmos das plataformas fazem o tempo todo. É ela que importa, pois ela é justamente o que permite a vinculação entre dados e metadados. O algoritmo “sabe” (determina a partir de cálculos estatísticos) justamente como as palavras utilizadas numa postagem se articulam, não o que elas significam. E é na própria articulação que qualquer informação pode ser lida e veiculada, seja por nós ou pelos algoritmos.
Tomemos um exemplo bastante simplificado de como a coisa ocorre. A palavra “macumba” não diz nada por si só, é a relação dela com o conjunto da publicação que dá o contexto e que abre o espaço de computação e codificação. Justamente o que o algoritmo sabe é moderar a relevância – organizar as interações – dessa palavra de acordo com metadados para saber se essa publicação deve ser impulsionada ou para quem ela deve ser direcionada. Em outras palavras, não é a palavra “macumba” que é relevante, mas os metadados que se associam a ela. A palavra por si só não revela se ela está sendo usada como racismo religioso ou como enaltecimento das qualidades e potências das religiões de matriz africana. Entre os seguidores de Silas Malafaia e de Luiz Antônio Simas há uma gradação gigantesca de nuances; e não costumamos ver as publicações de um cruzarem a bolha do outro – com uma possível exceção para o caso do Youtube. Enfim, são os metadados que organizam o cálculo de probabilidades que fazem com que normalmente o algoritmo acerte ao nos direcionar e sugerir publicações com palavras que circulam por distintos guetos informacionais.
Não é possível estabelecer todas essas relações descritas anteriormente sem fazer moderação, sem ter responsabilidade pela organização das interações no ambiente digital – e de seu transbordamento para fora dele. Isto, porque como mostraram Matteo Pasquinelli e Pablo Manolo Rodríguez, os algoritmos das plataformas estão justamente governando a relação entre dados e metadados. Eles transformam informação como informação (dados) em informação sobre informação (metadados); ou seja, normas em valores[4].
Era uma norma do Facebook o “engajamento na escrita de publicações”, os chamados “textões”; mas, ao premiar a “lacração”, o que o algoritmo do Facebook estava fazendo não era apenas organizar interações, era fomentar determinados valores para a vida social e política. O algoritmo do Facebook teve grande responsabilidade no cenário de “crescente dificuldade de distinguir a autopromoção narcisista e o ativismo verdadeiramente comprometido”[5].
No Youtube e em outras redes de vídeo, promove-se uma verdadeira “indústria de influenciadores” como norma de monetização de conteúdos, gerando uma “industrialização da autenticidade”, como propõe Emily Hund. As maneiras e regras de auto apresentação dos influenciadores seguem uma lógica de mercantilização de si. “A autenticidade entre os influenciadores não é necessariamente espontânea, se é que alguma vez o foi; é indissociável do comercialismo que agora envolve as interações digitais”[6]. Logo, o sucesso dessa indústria vai generalizando os modos de “ser si mesmo” não apenas nos vídeos, mas na vida em geral.
Redes como o TikTok, por fim, têm mostrado de forma exponencial a diferença de velocidade entre o processamento de informação de computadores e sua recepção por seres humanos. “O universo dos receptores, isto é, os cérebros humanos, as pessoas de carne e osso, de órgãos frágeis e sensuais, não está formatado de acordo com os mesmo padrões que o sistema dos emissores digitais”[7]. A saturação e sobrecarga de informação que vivemos, e que causa todo tipo de problemas e sofrimentos psíquicos e cognitivos – partícipes do cenário de ansiedade e depressão generalizadas -, resultam de um descompasso de potência e velocidade no processamento de informação entre seres humanos e máquinas. Não seria exagerar dizer que o TikTok tem por norma essa aceleração e, por valor, a superação desse descompasso.
No fundo, as normas e os valores não são importados pelos sujeitos para as plataformas por meio dos conteúdos que produzem e consomem. Por isso é que não há panaceia que virá como resultado de formação midiática, educação digital e verificação de fatos. Os circuitos se retroalimentam, mas, cada vez mais, são as plataformas que produzem as estruturas sociais que organizam nossas interações, impregnando vieses informacionais em cada aspecto de nossas vidas. Muitos podem ter responsabilidade pelo que ocorre no ambiente digital, mas apenas as plataformas é que não podem não ser responsabilizadas. Elas é que criam e controlam os espaços e meios nos quais agem todos os demais atores.
Ampliando uma comparação entre a regulamentação e as leis de trânsito proposta por Marie Santini, diretora do NetLab, se acidentes estão acontecendo por problemas na pista não seria razoável responsabilizar apenas os motoristas; se acidentes estão recorrentemente acontecendo sempre no mesmo trecho da pista, insistentemente esburacado, é possível dizer que só não podem ser isentos de responsabilidade justamente os responsáveis pela pista.
Desde os arquivos gregos (arkheîon) ou das bibliotecas beneditinas, os metadados sempre foram uma instância do poder e do saber para comandar a vida em sociedade. No entanto, no ambiente digital, como os algoritmos são o operador hegemônico de estabelecimento de vínculos entre dados e metadados, as plataformas não apenas detêm um saber e um poder dominante em relação à sociedade, mas detêm o monopólio sobre a técnica para determinar como o poder e o saber em geral se distribuem e organizam. Em outras palavras, as plataformas detêm um metapoder e um metasaber que organiza e governa os demais poderes e saberes – políticos, acadêmicos, legislativos, jurídicos etc. Por isso, o debate é intrincado e estabelecer quais são as responsabilidades das plataformas não será fácil. Mas, afastemos os cinismos e as tergiversações que defendem a ausência de responsabilidade, porque só não pode não ser urgente e emergencial a regulação e a regulamentação das plataformas.
[1] DJICK, V; POELL, T. WALL, M. The Platform Society: public values in a connective world. London: Oxford University Press, 2018, p. 2-4.
[2] RODRÍGUEZ, P. “Governamentalidad algorítmica – sobre las formas de subjetivación en la sociedad de los metadatos”. In: Revista Barda, Ano 4, n. 6, Junho de 2018, p. 18.
[3] POMERANTZ, J. Metadata. Cambridge: The MIT Press Massachusetts, 2015, p. 35.
[4] Explico mais detalhadamente essa passagem do processamento informacional das relações para o seu processamento social no artigo O neoliberalismo é uma governamentalidade algorítmica, ver:https://revistalacuna.com/2020/07/27/n-9-07/#:~:text=A%20cultura%20algor%C3%ADtmica%20no%20neoliberalismo,em%20dados%20de%20um%20sistema.
[5] VAN DIJCK, J. La cultura de la conectividad: Una historia crítica de las redes sociales. Buenos Aires: Siglo Veintiuno Editores, 2016, p. 147.
[6] HUND, E. The Influencer Industry. New Jersey: Princeton University Press, 2023, p. 169.
[7] BERARDI, F. La fábrica de la infelicidad. Madrid: Traficantes de Sueños, 2003, p. 24.
