Boletim Outras Palavras

Receba por email, diariamente, todas as publicações do site

Assinar

Loading...

Assinar

Loading...

Agradecemos!

Você já está inscrito e começará a receber os boletins em breve. Boa leitura!

Eden Medina em entrevista a Rafael Grohmann, no DigLabour

O projeto Cybersyn continua a inspirar aprendizados para o mundo de hoje. Projeto inovador no Chile de Allende na década de 1970 articulando cibernética e socialismo, Cybersyn ficou amplamente conhecido em 2023 devido ao podcast The Santiago Boys, liderado por Evgeny Morozov.

No entanto, a pioneira no estudo do projeto Cybersyn é Eden Medina, professora de ciência, tecnologia e sociedade no MIT. Ela pesquisa o tema desde a década de 2000 e publicou o livro Cybernetic Revolutionaries: Technology and Politics in Allende’s Chile pela MIT Press em 2011. Em 2023, coordenou a exposição “How to Design a Revolution: The Chilean Way to Design” em Santiago, Chile, cujo conteúdo também será lançado em livro em breve.

Nesta conversa com Rafael Grohmann, Eden Medina aborda os aprendizados de Cybersyn mais de 50 anos depois, incluindo potencialidades e limites, envolvendo design, participação de trabalhadores e tecnopolitica. Além disso, ela também explica lições importantes de Cybersyn para pensar regulação de inteligência artificial e plataformas atualmente.

Você é a pioneira no estudo do projeto Cybersyn. Quais são os aspectos ainda pouco explorados da história de Cybersyn aos quais devemos prestar atenção?

Tenho estudado a história do projeto Cybersyn há algum tempo, mas nos últimos anos estive envolvida numa reconstrução em grande escala da sala de operações do Cybersyn, o que tem sido muito divertido. Foi também um processo de aprendizagem e permitiu-me aprender mais sobre essa história que achava conhecer muito bem. Uma das coisas que penso que este processo realmente deixou claro para mim é que muitas vezes, quando ouvimos as pessoas falarem sobre o projeto Cybersyn, elas falam sobre ele em termos futuristas ou utópicos, ou que foi apenas uma tentativa. Mas quando você enxerga isso em termos de espaço, percebe que era real, que era um espaço que foi construído. Foi construído como parte de um projeto político e sob certas condições de restrição. Começamos a compreender essas restrições de uma forma mais concreta, e penso que isso nos dá uma ideia melhor do que as pessoas realmente fizeram e das realidades que enfrentaram enquanto construíam este sistema. Agora que completamos 50 anos do governo de Unidade Popular, é um momento de reflexão, de memória, de pensar essa história e o seu significado. Acho que é uma parte importante da história do Cybersyn mostrar que não se trata apenas de sonhos utópicos, e não foi apenas aspiracional. Foi construído, era real e fazia parte de um projeto político que tinha aspirações reais e tentava transformar a sociedade. No momento, para mim, essa é uma das coisas que se destacam na história de Cybersyn e na maneira como meu olhar por essa história está evoluindo.

Você poderia explicar o que era o CyberFolk e o que isso significa hoje em termos de comunicação?

Isso fazia parte do projeto Cybersyn, que era um projeto para ajudar o governo a obter um maior controle e capacidade de gestão sobre o setor nacionalizado da economia. Assim, o governo estava tentando nacionalizar as indústrias mais importantes do Chile. Isso foi algo muito difícil de administrar. Eles pensaram que poderiam olhar para as comunicações e a computação como uma forma de talvez obter um melhor controle sobre esta economia nacional muito complexa. Mas o projeto, com o tempo, estimulou outros subprojetos, e um dos mais interessantes é aquele que você mencionou, que é um projeto chamado CyberFolk. Foi uma iniciativa para criar medidores muito simples onde as pessoas teriam um botão, e poderiam girar o botão para maior ou menor felicidade conforme as coisas que ouvissem. Por exemplo, discursos políticos. Imagine alguém fazendo um discurso, e você gosta de um ponto, e aperta o botão para dizer: “ah, estou mais feliz”, ou talvez você ouça algo que não gosta, e você gire o botão e “ah, estou menos feliz com o que estou ouvindo”. É algo que vemos agora nos debates presidenciais, certo? Acho que o CyberFolk é interessante por vários motivos. A primeira razão é cibernética. A cibernética estava muito interessada em criar ciclos de feedback para que os sistemas pudessem se ajustar, e pudessem alcançar sua condição estável de homeostase e, finalmente, pudessem sobreviver. Portanto, a ideia de estar feliz ou não era criar um ciclo de feedback. Não foi apenas para transmitir ao mundo a percepção das pessoas sobre o que está acontecendo. Foi para que os funcionários públicos que estavam falando e fazendo discursos pudessem ver a reação das pessoas ao que estavam dizendo e rapidamente pudessem se ajustar para deixar as pessoas mais felizes. Portanto, há esse fechamento do ciclo de feedback que considero interessante e que não vemos quando vemos transmissões de debates. Mas também acho que isso é algo que as pessoas descobriram quando começaram a testar os medidores CyberFolk. Eles estão abertos à manipulação. Então, talvez no mundo ideal, alguém, com intenções muito genuínas, estivesse ouvindo algo que tentaria mudar seu comportamento para aumentar a felicidade geral. Mas as pessoas também podem manipular isso. E você também pode perguntar: quem tem acesso aos medidores? Isso foi durante a década de 1970. Portanto, não é como se todos tivessem telefones celulares para poder inserir seus níveis de felicidade. Então, quem vai controlar o medidor? Quem são as pessoas cujas opiniões serão moldadas? Como o governo responde aos níveis de felicidade? Acho que esse tipo de pergunta ainda é relevante. Como você fecha o ciclo de feedback? Mas também, que tipos de manipulação existem no sistema e de quem é o sinal que você está captando corretamente? E como você garante que isso seja o mais representativo possível?

O design também desempenhou um papel central no projeto Cybersyn, tanto na sala de controle quanto no projeto como um todo. Desde então, surgiram diversas denominações, como design participativo e justiça no design. O que permanece revolucionário no design do projeto CyberSyn e quais lições ainda podemos aprender?

Eu conheço um pouco da história do design participativo, que tem uma história que vem da Escandinávia nas décadas de 1970 e 1980. Quando eu estava fazendo a pesquisa para o livro Cybernetic Revolutionaries, o que eu via no Chile era anterior a isso. Então, o Chile teve uma trajetória diferente, estava vindo num momento anterior. Para mim, ficou claro que essas ideias surgiram de vários lugares. Não existe uma história única de design participativo. Há uma série de histórias de design participativo, e algumas dessas histórias vêm de outras partes do mundo. Neste caso vem da América Latina, que penso ser de um contexto político muito diferente, o que considero importante. É importante reconhecermos isso quando pensamos sobre a origem das ideias e o tipo de história de sua origem. Acho que é uma nota de rodapé importante e sobre o modo como pensamos sobre o design participativo e a justiça no design. Há muito a dizer sobre o que a história do Cybersyn pode nos dizer sobre a história do design, a justiça no design e o design participativo. Uma das coisas que acredito que contribui para a forma como pensamos sobre o design participativo é que a interface da sala de operações do Cybersyn foi projetada para tornar o espaço acessível. Ela foi projetada para ter uma série de botões geométricos no apoio de braço onde alguém que não tivesse experiência em digitação pudesse entrar, e visualmente pudesse ver os menus que eram exibidos em algumas das telas que tinham representações de botões geométricos, e apenas por meio da correspondência de formas, você poderia discernir rapidamente como navegar no sistema. Foi uma forma de pensar nos trabalhadores que talvez nunca tenham usado um teclado ou na elite governamental que tinha secretárias e, portanto, não sabiam como usar um teclado e como tornar um sistema acessível para eles. Agora, o outro lado disso é que, quando imaginamos para quem estamos tornando a sala acessível, há certos usuários que imaginamos e há certos usuários que não imaginamos. Parte do que minha pesquisa mostrou é que a forma como a sala foi projetada é voltada para formas de expressão masculinas. A ideia é que você aperte esses botões grandes se quiser deixar claro um ponto de vista, e eles tentam aproximar o usuário da máquina, eliminando as mulheres da sala. Estão eliminando a secretária. Portanto, as mulheres não eram imaginadas como usuárias, com formas de expressão neutras em termos de gênero. Não somos vistas como algo que seria o modo de expressão dominante no espaço. Então, mesmo quando tentamos tornar algo mais acessível, há sempre aquela sombra de quem não estamos imaginando direito e de quem ainda estamos excluindo nos tipos de designs que criamos. E acho que isso é algo muito importante de lembrar. A outra coisa que descobri durante o processo de construção da sala é que, quando você lê sobre a forma como as pessoas falam sobre essa interface, ela deveria ser uma interface muito simples. Você aperta um botão, uma tela muda. Tal como nas fantasias da Guerra Fria, se apertarmos determinado botão, poderíamos ter o controle global. Mas a interface, na verdade, era bastante complexa e muito difícil de navegar. Portanto, também devemos ter cuidado com a forma como falamos sobre tecnologia, e como isso molda a nossa compreensão, que pode ser muito diferente da prática. Acho que essas duas coisas são formas de pensar em quem não tem acesso a uma tecnologia, mesmo quando se tenta tornar algo acessível, e que o modo como falamos sobre tecnologia é muito diferente da experiência de usar essa tecnologia, e precisamos prestar atenção em ambas as coisas.

A América Latina tem uma longa história de compreensão das tecnologias de maneiras alternativas. Que noção de tecnologia emerge do projeto Cybersyn?

Quando você volta e começa a ler documentos que foram escritos por designers e engenheiros que trabalhavam para determinados escritórios e agências do Estado na década de 1970, durante o período Allende no Chile, fica muito claro que eles entendiam de tecnologia como política. Na pesquisa em comunicação ou nos estudos de ciência e tecnologia, pensamos, é claro, que a tecnologia é política, e que isso não seria algum tipo de revelação. Mas em alguns círculos isso é uma revelação. E durante este período específico, neste contexto específico, em termos de ciência, tecnologia e engenharia, tudo é visto como uma forma de criar relações sociais ou de recriar relações sociais ou de transformá-las. E esses são objetivos políticos. Portanto, isso significa que, se mudarmos a forma como as tecnologias foram concebidas, ou os tipos de problemas que abordamos com a ciência ou as relações dentro de um projeto de engenharia, isso também será potencialmente um projeto de transformação política. Uma das coisas que tenho observado ao estudar este período específico em relação à história da ciência e da tecnologia é que diferentes contextos políticos trazem diferentes pontos de vista sobre a ciência, a tecnologia e a engenharia, se os fazem vir à tona, e isso também cria novas possibilidades para o que as pessoas podem fazer. Se olharmos para as especificidades do programa da Unidade Popular no Chile, temos um momento em que o Estado tem um projeto político claro. Eles têm um conjunto claro de transformações que desejam realizar. A Unidade Popular é uma coligação heterodoxa de diferentes partidos políticos que se uniram porque acreditam coletivamente num conjunto de transformações sociais, e porque têm o apoio do Estado e a crença no conjunto de transformações sociais. Você não só tem recursos para realizar esse tipo de projeto, mas também vê uma enorme quantidade de criatividade e como diferentes pessoas estão tentando alcançar esses objetivos – políticos, sociais e econômicos – corretamente. O período da Unidade Popular é um momento de tremenda criatividade em termos de reflexão sobre a ciência e a tecnologia e a sua relação com a mudança política. E assim, ver estes diferentes contextos políticos e o que foi possível em diferentes momentos é importante historicamente. E penso que é importante para nós quando pensamos no mundo que queremos construir hoje e no futuro.

Você lançou, com outros colegas, uma exposição sobre como projetar uma revolução e a perspectiva chilena de design. O que há de revolucionário nas linguagens visuais dos movimentos sociais nas décadas de 1970 e 1980 no Chile?

Em setembro de 2023, eu e dois colegas meus, Hugo Pamarola e Pedro Alonso, ambos da Universidade Católica de Santiago, inauguramos uma exposição no Centro Cultural La Moneda, que é o centro cultural do palácio presidencial. A exposição se chama em inglês “How to Design a Revolution: The Chilean Way to Design”. O subtítulo faz referência ao caminho chileno para o socialismo. Estamos olhando para as histórias do design gráfico e industrial como forma de compreender a prática do socialismo chileno. Ao olhar para os cartazes que as pessoas criaram, ou para os automóveis e televisões que criaram, ou para designs como uma colher para medir porções de leite em pó, cada um destes objetos e imagens são histórias deste momento político e são ilustrativos do que as pessoas estavam tentando fazer e do que estavam tentando descobrir. Por meio de alguns desses objetos você pode ver debates ou discussões sobre como tornar possível a mudança política. A partir desta exposição, estamos reunindo estes objetos e imagens como uma forma de as pessoas aprenderem mais sobre este momento da história, verem esteticamente a riqueza do período e, esperançosamente, pensarem de forma reflexiva sobre as possibilidades do design e sua relação com a mudança política.

A participação de trabalhadores também desempenha um papel fundamental no projeto Cybersyn. Atualmente, há uma série de discussões sobre tecnologias de propriedade dos trabalhadores, cooperativismo de plataforma, soberania tecnológica, buscando observar a participação de trabalhadores no design e desenvolvimento de tecnologias. O que o Cybersyn tem a oferecer de lição para esses movimentos atuais?

Um dos principais objetivos do governo Allende era aumentar a participação dos trabalhadores na gestão das fábricas em termos de participação política para criar novos papéis para os trabalhadores. No projeto Cybersyn, esse sistema que estava sendo criado para a gestão industrial também passou a levar em conta a participação dos trabalhadores e a pensar em formas de que talvez novas práticas, novas relações pudessem ser construídas nos sistemas sociotécnicos. Uma das maneiras que foi imaginada que poderia ser alcançada é que talvez os trabalhadores no chão de fábrica pudessem contribuir com seu conhecimento de como sua fábrica funcionava e compartilhar isso com pesquisadores que estavam vindo para modelar as fábricas, e então o conhecimento dos trabalhadores poderia ser incorporado à fábrica como forma de participação tecnológica dos trabalhadores. Houve um reconhecimento de quem tinha conhecimento e de quem cujo conhecimento era valorizado. Neste contexto político, o conhecimento dos trabalhadores era visto como uma forma de conhecimento especializado, algo que era valorizado, algo que poderia ser incorporado no sistema. Isso é maravilhoso! Mas, novamente, se pensarmos na participação dos trabalhadores na tecnologia de forma mais ampla, às vezes há uma diferença entre a forma como falamos sobre as coisas e a forma como essa prática acontece. Portanto, uma forma de vermos isso é que, retoricamente, o conhecimento dos trabalhadores era valorizado quando os pesquisadores entravam nas fábricas. Eles tinham formação universitária e tinham conhecimento de como as fábricas deveriam ser modeladas, e nem sempre viam os trabalhadores como seus pares. Portanto, não havia o tipo de igualdade que você esperaria. Pode parecer ótimo incorporar o conhecimento do trabalhador num sistema tecnológico, pode parecer participativo. Mas pergunto-me a longo prazo como isso teria acontecido e se isso teria funcionado como uma forma de empoderamento dos trabalhadores ou, em última análise, se teria levado a uma maior desempoderamento dos trabalhadores. Portanto, pensando nas coisas não apenas no momento de sua criação, mas também nos relacionamentos de longo prazo e nas consequências não intencionais, acho que essa também é outra conclusão importante.

Outras questões que são atualmente importantes são a regulação da inteligência artificial e a regulação das plataformas. Você escreveu em 2015 um artigo sobre regulação de algoritmos. Que lições o projeto Cybersyn pode nos oferecer sobre isso?

Muitas das conclusões que apresentei no artigo ao qual você está se referindo ainda acho que são verdadeiras. Eu diria, por exemplo, que a inteligência artificial, neste momento, é a novidade, e todos nós estamos dando atenção à IA, às possibilidades da IA, aos investimentos, à forma como ela vai transformar tudo. Mas também sabemos que, com a IA, existem consequências ambientais. Sabemos que há consequências quando depositamos demasiada confiança em um novo sistema de IA. Acredito que uma história como a do projeto Cybersyn pode ser um exemplo interessante de como podemos pensar as coisas de maneiras diferentes. Uma das coisas que considero realmente fascinante sobre o sistema é que ele parece ficção científica, mas é criado com tecnologias que estão longe de ser consideradas de ponta. É criado com máquinas de telex, lâmpadas, projetores de slides e imagens de slides desenhadas à mão. São coisas que não são consideradas de ponta, mas são montadas de uma forma que resulta em um sistema bastante sofisticado. Muitas das formas como hoje pensamos sobre a governança de dados tem a ver com que as pessoas tentavam fazer naquela altura, trabalhando sob condições de restrição. Em vez de procurarmos sempre o que parece ser mais “brilhante”, independentemente das suas consequências ambientais, penso que também podemos pensar em reaproveitar tecnologias mais antigas ou pensar de forma mais sustentável sobre a forma como utilizamos a tecnologia. Esse é um ponto para o futuro realmente importante para pensar as maneiras como desenvolvemos sistemas. Penso também que o Cybersyn mostra a importância do apoio do Estado e da pesquisa de alto risco. Isso não teria sido possível sem o apoio do Estado. Atualmente, grande parte do desenvolvimento da inovação em pesquisa está migrando para o setor privado. O setor privado é diferente do governo em termos do que pode apoiar. Se pensarmos nesse tipo de iniciativas criativas para objetivos maiores em relação ao bem comum, talvez o Estado seja capaz de agir de uma forma que o setor privado não consegue, e penso que isso é importante. Há uma série de conclusões do sistema Cybersyn para as quais eu ainda chamaria a atenção hoje. O Cybersyn, embora fosse um sistema orientado por dados, não exigia tantos dados. E, na verdade, os dados estavam sendo cuidadosamente selecionados com base em critérios que definiam quais eram os dados mais importantes. E embora existisse um sistema que fazia previsões sobre o comportamento econômico futuro, essas previsões iriam para uma sala de operações onde as pessoas se reuniriam e tomariam decisões sobre o que fazer. Então, não foi uma forma de tirar o ser humano do circuito. É exatamente o oposto. Onde podemos colocar os seres humanos de forma a tomar melhores decisões e usando melhor os dados? Acho que muitos dos problemas que estamos vendo nos sistemas de IA ocorrem quando tentamos automatizar o humano ou pensamos que podemos remover o humano do circuito. Não podemos fazer isso. Talvez olhando para a década de 1970, quando as pessoas não conseguiam automatizar tanto e tinham que trabalhar com dados em menor escala, talvez isso também possa ser inspirador.