Questões éticas e estéticas sobre a IA
Revista Aurora, nova parceira editorial de Outras Palavras, traz um dossiê que analisa em profundidade a tecnologia. Em pauta: os potenciais avanços, os direitos humanos, a transparência de dados e a necessária centralidade da pessoa humana
Publicado 04/12/2023 às 14:23
O ano de 2023 marca um importante divisor no desenvolvimento da Inteligência Artificial (IA), especialmente no que diz respeito à sua disseminação para o público em geral, com a proliferação de uma ampla gama de aplicativos. As IAs generativas, fundamentadas em redes neurais e treinadas com o vasto acervo de conhecimento humano digitalizado, agora são capazes de interagir em linguagem natural com os usuários humanos e produzir textos, imagens e áudios de diversas naturezas, mantendo uma notável consistência e qualidade. Tais capacidades oferecem possibilidades surpreendentes, que podem ser tanto incríveis quanto assustadoras. De fato, os adjetivos “incrível” e “assustador” têm sido amplamente utilizados para descrever essa nova tecnologia, refletindo os sentimentos ambíguos da sociedade em relação a ela. Desde o surgimento dos computadores pessoais e da Internet, a sociedade experimentou tanto entusiasmo quanto desilusão com o uso dessas tecnologias. Hoje, as IAs generativas estão sendo introduzidas no mercado e na sociedade em um momento em que o debate sobre a regulamentação das tecnologias digitais é impulsionado por uma série de incidentes que evidenciaram seus efeitos sociais nocivos, aumentando a conscientização pública e a compreensão da importância dessa discussão.
A antecipação de todas as consequências sociais decorrentes do uso generalizado das IAs é incerta, pois somente a prática poderá revelar todas as suas possibilidades. Entretanto, ao considerarmos a trajetória histórica da tecnologia no contexto capitalista e à luz do cenário atual das tecnologias digitais da informação, é possível vislumbrar os perigos iminentes que a IA representa. Esses perigos incluem a supressão de empregos, o agravamento das desigualdades e, de maneira ainda mais preocupante, a obsolescência humana. Eventos recentes relacionados aos produtos das gigantes de tecnologia, como as táticas de manipulação da opinião pública durante processos eleitorais, inauguradas pela Cambridge Analytica, a disseminação de desinformação durante a pandemia de COVID-19, a propagação de discursos de ódio e até mesmo jogos que incitam jovens a cometer violência, além da revelação de que as empresas têm conhecimento da toxicidade de seus produtos e ainda assim lucram com ela, levaram os Estados a tomar medidas de regulamentação e controle das plataformas digitais.
Além disso, grupos da sociedade civil se unem em coalizões de defesa de direitos para confrontar as ameaças advindas dos próprios Estados, que utilizam as inovações tecnológicas para promover a vigilância em massa e o controle social, frequentemente com caráter discriminatório, como evidenciado pelas seletividade e “falhas” das tecnologias de reconhecimento facial. Dado que todas essas práticas podem ser amplificadas pelo uso da IA, torna-se imperativo direcionar nossa atenção para a necessidade urgente de controlar esse desenvolvimento tecnológico, no sentido de extrair dele benefícios para toda a humanidade, restringindo suas ameaças.
Nos últimos anos, diversos documentos sobre estratégias para a IA têm sido produzidos por governos nacionais, organizações intergovernamentais, instituições de cooperação internacional e grupos da sociedade civil. Esses documentos objetivam orientar o desenvolvimento dessa tecnologia, fornecendo estudos de impacto e recomendações para políticas relacionadas. No Brasil, o Senado Federal elaborou um Projeto de Lei de regulamentação da IA, o PL 2338/23 [1], que atualmente está em suas fases iniciais de tramitação. A formulação de parâmetros éticos para orientar essa regulamentação está em curso em várias esferas, e isso tem levantado preocupações entre as grandes empresas de tecnologia, que exercem influência significativa nesse processo devido ao seu poder econômico.
Os debates se concentram em questões cruciais, como a definição da responsabilidade pelo impacto da IA, a garantia de um desenvolvimento e uso responsável em conformidade com os direitos humanos, a autonomia e a centralidade da pessoa humana, o acesso equitativo à tecnologia e seus benefícios, a transparência dos dados e a governança democrática envolvendo todas as partes interessadas. A efetiva implementação da regulamentação pública da IA com base nesses princípios éticos será um desafio significativo nos próximos anos, exigindo uma ampla conscientização e mobilização da sociedade.
Assim, o presente dossiê “Inteligência Artificial: questões éticas e estéticas”, dividido entre as edições de número 47 e 48 da Aurora, revista de arte, mídia e política da PUC-SP, visa contribuir com esta fase de reflexões sobre a tecnologia, a identificação e o diagnóstico de seus problemas. Em todos os artigos, as questões éticas e estéticas estão presentes de forma intrincada.
Abrimos o dossiê com o artigo-ensaio “O canto da sereIA”, de Luiz Vianna Sobrinho, da Escola Nacional de Saúde Pública – ENSP/Fiocruz e um dos fundadores da ELA-IA – Estratégia Latino Americana de Inteligência Artificial [2]. O autor direciona o olhar crítico para a atenção à saúde, a prática médica e a virada epistemológica da medicina de dados, chamando a atenção para o domínio do conhecimento advindo da IA e para a necessidade de acesso ao conhecimento socialmente construído que se anuncia, enquanto algo crucial para a ética tecnológica.
Seguimos com os alertas da ficção científica, gênero narrativo que sempre se caracterizou pela problematização da tecnologia e contribuição à percepção pública dos perigos do progresso tecnológico desenfreado. Em “Um futuro laboral distópico prenunciado na série Westworld da HBO Max”, Cíntia Coelho da Silva, pesquisadora em Educação, Arte e História da Cultura da Universidade Presbiteriana Mackenzie, através de metodologia de análise crítica do discurso, explora os aspectos antecipatórios presentes na narrativa futurista de Westworld, como a indistinção entre o elemento humano e o artificial, extraindo conhecimentos oportunos para uma realidade que já experimentamos.
Em “Devir, rizoma e transversalidade em Cyberpunk 2077: uma crítica às sociedades de controle a partir de uma leitura deleuziana”, o pesquisador Gilmar da Silva Montargil, da Universidade Federal do Rio Grande do Sul, traz para a reflexão o game lançado em 2020 que apresenta um futuro em que já não é possível desconectar a mente do ciberespaço. Com uma abordagem deleuziana, o autor destaca como Cyberpunk 2077 problematiza os mecanismos de agenciamento da sociedade de controle, alertando para um eventual descarte do corpo pelo tecnocapitalismo.
Gabriel Barros Bordignon, pesquisador Programa de Pós-graduação em Arquitetura e Urbanismo da Universidade Federal da Bahia, em seu artigo “Casas inteligentes, domesticidade digital e arquitetura contemporânea”, discute a realidade da automação residencial com IA, bem como a compactação dos ambientes domésticos diante da expansão do cotidiano residencial para o ciberespaço.
A discussão sobre as práticas de uso da IA no campo da arte contemporânea estão presentes no artigo “IAs Generativas: a importância dos comandos para texto e imagem” dos pesquisadores do programa de Pós-graduação em Tecnologias da Inteligência e Design Digital da PUC-SP, Anderson Röhe e Lucia Santaella. Eles analisam a relevância dos comandos no funcionamento do ChatGPT, gerador de textos, e do MidJourney, gerador de imagens, por meio de método indutivo-comparativo de seus diferentes sistemas de linguagem.
No artigo, “Da reprodução imagética às fissuras algorítmicas: vieses, desvios e outros campos de possíveis”, Maria Cortez Salviano, pesquisadora do Instituto de Filosofia e Ciências Humanas – IFCH-UNICAMP, indaga se os relacionamentos com a tecnologia no campo da arte pode oferecer respostas alternativas às formas danosas que a IA vem sendo aplicada, a partir de seu específico modo de conhecimento baseado em identificação de padrões e em probabilidades estatísticas.
Em “Por uma etnografia do poder na inteligência artificial, no capitalismo de vigilância e no colonialismo digital”, Rafael Evangelista, pesquisador do Laboratório de Estudos Avançados em Jornalismo (Labjor/Nudecri/Unicamp) e professor na pós graduação em Divulgação Científica e Cultural (IEL-UNICAMP), emprega conceitos derivados de diversas tradições teóricas para enfatizar a inextricável interrelação entre as ideias que circundam a inteligência artificial e seus efeitos tangíveis na construção material e na organização social do mundo contemporâneo.
A presente edição ainda conta com dois artigos de fluxo contínuo. O artigo “Novos desafios regulatórios: a recém-criada Autoridade Nacional de Proteção de Dados (ANPD) em face da investigação do compartilhamento de dados entre Whatsapp e Facebook”, de Carolina Guerra e João Bertholini da PUC-SP, analisa a primeira grande investigação da ANPD, criada em 2018, e seu poder de fogo em relação às Big Techs.
E, finalizando a edição, o artigo “Sobre Superman em Super Pride: conservadorismo e estética kitsch como elementos da representação LGBTI+ em quadrinhos americanos contemporâneos” de Mário Jorge de Paiva, da PUC-Rio, analisa a personagem Superman na edição comemorativa DC Pride 2022.
Referências
[1] Projeto de Lei n° 2338, de 2023: https://www25.senado.leg.br/web/atividade/materias/-/mate-ria/157233.
[2] https://ela-ia.org/.
