Crie o seu primeiro algorítmo
Denunciar o racismo algorítmico é essencial. Mas há um passo além, decisivo: examinar criticamente a tecnologia; apropriar-se dela; empregá-la para criar, em contracorrente, dispositivos que ajudem a combater a desigualdade étnica. Isso é possível: veja como já começa a ser feito
Publicado 09/12/2024 às 16:42 - Atualizado 10/12/2024 às 17:54
Recorrentemente, tem-se denunciado o racismo algorítmico. Seja colocando mais um negro na cadeia por erros na análise de imagens, impedindo o uso básico de equipamentos ou negando representações de diversidade na geração de imagens e em vários outros conteúdos. Mas onde ele pode ser útil?
Antes de mais nada, quero recorrer a um trecho de uma entrevista de Miguel Nicolelis, um renomado neurocientista brasileiro:
“A inteligência é uma propriedade da vida dos seres vivos. Ela não é artificial porque é criada por seres humanos; ela vem da nossa mente.
“A única inteligência da chamada Inteligência Artificial é a do ser humano que criou o sistema, o aplicativo, o algoritmo, ou seja, o que for.
“É a tentativa de criar um futuro sem futuro. Você baseia o futuro no passado. Então, não há nenhuma criação; você está basicamente usando um banco de dados do que ocorreu no passado para gerar um ato no futuro, gerar um livro, uma música ou uma predição.
“Como eu disse, é uma tentativa de compilar o passado de uma maneira absurda, porque, hoje em dia, o poder computacional é muito grande e você tem a chance de usar grandes bancos de dados e extrair deles as correlações estatísticas para ‘fazer’ o futuro. Mas é um futuro sem criatividade.”
Se há algo que constantemente é roubado dos negros, é a possibilidade de imaginarmos o nosso futuro. Estamos tão presos aos problemas cotidianos e existenciais que, quando temos uma folga, queremos apenas aproveitar o momento. A chance de ser morto em uma batida policial, ou de ser confundido com X, Y ou Z, aflige de forma constante a comunidade negra.
Uma análise feita em comunidades que enfrentam violência urbana mostra que o medo de ser morto ou ferido, especialmente por autoridades, pode desencadear sintomas graves de Transtorno de estresse pós-traumático (TEPT), comparáveis aos vivenciados por militares em combate.
Essa conclusão se baseia em estudos que exploram os impactos de violência física e psicológica em populações vulneráveis. A ameaça persistente e a incerteza quanto à segurança pessoal criam um ambiente de estresse crônico, que pode resultar em sintomas como flashbacks, hipervigilância, e dificuldades emocionais e sociais similares às de veteranos expostos a conflitos armados.
Marcos Gomes, um empreendedor brasileiro na área de tecnologia da informação, em seu artigo “Cresci na periferia, mas um privilégio me catapultou para fora da pobreza”, destaca o quanto viver em um ambiente minimamente estável — seja na sua casa ou na sua comunidade —, e principalmente contar com a presença paterna, lhe proporcionou a segurança necessária para que, como criança e adolescente, pudesse ter “futuros imaginários”. Esse contexto foi essencial para que ele criasse uma startup bem-sucedida em um momento em que o mercado de tecnologia ainda era pouco explorado no Brasil.
Em um universo de 11 milhões de mulheres que cuidam de seus filhos sozinhas, até que ponto esse contexto limita as possibilidades de futuros imaginários? O abandono parental afeta profundamente a saúde emocional e o desenvolvimento das crianças. Pesquisas indicam que esse abandono pode causar problemas como baixa autoestima, dificuldades em estabelecer confiança e impactos no desempenho escolar. Projetos como “Meu Pai Tem Nome” buscam reverter essa realidade, promovendo o reconhecimento da paternidade e fortalecendo os vínculos familiares. “Seis dos 11 titulares do Brasil na Copa cresceram distantes do pai biológico”, inicia o artigo “A seleção dos filhos sem pai”, no site El País.
E se a Inteligência Artificial pudesse recriar a presença desses pais? Qual seria o impacto na cabeça dessas crianças? João Vicente, no programa Papo de Segunda, do canal GNT, nos dá uma ideia ao dizer que “daria um barato” se pudesse assistir a um vídeo do pai dele, já falecido, dizendo “eu te amo”. João Bosco, colega de programa, cita a propaganda do Mercado Livre com o Zico, na qual recriam falas do pai do Zico comemorando um gol dele no Maracanã, algo que o pai nunca pôde ver em vida — um sonho de qualquer criança flamenguista, de qualquer criança que ama futebol e sonha em ser jogador. Não por menos Zico ficou em lágrimas. Se a recriação de momentos com o pai afeta homens adultos, com poder aquisitivo e status quo, quanto não afetaria uma criança negra nesses rincões do Brasil? Quantas novas possibilidades de uma vida minimamente plena teríamos? O pai dando conselhos, elogiando por um feito ou comemorando um gol, como no caso do pai do Zico. Permitir que o sonho não seja interrompido por fatalidades ou irresponsabilidades, reflexos do abandono parental.
Essa seria uma sugestão de utilidade: IA para reparação afetiva.
Outra questão diz respeito às fontes de dados com as quais os grandes modelos de linguagem (LLMs) são pré-treinados, além dos vieses presentes nesses treinamentos. Artefatos são formas de expressar ideias e emoções, refletindo o valor cultural, histórico, científico ou artístico de um povo. Quantos textos escritos por pessoas negras são usados nesses treinamentos? E fotos com pessoas negras? É frustrante a tentativa de criar um cartaz, por exemplo, escrevendo no prompt de instruções para a IA que é necessário incluir uma pessoa com acarajé. Quando se busca imagens de bolinho de feijão, aparece muita coisa, mas dificilmente o que visualmente reconhecemos como acarajé. Exemplos não faltam, inclusive de forma negativa, com uma recorrente associação de pessoas negras a elementos e comportamentos ruins.
Devemos os negros gerar artefatos em massa para disputar com as IAs? Pessoas negras estão produzindo conteúdo constantemente, mas este fica restrito a programas de mensagens instantâneas, como WhatsApp, ou outros círculos de informação nas redes sociais. Esses conteúdos são usados para treinar LLMs de diversas corporações, mas quanto podemos diversificar os artefatos intencionalmente? Através de blogs? Álbuns públicos de fotografias? Digitalização de acervos? Criação de diretórios com mapeamentos de conteúdos? Compra de domínios em leilões que possuam alta influência em difusão e a criação de sites no estilo Blogueiras Negras, Portal Gelédes, Alma Preta?
Devem pesquisadores negros e negras contribuir para projetos originais de modelos de linguagem com seus próprios artefatos? Recentemente, aconteceu o caso da Universidade de Stanford, acusada de plágio em um modelo de linguagem de IA desenvolvido pela Universidade Chinesa Tsinghua. Como foi provado o plágio? Segundo o site China Daily, a empresa chinesa ModelBest confirmou em 2 de junho que o grande projeto modelo da equipe de Stanford, Llama3-V, semelhante ao seuMiniCPM, é capaz de reconhecer Tsinghua Bamboo Slips, uma coleção de textos chineses que datam do período dos Estados Combatentes (475-221 aC) e escrito em tinta em deslizamentos de bambu. Os recibos foram doados para a Universidade de Tsinghua em 2008.
Segunda sugestão de IA: Diversidade de artefatos como fonte para LLMs.
Conclusão: Sua criticidade e criatividade são fundamentais na criação de novas tecnologias, seja no design, na privacidade, no desenvolvimento ou nos Direitos Digitais, entre tantas outras possibilidades nesse mundo cada vez mais digital. Criar o seu primeiro algoritmo começa com a crença de que você também pode, buscando recursos, redes de apoio e, sobretudo, estudo e oportunidades. O seu legado, a partir de onde você vê e é, pode contribuir muito para uma internet diversa, livre e aberta.
