Inteligência Artificial, ameaças e brechas

O que são os sistemas que imitam o cérebro humano, para aprender sem programação. Como mega-corporações os utilizam, para desempregar em grande escala e exercer controle social. De que modo resgatá-los para a democracia

Ana Amélia Camarano, em entrevista ao IHU Online

A relação entre o homem e a técnica é “o alicerce” da vida humana contemporânea e no processo de “coevolução colaborativa” de ambos não há como frear o desenvolvimento e o aperfeiçoamento tecnológico do qual depende o “progresso civilizatório”, mas “a responsabilidade de minimizar ou eliminar os efeitos tecnológicos perversos cabe aos humanos”. O diagnóstico é de Dora Kaufman, professora-pesquisadora dos impactos sociais da Inteligência Artificial do Programa de Pós-Graduação de Tecnologias da Inteligência e Design Digital – TIDD/PUC-SP e professora convidada da Fundação Dom Cabral/FDC.

Depois de 80 anos do surgimento de tecnologias que deram origem à Inteligência Artificial, Dora pontua que é preciso avançar significativamente no debate sobre que tipo de sociedade irá emergir das transformações tecnológicas e sobre quais poderão ser os efeitos do uso das tecnologias, assim como tem sido feito nos fóruns de discussão sobre as mudanças climáticas. “Os inúmeros fóruns e estudos exclusivos ainda não produziram consenso sobre a urgência nem sobre as ações concretas para enfrentar os impactos negativos sobre o meio ambiente e as condições climáticas; a sustentabilidade, contudo, ‘está na pauta’ e mobiliza a elite intelectual mundo afora. O mesmo não ocorre com os efeitos sociais e éticos das tecnologias de Inteligência Artificial”, adverte.

Apesar de o avanço tecnológico ter proporcionado inúmeras facilidades à humanidade, de outro lado, é possível perceber uma extrapolação de suas consequências nocivas, e o mercado de trabalho é um bom cenário para visualizar o crescimento das desigualdades e o aumento da disparidade de renda. “As empresas mundo afora enfrentam grandes desafios de escassez de talentos; a requalificação e/ou qualificação dos profissionais é crítica para evitar o cenário de desemprego em massa e aumento da desigualdade. As projeções são de um mercado de trabalho cada vez mais desigual, com as funções de alto desempenho extremamente lucrativas e as demais com perdas salariais, ou eliminadas pela automação. O Uber ilustra o que está por vir: o número de motoristas cadastrados cresceu em 50% entre 2016-2018 (50 milhões para 100 milhões); no Brasil são cerca de 600 mil motoristas; o pleno sucesso de seu projeto de carro autônomo, em teste em várias cidades, gerará um lucro extraordinário aos seus acionistas e uma perda total para os seus motoristas”, exemplifica.

Na entrevista a seguir, concedida por e-mail à IHU On-Line, Dora também comenta como a pandemia de covid-19 tem acelerado as mudanças tecnológicas em curso e dá exemplo das transformações que já estão acontecendo no Brasil.

Dora Kaufman é professora-pesquisadora do TIDD/PUC-SP. Pós-doutora pela COPPE-UFRJ e TIDD PUCSP e Pós-doutoranda em Filosofia pela USP. Doutora ECA-USP com período na Université Paris – Sorbonne IV. Foi pesquisadora visitante no Computer Science Department, NYU (2009, 2010), e no Alexander von Humboldt Institute for Internet and Society, Berlim (2015). É coautora do livro “Empresas e Consumidores em Rede: um Estudo das Práticas Colaborativas no Brasil” (2013) e autora dos livros “O Despertar de Gulliver: os desafios das empresas nas redes digitais” (2017), e “A inteligência artificial irá suplantar a inteligência humana?” (2019). É professora convidada da Fundação Dom Cabral/FDC. É colunista da Época Negócios.

Confira a entrevista

IHU On-Line – Há mais entusiasmo ou receios em torno do avanço e do desenvolvimento das tecnologias e, particularmente, da Inteligência Artificial neste momento que estamos vivendo?

Dora Kaufman – A covid-19 transformou nosso cotidiano num filme de ficção científica. A devastação social não permite ver “o lado bom” da epidemia, mas é certo que teremos significativos avanços no campo da Inteligência Artificial – IA. Sendo a tecnologia de propósito geral do século XXI, a IA vem tendo cada vez mais protagonismo nos processos de inovação, permeando modelos de negócio, mediando a comunicação e a sociabilidade, mudando o mercado de trabalho e a vida em geral. A maioria dos avanços, na última década, provém da técnica chamada de Redes Neurais/Deep Learning – subárea do Machine Learning, que por sua vez é uma subárea da IA; são modelos estatísticos que permitem que as máquinas aprendam com os dados e não sejam programadas.

Na década de 1980, um grupo de pesquisadores – Yann LeCun, Geoffrey Hinton e Yoshua Bengio – concebeu um novo caminho para o aprendizado de máquinas inspirado no funcionamento do cérebro (daí o nome redes neurais e neurônios artificiais), que foi concretizado recentemente em função da maior capacidade computacional e do Big Data. São modelos estatísticos de previsão de cenários, a probabilidade deles se realizarem e quando; correlacionando grandes quantidades de dados, os algoritmos de IA são capazes de estimar com relativa assertividade a probabilidade de um tumor ser de um determinado tipo de câncer, ou a probabilidade de uma imagem ser de um cachorro, ou a probabilidade de quando um equipamento ou peça necessitará de reposição, ou o candidato apropriado para o perfil de determinada vaga de emprego, ou o tipo de serviço ou produto adequado ao perfil do consumidor; o alto grau de acurácia de suas previsões justifica a proliferação desses modelos.

Se o raciocínio dicotômico (bem/mal, positivo/negativo), no geral, não é recomendado, nesse caso é proibitivo porque as tecnologias de IA agregam, simultaneamente, enormes benefícios e ameaças. Não se trata, portanto, de ser pessimista ou otimista, entusiasta ou antagonista; o desafio é achar o ponto de equilíbrio.

IHU On-Line – Como equilibrar essas questões? 

Dora Kaufman – A condição chave para equilibrar os benefícios e as ameaças é expandir a compreensão da sociedade sobre a IA (fundamentos, funcionamento e impactos). Estamos nos primórdios de sua concretização, naturalmente leva um tempo para a sociedade assimilar novas práticas e adquirir capacidade de discernimento. Considerando o campo da comunicação, por exemplo, levou um tempo para o público em geral compreender a propaganda, a ação de merchandising em novelas e filmes. A complexidade dos modelos de IA dificulta essa conscientização (awarenes), favorecendo, consequentemente, a manipulação. Outra barreira é a velocidade de implementação e a assertividade na mediação. É mandatório ampliar o grau de transparência do uso dessas tecnologias, principalmente em áreas sensíveis, como saúde e educação. Quanto mais consciente as instituições e os indivíduos estiverem em relação às interferências dos algoritmos de IA, maior será nossa capacidade de minimizar e/ou de eliminar os impactos negativos.

IHU On-Line – Como a Inteligência Artificial tem modificado nosso cotidiano e nosso modo de vida?

Dora Kaufman – A IA faz parte da vida cotidiana. Acessamos sistemas inteligentes para programar o itinerário com o Waze, pesquisar no Google e receber da Netflix e do Spotify recomendações de filmes e músicas. A Amazon captura nossas preferências no fluxo de dados que coleta a partir das nossas interações com a plataforma. A Siri, da Apple e a Alexa, da Amazon são assistentes pessoais digitais inteligentes que nos ajudam a localizar informações úteis com acesso por meio de voz. Os algoritmos de IA medeiam as interações nas redes sociais, como a seleção do que será publicado no Feed de Notícias do Facebook. Eles estão igualmente presentes nos diagnósticos médicos, nos sistemas de vigilância, na prevenção a fraudes, nas análises de crédito, nas contratações de RH, na gestão de investimento, na Indústria 4.0, na Agricultura 4.0, no atendimento automatizado (chatbot); bem como nas estratégias de marketing, nas pesquisas, na tradução entre idiomas, no jornalismo automatizado, nos carros autônomos, no comércio físico e virtual, nos canteiros de obras, nas perfurações de petróleo, na previsão de epidemias.

Estamos na era da personalização, função da capacidade dos modelos de redes neurais de transformar dados brutos, gerados nas movimentações on-line, em informações úteis. Essas tecnologias estão facilitando a vida do século XXI, mas com efeitos que ainda não somos capazes de identificar em sua plenitude (consequentemente, enfrentá-los).

Alguns autores (Stuart Russell, Frischmann, Selinger, Zuboff, O’Neal) alertam sobre o comprometimento, pelos sistemas inteligentes, da capacidade humana mental e sua interação com o mundo exterior como agente social. Pare eles, esses sistemas, originalmente concebidos para otimizar os processos, estão sendo utilizados para manipular os indivíduos, abalando a prerrogativa básica dos seres humanos de pensar e decidir, ou seja, de serem agentes. São alegações que merecem reflexão, mas essa reflexão deve contemplar o significado de “ser humano”: nas definições de “homem estrutural” da modernidade e de “homem neuronal” da contemporaneidade, as decisões e pensamentos são formados a partir de contextos externos, formulações coletivas. Não existiria, portanto, livre-arbítrio nem autonomia.

IHU On-Line – Quais são os dilemas éticos que se apresentam com o desenvolvimento das tecnologias? Pode nos dar alguns exemplos? 

Dora Kaufman – Cada nova aplicação tem dilemas éticos intrínsecos. No geral, destacam-se:

(a) o viés, que são os preconceitos contidos nos dados e/ou quando a base de dados não reflete o universo total do objeto em questão;

(b) a não explicabilidade dos sistemas, que são verdadeiras “caixas pretas”; e

(c) a privacidade, na medida em que os dados estão na base dos modelos, particularmente os dados pessoais. A IA que está sendo usada em larga escala (modelo estatístico de probabilidade) não é inteligente, não tem capacidade de compreender o significado, o que se constitui em sua principal fragilidade (ou vulnerabilidade). Os algoritmos de reconhecimento de imagem, por exemplo, podem falhar em consequência de alterações na iluminação ambiente e/ou em quantidades diminutas de ruído (infringido por hackers, por exemplo).

Proliferam os sistemas de reconhecimento facial, com câmaras de vigilância em espaços públicos e privados – escolas, transportes públicos, locais de trabalho, unidades de saúde, nas ruas – sem que a sociedade esteja ciente dos riscos. O mundo ocidental democrático é crítico em relação aos excessos cometidos pelo governo chinês, mas não se dá conta da crescente vigilância, por exemplo, do governo americano sobre seus cidadãos. Na Europa, onde a privacidade é valorizada, Londres é a segunda cidade com mais câmeras digitais pelas ruas, atrás apenas de Pequim. Essas câmeras captam, sem consentimento, onde estamos, para onde vamos, com quem estamos, as condições do nosso veículo.

A invasão da privacidade é o efeito perverso mais evidente, mas não é o único. Como todos os modelos estatísticos, seus resultados indicam a probabilidade de algo ocorrer em percentuais menores do que 100%; um percentual de 10-25% de erro pode parecer pouco, mas com certeza não foi para a mulher detida por engano em Copacabana (julho/2019), com “falso positivo” do sistema de identificação de criminosos da polícia do Rio de Janeiro.

IHU On-Line – Uma crítica feita à Inteligência Artificial e às tecnologias em geral é de que elas beneficiam mais a indústria e as empresas envolvidas do que nós, usuários. Concorda? Sim, não e por quê?

Dora Kaufman – Os algoritmos de IA estão presentes em quase todos os aplicativos e facilitadores ordinários; é difícil imaginar a vida do século XXI sem eles. Do ponto de vista das empresas/instituições (não só a indústria), o benefício imediato é reduzir os custos e aumentar a eficiência, o que indiretamente beneficia as pessoas ao oferecer produtos e serviços personalizados e relativamente mais baratos; as contrapartidas são o desemprego e o aumento da desigualdade. Os benefícios e as ameaças estão disseminados na economia e na sociedade, afetando instituições e indivíduos, mas não na mesma proporção e intensidade: as instituições têm mais recursos e condições para se proteger dos impactos negativos, o que remete a questões abordadas anteriormente, como a conscientização da sociedade, a transparência no uso dessas tecnologias.

IHU On-Line – Alguns teóricos chamam a atenção para o fato de que o desenvolvimento humano, social, moral e político não ocorre nas mesmas dimensões do progresso tecnológico ou, ainda, que o progresso tecnológico não contribuiu para o desenvolvimento humano integral. A tecnologia tem algo a nos oferecer nesse sentido, para que possamos avançar em outras esferas, ou ela tende a aprofundar as disparidades sociais e, de algum modo, limitar o nosso desenvolvimento em outras dimensões da vida humana?

Dora Kaufman – A relação homem-técnica é o alicerce da vida humana de sua origem à contemporaneidade. As tecnologias e os humanos compartilham uma “coevolução colaborativa” com múltiplas adaptações ao longo dessa convivência, inclusive a utilização pelos seres humanos é que define a sobrevida das tecnologias. O Facebook, por exemplo, foi criado com uma finalidade específica e foi se transformando, expandindo suas funcionalidades, na interação com os usuários; esse raciocínio serve para qualquer tecnologia. O progresso civilizatório pressupõe a descoberta de novas tecnologias e/ou o aperfeiçoamento das existentes; não tem como frear esses processos. A responsabilidade de minimizar ou eliminar os efeitos tecnológicos perversos cabe aos humanos, depende de ação efetiva da sociedade, particularmente de políticas públicas (inclui arcabouço legal/regulatório). O problema, fundamentalmente, está na decisão de uso das tecnologias, e não na tecnologia em si (o que não tem a ver com a ideia de “neutralidade” da tecnologia).

IHU On-Line – A senhora tem chamado atenção para a necessidade de se discutir as potencialidades da Inteligência Artificial como se discute hoje a temática da sustentabilidade ambiental, estabelecendo um comparativo entre as duas questões. O que tem pensado sobre essas questões?

Dora Kaufman – A criação do Clube de Roma, em 1968, é um marco inaugural do debate sobre o desenvolvimento sustentável, processo que se consolidou em 1972 com o lançamento do primeiro relatório “Os Limites do Crescimento”, elaborado por pesquisadores do Massachusetts Institute of Technology – MIT, alertando sobre os limites ao crescimento. Os inúmeros fóruns e estudos exclusivos ainda não produziram consenso sobre a urgência nem sobre as ações concretas para enfrentar os impactos negativos sobre o meio ambiente e as condições climáticas; a sustentabilidade, contudo, “está na pauta” e mobiliza a elite intelectual mundo afora. O mesmo não ocorre com os efeitos sociais e éticos das tecnologias de IA.

Crescem aceleradamente, por exemplo, os impactos no mercado de trabalho, que extrapolam o desemprego. Temos um efeito perverso sobre a empregabilidade: as novas funções requerem habilidades que a maioria da população não tem e, pior, não tem condições de adquirir; a mobilidade de emprego é prerrogativa da elite com acesso à formação qualificada.

Outro ponto de atenção: as “máquinas inteligentes” estão substituindo as tarefas repetitivas e previsíveis, em geral associadas às funções de entrada no mercado de trabalho (“primeiro emprego”); sem exercê-las, como o profissional, em qualquer área, atingirá a condição de “profissional sênior”, ou seja, como o mercado formará os novos profissionais?

As tecnologias de IA têm potencial de melhorar as condições de vida da população de baixa renda, mas igualmente têm potencial de excluí-la do mercado de trabalho. Essas mesmas tecnologias estão ampliando a desigualdade entre países, empresas e indivíduos. É urgente debater e equacionar essas e outras questões.

IHU On-line – Como a pandemia de covid-19 impacta as transformações tecnológicas em curso? Ela tende a redirecionar ou acelerar essas mudanças e a criar um “novo normal”?

Dora Kaufman – Como disse anteriormente, a covid-19 é um acelerador dos processos em curso. Na saúde, por exemplo, a pandemia concretizou a telemedicina, utilizada inclusive para pré-triagem de pacientes contaminados. Na educação, a pandemia impôs o ensino on-line às instituições, aos professores e alunos, ampliando a familiaridade com as tecnologias digitais, o que trará impactos futuros. A escala da adesão involuntária ao home office impactará o trabalho e, indiretamente, o setor imobiliário, o setor de transporte, a alimentação “fora de casa” e o planejamento urbano. A diversidade e a quantidade de cursos on-line disponíveis durante a quarentena, o consumo via internet, a sociabilidade virtual, o acesso à informação on-line, a psicanálise virtual, as aulas virtuais de ginástica e yoga, todas essas experimentações, em menor ou maior grau, gerarão novos comportamentos e hábitos.

Existe muita especulação sobre o “novo normal”. Em princípio não aposto em mudanças radicais, mas compartilho a percepção de que, provavelmente, teremos uma vida diferente. No âmbito da economia e dos negócios, as empresas que já estavam em processos de transformação digital terão vantagens competitivas, provavelmente haverá uma espécie de seleção natural atingindo fortemente as empresas mais vulneráveis, dentre elas as pequenas e microempresas. A intensidade e dimensão dos impactos depende da extensão da quarentena, das políticas públicas, da reação da economia nos próximos meses, ou seja, temos um cenário de muita incerteza.

IHU On-line – O que tem mudado no comportamento das empresas e dos consumidores conforme as tecnologias vão sendo desenvolvidas e como isso poderá ser potencializado ou transformado pós-pandemia? 

Dora Kaufman – Não sou especialista em comportamento do consumidor, mas os estudos embrionários indicam uma aceleração dos processos que já estavam em curso. Aparentemente, há consenso sobre a superação da divisão entre a vida on-line e a vida off-line, estamos todos conectados full-time, o que demanda novas estratégias por parte das empresas, novas formas de interação/conexão com seus consumidores/clientes.

IHU On-Line – Quais são as consequências sociais do uso da Inteligência Artificial?

Dora Kaufman – A principal consequência social negativa da IA recai sobre o trabalho e tende a piorar nas próximas décadas. Os empregos transferidos diretamente de humanos para máquinas estão disseminados em muitas e diferentes áreas da economia, com uma perda indireta de outros empregos pelo “efeito cascata”. O trabalhador humano está competindo com outra “espécie”, mais barata de empregar e com a vantagem adicional de evoluir continuamente para formas mais inteligentes; o risco é não serem geradas oportunidades suficientes para os humanos cujas habilidades não serão mais relevantes.

Em paralelo, a substituição do trabalhador humano pelos sistemas inteligentes gera efeito negativo sobre a renda ao aumentar a competição pelos empregos remanescentes (redução salarial). A tendência é a extinção das funções de menor qualificação, em geral exercidas pela população de baixa e média renda.

As empresas mundo afora enfrentam grandes desafios de escassez de talentos; a requalificação e/ou qualificação dos profissionais é crítica para evitar o cenário de desemprego em massa e aumento da desigualdade. As projeções são de um mercado de trabalho cada vez mais desigual, com as funções de alto desempenho extremamente lucrativas e as demais com perdas salariais, ou eliminadas pela automação. O Uber ilustra o que está por vir: o número de motoristas cadastrados cresceu em 50% entre 2016-2018 (50 milhões para 100 milhões); no Brasil são cerca de 600 mil motoristas; o pleno sucesso de seu projeto de carro autônomo, em teste em várias cidades, gerará um lucro extraordinário aos seus acionistas e uma perda total para os seus motoristas.

IHU On-Line – Como a senhora vê a discussão sobre vigilância e uso de dispositivos tecnológicos no período da pandemia? Quais são os riscos de o uso dessas tecnologias se tornar a regra?

Dora Kaufman – O dilema privacidade versus conveniência tomou outro rumo durante a pandemia da covid-19. As tecnologias de IA são úteis para rastrear a disseminação do vírus e interromper o agente infeccioso, mas, simultaneamente, suscitam questões éticas sensíveis. Alguns desses sistemas estão ameaçando a privacidade em níveis maiores do que os usos correntes em finalidades comerciais, e nem sempre incluem o consentimento prévio ao acesso e uso às informações pessoais. Os riscos são minimizados nos sistemas que usam dados anonimizados (sem identificação individual), o que não é o caso de vários dos sistemas associados ao combate à covid-19, como o aplicativo Alipay na China, que atribui categorias de risco aos indivíduos.

A Assembleia Global de Privacidade (GPA – Global Privacy Assembly), que tem mais de 130 membros e é o principal fórum global de proteção de dados e autoridades de privacidade, identificou mudanças relacionadas à privacidade de dados em pelo menos 27 países. A gravidade da pandemia justifica priorizar vidas em detrimento da privacidade, mas o desafio será retroceder os sistemas de vigilância, garantir que sejam transitórios e não permanentes. É mandatório a transparência desses sistemas.

IHU On-Line – Quais são as dificuldades de pensarmos criticamente sobre as tecnologias, dado o seu avanço exponencial?

Dora Kaufman – Do meu ponto de vista, no âmbito acadêmico, creio que a maior dificuldade é a falta de conhecimento para lidar com essas tecnologias. A tradicional separação entre ciências exatas e ciências humanas, herança da economia industrial, não dá conta da complexidade de sua lógica, fundamentos e impactos sociais. O foco das ciências exatas é a criação e desenvolvimento da tecnologia em si, em geral, sem contemplar os impactos sociais. Por outro lado, as ciências sociais e humanas tendem a não ter repertório para compreender os meandros da tecnologia, o que compromete as reflexões.

Os algoritmos de IA não são apenas instrumentos comerciais (ampliar vendas), mas permitem prever e interferir, de maneira inédita, em nossa conduta em todas as esferas da vida social. Os novos modelos de persuasão estão influindo na formação de nossas crenças, emoções e bem-estar e por mecanismos que entendemos parcialmente. De novo, se coloca a questão da conscientização da sociedade.

IHU On-Line – Deseja acrescentar algo? 

Dora Kaufman – Parabenizo o IHU pela iniciativa de contemplar o debate sobre os impactos sociais da Inteligência Artificial, e agradeço pela oportunidade; é um privilégio dada a qualidade e relevância da publicação. Por fim, convido os leitores a adentrarem no campo da IA, a tecnologia de propósito geral do século XXI.

Gostou do texto? Contribua para manter e ampliar nosso jornalismo de profundidade: OutrosQuinhentos

Leia Também: