Vigilância em SP: quando todos são suspeitos
Cidade abre tendência perigosa. Prefeitura implantará milhares de câmeras e reconhecimento facial. Ação invade privacidades, discrimina negros por racismo algorítmico e viola Constituição, ao tratar cada pessoa como suposto criminoso
Publicado 30/08/2023 às 19:11 - Atualizado 30/08/2023 às 19:22
Esta semana assisti, pelo Youtube, a audiência pública de lançamento do contrato do projeto “Smart Sampa” – o mais ambicioso, problemático e questionável sistema automatizado de segurança pública e reconhecimento facial da cidade de São Paulo.
É provável que você já tenha, ao menos, ouvido falar do projeto.
O Smart Sampa foi alvo de intensas críticas por parte da sociedade civil durante os últimos meses e tem gerado um debate incessante na fronteira entre democracia, segurança pública e direitos fundamentais. Inicialmente, tornou-se polêmico não somente pela escala – pois pretende integrar 20 mil câmeras acopladas com sistemas automatizados de reconhecimento facial –, mas também pelo seu viés racista, ao usar expressões como combate à “vadiagem”, como uma das funcionalidades da integração. Foi alvo de ações judiciais que contestaram falhas procedimentais na avaliação de impacto, potencialização de atos contrários ao direito e impacto desproporcional à população negra de São Paulo.
Não vou sistematizar as diversas críticas já feitas por intelectuais como Pablo Nunes, Ronaldo Lemos, Thiago Amparo, Bianca Kremer e muitos outros que já se debruçaram sobre o tema e contribuíram com ótimos argumentos contrários à existência do Smart Sampa. Uma rápida pesquisa com os termos “Smart Sampa e racismo” no seu mecanismo de busca favorito (DuckDuckGo, Bing ou Google) é o suficiente para ver que a discussão é seríssima.
Como disse Luã Fergus, pesquisador de direitos digitais do Instituto Brasileiro de Defesa do Consumidor – respeitada instituição de proteção de direitos coletivos fundada nos anos 1980 no Brasil –, “o uso dessa tecnologia levará a erros graves de identificação e detenções injustas”. A questão foi colocada abertamente, há muitos meses, em audiência da Comissão de Direitos Humanos e Cidadania da Câmara Municipal de São Paulo. Foram produzidas diversas cartas abertas e manifestos por entidades civis especializadas. A campanha “Tire Meu Rosto da Sua Mira” chegou a projetar as frases “Smart Sampa é ilegal” em fachadas de prédios em São Paulo, com apoio de drones.
As mobilizações de entidades chamaram atenção da mídia internacional, com matéria de fôlego produzida por Angela Macri para Al Jazeera, mas não sensibilizaram a Prefeitura de São Paulo, que não desistiu de executar o contrato. Em todas as ocasiões e manifestações públicas, a Prefeitura não reconheceu que poderia ter tido uma má ideia.
A decisão parecia tão firmada que nem mesmo intervenções de órgãos de controle afetaram o processo decisório sobre a implementação do Smart Sampa. Em fevereiro, um relatório do Tribunal de Contas do Município de São Paulo reconheceu que há riscos de racismo algorítmico. Como escreveram Horrara Moreira e Pedro Peres em importante ensaio publicado pela Fundação Heinrich Böll, “os erros sistemáticos da identificação estão diretamente relacionados com a falta de diversidade nos bancos de dados utilizados para treinamento dessas tecnologias”.
Até o momento, o projeto continua. Vejamos o que foi dito em seu lançamento no início de agosto.
Os discursos no anúncio do Smart Sampa
Focarei na análise do discurso do que foi dito no lançamento. É importante prestar atenção nos discursos e nas narrativas feitas nesta audiência pública, pois elas revelam intencionalidades, molduras teóricas, premissas não explicitadas e crenças sobre o papel da tecnologia. Não farei muitos juízos de valor sobre as falas, mas as trago à tona para uma melhor reflexão coletiva. Minha premissa é que uma reflexão ampliada sobre o Smart Sampa é, em si, positiva, na medida em que afeta direitos e liberdades básicas de qualquer cidadão que resida ou transite em São Paulo.
O primeiro argumento que chama atenção na coletiva de imprensa sobre a assinatura do contrato do Smart Sampa, em especial o feito por Elza Paulina de Souza – servidora de carreira da Guarda Civil Metropolitana e atualmente Secretária –, é que a capacitação e uso de tecnologias em segurança pública, para “prestação de serviços eficazes e eficientes”, é a política número um do atual mandato da Prefeitura. Seu segundo argumento é o de que o uso das tecnologias de reconhecimento facial diz respeito à “pronta resposta” e “integração”. Segundo Elza, o uso desses dados, de forma integrada, é uma racionalização de políticas públicas e uma espécie de “cuidado” e “pertencimento” do cidadão com São Paulo.
De fato, é inegável que integração de sistemas traz ganhos de eficiência. No entanto, a questão de fundo aqui – talvez a mais importante – é justamente a supremacia da eficiência enquanto valor normativo principal para pensar o Smart Sampa. Ao ser um sistema com um conjunto de efeitos sociais (o que chamamos de affordances na ciência do design), os valores centrais deveriam ser outros, em especial valores normativos relacionados ao que entendemos, enquanto comunidade política, como intervenções legítimas a liberdades fundamentais.
O Secretário Fagotti enfatizou, em seu discurso, o “efeito de prevenção” pelo fato de existirem 20 mil câmeras integradas. Segundo ele, isso geraria um “efeito inibidor” pelo fato de que as pessoas em São Paulo mudariam o seu comportamento ao saberem que estão sob vigilância permanente. Sua expectativa seria, portanto, “inibir e afastar a criminalidade”.
De certo modo, isso lembra um certo utilitarismo e pragmatismo do pensamento jurídico, em especial da análise econômica do direito formulada na década de 1970. A ideia, tradicional no pensamento de Richard Posner, é que a “pessoa malvada” tende a ter incentivos maiores de inibição de comportamento, ao internalizar a possibilidade de uma punição. O problema, no entanto, é analisarmos os efeitos apenas para “potenciais criminosos”. Por isso a crítica sobre direitos fundamentais e devido processo: na medida em que todos passam a ser potenciais suspeitos, temos um problema constitucional?
O segundo discurso do Secretário é uma espécie de “supremacia da integração”, no sentido de que, até 2024, as 20 mil câmeras estejam integradas a mais 20 mil câmeras de lojistas, escolas, farmácias, shoppings e muitos outros estabelecimentos comerciais. Nessa lógica, quanto mais integração, melhor. E também “quanto antes, melhor”.
O terceiro discurso é sobre as potencialidades do uso biométrico. O principal argumento é que mesmo cidades como São Francisco, que haviam banido o reconhecimento facial em 2019, voltaram atrás e decidiram rever as decisões de banimento diante do crescimento da criminalidade. A informação me parece incorreta, na medida em que o que ocorreu em São Francisco foi distinto. Em 2022, o Conselho de Supervisão da cidade votou, por 7 votos a 4, para autorizar o acesso de imagens de câmeras privadas pela San Francisco Police Department, sem ordem judicial [search warrant], no período de 24 horas, desde que autorizado pelo proprietário das câmeras. No entanto, a Ordem dos Advogados de São Francisco assinou carta sustentando que tais poderes são inconstitucionais, abrindo margem para severas violações de direitos no acesso às imagens de câmeras para “produção de evidências em investigações”.
O quarto discurso formulado na apresentação é que o Smart Sampa possui ampla aderência com a Lei Geral de Proteção de Dados Pessoais (LGPD) e que sua implementação contará com Política de Segurança da Informação (PSI), Política de Segurança Cibernética (PSC) e Política de Integridade e Ética (PIE). Todas elas evitariam acessos indevidos, incidentes de segurança e usos ilícitos dos dados. Ainda, haverá um Conselho de Gestão e Transparência, composto pela Controladoria Geral do Município (CGM), responsável por garantir o cumprimento da LGPD e avaliar as medidas de mitigação de riscos formuladas no Relatório de Impacto à Proteção de Dados Pessoais, que deverá ser elaborado pelas empresas responsáveis pela implementação do Smart Sampa.
Não há nada de errado aqui – especificamente com relação ao cumprimento do que diz a legislação sobre proteção de dados pessoais –, mas o mais importante é que o ponto crucial não é um compliance com a LGPD no sentido de garantia de não vazamento de dados ou uma confusão da proteção de dados pessoais com questões de “segurança da informação”. O que é realmente necessário é uma avaliação de impacto de outra natureza: a de potenciais violações a direitos fundamentais.
Nesse sentido, vale lembrar o que disse Giovanni Butarelli, um dos grandes políticos e pensadores da sociedade da informação: na medida em que cidades avançam projetos de reconhecimento facial e usos de drones, a resposta não estará em uma leitura burocrática das leis de proteção de dados pessoais. Não bastaria uma listagem (estilo “check, check, check”) da LGPD no Smart Sampa.
Os problemas envolvem outras questões bem mais amplas sobre assimetrias de poder, acentuação de desigualdades, racismo algorítmico e violações a liberdades fundamentais garantidas em nível constitucional. Por isso a demanda, por parte de diversas entidades civis especializadas, de que a Prefeitura poderia agir diferente para evitar que riscos sejam produzidos. Não é um pedido descabido. O Supremo Tribunal Federal já reconheceu, em duas ocasiões, que o Poder Público possui a obrigação de minimizar riscos produzidos aos direitos da personalidade dos cidadãos, o que envolve uma “dimensão objetiva” do direito fundamental à proteção de dados pessoais.
Um comentario para "Vigilância em SP: quando todos são suspeitos"