Tramita com urgência o Projeto de Lei 6446/2019 (de autoria de Bibo Nunes do PSL-RS). Embora a intenção do PL pareça de alertar os usuários sobre áreas de alto risco, isso pode ter consequências indesejadas, como estigmatização e discriminação de determinadas comunidades.
Infelizmente existem casos em que o uso de tecnologias de segurança pública e vigilância resultou em discriminação racial e outros tipos de violações de direitos humanos no Brasil. Um exemplo é o que já escrevemos sobre o caso de São Paulo e o projeto piloto de Reconhecimento Facial que foi implementado na cidade de Salvador em 2020.
Esse projeto gerou críticas de organizações de direitos humanos e ativistas devido a preocupações com a possibilidade de discriminação racial e de gênero, além de falhas técnicas e de privacidade. O projeto foi temporariamente suspenso por ordem judicial após uma ação civil pública movida pelo Ministério Público da Bahia e outras organizações, que alegaram que a tecnologia violava direitos fundamentais dos cidadãos. Há um ótimo artigo sobre Reconhecimento Facial na Revista Afirmativa citando exemplos do carnaval 2023.
Esse caso mostra a importância de avaliar cuidadosamente o uso de tecnologias de segurança pública e de monitorar o impacto dessas tecnologias sobre os direitos humanos e a igualdade racial. É importante garantir que as tecnologias sejam usadas de forma responsável e ética e que as comunidades afetadas sejam ouvidas e envolvidas no processo de tomada de decisão.
Portanto uma das análises necessárias ao Projeto de Lei 6446/2019 é se ele pode agravar a desigualdade social e racial, uma vez que essas áreas de alto risco são frequentemente associadas a comunidades de baixa renda e de pessoas minorizadas. Ou seja, se ele viola princípios de não discriminação e de privacidade, já que a identificação de áreas de alto risco pode levar à estigmatização de comunidades inteiras e, possivelmente, à violação da privacidade dos moradores dessas áreas.
Uma alternativa seria propor que recursos públicos sejam usados para melhorar a segurança pública nessas áreas da cidade, em vez de apenas alertar sobre áreas de alto risco. Isso poderia ajudar a promover uma abordagem mais justa e equilibrada para a segurança pública.
Tecnologias de vigilância e os algoritmos não são neutros e refletem os preconceitos e estereótipos da sociedade em que foram criados. É importante considerar esses fatores ao avaliar propostas como o PL 6446/2019 e garantir que as medidas adotadas promovam a igualdade e a justiça para todos.
Questões técnicas podem ser uma parte importante do projeto de lei também. O uso de software livre e de código aberto por exemplo pode ajudar a garantir maior transparência e controle sobre as tecnologias usadas na segurança pública e minimizar o risco de viés discriminatório. Além disso, o desenvolvimento de algoritmos responsáveis e éticos também pode ajudar a garantir que as tecnologias de segurança pública sejam usadas de forma justa.
Outra solução técnica seria a criação de processos de monitoramento e avaliação, com organizações independentes, para garantir que o uso da tecnologia de segurança pública seja supervisionado e avaliado de forma regular. Isso poderia ajudar a identificar possíveis abusos ou violações de direitos humanos e a garantir que as tecnologias sejam usadas de forma responsável e de acordo com os princípios de não discriminação e privacidade.
Outra possibilidade seria trabalhar em conjunto com as comunidades afetadas, envolvendo-as na criação de soluções para a segurança pública e tornando-as parte da solução, em vez de identificá-las como parte do problema. Já mostramos um exemplo disso com a metodologia Café Hacker que criou ferramentas como o PlanejaSampa, Programa de Metas e o Gestão Urbana SP. O diálogo com as comunidades afetadas e a promoção da participação cidadã podem ajudar a garantir que as soluções técnicas adotadas levem em consideração as necessidades e demandas dessas comunidades e que a tecnologia seja usada de forma justa e equilibrada.
É bom lembrar que as soluções técnicas devem ser vistas como parte de uma abordagem mais ampla e holística para a segurança pública, que envolve também políticas públicas, educação, prevenção e outras medidas. Temos que garantir que as soluções técnicas sejam usadas de forma complementar e integrada com outras medidas para garantir uma abordagem justa e equilibrada para a segurança pública.
Veronyka Gimenes
Navega entre programação, gestão, design e ativismo. Especializada em Desenvolvimento de Software, Globalização e Cultura, e Diversidade. Com mais de 15 anos de experiência nessas áreas, já trabalhou com IBM, Prefeitura de São Paulo, Banco Mundial (para Governo do Ceará e Rio Grande do Sul), Bloomberg Philanthropies, Ministério da Cultura do Brasil, Campanha Presidencial Lula 2022 e Haddad 2018 e 2022, Partido Rede, OAB SP entre outros. Atuou em projetos no setor Legislativo, Executivo e Judiciário e já coordenou campanhas políticas. Já palestrou no TEDxUFRJ, Democracy Lab (MediaLab-Prado, Madrid), MIS – Museu da Imagem e do Som, Red Bull Station, Prefeitura de São Paulo, IAB-SP e InovaDay/iGovSP.
