Racismo algorítmico e ferramentas de policiamento preditivo: proteção de direitos fundamentais ou um retorno a Cesare Lombroso?

Abstract

Este trabalho investiga a relação existente entre inteligência artificial (IA), racismo algorítmico e colonialismo digital, com foco na análise de ferramentas de policiamento preditivo. O estudo demonstra como os algoritmos treinados com dados derivados de experiências humanas (como abordagens policiais) refletem preconceitos e estereótipos, reforçando um racismo já presente durante a persecução penal. Com efeito, sistemas de policiamento preditivo (como o PredPol e Palantir, apresentados no decorrer da tese), exemplificam essas práticas ao basear suas previsões delitivas em dados enviesados, o que, consequentemente, possui o potencial de aumentar a vigilância e até mesmo a violência praticada pelo Estado contra grupos já tradicionalmente marginalizados. O presente estudo se insere na linha de pesquisa “Democracia, Cidadania e Direitos Fundamentais”, do Programa de Pós-Graduação em Direitos e Garantias Fundamentais da Faculdade de Direito de Vitória, e tem como escopo demonstrar que a adoção por parte de países em desenvolvimento dessas tecnologias, sob um discurso de neutralidade, pode ser encarada como um reflexo do colonialismo digital e um retorno aos preceitos da criminologia lombrosiana do séc. XIX. Ao examinar essas questões a partir de uma metodologia predominantemente qualitativa e bibliográfica, a pesquisa também apresenta a hipótese de que é viável (e possível) a criação de ferramentas não violadoras de garantias, até mesmo no campo da persecução penal, partindo da premissa de que a IA pode ser desenvolvida e aplicada de forma a observar direitos humanos e fundamentais. Nesse sentido, em conclusão, como forma de comprovar a hipótese fundante, a tese apresenta projetos concretos de desenvolvimento de inteligências artificiais a partir de uma comunicação com o conceito de direitos humanos instituintes, destacando a importância de uma abordagem regulatória estatal que evite a reprodução de preconceitos históricos e culturais nesses sistemas tecnológicos