Inteligência artificial e racismo algorítmo: análise da neutralidade dos algorítimos frente aos episódios de violação de direitos nos meios digitais

Abstract

O presente artigo tem por objetivo a análise crítica dos aspectos sociais que envolvem o conceito de “neutro”, dentro dos algoritmos digitais. O problema da pesquisa gira em torno de como os algoritmos utilizados pelas diversas inteligências Artificiais tem perpetuado políticas racistas e discriminatórias dentro e fora dos meios digitais na modernidade. Tem por objeto a análise crítica das dinâmicas modernas dentro dos meios digitais e os episódios de racismo que delas decorrem, no recorte do objetivo geral de analisar a importância e as limitações da inteligência artificial dentro das atuações do mundo moderno, a partir das métricas de programas com uma base de dados racistas e tendenciosos e dos objetivos específicos, quais sejam, o conceito de inteligência artificial e suas funcionalidades dentro da sociedade, o estudo dos episódios de racismo dentro da máquina, e a análise da ranquitude e a neutralidade enviesada dentro das IA, cuja hipótese de trabalho é justamente a análise do impacto das métricas racistas e preconceituosas utilizadas pelos algoritmos, dentro dos meios digitais. É fato que, em tese, as inteligências artificiais e algoritmos computacionais são mecanismos neutros e sem distinção. No entanto, o que se observa dentro das tecnologias modernas é justamente um reforço de preconceitos discriminações, que geram violações de direitos fundamentais e humanos, a partir do marco teórico de produção das autoras Cathy O`Neil, Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy”, e Tarcízio Silva: “Racismo algorítimo: inteligência artificial e iscriminação nas redes digitais”, que estudam os precedentes e as discussões envolvendo as inteligências artificiais e o viés racista que acompanha o avanço tecnológico mundial. a pesquisa se desenvolve no âmbito do Grupo de Pesquisa Cultura, Direito e Sociedade DGP CNPQ UFMA, na linha de pesquisa Direito, Estado e Controle Social.