Resumo: O racismo é parte da estrutura fundamental das sociedades capitalistas, característica que também se manifesta na forma como as ferramentas tecnológicas são elaboradas. No atual capitalismo de dados, os vieses raciais discriminatórios têm-se revelado como mais uma maneira de reforçar as desigualdades já existentes na sociedade, na medida em que corroboram para a reprodução do racismo que, nas redes sociotécnicas, converte-se em uma forma de opressão algorítmica. A partir de uma abordagem metodológica centrada na revisão de literatura, este artigo tem como objetivo explorar os enviesamentos racistas presentes nas redes digitais, em especial aqueles inscritos nos algoritmos que organizam e classificam a informação disponível online, trazendo o debate ao campo da ética da informação. Os resultados da pesquisa apontam que os softwares e a aplicação das tecnologias de inteligência artificial podem atuar como meios para aprofundar desigualdades, cujos vieses são mascarados tanto pela própria tecnologia (marcada por práticas informacionais invisíveis a seus usuários) quanto pela confiança e crença dataísta na neutralidade tecnológica. Conclui-se que, apesar de não ser a única forma de opressão presente nas redes, o racismo algorítmico tem importante papel na manutenção estrutural das desigualdades raciais, uma vez que não só é alimentado por elas, mas também as alimenta. Nesse sentido, são apresentados elementos que têm potencial de mitigar os vieses algorítmicos atualmente em uso, de forma a trazer mais equidade e responsabilidade em seus processos de elaboração

Palavras-chave: Racismo Algorítmico. Inteligência Artificial. ética da Informação. Algoritmo.

Abstract: This paper aims to analyse the racist biases present in socio-technical networks, especially those present in algorithms, bringing it closer to ethical debates in information science, from the methodological approach of literature review. Discriminatory racial biases have proved to be another way of reinforcing inequalities that already exist in society insofar as they corroborate racism that starts to take the form of algorithmic racism. Racism is understood as a fundamental structure of society and has a fundamental role in capitalism which is now configured as data capitalism. Consequently, it reflects on the way technological tools are developed. In this way, then, software can act to deepen inequalities and its biases are masked by the belief in technological neutrality. It is concluded that, despite not being the only form of discrimination present in socio-technical networks, algorithmic racism plays an important role in maintaining racial inequalities in a feedback relationship. Finally, possible elements are presented that aim to change the order present in the algorithms. These elements aim to bring more equity and responsibility in the process of their development

Keywords: Algorithmic Racism. Artificial Intelligence. Information Ethics. Algorithms.

Compartilhe