Black skin, white algorithms: information and racism in socio-technical networks
[Liinc em Revista; Vol. 18 No. 2 (2022): The Role of Algorithms and Digital Platforms on Sociopolitical Contexts; e6043]
Pele negra, algoritmos brancos: informação e racismo nas redes sociotécnicas

Black skin, white algorithms: information and racism in socio-technical networks

Resumo: O racismo é parte da estrutura fundamental das sociedades capitalistas, característica que também se manifesta na forma como as ferramentas tecnológicas são elaboradas. No atual capitalismo de dados, os vieses raciais discriminatórios têm-se revelado como mais uma maneira de reforçar as desigualdades já existentes na sociedade, na medida em que corroboram para a reprodução do racismo que, nas redes sociotécnicas, converte-se em uma forma de opressão algorítmica. A partir de uma abordagem metodológica centrada na revisão de literatura, este artigo tem como objetivo explorar os enviesamentos racistas presentes nas redes digitais, em especial aqueles inscritos nos algoritmos que organizam e classificam a informação disponível online, trazendo o debate ao campo da ética da informação. Os resultados da pesquisa apontam que os softwares e a aplicação das tecnologias de inteligência artificial podem atuar como meios para aprofundar desigualdades, cujos vieses são mascarados tanto pela própria tecnologia (marcada por práticas informacionais invisíveis a seus usuários) quanto pela confiança e crença dataísta na neutralidade tecnológica. Conclui-se que, apesar de não ser a única forma de opressão presente nas redes, o racismo algorítmico tem importante papel na manutenção estrutural das desigualdades raciais, uma vez que não só é alimentado por elas, mas também as alimenta. Nesse sentido, são apresentados elementos que têm potencial de mitigar os vieses algorítmicos atualmente em uso, de forma a trazer mais equidade e responsabilidade em seus processos de elaboração

Palavras-chave: Racismo Algorítmico. Inteligência Artificial. ética da Informação. Algoritmo.



Abstract: This paper aims to analyse the racist biases present in socio-technical networks, especially those present in algorithms, bringing it closer to ethical debates in information science, from the methodological approach of literature review. Discriminatory racial biases have proved to be another way of reinforcing inequalities that already exist in society insofar as they corroborate racism that starts to take the form of algorithmic racism. Racism is understood as a fundamental structure of society and has a fundamental role in capitalism which is now configured as data capitalism. Consequently, it reflects on the way technological tools are developed. In this way, then, software can act to deepen inequalities and its biases are masked by the belief in technological neutrality. It is concluded that, despite not being the only form of discrimination present in socio-technical networks, algorithmic racism plays an important role in maintaining racial inequalities in a feedback relationship. Finally, possible elements are presented that aim to change the order present in the algorithms. These elements aim to bring more equity and responsibility in the process of their development

Keywords: Algorithmic Racism. Artificial Intelligence. Information Ethics. Algorithms.



Como citar
BEZERRA, A. C.; COSTA, C. M. Pele negra, algoritmos brancos: informação e racismo nas redes sociotécnicas. Liinc em revista, v. 18, 2022. DOI: 10.18617/liinc.v18i2.6043 Acesso em: 01 dez. 2022.

Compartilhe
Plum X Metrics
NLP
proprietyvalue
DescriptorPele negra, algoritmos brancos: informação e racismo nas redes sociotécnicas
BEZERRA, Arthur Coelho; COSTA, Camila Mattos da
Liinc em revista, v. 18, 2022. () (pt-BR) 3
Identificadorhttps://revista.ibict.br/liinc/article/view/6043 (pt-BR) 3
IdentificadorDOI: 10.18617/liinc.v18i2.6043 (pt-BR) 3
TitlePele negra, algoritmos brancos: informação e racismo nas redes sociotécnicas (pt-BR) 3
TitleBlack skin, white algorithms: information and racism in socio-technical networks (en) 3
AuthorBEZERRA, Arthur Coelho (pt-BR) 1
AuthorCOSTA, Camila Mattos da (pt-BR) 1
Access Linkhttps://revista.ibict.br/liinc/article/view/6043/5703 (pt-BR) 3
IssueLiinc em revista, v. 18, 2022. (pt-BR) 2
Nome da PulicaçãoLiinc em revista (pt-BR) 1
Sessão () 3
Disponibilizado2022-11-12 (pt-BR) 1
hasAbstractO racismo é parte da estrutura fundamental das sociedades capitalistas, característica que também se manifesta na forma como as ferramentas tecnológicas são elaboradas. No atual capitalismo de dados, os vieses raciais discriminatórios têm-se revelado como mais uma maneira de reforçar as desigualdades já existentes na sociedade, na medida em que corroboram para a reprodução do racismo que, nas redes sociotécnicas, converte-se em uma forma de opressão algorítmica. A partir de uma abordagem metodológica centrada na revisão de literatura, este artigo tem como objetivo explorar os enviesamentos racistas presentes nas redes digitais, em especial aqueles inscritos nos algoritmos que organizam e classificam a informação disponível online, trazendo o debate ao campo da ética da informação. Os resultados da pesquisa apontam que os softwares e a aplicação das tecnologias de inteligência artificial podem atuar como meios para aprofundar desigualdades, cujos vieses são mascarados tanto pela própria tecnologia (marcada por práticas informacionais invisíveis a seus usuários) quanto pela confiança e crença dataísta na neutralidade tecnológica. Conclui-se que, apesar de não ser a única forma de opressão presente nas redes, o racismo algorítmico tem importante papel na manutenção estrutural das desigualdades raciais, uma vez que não só é alimentado por elas, mas também as alimenta. Nesse sentido, são apresentados elementos que têm potencial de mitigar os vieses algorítmicos atualmente em uso, de forma a trazer mais equidade e responsabilidade em seus processos de elaboração (pt-BR) 3
hasAbstractThis paper aims to analyse the racist biases present in socio-technical networks, especially those present in algorithms, bringing it closer to ethical debates in information science, from the methodological approach of literature review. Discriminatory racial biases have proved to be another way of reinforcing inequalities that already exist in society insofar as they corroborate racism that starts to take the form of algorithmic racism. Racism is understood as a fundamental structure of society and has a fundamental role in capitalism which is now configured as data capitalism. Consequently, it reflects on the way technological tools are developed. In this way, then, software can act to deepen inequalities and its biases are masked by the belief in technological neutrality. It is concluded that, despite not being the only form of discrimination present in socio-technical networks, algorithmic racism plays an important role in maintaining racial inequalities in a feedback relationship. Finally, possible elements are presented that aim to change the order present in the algorithms. These elements aim to bring more equity and responsibility in the process of their development (en) 3
hasIdPele negra, algoritmos brancos: informação e racismo nas redes sociotécnicas
BEZERRA, Arthur Coelho; COSTA, Camila Mattos da
Liinc em revista, v. 18, 2022. () () 3
SourceLiinc em Revista; Vol. 18 No. 2 (2022): The Role of Algorithms and Digital Platforms on Sociopolitical Contexts; e6043 (pt-BR) 3
SourceLiinc em Revista; v. 18 n. 2 (2022): O papel dos algoritmos e das plataformas digitais em contextos sociopolíticos; e6043 (pt-BR) 3
SourceLiinc em Revista; Vol. 18 Núm. 2 (2022): El papel de los algoritmos y las plataformas digitales en contextos sociopolíticos; e6043 (es-ES) 3
Source1808-3536 () 3
ThemaRacismo Algorítmico (pt-BR) 1
ThemaInteligência Artificial (pt-BR) 1
Themaética da Informação (pt-BR) 1
ThemaAlgoritmo (pt-BR) 1
ThemaAlgorithmic Racism (en) 1
ThemaArtificial Intelligence (en) 1
ThemaInformation Ethics (en) 1
ThemaAlgorithms (en) 1