Resumo: Este artigo tem como principal objetivo caracterizar o papel de sistemas de inteligência artificial na moderação de conteúdos de usuários no YouTube, seus problemas e impactos políticos, especialmente no horizonte da proteção de direitos individuais. A pesquisa utilizou o método de rastreamento de processo, baseado na coleta e análise de dados qualitativos para estabelecer relações causais e compreender como ocorre a moderação de conteúdos na plataforma. Foram analisados 79 textos dentre notas e informações publicadas pela plataforma em seu blog corporativo; documentos de políticas de moderação de conteúdos e relatórios de transparência da empresa. Os resultados demonstram que há uma crescente centralização da Inteligência Artificial (IA) no processo de moderação de conteúdo, transformando a moderação humana em um dispositivo do sistema automatizado. Isso tem gerado um crescimento substancial do número de remoções de conteúdo potencialmente nocivo que traz, por outro lado, efeitos colaterais como o aumento das violações de direitos individuais pela plataforma. Opacidade; acirramento no problema da escala; moderação guiada por princípios comerciais; falhas na captação de contexto; fragilidade nos processos de participação e accountability são outros problemas também identificados

Palavras-chave: Moderação de Conteúdo. Inteligência Artificial. Mídia Social. Governança Algorítmica.

Abstract: The main objective of this paper is to characterize the part artificial intelligence systems play in moderating user generated content on YouTube, it’s problems and political impacts particularly on the matter of protection of individual rights. This research used process tracing methods based on the gathering and analysis of qualitative data to establish causal relations and to understand how the platform moderates content. A total of 79 documents were analyzed, between notes and information publicized by the platform’s corporate blog, documents describing content moderation policies and the company’s transparency reports. Results indicate there is a growing centralization of artificial intelligence (AI) in the process of moderating content, turning human moderation into a device of the automated system. This has generated substantial increases in the number of potentially harmful contents removed and causes, on the other hand, side effects such as the increase of individual rights violations by the platform. Opacity; aggravation of the scaling problem; moderation guided by commercial principles; failure to grasp context; fragility in participation processes and accountability are other problems also identified

Keywords: Content Moderation. Artificial Intelligence. Social Media. YouTube. Algorithmic Governance.

Compartilhe