Artificial Intelligence, content moderation on YouTube and the rights protection: characteristics, problems and political impacts
[Liinc em Revista; Vol. 18 No. 2 (2022): The Role of Algorithms and Digital Platforms on Sociopolitical Contexts; e6080]
Inteligência Artificial, moderação de conteúdos no YouTube e a proteção de direitos: características, problemas e impactos políticos

Artificial Intelligence, content moderation on YouTube and the rights protection: characteristics, problems and political impacts

Resumo: Este artigo tem como principal objetivo caracterizar o papel de sistemas de inteligência artificial na moderação de conteúdos de usuários no YouTube, seus problemas e impactos políticos, especialmente no horizonte da proteção de direitos individuais. A pesquisa utilizou o método de rastreamento de processo, baseado na coleta e análise de dados qualitativos para estabelecer relações causais e compreender como ocorre a moderação de conteúdos na plataforma. Foram analisados 79 textos dentre notas e informações publicadas pela plataforma em seu blog corporativo; documentos de políticas de moderação de conteúdos e relatórios de transparência da empresa. Os resultados demonstram que há uma crescente centralização da Inteligência Artificial (IA) no processo de moderação de conteúdo, transformando a moderação humana em um dispositivo do sistema automatizado. Isso tem gerado um crescimento substancial do número de remoções de conteúdo potencialmente nocivo que traz, por outro lado, efeitos colaterais como o aumento das violações de direitos individuais pela plataforma. Opacidade; acirramento no problema da escala; moderação guiada por princípios comerciais; falhas na captação de contexto; fragilidade nos processos de participação e accountability são outros problemas também identificados

Palavras-chave: Moderação de Conteúdo. Inteligência Artificial. Mídia Social. Governança Algorítmica.



Abstract: The main objective of this paper is to characterize the part artificial intelligence systems play in moderating user generated content on YouTube, it’s problems and political impacts particularly on the matter of protection of individual rights. This research used process tracing methods based on the gathering and analysis of qualitative data to establish causal relations and to understand how the platform moderates content. A total of 79 documents were analyzed, between notes and information publicized by the platform’s corporate blog, documents describing content moderation policies and the company’s transparency reports. Results indicate there is a growing centralization of artificial intelligence (AI) in the process of moderating content, turning human moderation into a device of the automated system. This has generated substantial increases in the number of potentially harmful contents removed and causes, on the other hand, side effects such as the increase of individual rights violations by the platform. Opacity; aggravation of the scaling problem; moderation guided by commercial principles; failure to grasp context; fragility in participation processes and accountability are other problems also identified

Keywords: Content Moderation. Artificial Intelligence. Social Media. YouTube. Algorithmic Governance.



Como citar
SILVA, S. P.; CESAR, D. J. T. Inteligência artificial, moderação de conteúdos no youtube e a proteção de direitos: características, problemas e impactos políticos. , . DOI: 10.18617/liinc.v18i2.6080 Acesso em: 07 dez. 2023.

Compartilhe
Plum X Metrics
NLP
proprietyvalue
DescriptorInteligência Artificial, moderação de conteúdos no YouTube e a proteção de direitos: características, problemas e impactos políticos
SILVA, Sivaldo Pereira da; CESAR, Daniel Jorge Teixeira
Liinc em revista, , . () (pt-BR) 3
Identificadorhttps://revista.ibict.br/liinc/article/view/6080 (pt-BR) 3
IdentificadorDOI: 10.18617/liinc.v18i2.6080 (pt-BR) 3
TitleInteligência Artificial, moderação de conteúdos no YouTube e a proteção de direitos: características, problemas e impactos políticos (pt-BR) 3
TitleArtificial Intelligence, content moderation on YouTube and the rights protection: characteristics, problems and political impacts (en) 3
PublishedLiinc em revista, v. 18, 2022. (pt-BR) 2
AuthorSILVA, Sivaldo Pereira da (pt-BR) 1
AuthorCESAR, Daniel Jorge Teixeira (pt-BR) 1
Access Linkhttps://revista.ibict.br/liinc/article/view/6080/5719 (pt-BR) 3
Nome da PulicaçãoLiinc em revista (pt-BR) 1
Sessão () 3
Disponibilizado2022-11-24 (pt-BR) 1
hasAbstractEste artigo tem como principal objetivo caracterizar o papel de sistemas de inteligência artificial na moderação de conteúdos de usuários no YouTube, seus problemas e impactos políticos, especialmente no horizonte da proteção de direitos individuais. A pesquisa utilizou o método de rastreamento de processo, baseado na coleta e análise de dados qualitativos para estabelecer relações causais e compreender como ocorre a moderação de conteúdos na plataforma. Foram analisados 79 textos dentre notas e informações publicadas pela plataforma em seu blog corporativo; documentos de políticas de moderação de conteúdos e relatórios de transparência da empresa. Os resultados demonstram que há uma crescente centralização da Inteligência Artificial (IA) no processo de moderação de conteúdo, transformando a moderação humana em um dispositivo do sistema automatizado. Isso tem gerado um crescimento substancial do número de remoções de conteúdo potencialmente nocivo que traz, por outro lado, efeitos colaterais como o aumento das violações de direitos individuais pela plataforma. Opacidade; acirramento no problema da escala; moderação guiada por princípios comerciais; falhas na captação de contexto; fragilidade nos processos de participação e accountability são outros problemas também identificados (pt-BR) 3
hasAbstractThe main objective of this paper is to characterize the part artificial intelligence systems play in moderating user generated content on YouTube, it’s problems and political impacts particularly on the matter of protection of individual rights. This research used process tracing methods based on the gathering and analysis of qualitative data to establish causal relations and to understand how the platform moderates content. A total of 79 documents were analyzed, between notes and information publicized by the platform’s corporate blog, documents describing content moderation policies and the company’s transparency reports. Results indicate there is a growing centralization of artificial intelligence (AI) in the process of moderating content, turning human moderation into a device of the automated system. This has generated substantial increases in the number of potentially harmful contents removed and causes, on the other hand, side effects such as the increase of individual rights violations by the platform. Opacity; aggravation of the scaling problem; moderation guided by commercial principles; failure to grasp context; fragility in participation processes and accountability are other problems also identified (en) 3
hasFileStorage_repository/708/2023/01/oai_ojs_revista_ibict_br_article_6080#00051.pdf () 1
hasIdInteligência Artificial, moderação de conteúdos no YouTube e a proteção de direitos: características, problemas e impactos políticos
SILVA, Sivaldo Pereira da; CESAR, Daniel Jorge Teixeira
Liinc em revista, , . () () 3
SourceLiinc em Revista; Vol. 18 No. 2 (2022): The Role of Algorithms and Digital Platforms on Sociopolitical Contexts; e6080 (pt-BR) 3
SourceLiinc em Revista; v. 18 n. 2 (2022): O papel dos algoritmos e das plataformas digitais em contextos sociopolíticos; e6080 (pt-BR) 3
SourceLiinc em Revista; Vol. 18 Núm. 2 (2022): El papel de los algoritmos y las plataformas digitales en contextos sociopolíticos; e6080 (es-ES) 3
Source1808-3536 () 3
ThemaModeração de Conteúdo (pt-BR) 1
ThemaInteligência Artificial (pt-BR) 1
ThemaMídia Social (pt-BR) 1
ThemaGovernança Algorítmica (pt-BR) 1
ThemaContent Moderation (en) 1
ThemaArtificial Intelligence (en) 1
ThemaSocial Media (en) 1
ThemaYouTube (en) 1
ThemaAlgorithmic Governance (en) 1