Resumo: Este artigo tem como principal objetivo caracterizar o papel de sistemas de inteligência artificial na moderação de conteúdos de usuários no YouTube, seus problemas e impactos políticos, especialmente no horizonte da proteção de direitos individuais. A pesquisa utilizou o método de rastreamento de processo, baseado na coleta e análise de dados qualitativos para estabelecer relações causais e compreender como ocorre a moderação de conteúdos na plataforma. Foram analisados 79 textos dentre notas e informações publicadas pela plataforma em seu blog corporativo; documentos de políticas de moderação de conteúdos e relatórios de transparência da empresa. Os resultados demonstram que há uma crescente centralização da Inteligência Artificial (IA) no processo de moderação de conteúdo, transformando a moderação humana em um dispositivo do sistema automatizado. Isso tem gerado um crescimento substancial do número de remoções de conteúdo potencialmente nocivo que traz, por outro lado, efeitos colaterais como o aumento das violações de direitos individuais pela plataforma. Opacidade; acirramento no problema da escala; moderação guiada por princípios comerciais; falhas na captação de contexto; fragilidade nos processos de participação e accountability são outros problemas também identificados
Palavras-chave: Moderação de Conteúdo. Inteligência Artificial. Mídia Social. Governança Algorítmica.
Abstract: The main objective of this paper is to characterize the part artificial intelligence systems play in moderating user generated content on YouTube, itâs problems and political impacts particularly on the matter of protection of individual rights. This research used process tracing methods based on the gathering and analysis of qualitative data to establish causal relations and to understand how the platform moderates content. A total of 79 documents were analyzed, between notes and information publicized by the platformâs corporate blog, documents describing content moderation policies and the companyâs transparency reports. Results indicate there is a growing centralization of artificial intelligence (AI) in the process of moderating content, turning human moderation into a device of the automated system. This has generated substantial increases in the number of potentially harmful contents removed and causes, on the other hand, side effects such as the increase of individual rights violations by the platform. Opacity; aggravation of the scaling problem; moderation guided by commercial principles; failure to grasp context; fragility in participation processes and accountability are other problems also identified
Keywords: Content Moderation. Artificial Intelligence. Social Media. YouTube. Algorithmic Governance.
propriety | value |
---|---|
Descriptor | Inteligência Artificial, moderação de conteúdos no YouTube e a proteção de direitos: características, problemas e impactos políticos SILVA, Sivaldo Pereira da; CESAR, Daniel Jorge Teixeira Liinc em revista, , . () (pt-BR) 3 |
Identificador | https://revista.ibict.br/liinc/article/view/6080 (pt-BR) 3 |
Identificador | DOI: 10.18617/liinc.v18i2.6080 (pt-BR) 3 |
Title | Inteligência Artificial, moderação de conteúdos no YouTube e a proteção de direitos: características, problemas e impactos políticos (pt-BR) 3 |
Title | Artificial Intelligence, content moderation on YouTube and the rights protection: characteristics, problems and political impacts (en) 3 |
Published | Liinc em revista, v. 18, 2022. (pt-BR) 2 |
Author | SILVA, Sivaldo Pereira da (pt-BR) 1 |
Author | CESAR, Daniel Jorge Teixeira (pt-BR) 1 |
Access Link | https://revista.ibict.br/liinc/article/view/6080/5719 (pt-BR) 3 |
Nome da Pulicação | Liinc em revista (pt-BR) 1 |
Sessão | () 3 |
Disponibilizado | 2022-11-24 (pt-BR) 1 |
hasAbstract | Este artigo tem como principal objetivo caracterizar o papel de sistemas de inteligência artificial na moderação de conteúdos de usuários no YouTube, seus problemas e impactos políticos, especialmente no horizonte da proteção de direitos individuais. A pesquisa utilizou o método de rastreamento de processo, baseado na coleta e análise de dados qualitativos para estabelecer relações causais e compreender como ocorre a moderação de conteúdos na plataforma. Foram analisados 79 textos dentre notas e informações publicadas pela plataforma em seu blog corporativo; documentos de políticas de moderação de conteúdos e relatórios de transparência da empresa. Os resultados demonstram que há uma crescente centralização da Inteligência Artificial (IA) no processo de moderação de conteúdo, transformando a moderação humana em um dispositivo do sistema automatizado. Isso tem gerado um crescimento substancial do número de remoções de conteúdo potencialmente nocivo que traz, por outro lado, efeitos colaterais como o aumento das violações de direitos individuais pela plataforma. Opacidade; acirramento no problema da escala; moderação guiada por princípios comerciais; falhas na captação de contexto; fragilidade nos processos de participação e accountability são outros problemas também identificados (pt-BR) 3 |
hasAbstract | The main objective of this paper is to characterize the part artificial intelligence systems play in moderating user generated content on YouTube, itâs problems and political impacts particularly on the matter of protection of individual rights. This research used process tracing methods based on the gathering and analysis of qualitative data to establish causal relations and to understand how the platform moderates content. A total of 79 documents were analyzed, between notes and information publicized by the platformâs corporate blog, documents describing content moderation policies and the companyâs transparency reports. Results indicate there is a growing centralization of artificial intelligence (AI) in the process of moderating content, turning human moderation into a device of the automated system. This has generated substantial increases in the number of potentially harmful contents removed and causes, on the other hand, side effects such as the increase of individual rights violations by the platform. Opacity; aggravation of the scaling problem; moderation guided by commercial principles; failure to grasp context; fragility in participation processes and accountability are other problems also identified (en) 3 |
hasFileStorage | _repository/708/2023/01/oai_ojs_revista_ibict_br_article_6080#00051.pdf () 1 |
hasId | Inteligência Artificial, moderação de conteúdos no YouTube e a proteção de direitos: características, problemas e impactos políticos SILVA, Sivaldo Pereira da; CESAR, Daniel Jorge Teixeira Liinc em revista, , . () () 3 |
Source | Liinc em Revista; Vol. 18 No. 2 (2022): The Role of Algorithms and Digital Platforms on Sociopolitical Contexts; e6080 (pt-BR) 3 |
Source | Liinc em Revista; v. 18 n. 2 (2022): O papel dos algoritmos e das plataformas digitais em contextos sociopolíticos; e6080 (pt-BR) 3 |
Source | Liinc em Revista; Vol. 18 Núm. 2 (2022): El papel de los algoritmos y las plataformas digitales en contextos sociopolíticos; e6080 (es-ES) 3 |
Source | 1808-3536 () 3 |
Thema | Moderação de Conteúdo (pt-BR) 1 |
Thema | Inteligência Artificial (pt-BR) 1 |
Thema | Mídia Social (pt-BR) 1 |
Thema | Governança Algorítmica (pt-BR) 1 |
Thema | Content Moderation (en) 1 |
Thema | Artificial Intelligence (en) 1 |
Thema | Social Media (en) 1 |
Thema | YouTube (en) 1 |
Thema | Algorithmic Governance (en) 1 |