Existem duas maneiras de tentar entender o impacto da moderação de conteúdo e os algoritmos que impõem essas regras: confiando no que a plataforma diz e perguntando aos próprios criadores . No caso de Tyler, o TikTok se desculpou e culpou um filtro automático configurado para sinalizar palavras associadas ao discurso de ódio – mas aparentemente não conseguiu entender o contexto.
Brooke Erin Duffy, professora associada da Universidade de Cornell, juntou-se ao estudante de pós-graduação Colten Meisner para entrevistar 30 criadores no TikTok, Instagram, Twitch, YouTube e Twitter na época em que Tyler vídeo viralizou. Eles queriam saber como os criadores, principalmente os de grupos marginalizados, navegam pelos algoritmos e práticas de moderação das plataformas que usam.
O que eles descobriram: os criadores investem muito trabalho na compreensão dos algoritmos que moldam suas experiências e relacionamentos nessas plataformas. Como muitos criadores usam várias plataformas, eles devem aprender as regras ocultas de cada uma. Alguns criadores adaptam toda a sua abordagem para produzir e promover conteúdo em resposta aos vieses algorítmicos e de moderação que encontram.
Abaixo está nossa conversa com Duffy sobre sua próxima pesquisa (editada e condensada para maior clareza).
Os criadores discutem há muito tempo como os algoritmos e a moderação afetam sua visibilidade nas plataformas que os tornaram famosos. Então, o que mais te surpreendeu ao fazer essas entrevistas?
Tínhamos a sensação de que as experiências dos criadores são moldadas por sua compreensão do algoritmo, mas depois de fazer as entrevistas, realmente começamos a ver quão profundo está em suas vidas cotidianas e no trabalho… a quantidade de tempo, energia e atenção que dedicam a aprender sobre esses algoritmos, investindo neles. Eles têm esse tipo de consciência crítica de que esses algoritmos são entendidos como desiguais. Apesar disso, eles ainda estão investindo toda essa energia na esperança de entendê-los. Isso realmente chama a atenção para a natureza desigual da economia criadora.
Com que frequência os criadores estão pensando na possibilidade de serem censurados ou de ter seu conteúdo não chegar ao seu público por causa de práticas algorítmicas de supressão ou moderação?
Acho que estrutura fundamentalmente o processo de criação de conteúdo e também o processo de promoção de conteúdo. Esses algoritmos mudam à vontade; não há discernimento. Não há comunicação direta das plataformas, em muitos casos. E isso impacta completamente e fundamentalmente não apenas sua experiência, mas sua renda.
Eles investiriam tanto tempo e trabalhavam nesses experimentos de base e falavam sobre “Eu faria o mesmo tipo de conteúdo, mas um dia mudaria essa coisa. Eu usaria esse tipo de roupa um dia e outro tipo no próximo.” Ou eles tentariam diferentes conjuntos de hashtags.
As pessoas diriam que têm interações online e offline com sua comunidade de criadores, e falariam sobre como manipular o algoritmo, o que não há problema em dizer, o que pode ser potencialmente sinalizado. Existem algumas formas importantes de organização coletiva que podem não se parecer com o que tradicionalmente consideramos trabalhadores organizados, mas ainda são formas poderosas para os criadores se unirem e desafiarem os sistemas de poder de cima para baixo.
Uma das coisas em que fiquei pensando enquanto lia suas descobertas foi o conceito de “proibição de sombra”, a prática de moderação de esconder ou limitar o alcance do conteúdo sem informar seu criador. Do ponto de vista de um jornalista, é difícil relatar a “proibição das sombras” porque é, por definição, oculta, mas é uma das principais preocupações que os criadores expressaram ao longo dos anos. Como você considerou esse conceito em sua pesquisa?
Algumas pessoas juram que foram banidas pelas sombras e outras dizem: “Bem, seu conteúdo é simplesmente ruim.” É um problema muito preocupante, porque qualquer um pode emitir essas alegações.
A ambiguidade da proibição de sombra é em parte o que a torna tão poderosa. Como não há como realmente provar que qualquer pessoa nessas plataformas foi ou não banida pela sombra, isso alimenta muita especulação. Mas você sabe, se existe ou não, vale a pena levar a sério o fato de as pessoas agirem como se fossem punidas por limites em sua visibilidade.
Há algo que possa ser feito para ajudar a resolver alguns desses problemas?
As plataformas divulgam em todos os sites seus benefícios para os criadores e [say] se você for talentoso o suficiente e tiver o conteúdo certo, poderá conecte-se com o público e ganhe todo tipo de dinheiro. Os criadores estão atraindo muito dinheiro, por meio de dados e globos oculares, para essas plataformas, mas não têm muito a dizer sobre suas políticas de moderação de conteúdo e como elas são implementadas de forma desigual. A transparência radical é um pouco difícil, mas acho que os criadores deveriam ter mais representação em termos das decisões que impactam fundamentalmente seus negócios
