.
Um estudo sobre o algoritmo de recomendação de vídeo do TikTok descobriu que ele sugere transtorno alimentar e conteúdo de automutilação para algumas novas contas de adolescentes em minutos.
Uma pesquisa do Center for Countering Digital Hate (CCDH) mostrou que uma conta mostrou conteúdo de suicídio em 2,6 minutos e outra sugeriu conteúdo de transtorno alimentar em oito minutos.
Uma investigação mais aprofundada da Strong The One também encontrou evidências de conteúdo prejudicial de transtorno alimentar sendo recomendado por meio da função de pesquisa sugerida do TikTok, apesar de não procurar por conteúdo explicitamente prejudicial.
A instituição de caridade para distúrbios alimentares do Reino Unido, BEAT, disse que as descobertas são “extremamente alarmantes” e pediu ao TikTok que tome “ações urgentes para proteger usuários vulneráveis”.
Aviso de conteúdo: este artigo contém referências a distúrbios alimentares e automutilação
A página For You do TikTok oferece um fluxo de vídeos que são sugeridos ao usuário de acordo com o tipo de conteúdo com o qual ele interage no aplicativo.
A empresa de mídia social diz que as recomendações são baseadas em vários fatores, incluindo curtidas, seguidores, compartilhamentos e configurações do dispositivo, como preferência de idioma.
Mas alguns levantaram preocupações sobre a maneira como esse algoritmo se comporta quando se trata de recomendar conteúdo prejudicial.
Este é um dos vídeos sugeridos durante o estudo. O texto diz ‘ela está mais magra’ e a música tocando no vídeo diz ‘estou morrendo de fome por você’. Foto: Centro de combate ao ódio digital via TikTok
A CCDH criou duas novas contas com base no Reino Unido, EUA, Canadá e Austrália. Para cada um, um nome de usuário tradicionalmente feminino foi dado e a idade foi definida como 13.
A segunda conta de cada país também incluía a frase “perder peso” em seu nome de usuário, que uma pesquisa separada mostrou ser uma característica exibida por contas pertencentes a usuários vulneráveis.
Pesquisadores do CCDH analisaram o conteúdo de vídeo exibido na página Para você de cada nova conta por um período de 30 minutos, interagindo apenas com vídeos relacionados à imagem corporal e à saúde mental.
Descobriu-se que os usuários adolescentes padrão recebiam vídeos relacionados à saúde mental e à imagem corporal a cada 39 segundos.
Nem todo o conteúdo recomendado nessa taxa era prejudicial, e o estudo não diferenciou entre conteúdo positivo e conteúdo negativo.
No entanto, descobriu que todos os usuários recebiam conteúdo sobre transtorno alimentar e suicídio, às vezes muito rapidamente.
A pesquisa do CCDH também descobriu que as contas vulneráveis exibiam esse tipo de conteúdo três vezes mais do que as contas padrão, e essas contas exibiam conteúdo mais extremo do que as contas padrão.
O Center for Countering Digital Hate encontrou 56 hashtags associadas ao conteúdo de distúrbios alimentares. 35 deles continham uma alta concentração de conteúdo pró-transtorno alimentar. Foto: TikTok
Segue as descobertas do CCDH de que o TikTok hospeda uma comunidade de conteúdo de transtorno alimentar que acumulou mais de 13,2 bilhões de visualizações em 56 hashtags diferentes.
Cerca de 59,9 milhões dessas visualizações foram em hashtags que continham uma alta concentração de vídeos pró-desordem alimentar.
No entanto, o TikTok diz que a atividade e a experiência resultante capturada no estudo “não refletem o comportamento ou as experiências genuínas de visualização de pessoas reais”.
O conteúdo de transtorno alimentar é proibido no TikTok e diz que remove regularmente o conteúdo que viola seus termos e condições. Foto: REUTERS/Dado Ruvic/Foto de arquivo
Kelly Macarthur começou a sofrer de um distúrbio alimentar aos 14 anos. Ela agora se recuperou de sua doença, mas como criadora de conteúdo no TikTok, ela se preocupa com o impacto que alguns de seus conteúdos podem ter nas pessoas que sofrem.
“Quando não estava bem, pensei que a mídia social era um lugar realmente saudável para desabafar sobre meus problemas. Mas, na realidade, estava cheio de material pró-anorexia, dando dicas e gatilhos diferentes”, disse ela à Strong The One.
“Estou vendo a mesma coisa acontecer com os jovens no TikTok.”
Uma investigação mais aprofundada da Strong The One também encontrou conteúdo prejudicial de transtorno alimentar sendo sugerido pelo TikTok em outras áreas do aplicativo, apesar de não procurá-lo explicitamente.
A Strong The One conduziu sua própria pesquisa sobre o algoritmo de recomendação do TikTok usando várias contas diferentes. Mas, em vez de analisar a página Para você, procuramos termos não prejudiciais como “perda de peso” e “dieta” na barra de pesquisa do TikTok.
A Strong The One descobriu que pesquisas por termos como ‘dieta retornam sugestões de pesquisas associadas ao conteúdo de transtorno alimentar’. Foto: TikTok
Uma busca pelo termo “dieta” em uma conta trouxe outra sugestão “pr0 a4a”.
Esse é o código para “pro ana”, que se refere ao conteúdo pró-anorexia.
As diretrizes da comunidade do TikTok proíbem o conteúdo relacionado a distúrbios alimentares em sua plataforma e isso inclui a proibição de pesquisas por termos explicitamente associados a ele.
Mas os usuários costumam fazer edições sutis na terminologia, o que significa que podem continuar postando sobre determinados problemas sem serem detectados pelos moderadores do TikTok.
Embora o termo “pro ana” seja proibido no TikTok, ainda aparecem variações dele.
A captura de tela à esquerda mostra os resultados sugeridos para o termo ‘perda de peso’. A captura de tela à direita mostra os resultados sugeridos quando o primeiro resultado sugerido é clicado. Foto: TikTok
A Strong The One também descobriu que o conteúdo do distúrbio alimentar pode ser acessado facilmente por meio da função de pesquisa do usuário do TikTok, apesar de não procurá-lo explicitamente.
Uma pesquisa pelo termo “perda de peso” retorna pelo menos uma conta que parece ser uma conta de transtorno alimentar em seus 10 principais resultados.
A Strong The One relatou isso ao TikTok e já foi removido.
“É alarmante que o algoritmo do TikTok esteja ativamente empurrando os usuários para vídeos prejudiciais que podem ter um impacto devastador em pessoas vulneráveis”. disse Tom Quinn, diretor de assuntos externos da BEAT.
“O TikTok e outras plataformas de mídia social devem tomar medidas urgentes para proteger usuários vulneráveis de conteúdo prejudicial”.
Respondendo às descobertas, um porta-voz do TikTok disse: “Consultamos regularmente especialistas em saúde, removemos violações de nossas políticas e fornecemos acesso a recursos de suporte para quem precisa.
“Estamos cientes de que o conteúdo de ativação é exclusivo para cada indivíduo e continuamos focados em promover um espaço seguro e confortável para todos, incluindo pessoas que optam por compartilhar suas jornadas de recuperação ou educar outras pessoas sobre esses tópicos importantes”.
A equipe de Dados e Forense é uma unidade multiqualificada dedicada a fornecer jornalismo transparente da Strong The One. Reunimos, analisamos e visualizamos dados para contar histórias baseadas em dados. Combinamos habilidades tradicionais de reportagem com análise avançada de imagens de satélite, mídia social e outras informações de código aberto. Por meio da narrativa multimídia, pretendemos explicar melhor o mundo e, ao mesmo tempo, mostrar como nosso jornalismo é feito.
Por que o jornalismo de dados é importante para a Strong The One
.
