.
Em maio, o TikTok anunciou que iria rotular automaticamente o conteúdo gerado por IA em sua plataforma. Isso não é verdade, porém, para todas as versões do aplicativo. A novo relatório da Mozilla Foundation e a AI Forensics descobre que a versão Lite-Save Data do TikTok, destinada a usuários em mercados mais pobres, não apenas deixa o conteúdo gerado por IA sem rótulo, mas também carece de outras proteções semelhantes.
“A rotulagem é uma tática muito importante que as plataformas usam para fornecer alguma forma de confiança e segurança”, diz Odanga Madung, um membro da Mozilla e coautor do relatório.
Usuários da versão completa do TikTok, por exemplo, verão rótulos indicando que o conteúdo é gráfico ou retrata comportamento perigoso. Alguns conteúdos sobre tópicos como eleições e saúde, similarmente, incluem um aviso encorajando os usuários a acessar informações confiáveis por meio de um “hub de recursos” no aplicativo.
No TikTok Lite, nenhuma dessas proteções está presente. Entre outras coisas, isso significa que, com o conteúdo enganoso gerado por IA sendo um problema nas eleições em todo o mundo, os usuários em mercados mais pobres estão recebendo menos informações sobre o que é falso e o que é real do que os usuários em mercados mais ricos.
Madung questiona por que, de todos os recursos que poderiam ser cortados para otimizar o aplicativo, a empresa incluiu aqueles que tornam a plataforma mais segura para os usuários. “Não sabemos se isso é uma escolha ou se é apenas negligência”, diz ele.
“Há várias imprecisões factuais neste relatório que fundamentalmente deturpam nossa abordagem à segurança”, disse um porta-voz do TikTok em uma declaração. “O fato é que o conteúdo que quebra nossas regras é removido do TikTok Lite da mesma forma que nosso aplicativo principal e oferecemos vários recursos de segurança.” A empresa se recusou a apontar quaisquer imprecisões específicas.
As versões Lite dos aplicativos têm sido há muito tempo uma forma de as empresas aumentarem a participação de mercado em áreas onde os usuários estão sujeitos a altos custos de dados ou só podem pagar por telefones menos avançados. Em 2015, a Meta, então Facebook, lançou o Facebook Lite, uma versão simplificada de seu aplicativo que era mais compatível com redes de dados 2G. No mesmo ano, também lançou o Free Basics, que permitiu que usuários no Sul Global acessassem a plataforma e certos outros sites sem serem cobrados pelo uso de dados. (Um aplicativo ou serviço que atende a esses critérios é chamado de “classificação zero”.) Na época, o projeto enfrentou críticas generalizadas, principalmente na Índia, por criar uma experiência de segunda linha para clientes mais pobres.
TikTok lançado sua versão Lite em 2018 na Tailândia, e rapidamente se expandiu para outros mercados no Sudeste Asiático, incluindo Indonésia, Malásia e Filipinas. O aplicativo, que ao contrário da versão completa do TikTok pode rodar em redes 2G e 3G, agora tem mais de 1 bilhão de downloadsde acordo com dados da Google Play Store. (O TikTok Lite está disponível apenas para celulares Android.)
“A maioria dos usuários no Sul Global é de baixa renda e com recursos limitados”, diz Payal Arora, professora de culturas de IA inclusivas na Universidade de Utrecht. Versões lite de aplicativos ajudam as empresas a colocar essas pessoas a bordo, algo que ela diz ser ainda mais crítico do que foi no passado porque “dados são moeda neste mercado impulsionado e faminto por IA”.
.
