Projetos de lei da Califórnia visam Instagram, Snapchat e TikTok

Samuel Chapman não tinha ideia de que traficantes de drogas atacavam adolescentes no Snapchat até que seu filho de 16 anos morreu de overdose de fentanil.

“Nós pensamos que era como um playground para crianças e não pensamos nisso, como eu penso agora, como a dark web para crianças”, disse o morador de Los Angeles.

Em 2021, um traficante de drogas procurou seu filho, Sammy, no aplicativo de mensagens que estava desaparecendo e mostrou ao adolescente um “cardápio colorido de drogas” que oferecia cocaína, disse Chapman. Depois que ele e a esposa adormeceram, o traficante entregou drogas na casa deles “como uma pizza”. Sammy inadvertidamente tomou fentanil e morreu em seu quarto.

Para pais como Chapman, a terrível provação destacou o lado perigoso da mídia social. As plataformas tecnológicas ajudam as pessoas a manter contato com familiares e amigos, mas também atraem traficantes, pedófilos e outros predadores. Além disso, os algoritmos de mídia social podem direcionar os jovens para postagens que podem desencadear distúrbios alimentares ou automutilação.

Sammy Chapman com sua mãe, Laura Berman. Sammy morreu de overdose de drogas em 2021 aos 16 anos.

(Foto de familia)

Os esforços dos legisladores da Califórnia para reprimir os danos potenciais da mídia social pararam no passado em meio à forte oposição de gigantes multibilionários da tecnologia, e tentativas renovadas podem sofrer o mesmo destino. No ano passado, a indústria de tecnologia usou seu poder de lobby em Sacramento para anular um projeto de lei de mídia social e seus bolsos fundos para bloquear outro ao entrar com um processo depois que ele foi sancionado.

Este ano, novos projetos de lei de mídia social enfrentarão votações críticas nas próximas semanas, enquanto os legisladores correm para o final da sessão legislativa no próximo mês. O Projeto de Lei 680 do Senado permitiria ao governo processar plataformas por promover conteúdo prejudicial sobre distúrbios alimentares, automutilação, armas de fogo ilegais e drogas como o fentanil. Os legisladores também estão tentando combater o material de abuso sexual infantil online, mas estão se preparando para a possibilidade de que as empresas de tecnologia tentem bloquear novas leis de segurança online como fizeram no passado.

“Quero que as empresas de mídia social assumam a responsabilidade. Quero responsabilizá-los pelos danos que estão causando à nossa juventude”, disse a senadora Nancy Skinner (D-Berkeley), que escreveu o SB 680.

Plataformas de mídia social como Instagram, Twitter, Snapchat e TikTok, da Meta, removeram alguns conteúdos prejudiciais, mas pais, adolescentes e legisladores dizem que precisam fazer mais para tornar seus serviços mais seguros para os jovens.

Chapman e sua esposa, a terapeuta de relacionamento da TV Laura Berman, estão entre os pais que apoiam a legislação que proibiria as empresas de mídia social de usar um design, algoritmo ou recurso que as empresas sabem ou deveriam saber que faz com que um usuário com menos de 16 anos se machuque ou outros, desenvolvem um distúrbio alimentar ou experimentam dependência. Chapman, que processou a Snap Inc., empresa controladora do Snapchat, junto com outras famílias, disse que os traficantes usaram os recursos do aplicativo – compartilhamento de localização e recomendações de amigos – para encontrar adolescentes.

Samuel Chapman processou a empresa controladora do Snapchat, que ele diz compartilhar a culpa pela morte por overdose de seu filho.

(Christina House/Los Angeles Times)

A legislação já está enfrentando resistência de grupos da indústria de tecnologia e defensores da privacidade. Os opositores dizem que alguns dos projetos de lei entrariam em conflito com a 1ª Emenda e com a lei federal, e argumentam que as plataformas de tecnologia já estão levando as questões de segurança a sério e oferecendo aos pais as ferramentas necessárias para proteger seus filhos.

A NetChoice, uma associação comercial cujos membros incluem Meta, Snap, Twitter, TikTok, Google e Pinterest, pai do Facebook, disse que os legisladores devem se concentrar em dar às autoridades os recursos necessários para combater crimes, enquanto as empresas de tecnologia devem educar melhor os pais e adolescentes sobre suas ferramentas. Os aplicativos de mídia social têm controle dos pais e maneiras de limitar o tempo de tela.

“A última coisa que queremos é que o governo determine que a tecnologia seja responsável pela educação e criação de nossos filhos, porque esse é o papel dos pais e professores”, disse Carl Szabo, vice-presidente e conselheiro geral da NetChoice.

A Snap disse que tomou várias medidas para combater a venda de drogas em sua plataforma, incluindo o uso de tecnologia para detectar atividade de drogas antes de ser relatada, bloqueando resultados de pesquisa para termos relacionados a drogas e fazendo alterações no produto com o objetivo de tornar mais difícil para estranhos se conectarem com menores.

“O fentanil está chegando a todas as grandes cidades da América, e nossos corações estão com as milhares de famílias afetadas por esta crescente crise nacional. Na Snap, estamos trabalhando duro para impedir que os revendedores abusem de nossa plataforma”, disse Rachel Racusen, porta-voz da empresa, em comunicado.

Mas com as preocupações sobre o impacto da mídia social na saúde mental se acumulando, os legisladores estão sentindo uma sensação de urgência para agir. Em maio, o cirurgião geral dos EUA disse que não há evidências suficientes para determinar se a mídia social é “suficientemente segura” para crianças e adolescentes. Embora possa haver benefícios para a mídia social, as plataformas também podem representar riscos à saúde mental, disse um conselho do cirurgião geral de 2021.

Sophie Szew, uma estudante e ativista da Universidade de Stanford, baixou o Instagram quando tinha 10 anos, sem saber como isso afetaria sua saúde mental. O Instagram exige que os usuários tenham pelo menos 13 anos, mas isso não impediu que usuários menores de idade se inscrevessem.

No Instagram, Szew disse que foi bombardeada com conteúdo que promovia e ensinava comportamentos de transtorno alimentar. Szew, que foi diagnosticada com anorexia, disse que, embora a mídia social tenha permitido que ela promovesse seu trabalho de defesa, ela ainda se depara com esse conteúdo prejudicial.

As plataformas de mídia social usam algoritmos para determinar qual conteúdo os usuários verão primeiro, usando uma variedade de sinais, como por quanto tempo eles assistem a um vídeo e se comentaram, compartilharam ou “gostaram” de uma postagem.

“Os algoritmos são projetados para disparar porque acionar o conteúdo é viciante”, disse Szew, que apóia o projeto de lei de Skinner. “É provável que nos envolvamos com conteúdo que nos choca, e vemos isso muito com os jovens.”

Instagram remove o conteúdo que a empresa considera que promove ou incentiva distúrbios alimentares, mas o aplicativo permite que as pessoas compartilhem suas próprias experiências sobre autoimagem e aceitação corporal.

Enquanto isso, o uso da mídia social entre os jovens continua a crescer. O YouTube, de propriedade do Google, é a plataforma de mídia social mais popular entre os adolescentes dos EUA, seguido por TikTok, Instagram, Snapchat e Facebook, de acordo com uma pesquisa da Centro de Pesquisa Pew. Quase 35% dos adolescentes norte-americanos relataram estar em pelo menos um dos cinco aplicativos “quase constantemente”.

Sabendo que seu projeto de lei inicial enfrentava obstáculos legais antes de ser votado pelo Senado, Skinner percebeu que precisava fazer mais mudanças e decidiu apresentar outro projeto de lei, o SB 680. Uma das mudanças incluía como o projeto de lei definia danos.

De acordo com o SB 680, uma empresa de mídia social teria causado danos a uma criança se, como resultado do design, algoritmo ou recurso da plataforma, o aplicativo enviasse à criança informações sobre como obter uma arma de fogo, obter uma substância controlada ou morrer por suicídio. Se a criança pegar ou tomar a substância controlada ou se matar, isso seria considerado prejudicial.

Para evitar responsabilidade, as empresas de mídia social teriam 60 dias para corrigir um design, algoritmo ou recurso que descobriram por meio de uma auditoria trimestral que poderia representar um certo nível de risco.

A deputada Buffy Wicks (D-Oakland) disse que o ônus deveria ser das empresas, não dos pais, para tornar as plataformas de tecnologia mais seguras, e a regulamentação poderia forçá-las a assumir a responsabilidade. Wicks, mãe de dois filhos pequenos, disse que não quer que seus filhos nas redes sociais antes de serem adultos, mas ela ainda pode enfrentar pressão para permitir que eles nas plataformas.

“Minha esperança é que, quando meu filho estiver batendo na minha porta todos os dias para entrar no Snapchat, TikTok ou qualquer que seja a última moda da mídia social, eles serão lugares mais seguros para as crianças”, disse ela.

Wicks introduziu o Assembly Bill 1394, que exige que as empresas de mídia social forneçam aos usuários da Califórnia uma maneira de denunciar o material de abuso sexual infantil em que são retratados. A plataforma seria obrigada a bloquear permanentemente a visualização do material. O projeto de lei também proíbe uma empresa de mídia social de “facilitar, ajudar ou estimular conscientemente a exploração sexual comercial”. Um tribunal seria obrigado a conceder indenizações entre US$ 1 milhão e US$ 4 milhões para cada ato de exploração que a plataforma de mídia social “facilitou, ajudou ou incentivou”. O projeto foi aprovado por maioria esmagadora na Assembleia e agora está no Senado.

De janeiro a março, Facebook removeu 8,9 milhões de conteúdos que violavam suas regras contra a exploração sexual infantil, a maioria dos quais foi retirada antes que as pessoas denunciassem o conteúdo, de acordo com a empresa. O rede social diz que os usuários que encontrarem fotos de vídeos de crianças sendo abusadas fisicamente ou exploradas sexualmente devem entrar em contato com as autoridades, denunciar o conteúdo ao Facebook, notificar o Centro Nacional para Crianças Desaparecidas e Exploradas e evitar compartilhar, baixar ou comentar as postagens.

Como o projeto de lei de Wicks envolve materiais de abuso sexual infantil, os defensores dizem que o conteúdo está fora das proteções de liberdade de expressão da 1ª Emenda. Mas grupos empresariais e de tecnologia dizem que o projeto de lei ainda vem com preocupações constitucionais porque as empresas com medo de serem processadas acabarão removendo mais conteúdo legal, incluindo cobertura de notícias e itens históricos.

Os regulamentos federais também protegem as plataformas de ações judiciais sobre certas postagens criadas pelos usuários. Parte da Lei de Decência nas Comunicações de 1996, Seção 230, tem algumas exceções e não se aplica às leis federais de tráfico sexual.

Mesmo que novas restrições de mídia social sejam sancionadas este ano, elas ainda podem enfrentar obstáculos. No ano passado, a NetChoice processou o estado para impedir que a Lei do Código de Design Adequado à Idade da Califórnia entrasse em vigor em 2024, afirmando que pressionaria as empresas a “moderar demais o conteúdo” e restringir os recursos que poderiam ajudar os adolescentes. Wicks e o ex-membro da Assembleia Jordan Cunningham (R-Paso Robles) apresentaram a medida, que inclui proteções para usuários menores de 18 anos, como ter configurações de privacidade altas por padrão.

Esforços para proteger as crianças online também estão sendo considerados em outros estados e no Congresso. O governador republicano de Utah, Spencer Cox, assinou um par de projetos de lei este ano que exigem que as crianças obtenham o consentimento de seus pais antes de se inscreverem em plataformas como TikTok e Instagram.

Chapman, o pai que perdeu o filho devido a uma overdose de fentanil, quer que grandes empresas de mídia social permitam que os pais monitorem a atividade online de seus filhos por meio de aplicativos de segurança de terceiros, como o Bark. A capacidade de fazer isso pode variar dependendo de quanto acesso aos dados a plataforma fornecerá a um aplicativo de terceiros. Traficantes de drogas e adolescentes costumam usar emojis codificados para comprar e vender drogas, tornando mais difícil para os pais entender o que está acontecendo online.

“Minha motivação é salvar vidas”, disse Chapman. “Acordo todos os dias desde que meu filho morreu e tenho me dedicado a alertar outros pais sobre isso.”