.
TO modelo de ameaça de uma rede social é complexo. Sua equipe de segurança precisa lidar com ataques de hackers convencionais, pois agentes hostis investigam erros técnicos em seus aplicativos e servidores que podem ser usados para extrair dados privados valiosos, injetar código malicioso ou simplesmente causar estragos por diversão.
Eles também têm que lidar com pessoas que usam os próprios recursos do site de maneiras destrutivas, desde bots de spam simplórios até estados-nação que executam “comportamento inautêntico coordenado”. Eles precisam proteger os usuários contra invasões de contas devido ao roubo de senhas e precisam fazer tudo enquanto navegam no campo minado que é a moderação de conteúdo.
E então o site é comprado por capricho por um bilionário caprichoso e a ameaça vem de dentro da casa.
O que são os arquivos do Twitter?
Elon Musk tem promovido “os arquivos do Twitter”, uma série de tópicos do Twitter de jornalistas amigáveis usando material fornecido pela empresa para re-litigar o papel da empresa nas guerras culturais dos anos anteriores.
Normalmente, grandes notícias que afirmam ser o [something] “arquivos” são baseados em enormes vazamentos, fornecendo uma visão até então impossível do funcionamento interno da organização sob o microscópio. É menos típico que um grande vazamento tenha sido ordenado pelo principal executivo da empresa e executado por seus subordinados trabalhando abertamente com os jornalistas que cobrem a história. Mas pouco sobre o Twitter de Elon Musk é típico.
E os próprios arquivos? Uma semana e meia depois, houve quatro lançamentos, de três escritores: Matt Taibbi, Bari Weiss e Michael Shellenberger, todos amplamente parte de uma onda de escritores de boletins Substack “pós-liberais”. Não está claro como eles foram selecionados para receber os documentos.
Um requisito, no entanto, era que tudo o que eles publicassem fosse compartilhado no próprio Twitter, disse Taibbi, mas além disso, “fomos encorajados a olhar não apenas para o Twitter histórico, mas também para a iteração atual. Disseram-me que eu poderia escrever qualquer coisa que quisesse, incluindo qualquer coisa sobre a empresa atual e seu novo chefe, Elon Musk.” Ao mesmo tempo, a reportagem foi feita dentro dos escritórios do Twitter, com o auxílio da equipe do Twitter.
E todos os três se concentraram nas áreas que se pode imaginar, dadas suas declarações anteriores sobre a rede social. O primeiro tópico de Taibbi cobriu os esforços do Twitter para responder à história do New York Post sobre o laptop de Hunter Biden; seu segundo tópico, assim como o de Shellenberger, analisou os eventos em torno da suspensão de Donald Trump e o ataque de 6 de janeiro ao Capitólio dos Estados Unidos. Weiss, enquanto isso, relatou o que ela descreveu como “as listas negras secretas do Twitter”.
Liberdade de expressão x ‘liberdade de alcance’
A maior parte do material até agora, portanto, concentrou-se no que são efetivamente duas decisões de moderação individual de alto risco, uma amplamente considerada um erro em retrospectiva (ocultar histórias sobre o laptop de Biden) e a outra exatamente tão divisiva quanto qualquer pessoa. teria adivinhado de antemão (a proibição de Trump).
Os documentos compartilhados por Taibbi e Shellenberger apoiam amplamente essa leitura. Sem o enquadramento conspiratório dos dois escritores, os trechos de e-mails internos e mensagens de bate-papo que eles postaram parecem mostrar a equipe lidando com o enorme fardo que foi colocado sobre eles com uma mistura grosseira de pânico e determinação.
Nos dias que se seguiram à publicação da reportagem do Post sobre Hunter Biden, isso não foi suficiente. Os executivos citados por Taibbi estão claramente cientes da perspectiva de uma repetição do despejo do WikiLeaks de 2016 de documentos hackeados do Partido Democrata e agem rapidamente para discutir a aplicação de uma política contra o compartilhamento de materiais hackeados. Mas os materiais não foram hackeados e, embora a cadeia de custódia do laptop de Biden permaneça obscura, rapidamente ficou claro que a política foi aplicada de maneira incorreta. A equipe mais sênior do Twitter demorou muito para remover a proibição quando isso ficou claro e, nas palavras de Taibi“errou do lado de … continuando a errar”.
Apenas dois meses depois, o mesmo grupo foi convocado para discutir Donald Trump. O presidente usou a mídia social para estimular um protesto em Washington DC que se tornou violento quando seus apoiadores decidiram invadir o prédio do Capitólio dos EUA. Nos dias que se seguiram à eleição, o Twitter vinha aplicando agressivamente sua política de “notícia”, colocando um rótulo nas postagens que seriam excluídas se não fosse o destaque de seu autor, mas em 7 de janeiro ficou claro que isso era insatisfatório no caso Trump.
Uma série de postagens do Slack compartilhado por Shellenberger mostre a equipe, liderada pelo ex-chefe de confiança e segurança Yoel Roth, tentando desesperadamente inventar políticas na hora (todos os funcionários, exceto Roth, são anonimizados nas postagens que Shellenberger compartilhou). Trump havia recebido um tratamento especial, deixado no site por meses depois que um usuário típico teria visto sua conta excluída: em que ponto essa abordagem deixa de ser viável? A resposta foi claramente 6 de janeiro. Mas se você dá a alguém um tratamento especial sem admitir como tal, torna-se ainda mais difícil retirá-lo.
A parte de Weiss na saga é diferente. Em vez de se concentrar no mundo estreito da política eleitoral dos EUA, seu tópico dá uma olhada mais sistêmica nas práticas de moderação do Twitter. Trabalhando com Ella Irwinfuncionário de confiança e segurança do Twitter, Weiss publicou capturas de tela das páginas de moderação para alguns dos usuários mais notórios do site.
Jay Bhattacharya, um cético da Covid, foi colocado em uma “lista negra de tendências”; Dan Bongino, uma personalidade da mídia de direita, em uma “lista negra de busca”; Charlie Kirk, cuja decisão de comparecer a um protesto vestindo uma fralda causou tanto embaraço de segunda mão que efetivamente destruiu o movimento juvenil republicano que ele fundou, foi definido para “não amplificar”.
As tags são vários exemplos do que o Twitter chama de “filtragem de visibilidade”, uma forma de moderação que visa impactar a “liberdade de alcance” sem afetar a “liberdade de expressão”. Os usuários filtrados podem postar o que quiserem, mas seu envolvimento na amplificação algorítmica do site é limitado. Alguns não aparecerão nos resultados de pesquisa ou tendências; outros não serão recomendados para os usuários seguirem. A forma mais agressiva de filtragem de visibilidade, que não afetou nenhuma das contas proeminentes destacadas por Weiss, significa que as novas postagens nem aparecerão para os seguidores e serão visíveis apenas para as pessoas que navegarem diretamente para o perfil do postador.
Nem todos os usuários que Weiss examinou foram prejudicados pela moderação. Um deles, LibsofTikTok, recebeu tratamento especial, alertando os moderadores para não fazerem nada sem consultar a equipe sênior do site. Apesar disso, ainda havia recebido duas advertências por abuso e foi colocada na lista negra de tendências.
O que aprendemos?
Acho importante distinguir entre os arquivos do Twitter e os “Arquivos do Twitter”. Este último, uma publicação grande, sensacionalista e coordenada, até agora não conseguiu atingir seus objetivos aparentes. A linha central de todo o exercício é que o Twitter é um viveiro de viés de esquerda, explicitamente alinhado com o Partido Democrata dos EUA e tomando medidas injustificadas para censurar o discurso para fins politicamente motivados.
As postagens em si mostram pouco desse tipo. Alguns, como o de Weiss, nem mesmo tentam: exemplos individuais de usuários de direita que estão no fim da moderação leve dizem pouco sobre o viés geral. Os usuários de esquerda também receberam filtros de visibilidade? Weiss não diz. Os usuários de direita receberam mais filtros? Weiss não diz.
Outros mostram quase o contrário. Havia muitos motivos fáceis para remover Donald Trump da rede social em janeiro de 2021, mas as postagens parecem revelar a equipe do Twitter trabalhando metodicamente em seu livro de regras real, tentando entender como reagir a eventos sem precedentes de uma maneira que não simplesmente jogue o precedente pela janela.
Como muito a ver com a política americana, os Arquivos falham se você vê a direita americana como uma exceção. Se você tem regras contra desinformação eleitoral e apenas um partido se envolve em uma campanha sistemática de desinformação eleitoral, não é um resultado irracional para um partido ser o foco dos esforços de moderação.
Mas os arquivos em letras minúsculas, os próprios documentos, são um artefato histórico interessante. Eles mostram que, em períodos de crise global, as pessoas que tomavam as decisões dentro do Twitter estavam cientes e desconfortáveis com o poder que detinham. Mesmo como um conjunto de exemplos escolhidos a dedo, eles mostram que os esforços para criar e aplicar um livro de regras consistente foram motivados tanto pelo desejo de evitar críticas quanto pela crença de que isso era importante para proteger os usuários. Eles nos dão uma visão sobre os tipos de discussões que provavelmente estavam acontecendo no Facebook e no YouTube ao mesmo tempo.
E eles nos mostram que nunca devemos confiar em Elon Musk.
Ameaça interna
Musk tem promovido a série como um exercício de “transparência” e, se você é Weiss, Taibbi ou Shellenberger, é isso mesmo. Mas é o tipo de transparência que as empresas obtêm quando seu banco de dados é hackeado e vendido na darknet. Nesse caso, o banco de dados custou US$ 44 bilhões e ainda veio com o controle do site.
Marcus Hutchins, o hacker ético que interrompeu a infecção do ransomware WannaCry, postou no Mastodon sobre os documentos. “Como profissional de segurança, nada me assusta”, disse ele. “Já vi meus dados pessoais roubados inúmeras vezes, vi hackers de nações espalharem zerodays pela Internet e sou um usuário desavergonhado do TikTok.
“Mas agora você tem alguém sentado em cima dos dados pessoais de vários bilhões de usuários, alguém que tem um longo histórico de assédio vingativo, alguém que tem ouvido da extrema direita e alguém que acabou de nos mostrar sua disposição de armar dados internos da empresa para marcar pontos políticos. Isso me assusta muito.”
As postagens de Shellenberger nomearam apenas uma pessoa: o ex-chefe de confiança e segurança do Twitter, Yael Roth. Quando Musk comprou a empresa, Roth foi inicialmente acolhedor: um dos poucos funcionários que estava preparado para defender seu chefe publicamente e uma fonte muito necessária de conhecimento interno após a demissão imediata de Vijaya Gadde, chefe de longa data da segurança da plataforma do Twitter. esforços.
Mas o relacionamento claramente azedou. Em 10 de novembro, Roth se demitiu, ressurgindo uma semana depois para escrever um post no New York Times argumentando que “mesmo quando ele critica os caprichos das políticas da plataforma, [Musk] perpetua a mesma falta de legitimidade por meio de suas mudanças impulsivas e pronunciamentos de tamanho de tweet sobre as regras do Twitter”.
Ao fazer isso, ele parece ter se tornado uma bete noire para seu breve chefe e, portanto, para o amplo ecossistema de mídia de direita que Musk agora conduz. Um dia antes de Shellenberger compartilhar sua parte dos arquivos do Twitter, Musk postou um trecho fora de contexto da tese de doutorado de Roth, que analisava se serviços como o Grindr estavam causando danos ao forçar adolescentes a fingir ser adultos para acessar sites de namoro.
Para uma audiência de centenas de milhões, Musk acusou Roth de ser “a favor do acesso de crianças a serviços de internet para adultos” e indiretamente o acusou de decidir pessoalmente tornar o Twitter um espaço seguro para pedófilos.
A acusação é absurda, mas a acusação, em uma atmosfera de pânico da direita sobre os “aparadores” na mídia, muda vidas. Na segunda-feira, Roth e seu parceiro foram forçados a fugir de casa após um aumento acentuado de ameaças críveis contra ele. Por lealdade insuficiente, ele terá que passar o resto da vida verificando por cima do ombro. O que acontecerá com a próxima pessoa que irritar Elon?
Se você quiser ler a versão completa do boletim informativo, inscreva-se para receber o TechScape em sua caixa de entrada todas as terças-feiras
.
