.
Na segunda-feira, um tuitou A imagem gerada por IA sugerindo uma grande explosão no Pentágono levou a uma breve confusão, que incluiu uma pequena queda relatada no mercado de ações. Ele se originou de uma conta verificada do Twitter chamada “Bloomberg Feed”, não afiliada à conhecida empresa de mídia Bloomberg, e foi rapidamente exposta como uma farsa. No entanto, antes de ser desmascarado, grandes contas como o Russia Today já haviam espalhado a desinformação, informou o The Washington Post.
A imagem falsa mostrava uma grande nuvem de fumaça preta ao lado de um edifício que lembrava vagamente o Pentágono com o tweet “Grande explosão perto do Complexo do Pentágono em Washington DC – Relatório inicial”. Após uma inspeção mais detalhada, as autoridades locais confirmaram que a imagem não era uma representação precisa do Pentágono. Além disso, com barras de vedação borradas e colunas de construção, parece uma imagem gerada por IA bastante desleixada criada por um modelo como Stable Diffusion.
Antes de o Twitter suspender a conta falsa da Bloomberg, ela twittou 224.000 vezes e atingiu menos de 1.000 seguidores, de acordo com o Post, mas não está claro quem o executou ou os motivos por trás do compartilhamento da imagem falsa. Além do Bloomberg Feed, outras contas que compartilharam o relatório falso incluem “Walter Bloomberg” e “Breaking Market News”, ambas não afiliadas à verdadeira organização Bloomberg.
Este incidente destaca as ameaças potenciais que as imagens geradas por IA podem apresentar no reino da mídia social compartilhada às pressas – e um sistema de verificação pago no Twitter. Em março, imagens falsas da prisão de Donald Trump criadas com Midjourney atingiram um grande público. Embora claramente marcados como falsos, eles provocaram medo de confundi-los com fotos reais devido ao seu realismo. No mesmo mês, imagens geradas por IA do Papa Francisco em um jaleco branco enganaram muitos que as viram nas redes sociais.
O papa em casacos fofos é uma coisa, mas quando alguém apresenta um assunto do governo como a sede do Departamento de Defesa dos Estados Unidos em um tweet falso, as consequências podem ser mais graves. Além da confusão geral no Twitter, o tweet enganoso pode ter afetado o mercado de ações. O Washington Post diz que o Índice Dow Jones Industrial caiu 85 pontos em quatro minutos após a divulgação do tweet, mas se recuperou rapidamente.
Grande parte da confusão sobre o tweet falso pode ter sido possível devido a mudanças no Twitter sob seu novo proprietário, Elon Musk. Musk demitiu as equipes de moderação de conteúdo logo após sua aquisição e automatizou amplamente o processo de verificação da conta, fazendo a transição para um sistema em que qualquer pessoa pode pagar para ter uma marca de seleção azul. Os críticos argumentam que a prática torna a plataforma mais suscetível à desinformação.
Embora as autoridades tenham identificado facilmente a foto da explosão como falsa devido a imprecisões, a presença de modelos de síntese de imagem como Midjourney e Stable Diffusion significa que não é mais necessária habilidade artística para criar falsificações convincentes, diminuindo as barreiras à entrada e abrindo a porta para potencialmente automatizado máquinas de desinformação. A facilidade de criar falsificações, juntamente com a natureza viral de uma plataforma como o Twitter, significa que informações falsas podem se espalhar mais rapidamente do que podem ser verificadas.
Mas, neste caso, a imagem não precisava ser de alta qualidade para causar impacto. Sam Gregory, diretor executivo da organização de direitos humanos Witness, apontou para o The Washington Post que quando as pessoas querem acreditar, elas baixam a guarda e não verificam a veracidade das informações antes de compartilhá-las. Ele descreveu a falsa imagem do Pentágono como uma “falsa rasa” (em oposição a uma “deepfake” mais convincente).
“A maneira como as pessoas são expostas a essas falsificações superficiais não exige que algo se pareça exatamente com outra coisa para chamar a atenção”, disse ele. “As pessoas aceitam e compartilham prontamente coisas que não parecem exatamente certas, mas parecem certas.”
.
