.
Nas horas vagas, Tony Eastin gosta de se envolver no mercado de ações. Um dia, no ano passado, ele pesquisou no Google uma empresa farmacêutica que parecia um investimento promissor. Um dos primeiros resultados de pesquisa que o Google exibiu em sua guia de notícias foi listado como proveniente do Registro do condado de Clayton, um jornal no nordeste de Iowa. Ele clicou e leu. A história era distorcida e desprovida de informações úteis – assim como todos os outros posts com temas financeiros que preenchiam o site, que não tinham absolutamente nada a ver com o nordeste de Iowa. “Eu soube imediatamente que havia algo errado”, diz ele. Há muito lixo na internet, mas isso pareceu estranho a Eastin: por que um pequeno jornal do meio-oeste publicaria postagens de baixa qualidade sobre investimentos no varejo?
Eastin estava preparado para achar os mistérios online irresistíveis. Depois de anos na Força Aérea dos EUA trabalhando em campanhas de guerra psicológica, ele se juntou à Meta, onde investigou maldades que iam desde abuso infantil até operações de influência política. Agora ele estava entre empregos e acolheu uma nova missão. Então Eastin procurou Sandeep Abraham, um amigo e ex-colega do Meta que anteriormente trabalhou na inteligência do Exército e para a Agência de Segurança Nacional, e sugeriu que começassem a cavar.
O que a dupla descobriu fornece um retrato de como a IA generativa está permitindo novos modelos de negócios online enganosos. Redes de sites repletos de clickbait gerados por IA estão sendo construídas aproveitando-se da reputação de meios de comunicação e marcas estabelecidas. Esses meios de comunicação prosperam confundindo e enganando tanto o público quanto os anunciantes, “ocupando domínios” em URLs que antes pertenciam a organizações mais respeitáveis. O site obsceno ao qual Eastin foi mencionado não pertencia mais ao jornal cujo nome ainda era comercializado.
Embora Eastin e Abraham suspeitem que a rede que o RegistroEmbora o antigo site agora faça parte foi criado com objetivos diretos de ganhar dinheiro, eles temem que mais atores mal-intencionados possam usar o mesmo tipo de tática para inserir desinformação e propaganda nos resultados de pesquisa. “Isso é extremamente ameaçador”, diz Abraham. “Queremos soar alguns alarmes.” Para isso, a dupla divulgou um relatório com base em suas descobertas e planejam divulgar mais à medida que se aprofundam no mundo do clickbait de IA, esperando que seus esforços de tempo livre possam ajudar a chamar a atenção do público ou dos legisladores para o problema.
Notícias falsas
O Registro do Condado de Clayton foi fundada em 1926 e cobria a pequena cidade de Ekader, Iowa, e o condado mais amplo de Clayton, que fica às margens do rio Mississippi, no canto nordeste do estado. “Era um jornal popular”, diz o ex-coeditor Bryce Durbin, que se descreve como “enojado” com o que agora é publicado em seu antigo endereço na web, claytoncountyregister.com. (O Real Registro do Condado de Clayton fundiu-se em 2020 com The North Iowa Times para se tornar o Registro de temposque publica em um site diferente. Não está claro como o jornal perdeu o controle de seu domínio na web; o Registro de tempos não retornou pedidos de comentários.)
Como Eastin descobriu ao tentar pesquisar suas ações farmacêuticas, o site ainda se autodenomina Clayton County Register, mas não oferece mais notícias locais e é, em vez disso, uma fábrica de conteúdo de notícias financeiras. Publica o que parecem ser artigos gerados por IA sobre os preços das ações de empresas de serviços públicos e startups Web3, ilustrados por imagens que também são aparentemente geradas por IA.
“Não apenas os artigos que analisamos são gerados por IA, mas as imagens incluídas em cada artigo foram todas criadas usando modelos de difusão”, diz Ben Colman, CEO da startup de detecção de deepfake Reality Defender, que executou uma análise de vários artigos a pedido da WIRED . Além dessa confirmação, Abraham e Eastin notaram que alguns dos artigos incluíam textos que admitiam suas origens artificiais. “É importante observar que essas informações foram geradas automaticamente pelo Automated Insights”, afirmavam alguns dos artigos, citando o nome de uma empresa que oferece tecnologia de geração de linguagem.
.
