.
Em maio, a Sputnik International, um meio de comunicação estatal russo, publicou uma série de tweets criticando a política externa dos EUA e atacando a administração Biden. Cada um suscitou uma refutação curta, mas bem elaborada, de uma conta chamada CounterCloud, às vezes incluindo um link para uma notícia relevante ou artigo de opinião. Gerou respostas semelhantes aos tweets da embaixada russa e dos meios de comunicação chineses criticando os EUA.
As críticas russas aos EUA estão longe de ser incomuns, mas a resposta do material de CounterCloud foi: os tweets, os artigos e até mesmo os jornalistas e sites de notícias foram criados inteiramente por algoritmos de inteligência artificial, de acordo com a pessoa por trás do projeto, que atende pelo nome de nomeia Nea Paw e diz que foi projetado para destacar o perigo da desinformação de IA produzida em massa. Paw não postou publicamente os tweets e artigos do CounterCloud, mas os forneceu à WIRED e também produziu um vídeo descrevendo o projeto.
Paw afirma ser um profissional de segurança cibernética que prefere o anonimato porque algumas pessoas podem considerar o projeto irresponsável. A campanha CounterCloud contra as mensagens russas foi criada usando a tecnologia de geração de texto da OpenAI, como a do ChatGPT, e outras ferramentas de IA facilmente acessíveis para gerar fotografias e ilustrações, diz Paw, por um custo total de cerca de US$ 400.
Paw diz que o projeto mostra que as ferramentas generativas de IA amplamente disponíveis tornam muito mais fácil a criação de campanhas de informação sofisticadas que promovem a propaganda apoiada pelo Estado.
“Não acho que exista uma solução mágica para isso, da mesma forma que não existe uma solução mágica para ataques de phishing, spam ou engenharia social”, disse Paw por e-mail. Mitigações são possíveis, como educar os usuários para estarem atentos ao conteúdo manipulativo gerado pela IA, fazer com que os sistemas generativos de IA tentem bloquear o uso indevido ou equipar os navegadores com ferramentas de detecção de IA. “Mas acho que nenhuma dessas coisas é realmente elegante, barata ou particularmente eficaz”, diz Paw.
Nos últimos anos, investigadores de desinformação alertaram que os modelos de linguagem de IA poderiam ser usados para criar campanhas de propaganda altamente personalizadas e para alimentar contas de redes sociais que interagem com os utilizadores de formas sofisticadas.
Renee DiResta, gerente de pesquisa técnica do Stanford Internet Observatory, que rastreia campanhas de informação, diz que os artigos e perfis de jornalistas gerados como parte do projeto CounterCloud são bastante convincentes.
“Além dos atores governamentais, as agências de gestão de redes sociais e os mercenários que oferecem serviços de operações de influência irão, sem dúvida, utilizar estas ferramentas e incorporá-las nos seus fluxos de trabalho”, afirma DiResta. Distribuir e compartilhar amplamente conteúdo falso é um desafio, mas isso pode ser feito pagando usuários influentes para compartilhá-lo, acrescenta ela.
Já surgiram algumas evidências de campanhas de desinformação online alimentadas por IA. Pesquisadores acadêmicos descobriram recentemente uma botnet grosseira que impulsiona criptografia, aparentemente alimentada por ChatGPT. A equipe disse que a descoberta sugere que a IA por trás do chatbot provavelmente já está sendo usada para campanhas de informação mais sofisticadas.
Campanhas políticas legítimas também passaram a usar IA antes das eleições presidenciais de 2024 nos EUA. Em abril, o Comitê Nacional Republicano produziu um vídeo atacando Joe Biden que incluía imagens falsas geradas por IA. E em junho, uma conta de mídia social associada a Ron Desantis incluiu imagens geradas por IA em um vídeo pretendia desacreditar Donald Trump. A Comissão Eleitoral Federal disse que pode limitar o uso de deepfakes em anúncios políticos.
Micah Musser, um investigador que estudou o potencial de desinformação dos modelos de linguagem da IA, espera que as principais campanhas políticas tentem usar modelos de linguagem para gerar conteúdo promocional, e-mails de angariação de fundos ou anúncios de ataque. “É um período totalmente instável neste momento, onde não está realmente claro quais são as normas”, diz ele.
Muitos textos gerados por IA permanecem bastante genéricos e fáceis de detectar, diz Musser. Mas fazer com que os humanos controlem o conteúdo gerado pela IA, promovendo a desinformação, pode ser altamente eficaz e quase impossível parar de usar filtros automatizados, diz ele.
O CEO da OpenAI, Sam Altman, disse em um tweet no mês passado que ele está preocupado com a possibilidade de a inteligência artificial da sua empresa poder ser usada para criar desinformação personalizada e automatizada em grande escala.
Quando a OpenAI disponibilizou pela primeira vez sua tecnologia de geração de texto por meio de uma API, ela proibiu qualquer uso político. No entanto, em março deste ano, a empresa atualizou sua política para proibir o uso destinado à produção em massa de mensagens para grupos demográficos específicos. Um artigo recente do Washington Post sugere que o GPT não bloqueia por si só a geração de tal material.
Kim Malfacini, chefe de política de produtos da OpenAI, diz que a empresa está explorando como sua tecnologia de geração de texto está sendo usada para fins políticos. As pessoas ainda não estão acostumadas a presumir que o conteúdo que veem pode ser gerado por IA, diz ela. “É provável que o uso de ferramentas de IA em vários setores só cresça e a sociedade se atualize para isso”, diz Malfacini. “Mas no momento acho que as pessoas ainda estão em processo de atualização.”
Uma vez que uma série de ferramentas de IA semelhantes estão agora amplamente disponíveis, incluindo modelos de código aberto que podem ser desenvolvidos com poucas restrições, os eleitores devem ficar atentos à utilização da IA na política, mais cedo ou mais tarde.
Esta história apareceu originalmente em wired.com.
.
