.
Extremistas nos EUA transformaram ferramentas de inteligência artificial em armas para ajudá-los a espalhar o discurso de ódio de forma mais eficiente, recrutar novos membros e radicalizar apoiadores online em uma velocidade e escala sem precedentes, de acordo com um novo relatório do Middle East Media Research Institute (MEMRI), uma organização americana de monitoramento da imprensa sem fins lucrativos.
O relatório concluiu que o conteúdo gerado pela IA é agora um dos pilares da produção dos extremistas: eles estão a desenvolver os seus próprios modelos de IA infundidos pelos extremistas e já estão a experimentar novas formas de aproveitar a tecnologia, incluindo a produção de modelos para armas 3D e receitas para fazer bombas.
Pesquisadores do Monitor de Ameaças ao Terrorismo Doméstico, um grupo dentro do instituto que rastreia especificamente extremistas baseados nos EUA, descrevem detalhadamente a escala e o escopo do uso de IA entre atores nacionais, incluindo neonazistas, supremacistas brancos e anti- extremistas do governo.
“Inicialmente houve um pouco de hesitação em torno desta tecnologia e vimos muito debate e discussão entre [extremists] on-line sobre se esta tecnologia poderia ser usada para seus propósitos”, disse Simon Purdue, diretor do Monitor de Ameaças ao Terrorismo Doméstico do MEMRI, a repórteres em um briefing no início desta semana. “Nos últimos anos, deixamos de ver conteúdo ocasional de IA e passamos a ver a IA como uma porção significativa de conteúdo de propaganda de ódio on-line, especialmente quando se trata de vídeo e propaganda visual. Assim, à medida que esta tecnologia se desenvolve, veremos os extremistas utilizá-la mais.”
À medida que as eleições nos EUA se aproximam, a equipa de Purdue está a acompanhar uma série de desenvolvimentos preocupantes na utilização de tecnologia de IA por extremistas, incluindo a adopção generalizada de ferramentas de vídeo de IA.
“A maior tendência que notamos [in 2024] é a ascensão do vídeo”, diz Purdue. “No ano passado, o conteúdo de vídeo gerado por IA era muito básico. Este ano, com o lançamento do Sora da OpenAI e de outras plataformas de geração ou manipulação de vídeo, vimos extremistas usá-las como meio de produzir conteúdo de vídeo. Também vimos muito entusiasmo sobre isso, muitas pessoas estão falando sobre como isso poderia permitir-lhes produzir longas-metragens.”
Extremistas já usaram essa tecnologia para criar vídeos apresentando o presidente Joe Biden usando insultos raciais durante um discurso e a atriz Emma Watson lendo em voz alta Minha luta enquanto vestia um uniforme nazista.
No ano passado, a WIRED relatou como extremistas ligados ao Hamas e ao Hezbollah estavam aproveitando ferramentas generativas de IA para minar o banco de dados de compartilhamento de hash que permite que plataformas de Big Tech removessem rapidamente conteúdo terrorista de forma coordenada, e atualmente não há solução disponível para este problema
Adam Hadley, diretor executivo da Tech Against Terrorism, diz que ele e seus colegas já arquivaram dezenas de milhares de imagens geradas por IA criadas por extremistas de extrema direita.
“Esta tecnologia está sendo utilizada de duas maneiras principais”, disse Hadley à WIRED. “Em primeiro lugar, a IA generativa é usada para criar e gerir bots que operam contas falsas e, em segundo lugar, tal como a IA generativa está a revolucionar a produtividade, também está a ser usada para gerar texto, imagens e vídeos através de ferramentas de código aberto. Ambas as utilizações ilustram o risco significativo de que conteúdos terroristas e violentos possam ser produzidos e disseminados em grande escala.”
.
