.
David Pocock alertou sobre o risco que a IA generativa representa para a democracia ao usá-la para pregar uma peça: fabricar um vídeo de Anthony Albanese anunciando a proibição total de publicidade de jogos de azar.
O senador independente por Canberra postou dois vídeos geradores de IA nas redes sociais – do primeiro-ministro e do líder da oposição, Peter Dutton, apoiando a proibição total de publicidade – para mostrar como a IA pode ser usada para imitar e confundir.
“Esse vídeo é falso e atualmente não há leis contra fazer vídeos como esse”, disse Pocock.
“Deepfakes [and] A IA generativa representa um risco real para a democracia e precisamos que o governo proíba o uso dessa tecnologia quando se trata de eleições.”
Em um vídeo, Albanese parece estar dizendo em uma entrevista coletiva no Parlamento — com movimentos levemente bruscos da boca, um pequeno indício de que o vídeo não é real — que ele está introduzindo uma proibição gradual de três anos da publicidade.
Em outra, Dutton parece estar dizendo ao público que a Coalizão apoia a legislação do governo.
Isso não é verdade, e Pocock escolheu um tópico controverso para imitar. O governo se comprometeu apenas com uma proibição parcial da publicidade de jogos de azar, que os defensores rotularam como “manifestamente inadequada”.
A mudança para uma proibição parcial ocorreu apesar de uma proibição total ter sido proposta em 2023, por um inquérito de comissão bipartidária presidido pela falecida deputada trabalhista Peta Murphy.
Pocock disse que fez os vídeos para pressionar o parlamento a tomar alguma medida para proibir o uso da tecnologia antes da próxima eleição.
“Estou preocupado que não estejamos vendo a urgência necessária para proteger nossa democracia da IA generativa.”
Em julho, um vídeo do primeiro-ministro de Queensland, Steven Miles, gerado por IA no TikTok, criado pela oposição do LNP, gerou um debate sobre o uso político de deep fakes online.
O vídeo mostrava Miles dançando abaixo do texto: “POV: meu aluguel aumentou US$ 60 por semana, minha conta de luz aumentou 20%, mas o premiê fez um sanduíche no TikTok”.
Miles afirmou que o vídeo “representa um ponto de virada para nossa democracia” e disse que o partido trabalhista estadual não usaria anúncios gerados por IA durante sua próxima campanha eleitoral.
Após o lançamento do vídeo, especialistas alertaram que as pessoas poderiam facilmente ser enganadas por conteúdo gerado por IA, e que ele pode ser mais perigoso se usado de forma mais sutil.
Um porta-voz do gabinete de Don Farrell, o ministro especial de Estado responsável pela supervisão dos assuntos parlamentares, disse que o governo está considerando o conselho da Comissão Eleitoral Australiana sobre a regulamentação do uso de IA nas eleições.
“Esta não é uma tecnologia que podemos parar – ela não vai desaparecer”, disse o porta-voz.
“Temos que encontrar uma maneira pela qual os australianos possam ter alguma proteção contra informações e conteúdos deliberadamente falsos.”
.
