.
Vídeos deepfake de Sir Keir Starmer foram postados no primeiro dia da conferência do Partido Trabalhista, em um movimento que sublinha a ameaça representada pela tecnologia deepfake e pela IA na política do Reino Unido.
O vídeo falso do líder trabalhista surgiu no X, anteriormente conhecido como Twitter, na manhã de domingo, enquanto figuras importantes e ativistas do partido se reuniam em Liverpool.
Um deepfake geralmente envolve uma imagem ou vídeo em que uma pessoa ou objeto é manipulado visual ou audivelmente para dizer e fazer algo que é fabricado.
Leia mais: Heckler removido do palco antes do discurso de Rayner – conferência mais recente
O primeiro áudio falso, postado por uma conta com menos de 3.000 seguidores, pretende capturar o líder trabalhista abusando de funcionários do partido – mas o áudio não é real e o incidente não aconteceu.
A segunda afirma que Sir Keir está criticando a cidade de Liverpool.
O surgimento do áudio lembra as recentes eleições na Eslováquia, onde surgiu uma gravação de áudio falsa de Michal Simecka, o líder do Partido Progressista da Eslováquia, aparentemente envolvido numa conversa com um importante jornalista de um jornal diário, discutindo como fraudar o eleição.
A dupla confirmou imediatamente que o áudio era falso e que a conversa não aconteceu.
Análise da agência de notícias AFP constatou que o áudio apresentava sinais de manipulação com IA.
Ex-primeiro-ministro populista Robert Fico finalmente venceu a eleição numa passagem para retirar o apoio militar do seu país à Ucrânia.
Não está claro qual o impacto, se é que houve algum, que o vídeo falso teve no resultado da eleição, mas a jornalista que apareceu nele, Monika Todova, disse mais tarde ao The Times que estava “enojada” com isso.
Use o navegador Chrome para um player de vídeo mais acessível
A IA é uma ameaça existencial?
“São minhas palavras, mas não minhas frases”, disse ela ao jornal.
“Meus amigos e nossos leitores percebem que é um deepfake, mas as pessoas que votaram no Smer-SD ou na República [a far-right party] acho que é real.”
No país de origem, houve avisos semelhantes sobre a ameaça que a IA representa para a democracia do Reino Unido.
Dame Wendy Hall, uma das principais cientistas da computação do mundo, emitiu um alerta severo em uma entrevista com Beth Rigby da Sky, na qual ela disse que a IA ameaçará a democracia do Reino Unido antes das próximas eleições aqui e nos Estados Unidos.
Clique para assinar Politics at Jack and Sam’s onde quer que você obtenha seus podcasts
Falando em Entrevistas com Beth Rigby… Dame Wendy Hall disse que a capacidade da IA de prejudicar a democracia deveria ser uma preocupação mais imediata do que qualquer ameaça existencial representada pela tecnologia.
“No próximo ano veremos um crescimento da desinformação, das falsificações profundas deste mundo, porque a IA torna muito fácil fazer isso”, disse ela.
“Você pode simplesmente obter as ferramentas da internet e está ficando cada vez mais difícil detectar que um vídeo, uma foto ou um trecho de texto foi falsificado”.
Dame Wendy faz parte do Conselho de IA do governo, um “comitê de especialistas independentes” que fornece “assessoria ao governo e à liderança de alto nível do ecossistema de IA”.
Ela também é professora regius de ciência da computação na Universidade de Southampton, onde uma de suas especialidades é IA.
Use o navegador Chrome para um player de vídeo mais acessível
Entrevistas com Beth Rigby… Dame Wendy Hall
“Temos duas grandes eleições no próximo ano – os EUA, o Reino Unido – e a UE também terá eleições”, disse ela.
“Vejo isto como uma ameaça à democracia. No sentido de que temos de ajudar as pessoas a compreender de onde vêm as mensagens.
“Acho que isso é mais importante do que se preocupar com uma ameaça existencial daqui a 100 anos, mas não estou dizendo que a ameaça existencial não exista”, acrescentou ela.
Consulte Mais informação:
‘Aumento doentio’ em imagens de abuso sexual infantil geradas por IA
Criador do ChatGPT expressa preocupação com ‘subregulamentação’
“Portanto, temos que nos preparar para o fato de mantermos a IA sob nosso controle, para não nos tornarmos escravos desse mestre, e é aí que entra a regulamentação.”
O governo deverá realizar uma cúpula global sobre IA nos dias 1 e 2 de novembro, onde Dame Wendy deseja que o governo se concentre em falsificações profundas.
“Precisamos que as pessoas reúnam rapidamente a tecnologia usada para detectar falsificações e garantir que algo vem de uma fonte confiável”, disse ela.
Não é apenas o mundo da política que foi ameaçado pela IA.
O ator Tom Hanks falou recentemente depois de um anúncio falso parecia usar seu rosto para promover um plano odontológico mas que Hanks disse ter usado uma versão artificial de IA dele sem sua autorização.
.
