.
O prefeito de Nova York admitiu usar deepfakes de áudio para ligar para residentes em idiomas que ele não fala.
Eric Adams foi ouvido falando espanhol e mandarim graças à tecnologia, que ele disse ser uma forma de alcançar mais pessoas.
Falando em coletiva de imprensa (em inglês), o democrata disse que as “chamadas automáticas” foram usadas para promover eventos locais, como feiras de recrutamento e concertos.
O autodenominado “técnico” insistiu que recebeu feedback positivo dos residentes, dizendo que alguns com quem conversou estavam “animados” em ouvir o prefeito em seu próprio idioma.
“Estamos nos tornando mais receptivos ao usar a tecnologia para falar uma infinidade de idiomas”, acrescentou.
“A todos, tudo o que posso dizer é ni hao (mandarim para olá)”, foi como ele encerrou a conferência descaradamente, tendo sido questionado se os telefonemas eram potencialmente enganosos.
O meio de comunicação local The City relata que mais de quatro milhões de pessoas foram alcançadas pelas ligações até agora, incluindo milhares em espanhol e centenas em iídiche, mandarim e cantonês.
Eles são gerados usando a empresa de tecnologia de voz ElevenLabs, que ficou envergonhada no início deste ano quando seu software foi usado para gerar vozes de celebridades lendo declarações inadequadas.
Spotify está experimentando ferramentas semelhantes para traduzir podcasts para outros idiomas.
‘Profundamente antiético’
Após a coletiva de imprensa, o prefeito foi criticado por ativistas que qualificaram as ligações como “antiéticas”, por não incluírem nenhum esclarecimento de que a voz é gerada artificialmente.
Albert Fox Cahn, do Projeto de Supervisão de Tecnologia de Vigilância, disse que era um “projeto de vaidade assustador”.
“O prefeito está fingindo profundamente”, disse ele.
“Isso é profundamente antiético, especialmente às custas do contribuinte. Usar a IA para convencer os nova-iorquinos de que ele fala línguas que não fala é profundamente orwelliano.”
Consulte Mais informação:
Doze problemas de IA que ‘devem ser resolvidos’
Tom Hanks alerta fãs para não caírem em anúncio deepfake
Use o navegador Chrome para um player de vídeo mais acessível
Áudio deepfake de Starmer lançado
Prefeito não ‘fugirá’ da IA apesar dos riscos
A ameaça potencial que a tecnologia representa para a democracia foi recentemente sublinhada por clipes falsos direcionados ao líder trabalhista do Reino Unido, Sir Keir Starmer.
Adams reconheceu preocupações em torno dessa IA generativa, incluindo aqueles usados para criar imagens e vídeos, mas disse que não iria “fugir” das ferramentas.
Ele também aproveitou a coletiva de imprensa para divulgar um novo serviço de chatbot para ajudar proprietários de pequenas empresas.
É alimentado por Microsoft tecnologia com interface semelhante à OpenAI Bate-papoGPTe permite que os usuários façam perguntas sobre como se inscrever em programas locais e conselhos sobre como administrar uma empresa.
.
