.
Há um mês, a empresa de consultoria Accenture apresentou a um potencial cliente uma proposta inusitada e chamativa para um novo projeto. Em vez da apresentação de slides usual, o cliente viu deepfakes de vários funcionários reais em um palco virtual, oferecendo descrições perfeitamente entregues do projeto em que esperavam trabalhar.
“Queria que eles conhecessem a nossa equipe”, diz Renato Scaff, diretor administrativo sênior da Accenture que teve a ideia. “É também uma forma de nos diferenciarmos da concorrência.”
Os deepfakes foram gerados – com o consentimento dos funcionários – pela Touchcast, empresa na qual a Accenture investiu e que oferece uma plataforma para apresentações interativas com avatares de pessoas reais ou sintéticas. Os avatares do Touchcast podem responder a perguntas digitadas ou faladas usando modelos de IA que analisam informações relevantes e geram respostas instantaneamente.
“Há um elemento assustador”, diz Scaff sobre seus funcionários deepfake. “Mas há um elemento maior de cool.”
Deepfakes são uma arma potente e perigosa de desinformação e danos à reputação. Mas essa mesma tecnologia está a ser adoptada por empresas que a veem como uma nova forma inteligente e cativante de alcançar e interagir com os clientes.
Essas experiências não se limitam ao setor corporativo. Monica Arés, diretora executiva do Laboratório de Inovação, Educação Digital e Análise da Imperial College Business School em Londres, criou deepfakes de professores reais que ela espera que possam ser uma forma mais envolvente e eficaz de responder às perguntas e dúvidas dos alunos fora do ambiente de trabalho. sala de aula. Arés diz que a tecnologia tem potencial para aumentar a personalização, fornecer novas maneiras de gerenciar e avaliar os alunos e aumentar o envolvimento dos alunos. “Você ainda tem a aparência de um humano falando com você, então parece muito natural”, diz ela.
Como costuma acontecer hoje em dia, devemos agradecer à IA por esse desenrolar da realidade. Há muito que é possível aos estúdios de Hollywood copiar as vozes, os rostos e os maneirismos dos atores com software, mas nos últimos anos a IA tornou uma tecnologia semelhante amplamente acessível e virtualmente gratuita. Além do Touchcast, empresas incluindo Síntese e Ei, Gen. oferecem às empresas uma maneira de gerar avatares de indivíduos reais ou falsos para apresentações, marketing e atendimento ao cliente.
Edo Segal, fundador e CEO da Touchcast, acredita que os avatares digitais podem ser uma nova forma de apresentar e interagir com conteúdo. Sua empresa desenvolveu uma plataforma de software chamada Genything que permitirá a qualquer pessoa criar seu próprio gêmeo digital.
Ao mesmo tempo, os deepfakes estão a tornar-se uma grande preocupação à medida que as eleições se aproximam em muitos países, incluindo os EUA. No mês passado, chamadas automáticas geradas por IA apresentando um falso Joe Biden foram usadas para espalhar desinformação eleitoral. Taylor Swift também se tornou recentemente alvo de pornografia deepfake gerada usando ferramentas de imagem de IA amplamente disponíveis.
“Imagens deepfake são certamente algo que consideramos preocupante e alarmante”, Ben Buchanan, o Conselheiro Especial da Casa Branca para IA, disse à WIRED em uma entrevista recente. O deepfake Swift “é um dado importante em uma tendência mais ampla que afeta desproporcionalmente mulheres e meninas, que são alvos esmagadores de assédio e abuso online”, disse ele.
Um novo Instituto de Segurança de IA dos EUA, criado sob uma ordem executiva da Casa Branca emitida em outubro passado, está atualmente desenvolvendo padrões para marcas d’água em mídias geradas por IA. Meta, Google, Microsoft e outras empresas de tecnologia também estão desenvolvendo tecnologia projetada para detectar falsificações de IA no que está se tornando uma corrida armamentista de IA de alto risco.
Alguns usos políticos do deepfakery, no entanto, destacam o duplo potencial da tecnologia.
Imran Khan, ex-primeiro-ministro do Paquistão, proferiu um discurso de manifestação aos seguidores de seu partido no último sábado, apesar de estar preso atrás das grades. O ex-astro do críquete, preso no que seu partido caracterizou como um golpe militar, fez seu discurso usando um software deepfake que evocou uma cópia convincente dele sentado atrás de uma mesa e dizendo palavras que ele nunca pronunciou.
À medida que a manipulação de vídeo baseada em IA melhora e se torna mais fácil de usar, é provável que cresça o interesse das empresas e dos consumidores em utilizações legítimas da tecnologia. A gigante tecnológica chinesa Baidu recentemente desenvolveu uma maneira para que os usuários de seu aplicativo chatbot criem deepfakes para enviar saudações de Ano Novo Lunar.
Mesmo para os primeiros adotantes, o potencial de uso indevido não está totalmente fora de questão. “Não há dúvida de que a segurança precisa ser primordial”, afirma Scaff, da Accenture. “Depois de ter um gêmeo sintético, você pode obrigá-lo a fazer e dizer qualquer coisa.”
.
