.
Pesquisadores do proprietário da Tiktok Bydance demonstraram um novo sistema de IA, Omnihuman-1isso pode gerar talvez os vídeos mais realistas do DeepFake até hoje.
A IA DeepFaking é uma mercadoria. Não faltam aplicativos que possam inserir alguém em uma foto ou fazer uma pessoa parecer dizer algo que eles realmente não disseram. Mas a maioria dos deepfakes – e o vídeo DeepFakes em particular – falha em limpar o vale estranho. Geralmente, alguns dizem um sinal óbvio ou óbvio de que a IA estava envolvida em algum lugar.
Não é assim com Omnihuman-1-pelo menos a partir das amostras escolhidas por cerejeira, a equipe de bytedance lançou.
Aqui está uma performance fictícia de Taylor Swift:
Aqui está uma palestra do TED que nunca ocorreu:
E aqui está uma palestra de Einstein, de profundidade:
De acordo com os pesquisadores de bytedance, Omnihuman-1 precisa apenas de uma única imagem e áudio de referência, como fala ou vocal, para gerar um clipe de um comprimento arbitrário. A proporção do vídeo de saída é ajustável, assim como a “proporção do corpo” do sujeito – ou seja, quanto do corpo deles é mostrado nas imagens falsas.
Treinado em 19.000 horas de conteúdo de vídeo de fontes não reveladas, o Omnihuman-1 também pode editar vídeos existentes-até modificando os movimentos dos membros de uma pessoa. É realmente surpreendente o quão convincente o resultado pode ser.
Concedido, Omnihuman-1 não é perfeito. A equipe de bytedance diz que imagens de referência de “baixa qualidade” não produzirão os melhores vídeos, e o sistema parece lutar com certas poses. Observe os gestos estranhos com o copo de vinho neste vídeo:
Ainda assim, o Omnihuman-1 tem facilmente cabeças e ombros acima das técnicas anteriores de DeepFake, e pode muito bem ser um sinal do que está por vir. Embora a Bytedance não tenha lançado o sistema, a comunidade de IA tende a não levar muito tempo para modelos de engenharia reversa como esses.
As implicações são preocupantes.
No ano passado, os foscos políticos se espalharam como incêndio em todo o mundo. No dia da eleição em Taiwan, um grupo chinês de feiticeiro comunista postou áudio gerado por IA e enganoso de um político jogando seu apoio por trás de um candidato pró-China. Na Moldávia, os vídeos da Deepfake retratavam o presidente do país, Maia Sandu, renunciando. E na África do Sul, um DeepFake do rapper Eminem apoiando um partido da oposição da África do Sul, circulava à frente da eleição do país.
DeepFakes também estão sendo cada vez mais sendo usados para realizar crimes financeiros. Os consumidores estão sendo enganados por flakes Deepfakes de Celebridades oferecendo oportunidades de investimento fraudulento, enquanto as empresas estão sendo enganadas em milhões por imitadores Deepfake. De acordo com DeloitteO conteúdo gerado pela IA contribuiu para mais de US $ 12 bilhões em perdas de fraude em 2023 e poderia atingir US $ 40 bilhões nos EUA até 2027.
Em fevereiro passado, centenas na comunidade de IA assinou uma carta aberta pedindo deepfake rigoroso regulamento. Na ausência de uma lei criminalizando os deepfakes em nível federal nos EUA, mais de 10 estados promulgaram estatutos contra a representação auxiliada por A. A lei da Califórnia – atualmente paralisada – seria a primeira a capacitar os juízes a ordenar que os pôsteres de DeepFakes os derrubem ou potencialmente enfrentem penalidades monetárias.
Infelizmente, são difíceis de detectar. Embora algumas redes sociais e mecanismos de pesquisa tenham tomado medidas para limitar sua propagação, o volume de conteúdo de DeepFake on -line continua a crescer a uma taxa assustadoramente rápida.
Em uma pesquisa de maio de 2024 Da empresa de verificação de identificação Jumio, 60% das pessoas disseram ter encontrado um DeepFake no ano passado. Setenta e dois por cento dos entrevistados da pesquisa disseram que estavam preocupados em serem enganados por Feaskes DeepFakes diariamente, enquanto a maioria apoiava a legislação para lidar com a proliferação de falsificações geradas pela IA.
O Strong The One tem um boletim informativo focado na IA! Inscreva -se aqui para obtê -lo em sua caixa de entrada toda quarta -feira.
.
