.
Benj Edwards / Strong The One
Se você é uma das bilhões de pessoas que postaram fotos de si mesmas nas mídias sociais na última década, talvez seja hora de repensar esse comportamento. A nova tecnologia de geração de imagem AI permite que qualquer pessoa salve um punhado de fotos (ou quadros de vídeo) de você e, em seguida, treine a AI para criar fotos falsas realistas que mostram você fazendo coisas embaraçosas ou ilegais. Nem todos podem estar em risco, mas todos devem saber disso.
As fotografias sempre estiveram sujeitas a falsificações – primeiro em câmaras escuras com tesoura e cola e depois via Adobe Photoshop por meio de pixels. Mas foi preciso muita habilidade para ser convincente. Hoje, criar falsificações fotorrealistas convincentes tornou-se quase trivial.
Depois que um modelo de IA aprende como renderizar alguém, sua imagem se torna um brinquedo de software. A IA pode criar imagens deles em quantidades infinitas. E o modelo de IA pode ser compartilhado, permitindo que outras pessoas também criem imagens dessa pessoa.
John: Um estudo de caso de mídia social
Quando começamos a escrever este artigo, perguntamos a um corajoso voluntário se poderíamos usar suas imagens de mídia social para tentar treinar um modelo de IA para criar falsificações. Eles concordaram, mas os resultados foram muito convincentes e o risco à reputação provou ser muito grande. Em vez disso, usamos IA para criar um conjunto de sete fotos simuladas de mídia social de uma pessoa fictícia que chamaremos de “John”. Dessa forma, podemos mostrar com segurança os resultados. Por enquanto, vamos fingir que John é um cara de verdade. O resultado é exatamente o mesmo, como você verá abaixo.
Em nosso cenário fictício, “John” é um professor do ensino fundamental. Como muitos de nós, nos últimos 12 anos, John postou fotos de si mesmo no Facebook em seu trabalho, relaxando em casa ou indo a algum lugar.
Strong The One
Usando nada além dessas sete imagens, alguém pode treinar a IA para gerar imagens que façam parecer que John tem uma vida secreta. Por exemplo, ele pode gostar de tirar selfies nuas na sala de aula. À noite, John pode ir a bares vestido de palhaço. Nos fins de semana, ele poderia fazer parte de um grupo paramilitar extremista. E talvez ele tenha cumprido pena de prisão por uma acusação de drogas ilegais, mas escondeu isso de seu empregador.
-
À noite, “John” se veste de palhaço e vai a bares.
Strong The One
-
“John” ao lado de uma mulher nua em um escritório. Ele é casado, e essa não é a esposa dele.
Strong The One
-
“John” passa os fins de semana treinando como parte de um grupo paramilitar.
Strong The One
-
John relaxando sem camisa em sua sala de aula depois da escola.
Strong The One
-
John cumpriu pena na prisão por porte de drogas há apenas alguns anos e nunca contou ao sistema escolar.
Strong The One
-
John sentindo muita dor, ou talvez fazendo outra coisa. Cortamos as partes operativas.
Strong The One
Usamos um gerador de imagens de IA chamado Stable Diffusion (versão 1.5) e uma técnica chamada Dreambooth para ensinar a IA a criar imagens de John em qualquer estilo. Embora nosso João não seja real, alguém poderia reproduzir resultados semelhantes com cinco ou mais imagens de qualquer pessoa. Eles podem ser retirados de uma conta de mídia social ou até mesmo capturados como quadros estáticos de um vídeo.
.
