.
O viral, gerado por IA as imagens da prisão de Donald Trump que você pode estar vendo nas redes sociais são definitivamente falsas. Mas algumas dessas criações fotorrealistas são bastante convincentes. Outros parecem mais fotos de um videogame ou de um sonho lúcido. A Tópico do Twitter por Eliot Higgins, fundador da Bellingcat, que mostra Trump sendo cercado por policiais sintéticosCorrendo em volta em fugae escolhendo um macacão de prisão foi visto mais de 3 milhões de vezes na plataforma de mídia social.
O que Higgins acha que os espectadores podem fazer para diferenciar imagens falsas de IA, como as de seu post, de fotos reais que podem sair da possível prisão do ex-presidente?
“Tendo criado muitas imagens para o segmento, é evidente que muitas vezes foca no primeiro objeto descrito – neste caso, os vários membros da família Trump – com tudo ao seu redor muitas vezes tendo mais falhas ”, disse Higgins por e-mail. Olhe fora do ponto focal da imagem. O resto da imagem parece ser uma reflexão tardia?
Embora as versões mais recentes das ferramentas de imagem AI, como Midjourney (versão 5 da qual foi usada para o tópico mencionado) e Stable Diffusion, estejam fazendo um progresso considerável, erros nos detalhes menores continuam sendo um sinal comum de imagens falsas. À medida que a arte da IA cresce em popularidade, muitos artistas apontam que os algoritmos ainda lutam para replicar o corpo humano de maneira consistente e natural.
Olhando para as imagens AI de Trump do tópico do Twitter, o rosto parece bastante convincente em muitas das postagens, assim como as mãos, mas seu as proporções do corpo podem parecer contorcidas ou derretido em um policial próximo. Mesmo que seja óbvio agora, é possível que o algoritmo possa evitar partes do corpo de aparência peculiar com mais treinamento e refinamento.
Precisa de outra dica? Procure escrita estranha nas paredes, roupas ou outros itens visíveis. Higgins aponta para texto confuso como forma de diferenciar imagens falsas de fotos reais. Por exemplo, a polícia usa distintivos, chapéus e outros documentos que parecem ter letras, à primeira vista, nas imagens falsas de policiais prendendo Trump. Após uma inspeção mais detalhada, as palavras são sem sentido.
Uma maneira adicional de às vezes dizer que uma imagem é gerada por IA é perceber expressões faciais exageradas. “Também notei que, se você pedir expressões, Midjourney tende a reproduzi-las de maneira exagerada, com vincos na pele de coisas como sorrir sendo muito pronunciadas”, disse Higgins. A expressão de dor no rosto de Melania Trump parece mais uma recriação de Edvard Munch O grito ou uma foto de algum filme de terror A24 inédito do que um instantâneo de um fotógrafo humano.
Lembre-se de que líderes mundiais, celebridades, influenciadores de mídia social e qualquer pessoa com grandes quantidades de fotos circulando online podem parecer mais convincentes em fotos deepfake do que imagens geradas por IA de pessoas com menos presença visível na Internet. “Está claro que quanto mais famosa uma pessoa é, mais imagens a IA teve que aprender”, disse Higgins. “Tão muito pessoas famosas são renderizadas extremamente bem, enquanto pessoas menos famosas geralmente são um pouco instáveis. Para ter mais tranquilidade sobre a capacidade do algoritmo de recriar seu rosto, pode valer a pena pensar duas vezes antes de postar uma foto de selfies depois de uma noite divertida com os amigos. (Embora seja provável que os geradores de IA já tenham extraído seus dados de imagem da web.)
Na preparação para a próxima eleição presidencial dos EUA, qual é a política do Twitter sobre imagens geradas por IA? A plataforma de mídia social política atual lê, em parte, “Você não pode compartilhar mídia sintética, manipulada ou fora de contexto que possa enganar ou confundir as pessoas e causar danos (‘mídia enganosa’).” O Twitter abre várias exceções para memes, comentários e postagens não criadas com a intenção de enganar os espectadores.
Apenas alguns anos atrás, era quase incompreensível que uma pessoa comum em breve fosse capaz de fabricar deepfakes fotorrealistas de líderes mundiais em casa. À medida que as imagens de IA se tornam mais difíceis de diferenciar do negócio real, as plataformas de mídia social podem precisar reavaliar sua abordagem ao conteúdo sintético e tentar encontrar maneiras de orientar os usuários através do mundo complexo e muitas vezes inquietante da IA generativa.
.
