.
EUNo anúncio, uma mulher com um vestido branco de renda faz caretas sugestivas para a câmera e depois se ajoelha. Há algo um pouco estranho nela; um tremor na têmpora, uma quietude peculiar em seus lábios. Mas se você viu o vídeo na natureza, talvez não saiba que é uma fabricação deepfake. Pareceria apenas um vídeo, como as primeiras cenas de algum pornô brega e de baixo orçamento na Internet.
No canto superior direito, durante o loop do vídeo, há uma imagem estática da atriz Emma Watson, tirada quando ela era adolescente, de uma sessão promocional para os filmes de Harry Potter. É o rosto dela que foi colado no rosto da atriz pornô. De repente, uma mulher que nunca atuou em pornografia é destaque nele.
Os anúncios, que direcionavam os usuários para um aplicativo que faz vídeos deepfake, foram descobertos em mais de 230 iterações no Facebook, Instagram e Meta’s Messenger, de acordo com uma investigação de notícias da NBC por Kat Tenbarge. A maioria dos anúncios apresentava a imagem de Watson; alguns outros usaram o rosto de Scarlett Johansson. Os mesmos anúncios apareceram em aplicativos de edição de fotos e jogos disponíveis na Apple App Store. Para que a mensagem não seja perdida pelos espectadores, os anúncios deixam explícito que se destinam a ajudar os usuários a criar pornografia não consensual de qualquer mulher de quem gostem. “Troque QUALQUER CARA no vídeo!” os anúncios lidos. “Substitua o rosto por qualquer pessoa. Divirta-se com a tecnologia de troca facial de IA.”
Anúncios semelhantes para serviços deepfake aparecem diretamente ao lado de vídeos explícitos no PornHub. Embora a tecnologia deepfake possa, teoricamente, ser usada para qualquer tipo de conteúdo – qualquer coisa, desde sátiras a campanhas maliciosas de desinformação política – de forma esmagadora, a tecnologia está sendo usada para criar pornografia não consensual. De acordo com um relatório de 2019, 96% do material deepfake on-line é pornográfico.
Esse número pode muito bem estar aumentando. Os anúncios nas plataformas Meta e Apple apareceram quando a demanda do consumidor por pornografia deepfake está explodindo. O aumento vem logo após uma controvérsia que abalou as comunidades de videogames online em janeiro, quando um streamer popular, Brandon Ewing – que se autodenomina “Atrioc” – exibiu pornografia deepfake de várias streamers populares em uma de suas transmissões online. Posteriormente, ele admitiu ter pago pela pornografia artificial das mulheres, que eram suas colegas e amigas, após ver um anúncio semelhante aos que apareciam nas plataformas Meta e Apple. As mulheres cujas imagens foram confiscadas para a pornografia de Ewing emitiram respostas raivosas e magoadas; O próprio Ewing pediu desculpas. Mas a controvérsia parece ter apenas tornado a esmagadora base de seguidores jovens e masculinos do streamer mais conscientes da disponibilidade de conteúdo deepfake – e ansiosos para usá-lo.
Genevieve Oh, pesquisadora que estuda transmissão ao vivo, disse à NBC que, após o pedido de desculpas de Ewing, o tráfego da web para os principais sites de pornografia deepfake explodiu. Esse rápido aumento nas últimas semanas seguiu um crescimento mais lento, mas ainda alarmante, do setor de pornografia de vingança deepfake nos últimos anos. Em 2018, menos de 2.000 vídeos foram carregados no site de streaming deepfake mais conhecido; em 2022, esse número aumentou para 13.000, com uma contagem mensal de visualizações de 16 milhões. À medida que o pornô de vingança deepfake se torna mais popular, a barreira de acesso é bem baixa: o aplicativo que usou indevidamente o rosto de Watson em seus anúncios cobra apenas US$ 8 por semana.
O rápido aumento no número e disponibilidade de vídeos pornográficos deepfake não consensuais levanta questões alarmantes sobre privacidade e consentimento no futuro digital. Como o grande número de mulheres – e o número menor, mas significativo, de homens – afetados por essa nova pornografia de vingança habilitada por IA administrará suas reputações e vidas? À medida que a tecnologia melhora, como os espectadores saberão a diferença entre fatos e ficção gerada por IA? Como o material não consensual pode ser removido quando a internet se move muito mais rápido do que a regulamentação?
Mas o exemplo desses aplicativos – e dos homens, como Ewing e seus fãs, que os usam – também ilumina algo mais antigo e mais desconfortável sobre a natureza da pornografia: que os homens costumam usá-la como uma expressão de seu desprezo pelas mulheres. , e sentem que a representação sexual das mulheres as degrada e as viola. Este é, de fato, grande parte do apelo da pornografia convencional, pelo menos de acordo com os sentimentos de muitos dos homens que a consomem: que ela permite que os homens se imaginem no controle das mulheres e infligindo dor e degradação a elas. A pornografia de vingança deepfake, então, apenas cumpre com a tecnologia o que a pornografia tradicional oferece aos homens na fantasia: a garantia de que qualquer mulher pode ser diminuída, degradada e humilhada por meio da força sexual. O não consentimento é o ponto; a humilhação é o ponto; a crueldade é o ponto.
Não há outra maneira, realmente, de entender o apelo da pornografia deepfake: não é como se a internet carecesse de conteúdo sexual retratando adultos reais e consentidos. O que esses aplicativos oferecem a seus usuários é específica e explicitamente a oportunidade de ferir mulheres, forçando-as a pornografia contra sua vontade. Depois que Ewing expôs sua pornografia deepfake para seu público de streaming em janeiro, uma das mulheres retratadas divulgou seu próprio vídeo choroso, descrevendo como a malícia e a violação do deepfake a feriram. Em resposta, um homem enviou a ela uma foto de seu próprio rosto chorando aparecendo em seu tablet. A tela estava coberta de sêmen.
Por enquanto, as mulheres e outras pessoas que são alvo de pornografia de vingança deepfake têm poucos recursos legais. A maioria dos estados tem leis que punem a pornografia de vingança, mas apenas quatro – Califórnia, Nova York, Geórgia e Virgínia – proíbem deepfakes não consensuais. As empresas que hospedam os aplicativos geralmente são baseadas no exterior, principalmente fora do alcance da aplicação da lei – a empresa cujo aplicativo foi anunciado no Meta parece ser de propriedade de uma empresa-mãe com sede na China. Enquanto isso, mais e mais homens começarão a usar a tecnologia contra mais e mais mulheres. “Eu estava na porra do Pornhub … e havia um anúncio [for the deepfake site]”, disse Ewing em seu vídeo de desculpas, explicando como descobriu o site de pornografia de vingança de IA. “Há um anúncio em cada merda de vídeo para isso, então sei que outras pessoas devem estar clicando nele.”
.
