.
OOficialmente, o aplicativo Lensa AI cria “avatares mágicos” que transformam as selfies do usuário em obras de arte luxuosamente estilizadas. Foi elogiado por celebridades como Chance the Rapper, Tommy Dorfman, Jennifer Love Hewitt e o marido de Britney Spears, Sam Asghari. Mas, para muitas mulheres, o aplicativo faz mais do que apenas mostrar uma imagem bonita: os resultados finais são altamente sexualizados, preenchendo os seios das mulheres e transformando seus corpos em físicos de ampulheta.
“Sou só eu ou esses aplicativos geradores de selfie de IA estão perpetuando a misoginia?” twittou Brandee Barker, uma feminista e defensora que trabalhou na indústria de tecnologia. “Aqui estão algumas que tirei com base em fotos do meu rosto.” Um dos resultados de Barker mostrou que ela usava extensões de cabelo do tamanho de uma supermodelo e um macacão decotado. Outro a apresentava em um sutiã branco com decote saindo do topo.
“Lensa me fez uma plástica nos seios! Obrigado IA!!!” tuitou outro usuário que também recebeu um tiro na cabeça cortado logo acima dos seios. “Qualquer outra pessoa recebe cargas [of] peitos em suas fotos Lensa ou apenas eu? Perguntou outro.
Embora o aplicativo não seja novo (um programa semelhante se tornou viral em 2016 e atraiu um milhão de usuários por dia), ele recentemente alcançou o topo dos aplicativos de foto e vídeo mais baixados na App Store da Apple. Os usuários pagam uma taxa de US$ 7,99 e carregam de 10 a 20 selfies, e o algoritmo Stable Diffusion cria 50 fotos com base nos prompts de imagem.
Para testar o software, o Guardian carregou imagens de três feministas famosas diferentes: Betty Friedan, Shirley Chisholm e Amelia Earhart. A autora de A Mística Feminina tornou-se uma jovem ninfa, de peito cheio, vestida com pilhas de cachos e um vestido justo. Chisholm, a primeira mulher negra eleita para o Congresso dos EUA, tinha um desperdício de vespa. E o pioneiro da aviação ficou nu, apoiado no que parecia ser uma cama.
Todas as fotos enviadas pelo Guardian mostraram os ícones em vários estágios de suas vidas; a maioria das fotos renderizadas por IA que recebemos mostrava-os bastante jovens, com pele lisa e poucas rugas.
Barker disse ao Guardian que ela apenas carregou fotos de seu rosto para o Lensa AI e esperava obter fotos cortadas de volta. “Sim, mas também recebi várias imagens de ‘princesa fada’, ‘cósmica’ e ‘fantasiosa’ sexualizadas, seminuas, com seios grandes e cintura pequena”, disse ela. “Estes não se pareciam nada comigo e eram embaraçosos, até mesmo alarmantes.”
Embora Barker acredite que os aplicativos de IA tenham um “potencial tremendo”, ela disse que a tecnologia ainda tem um longo caminho a percorrer na forma como retrata as mulheres e a feminilidade. “Esses avatares sexualizados eram tão irrealistas e inatingíveis que pareciam contrários a tanto progresso que fizemos, particularmente em relação à inclusão de tamanho e positividade do corpo”, acrescentou ela. “Esta tecnologia não é infalível porque os humanos estão por trás dela e seu viés afetará os conjuntos de dados”.
Essa é apenas uma crítica ao Lensa AI. Depois que o aplicativo se tornou viral, o TechCrunch observou que, se os usuários enviassem fotos do rosto de uma pessoa com Photoshop sobre o corpo de uma modelo nua, o aplicativo ficava “louco”, desativando seu filtro “não é seguro para o trabalho” (NSFW) e exibindo mais nus. Isso significa que o aplicativo pode ser usado para gerar pornografia sem o conhecimento ou consentimento do sujeito original. Artistas também se posicionaram contra o aplicativo, dizendo que ele rouba suas imagens originais para informar seus retratos sem pagar por seu trabalho.
Para testar o software, também enviei 10 fotos minhas para o aplicativo, totalmente vestido, e recebi dois nus gerados por IA. Um deles era uma versão “fantasia” cortada da cintura para cima, com mamilos visíveis, mas levemente esfregados. O outro veio da categoria “cósmica”, que parecia que eu estava sem camisa ou com uma camiseta molhada.
Em um ensaio para a Wired, a escritora Olivia Snow escreveu que enviou “uma mistura de fotos de infância e [current] selfies” para Lensa AI e recebeu de volta “fotos totalmente nuas de um rosto adolescente e às vezes infantil, mas um corpo distintamente adulto”.
Cat Willet, uma ilustradora do Brooklyn, disse que inicialmente queria experimentar o Lensa AI quando viu pela primeira vez um amigo postar seus resultados. “Mas algo parecia estranho sobre isso. Eu vi mais pessoas fazendo upload de retratos, e todos pareciam garotas adolescentes de histórias em quadrinhos.
As imagens sexualizadas fizeram Willet “se sentir nojenta”, mas ela também entende que isso faz parte do fascínio. “É a curiosidade – mesmo que você saiba que está errado, você quer ver como é o seu”, disse ela.
Willet às vezes é contratado para criar retratos de pessoas e entende que muitos clientes desejam ver imagens suavizadas e idealizadas de si mesmos. Às vezes, ela desenha uma imagem realista com base em fotos de referência, e os clientes dizem que seus dentes parecem muito grandes ou que seu nariz deveria ser mais fino.
Um representante da Prisma Labs, proprietária da Lensa AI, enviou ao Guardian uma lista de perguntas frequentes que diziam, em parte: “Observe que a sexualização ocasional é observada em todas as categorias de gênero, embora de maneiras diferentes. O modelo Stable Diffusion foi treinado em conteúdo de internet não filtrado. Portanto, reflete os preconceitos que os humanos incorporam nas imagens que produzem. Os criadores reconhecem a possibilidade de preconceitos sociais. Nós também.”
De acordo com as perguntas frequentes, os filtros NSFW do aplicativo destinam-se a “reduzir o preconceito”, mas “Infelizmente, todos esses esforços ainda não tornaram a IA absolutamente segura contra conteúdo tendencioso e imagens explícitas. Portanto, estipulamos que o produto não se destina ao uso de menores e alertamos os usuários sobre os riscos potenciais do conteúdo. Também nos abstemos de usar tais imagens em nosso material promocional.”
A Lensa AI está atualmente listada como apropriada para maiores de 4 anos na Apple App Store. Deepfake ou pornografia de IA dificilmente é uma preocupação apenas dos desenvolvedores do Lensa: também tem sido uma preocupação consistente em outras plataformas populares.
O PornHub baniu oficialmente os vídeos falsos de celebridades em 2018, embora relatórios (e uma pesquisa superficial do PornHub) mostrem que esses vídeos ainda estão sendo postados no site. O Reddit tem uma política semelhante que proíbe os usuários de postar deepfakes de qualquer pessoa sem o seu consentimento. Agora, a tecnologia da Lensa AI produz nus falsos às vezes sem ser solicitado pelos usuários. Enquanto as usuárias do aplicativo esperam que a empresa resolva suas preocupações, elas continuarão a se sentir desapontadas e talvez violadas por seus retratos gerados por IA.
.
