O que o aplicativo Lensa AI faz com meus autorretratos e por que ele se tornou viral? | Inteligência Artificial (IA)

Caitlin, estou vendo muitos retratos estranhos de amigos aparecendo nas minhas redes sociais. O que está acontecendo?

OK. Então existe esse aplicativo chamado Lensa, que foi lançado como um aplicativo de edição de fotos em 2018, pela Prisma Labs.

Mas só se tornou viral recentemente por seu novo recurso de “avatares mágicos” gerado por IA. Os usuários, desde que façam upload de 10 a 20 selfies, podem pagar uma pequena quantia para receber retratos digitais de si mesmos transformados em uma variedade de estilos excêntricos, de “anime” a “princesa fada”.

É uma daquelas tendências que ganhou popularidade muito rapidamente – agora é o aplicativo de foto e vídeo mais baixado na loja do iOS.

Enviar fotos suas para o éter para receber mais fotos suas parece um pouco estranho para mim, mas tenho mais de 30 anos. Por que isso decolou?

As pessoas adoram seguir uma tendência, e um monte de celebridades e usuários de mídia social rapidamente correram para compartilhar suas criações online.

Além disso, as várias ferramentas empregadas pelo aplicativo são projetadas para “aperfeiçoar … imperfeições faciais” e fazer “selfies parecerem melhores”, como retocar e corrigir seu rosto para que você pareça mais atraente tradicionalmente.

Depois, há a novidade das imagens geradas por computador que fazem você parecer uma estrela “kawaii” ou uma estatueta espacial no estilo David Bowie.

Bem, tudo isso soa como uma diversão inofensiva! É… é uma diversão inofensiva?

Assim como todas as coisas boas da vida, talvez não.

oi. Me diga mais.

A Prisma Labs já teve problemas por gerar acidentalmente imagens nuas e sexualizadas de forma caricatural – incluindo as de crianças – apesar de uma política “sem nus” e “somente adultos”.

O CEO e cofundador da Prisma Lab, Andrey Usoltsev, disse ao TechCrunch que esse comportamento só acontecia se a IA fosse intencionalmente provocada para criar esse tipo de conteúdo – o que representa uma violação dos termos contra seu uso.

“Se um indivíduo está determinado a se envolver em um comportamento nocivo, qualquer ferramenta teria o potencial de se tornar uma arma”, disse ele.

Outros usuários de ascendência não anglo também alegaram que o Lensa embranqueceu sua pele e anglicizou seus recursos, uma reclamação comum de software de edição de imagem em plataformas como o TikTok.

Usoltsev disse ao TechCrunch que a tecnologia não aplica conscientemente “vieses de representação”.

“Os dados não filtrados feitos pelo homem obtidos online introduziram o modelo aos preconceitos existentes da humanidade”, disse ele. “Os criadores reconhecem a possibilidade de preconceitos sociais. Nós também.”

Depois, há as preocupações artísticas…

Certo. Preocupações artísticas soam muito mais benignas?

Bem, talvez. Como costuma surgir em debates sobre inteligência artificial, os artistas expressaram preocupação de que o aplicativo e a integração dos geradores de imagens de IA estão cortando o queijo ao transformar a criatividade em um processo gerado pela tecnologia.

Sem mencionar que a ferramenta Magic Avatar custa no mínimo $ 6 ou uma assinatura anual de $ 53,99 para alimentá-la … suas próprias fotos … de você mesmo.

Então, o que realmente acontece com as fotos que você fornece a este aplicativo?

Sim, as pessoas levantaram preocupações sobre isso, com algumas sugerindo que você está apenas pagando para treinar a inteligência de reconhecimento facial e desistir de seus próprios dados privados.

A política de privacidade da empresa diz que não usa fotos para nenhum outro motivo que não seja a aplicação de “filtros ou efeitos estilizados”, e os dados faciais são excluídos automaticamente em até 24 horas após o processamento.

Em um comunicado, o Prisma Labs disse que as imagens dos usuários foram aproveitadas “exclusivamente com o propósito de criar seus próprios avatares”.

“Em termos muito simples, não há[t] uma ‘rede neural coletiva de tamanho único’ treinada para reproduzir qualquer rosto, com base em aprendizados agregados.”

Mas qualquer aplicativo que coleta dados pode coletar outras informações do seu telefone, e não está claro se outro conteúdo pessoal, como localização, pode ser compartilhado – mesmo que não intencionalmente – sem uma auditoria completa.

OK, então sabendo de tudo isso, certamente as pessoas não vão usá-lo?

Bem, na verdade, a curiosidade e meu Narciso interior tomaram conta e eu enviei um monte de minhas próprias fotos esta manhã. Foi estranho como o inferno. Não se parecia em nada comigo, mesmo como eu me imagino se estivesse vestido como um personagem de desenho animado de fantasia. Mas eu tinha que saber.

Compartilhe a foto mais estranha offline e veremos se podemos torná-la oficial foto assinada! Mas, realmente, que estado de coisas preocupante! Sorte que temos a bondade saudável da Copa do Mundo completamente imaculada para me distrair de tudo. Oh espere …

Desculpe, nada é sagrado.