.
Menos de uma semana depois que a Meta revelou adesivos gerados por IA em seu aplicativo Facebook Messenger, os usuários já estão abusando dele para criar imagens estranhas de personagens protegidos por direitos autorais e compartilhar os resultados nas redes sociais, relata VentureBeat. Em particular, um artista chamado Pier-Olivier Desbiens postou uma série de adesivos virtuais que se tornaram virais no X na terça-feira, iniciando uma série de gerações de imagens de IA igualmente excêntricas compartilhadas por outras pessoas.
“Fdescobri que o Facebook Messenger tem adesivos gerados por IA agora e não acho que ninguém envolvido tenha pensado em nada”, escreveu Desbiens em seu post. “WNós realmente vivemos no futuro mais estúpido que se possa imaginar”, acrescentou ele em resposta.
Disponível para alguns usuários de forma limitada, o novo recurso de adesivos de IA permite que as pessoas criem imagens de adesivos simuladas geradas por IA a partir de descrições baseadas em texto no Facebook Messenger e no Instagram Messenger. Os adesivos são então compartilhados em bate-papos, semelhantes aos emojis. Meta usa seu novo modelo de síntese de imagens Emu para criá-los e implementou filtros para capturar o que pode ser gerações potencialmente ofensivas para algumas pessoas. Mas muitas combinações novas estão escapando.
As gerações compartilhadas em X incluem Mickey Mouse segurando uma metralhadora ou uma faca ensanguentada, as Torres Gêmeas em chamas do World Trade Center, o papa com uma metralhadora, Elmo da Vila Sésamo brandindo uma faca, Donald Trump como um bebê chorando, personagens dos Simpsons em roupas íntimas minúsculas, Luigi com uma arma, o primeiro-ministro canadense Justin Trudeau mostrando as nádegas e muito mais.
Esta não é a primeira vez que imagens geradas por IA inspiram tópicos cheios de experimentadores vertiginosos tentando romper filtros de conteúdo nas redes sociais. Gerações como essas têm sido possíveis em modelos de imagem de código aberto sem censura há mais de um ano, mas é notável que a Meta lançou publicamente um modelo que pode criá-los sem salvaguardas mais rígidas por meio de um recurso integrado em aplicativos principais como Instagram e Messenger.
Notavelmente, o DALL-E 3 da OpenAI passou por passos semelhantes recentemente, com pessoas testando os limites do filtro do gerador de imagens de IA criando imagens que apresentam pessoas reais ou incluir conteúdo violento. É difícil capturar todo o conteúdo potencialmente prejudicial ou desagradável entre culturas em todo o mundo quando um gerador de imagens pode criar quase qualquer combinação de objetos, cenários ou pessoas que você possa imaginar. E isso poderia sufocar as normas culturais da liberdade de expressão. É mais um desafio enfrentado pelas equipes de moderação no futuro, tanto de aplicativos com tecnologia de IA quanto de espaços online.
Ao longo do ano passado, tem sido comum que as empresas testem beta sistemas generativos de IA por meio de acesso público, o que nos trouxe surpresas como o modelo Galactica defeituoso da Meta em novembro passado e a versão inicial desequilibrada do modelo Bing Chat AI. Se as instâncias anteriores servirem de indicação, quando algo estranho recebe grande atenção, o desenvolvedor normalmente reage removendo-o ou fortalecendo os filtros integrados. Então, o Meta retirará o recurso de adesivos de IA ou simplesmente reprimirá adicionando mais palavras e frases ao seu filtro de palavras-chave?
Quando a repórter do VentureBeat, Sharon Goldman, questionou o porta-voz da Meta, Andy Stone, sobre os adesivos na terça-feira, ele apontou para uma postagem no blog intitulada Construindo recursos de IA generativos com responsabilidade e disse: “Como acontece com todos os sistemas de IA generativos, os modelos podem retornar resultados imprecisos ou inadequados. Continuaremos a melhorar esses recursos à medida que evoluem e mais pessoas compartilham seus comentários.”
.
