.
A IA generativa continua a fazer ondas, especialmente à medida que as plataformas de mídia social se esforçam para implementar a tecnologia. No entanto, a IA generativa veio com algumas desvantagens importantes para os usuários de mídia social. Aqui estão algumas delas…
1 Uma inundação de resíduos de IA
Se você é um usuário frequente de plataformas como o Facebook, provavelmente já se deparou com AI slop. AI slop é lixo produzido por IA generativa, incluindo arte surreal e receitas sem sentido. Agora, há até uma conta X dedicada a AI slop no Facebook.
Muitas vezes, a sujeira da IA aparece em páginas de spam que buscam se tornar virais. E como o Facebook recomenda conteúdo viral, isso significa que você pode acabar com mais bobagens no seu feed do que o normal. A IA generativa tornou mais fácil do que nunca gerar esses tipos de postagens de spam e o conteúdo real está sendo inundado nas plataformas de mídia social como resultado.
2 Perdendo ainda mais autenticidade
A mídia social não é exatamente conhecida pela autenticidade. Frequentemente, influenciadores mostram vislumbres de suas vidas, principalmente com o objetivo de projetar uma imagem de perfeição ou vender um produto que foram pagos para anunciar.
Mas a IA leva essa falta de autenticidade ainda mais longe. O TikTok está testando influenciadores virtuais que permitirão que empresas anunciem para usuários usando um avatar criado digitalmente, de acordo com o SocialMediaToday. Enquanto isso, o Instagram está testando um recurso que permite que influenciadores criem bots de IA de si mesmos que responderão aos fãs em mensagens. O teste foi anunciado pelo CEO da Meta, Mark Zuckerberg, em seu canal de transmissão do Instagram.
Essa diluição da pouca autenticidade que há nas mídias sociais não está relacionada apenas aos influenciadores. A IA está sendo usada para gerar postagens de usuários em redes de mídia social como Reddit e X (Twitter). Embora chatbots que podem fazer isso existam há algum tempo, o lançamento de grandes modelos de linguagem tornou mais difícil dizer o que é real e o que não é. Todos os dias que uso o Reddit inevitavelmente incluem usuários acusando outros de usar IA para escrever uma postagem ou história.
Plataformas de IA de empresas de mídia social ainda são um trabalho em andamento, o que significa que ainda cometem erros. Alguns desses erros contribuem para a desinformação ou reduzem a confiança do usuário na plataforma.
Por exemplo, a Meta AI respondeu a uma publicação em um grupo do Facebook alegando que era um pai com uma criança “2e” (duas vezes excepcional) matriculada em um programa para alunos superdotados e talentosos, conforme relatado pela Sky News. Felizmente, como as respostas da Meta AI são claramente identificadas no Facebook, os usuários conseguiram dizer que a resposta não é genuína. Mas isso coloca em questão a confiabilidade de ferramentas de IA como a Meta AI ao se inserirem em conversas nas quais não têm lugar.
Enquanto isso, a Grok AI (chatbot de IA do X) foi chamada para produzir desinformação. Uma dessas instâncias incluiu acusar o jogador da NBA Klay Thompson de vandalizar casas depois que a IA interpretou mal a gíria do basquete que chama arremessos que não vão para a cesta de “bricks”.
Enquanto algumas alucinações de IA são cômicas, outras informações incorretas são mais preocupantes e levam a consequências no mundo real.
4 Realizando a teoria da Internet morta
A teoria da internet morta é a ideia de que a vasta maioria do conteúdo na internet está sendo gerada por bots. Embora isso fosse fácil de zombar no passado, parece cada vez mais plausível à medida que somos inundados com spam de IA e respostas em plataformas de mídia social.
O fato de que as empresas de mídia social também estão integrando bots como usuários torna essa ideia mais realista do que antes. Isso até resultou no lançamento do Butterflies AI, uma plataforma de mídia social onde alguns dos usuários são, na verdade, apenas bots de IA. Embora os bots possam ser úteis nas mídias sociais, tê-los se passando por outros usuários simplesmente não me atrai.
Em termos de experiência diária do usuário, a IA generativa tornou mais fácil para os bots de spam imitarem usuários reais. Recentemente, publiquei um post no X para encomendar uma obra de arte e minha caixa de entrada foi inundada com respostas de bots. Distinguir os usuários reais dos bots está se tornando mais difícil.
5 As pessoas precisam encontrar maneiras de proteger seu conteúdo contra scraping de IA
Os usuários estão encontrando uma variedade de maneiras de tentar proteger seu conteúdo de ser usado em conjuntos de dados de IA. Mas nem sempre é tão simples quanto optar por não participar. Se suas postagens são públicas, é provável que já tenham sido usadas para treinar IA.
Como resultado, os usuários estão tentando soluções alternativas para proteger seus dados. Isso inclui alternar para perfis privados, bem como envenenamento de dados. Embora usar Nightshade para envenenar obras de arte não tenha impacto sobre os usuários que veem as imagens, outras formas de envenenamento de dados podem ter efeito sobre o conteúdo que vemos nas mídias sociais.
Se mais usuários mudarem para perfis privados em mais redes sociais públicas, ficará mais difícil descobrir usuários e conteúdo que você gosta. E conforme os artistas se afastam de plataformas que fornecem dados de treinamento para IA generativa, as pessoas que simplesmente querem admirar seu trabalho perderão, a menos que mudem para plataformas de nicho.
Embora existam alguns usos para IA generativa nessas plataformas, algumas pessoas argumentariam que não precisamos realmente de IA generativa nas mídias sociais. Mas, independentemente do que pensamos, a IA generativa já mudou fundamentalmente as mídias sociais de várias maneiras.
.
