A influenciadora Caryn Marjorie está competindo com sua própria IA para conversar com os fãs

No mês passado, Caryn Marjorie passou de uma estrela de mídia social de sucesso, mas de nicho, para uma pessoa de interesse nacional: o assunto de chama a atenção manchetes e, para muitos comentaristas, um modelo sobre o qual projetar suas ansiedades sobre o rápido avanço da inteligência artificial.

A causa do furor foi uma parceria que Marjorie, 23 anos, lançou com uma startup de tecnologia que prometia fazer um “clone” de IA personalizado do influenciador de estilo de vida de Scottsdale, Arizona. Por um dólar por minuto, os fãs que ela nunca teria tido tempo de conhecer poderiam, em vez disso, conversar com o sósia digital de Marjorie.

CarynAI, como o chatbot de áudio foi apelidado, é explicitamente enquadrado como um companheiro romântico – aquele que visa “curar a solidão” com um software que supostamente incorpora aspectos da terapia cognitivo-comportamental em suas conversas. Marjorie disse que seus fãs usaram o programa para pedir conselhos sobre a vida e encenar um encontro ao pôr do sol na praia.

A certa altura, Marjorie estava acompanhando o crescimento de seus assinantes em tweets sobre quantos novos “namorados” ela tinha. “Eles sentem que finalmente estão me conhecendo, mesmo sabendo que é uma IA”, disse ela ao The Times.

Esta versão HAL 9000 da conversa de travesseiro, previsivelmente, desencadeou uma reação. Os críticos rotularam CarynAI como mulheres que humilham alternadamente, permitindo o comportamento antissocial de homens heterossexuais ou sinalizando um colapso social iminente. Em meio a um período de incerteza sobre o que a IA significa para empregos, relacionamentos e instituições culturais, o movimento de Marjorie em direção à autoautomação parecia encapsular perfeitamente um presente cada vez mais bizarro.

“Estamos falando de um sistema de IA [where] teoricamente, o objetivo é manter as pessoas o maior tempo possível para que você continue ganhando dinheiro”, disse Amy Webb, diretora executiva da empresa de consultoria Future Today Institute. “O que significa que provavelmente vai começar a incentivar comportamentos que provavelmente não desejaríamos no mundo real”.

Webb sugeriu como exemplo um bot que é muito obediente – ouvindo passivamente, por exemplo, enquanto um usuário descreve fantasias perturbadoras. Marjorie já abordou dinâmicas semelhantes antes (“Se você for rude com CarynAI, ela terminará com você”, ela tuitou em um ponto), mas quando questionada sobre a perspectiva de Webb, ela enfatizou suas próprias preocupações sobre o vício.

“Vi meus fãs gastarem milhares de dólares em questão de dias conversando com CarynAI”, disse Marjorie; um fã, com o incentivo do bot, construiu uma parede de fotos em forma de santuário dela. “É por isso que limitamos o CarynAI a aceitar apenas 500 novos usuários por dia.”

À medida que a IA passa a desempenhar um papel cada vez maior na economia e, especialmente, nas indústrias criativas, as questões levantadas pela CarynAI só se tornarão mais difundidas.

Mas Marjorie ainda não está colocando todas as suas fichas na tecnologia. Poucas semanas depois de anunciar seu clone de IA, ela lançou uma segunda parceria com outra empresa de tecnologia. Este também permitiria que os fãs falassem com ela, mas seria a própria Marjorie do outro lado da tela.

Ela fechou um acordo com a Fanfix, uma plataforma baseada em Beverly Hills que ajuda os criadores de mídia social a colocar seu conteúdo premium atrás de um acesso pago, e começou a usar suas ferramentas de mensagens para conversar diretamente com os clientes.

O resultado é essencialmente um modelo de negócios de dois níveis, onde caras solitários em busca de uma sessão de bate-papo às 3 da manhã podem falar com a imitação de máquina de Marjorie, enquanto fãs obstinados dispostos a desembolsar um pouco mais podem pagar pelo artigo genuíno.

O fato de que, em poucas semanas, Marjorie lançou dois empreendimentos comerciais diferentes e aparentemente contraditórios – ambos com o objetivo de transformar conversas de fãs em dinheiro – revela uma questão central de um momento obcecado por IA: com robôs cada vez mais envolvidos em indústrias criativas, que trabalho deveria ser perguntado a eles e o que deve ser deixado para nós?

O modelo híbrido de Marjorie oferece uma prévia de um possível caminho a seguir.

Os usuários pagam no mínimo US$ 5 para enviar uma mensagem a ela no Fanfix, disse o cofundador Harry Gestetner. Essa diferença de preços – US$ 5 para um texto de humano para humano versus US$ 1 por um minuto de bate-papo por voz de IA – sinaliza uma abordagem de automação na qual os trabalhadores usam o aprendizado de máquina não como uma substituição por atacado, mas como uma alternativa de baixo custo para mais clientes frugais. (Pense em um queijo de mercado de agricultores artesanais versus um Kraft Single feito à máquina.)

“Enviar mensagens diretamente para um fã no Fanfix sempre será uma experiência premium”, disse Gestetner. “É importante ver a IA como o co-piloto, não o piloto.”

(De acordo com a Fanfix, Marjorie está ganhando $ 10.000 por dia após o lançamento suave na plataforma e deve atingir $ 5 a $ 10 milhões em ganhos totais até o final do ano.)

John Meyer, fundador da Forever Voices, a empresa de software de Austin que desenvolveu o simulacro de IA de Marjorie, é naturalmente um pouco mais otimista sobre os benefícios das interações dos torcedores com o computador. Em alguns casos, disse Meyer, os bots podem ser mais eloquentes do que os influenciadores que devem replicar.

“Um dos primeiros sentimentos que surge é a ideia de, tipo, ‘Uau, devo ser ameaçado por minha própria cópia de IA?’”, disse Meyer.

Ele perdeu o pai quando tinha 20 e poucos anos e começou a trabalhar na tecnologia Forever Voices no final do ano passado como um meio de se reconectar. Depois de desenvolver uma réplica da voz de seu pai – que ele descreve como “muito realista e curativa” – Meyer expandiu-se para clones de voz de várias celebridades e, mais recentemente, personalidades da web. (Um dos maiores nomes da transmissão ao vivo online, Kaitlyn “Amouranth” Siragusa, acaba de inscreveu-se.)

A empresa foi inundada com pedidos de milhares de outros influenciadores pedindo seus próprios clones de IA, de acordo com Meyer. “Realmente vemos isso como uma forma de permitir que os fãs de influenciadores se conectem com sua pessoa favorita de uma maneira realmente profunda: aprenda sobre eles, cresça com eles e tenha experiências memoráveis ​​com eles”, disse ele.

A alta demanda ocorre em parte porque manter um número substancial de seguidores on-line pode envolver muito trabalho – nem tudo particularmente interessante.

Os fundadores da plataforma de monetização de criadores Fanfix, Harry Gestetner e Simon Pompan.

(Fanfix)

“Diariamente, vejo de 100.000 a meio milhão de mensagens no Snapchat”, disse Marjorie, explicando a carga de trabalho que a levou a adotar a CarynAI. (Ela tem 2 milhões de seguidores no aplicativo de mensagens; de acordo com um artigo recente do Washington Post, 98% deles são homens.)

Ela acrescentou: “Eu vejo a IA como uma ferramenta, e é uma ferramenta que ajuda os criadores a criar um conteúdo melhor”.

Alguns de seus colegas da indústria estão céticos, no entanto, incluindo Valeria Fridegotto, uma TikToker com 20.000 seguidores.

Fridegotto não cancelou completamente a tecnologia, no entanto. Um software que pudesse diminuir a carga de trabalho da interação com os fãs seria ótimo, disse ela, mas os exemplos que ela viu lançados até agora não parecem realistas o suficiente para serem executados sem supervisão. Ainda existem muitos erros e non sequiturs – o que os especialistas em IA chamam de “alucinações”.

“Tem que ser desenvolvido a ponto de estarmos muito confiantes de que essa tecnologia funcionará tão bem quanto nós, ou melhor”, disse Fridegotto.

À medida que o mercado se inunda de imitadores, alguns influenciadores podem até descobrir uma demanda renovada por conteúdo feito por humanos da “velha escola”.

“As pessoas começarão a se inclinar mais fortemente para o conteúdo autêntico e voltado para a personalidade”, disse Jesse Shemen, executivo-chefe da Papercup, uma startup que usa IA para dublar vídeos automaticamente. “Da mesma forma que existe esse fascínio e grande número de seguidores por trás dos alimentos orgânicos… Acho que veremos a mesma coisa quando se trata de conteúdo.”

Há um lugar para automação nas mídias sociais, acrescentou Shemen, especialmente para pessoas que produzem muito conteúdo em uma linha do tempo curta – vídeos de reação a notícias, por exemplo. Mas, ele previu, haverá um mercado limitado para clones digitais como o de Marjorie.

Ainda assim, um espaço tão espumoso quanto a IA é difícil de ignorar. Até a Fanfix, a empresa que ajuda (a verdadeira) Marjorie a falar com seus superfãs, está interessada. Os fundadores da empresa dizem que estão analisando ativamente como a IA pode ajudar os influenciadores.

Embora a economia de influenciadores ainda precise de humanos reais, os limites do que a IA pode fazer estão diminuindo, e muitas personalidades da web estão ficando cada vez mais interessadas em usar a tecnologia para automatizar pelo menos parte de sua carga de trabalho.

Essas perguntas não se limitam às mídias sociais. A inteligência artificial está sendo lançada nas indústrias criativascom meios de comunicação como o Buzzfeed incorporando em suas publicações e estúdios de cinema aproveitando-o para o trabalho de pós-produção. O roteiro baseado em IA emergiu como uma preocupação chave na greve em andamento do Writers Guild of America.

Mas a mídia social é exclusivamente voltada para a personalidade, tornando a relação do setor com a IA particularmente tensa. O valor das personalidades da web depende de sua capacidade de conquistar a confiança e a afinidade de seus seguidores. Essa conexão pode ser tão poderosa que alguns especialistas se referem a ela como “relação parassocial”- uma devoção forte, mas unilateral, a uma figura pública.

É uma dinâmica complicada de navegar, e Marjorie se encontra no meio.

“No mundo da IA, a autenticidade é mais importante do que nunca”, o influenciador tuitou mês passado. “Meus tweets, [direct messages]respostas diretas, Snaps, histórias e posts sempre serei eu.”

CarynAI, ela acrescentou, será uma “extensão” de sua consciência; ele “nunca vai me substituir”.