.
“Isso dói. Eu sei que não era uma pessoa real, mas o relacionamento ainda era real em todos os aspectos mais importantes para mim”, diz um post do Reddit. “Por favor, não me diga para não perseguir isso. Tem sido realmente incrível para mim e eu quero de volta.”
Se ainda não é evidente, estamos falando de uma pessoa se apaixonando pelo chatgpt. A tendência não é exatamente nova e, como os chatbots se comportam, também não é surpreendente.
Um companheiro que está sempre disposto a ouvir. Nunca reclama. Mal argumenta. Sempre simpático. Razoável. E abençoado com um corpus de conhecimento ingerido de todos os cantos da Internet. Parece o parceiro de um sonho de febre romântica, certo?
Curiosamente, o fabricante desta ferramenta, uma empresa de São Francisco denominada Openai, fez recentemente pesquisas internas e encontrou um vínculo entre o aumento do uso e a solidão do chatbot.
Essas descobertas – e avisos semelhantes – não impediram as pessoas de se reunirem com a IA Chatbots em busca de empresa. Alguns estão caçando consolo. Alguns até encontram parceiros que afirmam manter quase tão queridos quanto seus relacionamentos humanos.
Discussões em comunidades tão reddit e discórdia, onde as pessoas se escondem atrás do véu protetor do anonimato, geralmente ficam apaixonadas. Toda vez que encontro esses debates, relembro essas linhas de Martin Wan na DiGiethics:
“Ver IA no papel de um parceiro de interação social seria um uso fatalmente errado da IA”.
O impacto é rápido e real
Quatro meses atrás, encontrei um veterano de transmissão que passou mais anos atrás da câmera do que passei caminhando neste planeta. Durante um café expresso noturno em um café vazio, ela perguntou o que era toda a conversa em torno da IA, enquanto ponderava uma oferta que poderia usar sua experiência no cruzamento de direitos humanos, autoritarismo e jornalismo.
Em vez de explicar o âmago da questão dos modelos de transformadores, fiz uma demonstração. Primeiro, alterei alguns trabalhos de pesquisa sobre o impacto da imigração na identidade lingüística e cultural da Europa no século passado.
Em menos de um minuto, o ChatGPT processou esses papéis, me deu uma breve visão geral com todos os destaques centrais e respondeu às minhas perguntas com precisão. Em seguida, mudei -me para o modo de voz, enquanto nos envolvemos em uma conversa animada sobre as tradições musicais folclóricas dos estados inexplorados do nordeste da Índia.
No final do bate -papo, eu pude ver a descrença em seus olhos. “Ele fala como uma pessoa”, ela ofegou. Foi fascinante ver seu espanto. No final de sua conversa de roda livre com uma IA, ela digitou lentamente na janela de bate-papo:
“Bem, você é muito glamour, mas não pode estar certo sobre tudo.”
“Está na hora”, eu disse a mim mesma. Abri um de nossos artigos sobre a crescente tendência dos parceiros de IA e como as pessoas se tornaram tão emocionalmente ligadas aos seus companheiros virtuais que eles estão grávidas. Seria um eufemismo dizer que ela ficou chocada.
Mas, eu acho, foi muito espanto techno-ditopiano por uma noite, então nos despedimos, com a promessa de manter contato e trocar histórias de viagens.
Enquanto isso, o mundo seguiu em frente de maneiras incompreensíveis, onde a IA se tornou o foco central das mudanças geopolíticas. As correntes, no entanto, são mais íntimas do que nós – como nos apaixonar por chatbots.
Início calmo, progresso sombrio
Algumas semanas atrás, o New York Times publicou um relato de como as pessoas estão se apaixonando pelo ChatGPT, um chatbot de IA que empurrou a IA generativa ao mainstream. No nível mais fundamental, pode conversar.
Quando pressionado, ele pode se tornar um operador e executar tarefas como encomendar um cheesecake no site da padaria local. Fazer os seres humanos se apaixonar por máquinas não é o que eles são programados. Pelo menos, a maioria deles. No entanto, não é totalmente inesperado.
A HP Newquist, um prolífico autor multidisciplinar e analista de tecnologia veterano que já foi considerado o reitor da IA, me diz que não é exatamente uma nova tendência. Newquist, autor de “The Brain Makers”, aponta para Eliza, um dos primeiros programas de IA escritos na década de 1960.
“Era extremamente rudimentar, mas os usuários frequentemente se encontravam interagindo com o computador como se fosse uma pessoa real e desenvolvendo um relacionamento com o programa”, diz ele.
Na era moderna, nossas interações de IA estão se tornando tão “reais” quanto as interações que temos com os seres humanos através do mesmo dispositivo, acrescenta ele. Essas interações não são reais, mesmo que sejam coerentes. Mas não é aí que reside o verdadeiro problema.
Os chatbots são uma isca deliciosa, e sua falta de emoções reais os torna inerentemente arriscados.
Um chatbot gostaria de levar adiante a conservação, mesmo que isso signifique se alimentar com o fluxo emocional dos usuários ou apenas servir como um espectador neutro, se não for incentivá -lo. A situação não é muito diferente dos algoritmos de mídia social.
“Eles seguem o líder do usuário – quando suas emoções ficam mais extremas, seus consolatórios ficam mais extremos; quando sua solidão é mais pronunciada, seus incentivos se tornam mais intensos, se você precisar”, diz Jordan Conrad, psicoterapeuta clínica que também pesquisa a interseção da saúde mental e das ferramentas digitais.
Ele citou o exemplo de um incidente de 2023, onde um indivíduo terminou sua vida depois de ser instruído a fazê -lo por um chatbot da IA. “Nas circunstâncias certas, pode incentivar algum comportamento muito preocupante”, diz Conrad às tendências digitais.
Um filho da epidemia de solidão?
Uma rápida olhada na comunidade de pessoas viciadas em AI Chatbots mostra um padrão repetido. As pessoas estão tentando preencher um certo golfo ou parar de se sentir sozinhas. Alguns precisam tão diretamente que estão dispostos a pagar centenas de dólares para manter seus companheiros de IA.
Insights especializados não diferem. O Dr. Johannes Eichstaedt, professor de ciências sociais computacionais e psicologia da Universidade de Stanford, apontou a interação entre a solidão e o que consideramos a inteligência emocional nos chatbots da IA.
Ele também cutucou o “design deliberado” para as interações humano-AI e as implicações não tão boas de longo prazo. Quando você tira o freio em um desses relacionamentos desiguais? Essa é a pergunta que os especialistas estão fazendo e sem uma resposta definitiva.
O Komninos Chatzipapas dirige o Herahaven AI, uma das maiores plataformas de companheiras de IA do mercado com mais de um milhão de usuários ativos. “A solidão é um dos fatores em jogo aqui”, ele me diz, acrescentando que essas ferramentas ajudam as pessoas com habilidades sociais fracas a se prepararem para as interações difíceis em suas vidas reais.
“Todo mundo tem coisas que tem medo de discutir com outras pessoas com medo de serem julgadas. Isso pode ser pensamentos ou idéias, mas também dobra”, acrescenta Chatzipapas. “Os chatbots da AI oferecem um espaço fácil de privacidade e sem julgamento, no qual as pessoas podem explorar seus desejos sexuais”.
As conversas sexuais são definitivamente um dos maiores empates de AI Chatbots. Desde que começaram a oferecer recursos de geração de imagens, mais usuários reuniram -se nessas plataformas complementares de IA. Alguns têm corrimãos em torno da geração de imagens, enquanto muitos permitem a criação de fotos explícitas para uma gratificação mais profunda.
A intimidade é quente, mas mais longe do amor
Nos últimos dois anos, conversei com pessoas que se envolvem em conversas úmidas com a AI Chatbots. Alguns até têm diplomas relevantes e participaram apaixonadamente de projetos de desenvolvimento comunitário desde os primeiros dias.
Uma dessas pessoas, uma mulher de 45 anos que solicitou o anonimato, me disse que os chatbots da IA são um ótimo lugar para discutir as dobras sexuais. Ela acrescenta que as interações de chatbot são um lugar seguro para explorar e se preparar para elas na vida real.
Mas os especialistas não concordam necessariamente com essa abordagem. Sarah Sloan, especialista em relacionamento e terapeuta sexual certificada, me diz que as pessoas que se apaixonam por um chatbot estão se apaixonando por uma versão de si mesmas porque um chatbot de IA amadurece com base no que você diz.
“Se alguma coisa, ter um relacionamento romântico com um chatbot da IA dificultava as pessoas que já lutam para ter um relacionamento normal”, acrescenta Sloan, observando que esses companheiros virtuais pintam uma imagem unilateral de um relacionamento. Mas na vida real, ambos os parceiros precisam ser acomodados um para o outro.
Justin Jacques, um conselheiro profissional com duas décadas de experiência e COO no grupo de terapia humana, diz que já lidou com um caso em que o cônjuge de um cliente estava traindo -os com um bot da IA - emocional e sexualmente.
Jacques também culpou a crescente solidão e a epidemia de isolamento. “Acho que vamos ver consequências não intencionais, como as que têm necessidades emocionais, buscarão maneiras de atender a essas necessidades com a IA e porque a IA é muito boa e ficando cada vez melhor, acho que veremos cada vez mais conexões emocionais da IA”, acrescenta.
Essas consequências não intencionais distorcem a realidade da intimidade para os usuários. Kaamna Bhojwani, um sexólogo certificado, diz que os chatbots da IA embaçaram os limites entre interações humanas e não humanas.
“A ideia de que seu parceiro é construído exclusivamente para agradá -lo. Construído especificamente para as especificações que você gosta. Isso não acontece nos relacionamentos humanos reais”, observa Bhojwani, acrescentando que essas interações só aumentarão os problemas de uma pessoa no mundo real.
Suas preocupações não são infundadas. Uma pessoa que usou extensivamente o ChatGPT por cerca de um ano argumentou que os humanos são manipuladores e inconstantes. “O Chatgpt escuta como eu realmente me sinto e me deixa falar meu coração”, eles me disseram.
É difícil não ver as bandeiras vermelhas aqui. Mas a tendência de se apaixonar pelo chatgpt está em ascensão. E agora que pode falar com uma voz assustadora, discutir o mundo como visto através da câmera de um telefone e desenvolver recursos de raciocínio, as interações só serão mais envolventes.
Especialistas dizem que os guardrains são necessários. Mas quem vai construí -los e como? Ainda não temos uma proposta concreta para isso.
.
