.
Damon Lindelof e Tara Hernandez não estavam pensando em chatbots humanóides ou algoritmos alucinantes quando tiveram a ideia de uma série de TV sobre uma poderosa inteligência artificial que encantou usuários em todo o mundo.
Era início de 2020 e eles estavam pensando sobre o que todos nós éramos: eu realmente preciso descontaminar meus pacotes da Amazon ou usar uma máscara quando vou até a caixa de correio?
Falando ao telefone enquanto passeavam com seus cachorros, Hernandez brincou que gostaria que houvesse um aplicativo que pudesse dizer a eles o que fazer. Isso os levou a falar, lembra Lindelof: “Gostaria que isso existisse também. Mas eu não confiaria nisso, porque todos os aplicativos que existem no meu celular estão aí para me vender coisas. Como seria um aplicativo benevolente? E o que seria necessário para eu confiar nele?”
Três anos depois, o resultado, “Sra. Davis”, faz com que seus criadores pareçam bastante prescientes. O programa, que começou a ser transmitido no Peacock esta semana, chega no momento em que o gerador de texto da OpenAI ChatGPT está atingindo um pico de hype, o Google está lançando seu próprio programa de IA, Bard, e os outros gigantes da tecnologia estão seguindo o exemplo. Isso ocorre quando milhões de pessoas que passaram por uma década de desventuras com a Big Tech – uma década lidando com a desinformação do Facebook, com as injustiças dos regimes de trabalho algorítmico da Amazon e do Uber, com falhas de criptografia e práticas de monopólio – estão perguntando: o que é esse agora? nós ao menos querer IA em todos os lugares?
Na estreia do programa, na semana passada, no Director’s Guild Theatre em Hollywood, os atores deram a essa pergunta uma ilustração do mundo real: homens em belos ternos com dispositivos pressionados contra os ouvidos que abordavam os convidados quando chegavam e perguntavam se eles não se importavam se eles “proxy” – a maneira como a IA titular fala por meio de seus usuários no programa – produzindo risadas e desconforto em igual medida.
o show é gerando amplo buzz e boas críticas, o showrunner Hernandez é um ex-aluno de “The Big Bang Theory” e o co-criador Lindelof é o homem por trás de “Lost” e “Watchmen”.
Eu, por exemplo, estava irritado. Aqui estava um show sobre uma IA todo-poderosa que é mais TikTok do que SkyNet, um programa que busca imergir e entreter, não matar ou oprimir, um show que tem um bom domínio sobre por que usamos os aplicativos e a tecnologia de consumo que fazemos, por que os deixamos entrar em nossas vidas e por que nos tornamos obcecados – e isso envia o herói em uma missão para encerrar tudo.
Esta é uma ideia poderosa no momento e também tem um paralelo no mundo real – algumas das personalidades tecnológicas mais influentes do mundo, incluindo Elon Musk e o cofundador da Apple, Steve Wozniak, assinaram recentemente uma carta aberta pedindo uma parada de seis meses no desenvolvimento da IA. As intenções dos signatários podem ou não ser puras (Musk está desenvolvendo seu próprio chatbot de IA ao mesmo tempo em que pede aos outros que parem), mas raramente temos grandes momentos como esse. Não apenas para considerar se uma determinada tecnologia será boa ou ruim para a sociedade, mas se queremos satisfazê-lo em tudo.
“Era uma ansiedade nossa, uma ansiedade de que pudéssemos chegar a este lugar”, Hernandez me conta sobre o que ela e Lindelof estavam canalizando em suas primeiras conversas. “Não sei se previmos necessariamente que em abril de 2023 chegaria e, eis que estamos lançando nosso programa ao mesmo tempo, mas certamente parecia possível.”
Enquanto a “Sra. Davis” estava incubando, as manchetes da Big Tech eram sobre o escândalo do Facebook com a Cambridge Analytica e como os sites de mídia social estavam coletando dados “não apenas para nos vender coisas, mas para nos vender ideias”, diz Lindelof.
Na casa da Sra. Davis mundo, os usuários se referem à onipresente IA como se “ela” fosse uma pessoa, e a protagonista Irmã Simone continua corrigindo-os: Não ela, “isto.” (“Ninguém chama o Facebook de ‘Doug’!”, cospe um dos líderes da resistência anti-IA.)
Mas as pessoas tendem a confiar em outras pessoas, não em máquinas, e quanto mais humano um programa parecer, mais ansiosos estaremos para nos envolver. É uma escolha narrativa que parece especialmente saliente agora, dada a ascensão dos chatbots de IA, cujo poder reside em grande parte em sua capacidade de convencer os usuários de que eles têm conhecimento infinito e uma personalidade identificável, um poder que as empresas de tecnologia usarão para vender. , entre outras coisas, ideias para seus usuários.
Novas tecnologias deslumbrantes podem parecer indistinguíveis da magia, como observou Arthur C. Clarke, e os mágicos de palco figuram em “Mrs. Davis.” A presença deles ressalta uma das grandes preocupações dos criadores sobre tecnologia, Lindelof diz: “Estamos sendo ‘forçados’ na maneira como os mágicos usam ‘forças’ para nos fazer escolher cartas, que essas decisões que estamos tomando são realmente geradas algoritmicamente em vez de nossa própria vontade?
Depois que a Sra. Davis dramaticamente envia Simone em uma missão para encontrar o Santo Graal, ela descobre que a IA faz coisas assim o tempo todo. Em suas tentativas de manter sua base de usuários absorta, a Sra. Davis cria missões e escolhe “personagens principais” para focar a atenção, e uma freira que despreza a IA cria um ótimo conteúdo. Como a narrativa da busca pelo graal aparece em tantos corpus de dados, o algoritmo também usa muito isso – a IA adora clichês.
Eu não posso te dizer o quanto eu amo isso. Passei pelos oito episódios sempre que minha agenda permitia. Parte disso porque a história dá algumas mudanças reais – o show é maluco, surreal e satírico – e parte porque era bom estar nas mãos de escritores que tinham uma compreensão (e crítica) de sua tecnologia.
Mas a maior razão pela qual eu estava torcendo era porque Simone é, essencialmente, uma ludita. E a maioria das pessoas interprete os luditas de forma errada. “Sra. Davis” não.
“Simone basicamente se tornou nossa maneira de criar uma construção de, ‘Alguém pode simplesmente aparecer e determinar se essa coisa deve ser ligada ou desligada – mas cara, eu espero que ela realmente desligue!’” Lindelof diz. “Porque precisamos de alguém para fazer isso por nós.”
Bem, passei os últimos três anos pesquisando e escrevendo um livro sobre os disjuntores de máquinas que organizou uma rebelião no início da Revolução Industrial, então posso dizer o quão raro isso é. Os luditas não eram, de acordo com a mitologia popular, idiotas antitecnologia que destruíam máquinas porque não as entendiam. Como Simone, eles tinham queixas específicas sobre como especial tecnologias estavam transformando a sociedade, degradando seus empregos e impondo controle sobre eles – e lutaram deliberada e estrategicamente. Quando menciono o paralelo ludita a Lindelof e Hernandez, eles se iluminam.
“Essa coisa acontece quando você está fora do alcance do celular e não tem barras”, diz Lindelof. “Você experimenta 10 minutos de pânico, e logo após o pânico vem o alívio. Era isso que os luditas buscavam, criar alívio. Uma reconexão com a natureza, uma reconexão com o outro. Essa coisa pela qual estamos realmente ansiosos – entendemos que muitos de nossos argumentos para a tecnologia são vazios.”
Há uma fome cultural compartilhada, diz ele, pelo que é essencialmente o poder de dizer não, como os luditas fizeram, ao domínio dos aplicativos sociais, talvez, e a uma entidade como a Sra. Davis, que os sobrecarregaria com IA. Ao longo da conversa, Lindelof menciona mineração de dados, anúncios, desinformação e, especificamente, vício em tela. “Todos os pais solteiros com quem falo dizem: ‘Sinto que meu filho está na tela demais e sinto que Eu sou na minha tela demais e está fora de controle, e eu não sei como obter o controle.’ Não temos o poder institucional.”
Em “Sra. Davis”, Simone e os rebeldes estão lutando por esse tipo de poder.
“Talvez gostássemos de nos ver com mais frequência no mundo físico se não tivéssemos essas coisas”, diz Lindelof. “Mas ninguém está mais tentando fazer esse argumento; estamos todos apenas resignados com isso. E é importante que todos nós paremos e respiremos fundo e digamos, o que é isso, o velho ditado em todos os tipos de histórias diferentes? ‘Só porque podemos, isso significa que devemos?’”
Afinal, há uma série de preocupações legítimas a serem feitas com esse aumento repentino da IA. Um artigo recente mostrou como a grande maioria dos serviços de IA está concentrada em apenas um punhado de grandes empresas de tecnologia, que controlam os sistemas e como eles são implantados – e lucram ao máximo com eles. Geradores de texto e imagem AI ameaçar reduzir os salários para redatores, contadores, ilustradores e inúmeros outros, pois eles roubam sua propriedade intelectual no processo. Desinformação, código ruim e roubo de identidade podem se espalhar como fogo, enquanto moderadores humanos mal pagos tentam desesperadamente manter o pior conteúdo afastado. Motivos de sobra para se juntar a Simone e aos rebeldes da resistência, em outras palavras.
Como Simone e os luditas, isso não significa que Lindelof e Hernandez se oponham a todos usos da tecnologia, ou mesmo todos os usos da IA – longe disso. Em sua própria indústria, que está se preparando para a chegada da IA generativa, Lindelof diz que está aberto a “meias-medidas interessantes”, como usar o ChatGPT para semear ideias na sala do escritor e experimentação geral. “É o velho martelo como ferramenta, certo? Você pode usá-lo para construir uma casa ou pode usá-lo para esmagar o cérebro de alguém. Está em nossas mãos. E então o que vamos fazer com essa coisa? ChatGPT não querer fazer filmes, isto não quer nada. Nós querem coisas.” Os seres humanos têm que vir em primeiro lugar.
“Não há inteligência artificial capaz de fazer o maior cheeseburger do mundo, a menos que um humano faça o maior cheeseburger do mundo e depois você programe um código para replicar essa ideia”, diz Lindelof. “Porque, para fazer o maior cheeseburger do mundo, você precisa ser criativo e precisa fazer um teste beta, e precisa que os humanos provem e isso é algo que a IA nunca será capaz de fazer – provar um cheeseburger.”
“Vou apenas acrescentar que o melhor cheeseburguer do mundo faz existem,” Hernandez entra na conversa, “e é um hambúrguer In-N-Out”.
“Sra. Davis” é um monte de coisas – ainda nem falamos sobre as dimensões religiosas do show, que convidam a perguntas sobre quais outras estruturas “forçam” nossa tomada de decisão, e têm muito antes da tecnologia de consumo. Mas é a consciência do programa de que a IA nunca experimentará o In-N-Out que ressoa depois que os créditos rolam. Que nós pode opor-se à proliferação em massa dessa IA inconsciente de hambúrgueres, que está inteiramente dentro de nossa capacidade de fazê-lo, se assim o desejarmos.
Mesmo quando parece uma batalha difícil. Depois que as luzes se acenderam no final da estréia, as pessoas começaram a se mover em direção aos corredores. Os caras proxy em ternos bonitos não estavam em lugar nenhum, e ainda era apenas uma questão de segundos antes que os retângulos de todos se iluminassem em todo o teatro.
.
