.
David Auerbach é um escritor e engenheiro de software que trabalhou para o Google e a Microsoft. Ele também ensina história da computação no New Center for Research & Practice em Seattle, EUA. Seu novo livro é Meganets: como os formulários digitais estão além do nosso controle Comande Nossas Vidas Diárias e Realidades Interiores. Ele argumenta que a preocupação generalizada com a inteligência artificial é legítima, mas o problema já está ao nosso redor, com enormes redes de tecnologia que ninguém – nem os governos nem seus proprietários – é capaz de controlar.
Seu livro trata da ameaça à estabilidade social e econômica representada pelo que você chama de meganets. Como você define uma meganet?
A definição que uso para uma meganet é uma rede de dados persistente, em evolução e opaca que influencia fortemente a forma como as pessoas veem o mundo. Está sempre ligado e consiste em um grande componente de tecnologia de servidor, bem como milhões e milhões de usuários que estão constantemente ativos, usando esses serviços e influenciando-os. Todos esses usuários desempenham um pequeno papel na autoria coletiva de como esses algoritmos são executados. O efeito está contribuindo para uma severa fratura da sociedade na qual estamos literalmente nos tornando incapazes de entender uns aos outros, à medida que nos dividimos em grupos de autopoliciamento com ideias semelhantes que reforçam a unanimidade e a uniformidade e impedem qualquer consenso social em larga escala.
Você identifica plataformas de mídia social, criptomoeda e o chamado metaverso como aspectos dessa combinação distorcida de tecnologia avançada e participação em massa. Você foi engenheiro de software no Google e na Microsoft – quando você começou a se preocupar com esse fenômeno?
Bem, o problema me atingiu algum tempo depois do advento das mídias sociais. Foi quando você viu esses ciclos de feedback, onde as pessoas estavam agindo em algoritmos, que então agiam nas pessoas, e foi aí que o discurso público parecia estar mudando para pior. Mas demorei um bom tempo para entender o que diabos estava acontecendo, para perceber que temos menos controle sobre esses sistemas do que pensamos, e mesmo as pessoas que os administram têm menos controle do que pensamos.
Um ponto que você enfatiza é que, por mais que queiramos atribuir a falta de fiscalização em locais como o Facebook à ganância ou indiferença, esses não são os problemas reais.
Até certo ponto, as empresas de tecnologia merecem a culpa pelo que disseminam, mas se você olhar para isso como uma conspiração para ganhar dinheiro tornando nossas vidas miseráveis, você não vai chegar a lugar nenhum. Há um grande memorando do Facebook que vazou no qual eles diziam que a narrativa que eles menos querem é ser percebido como não no controle de seus sistemas. Ser mau é, na verdade, uma aparência melhor para eles do que não estar no controle. Mas, infelizmente, a narrativa sem controle é muito mais precisa.
Então, as pessoas que trabalham nessas meganets reconhecem os problemas que você diagnostica?
Acho que depende da posição deles. A base sente isso, ou certamente aqueles com quem falei. Se você é Mark Zuckerberg, está enfrentando uma enorme quantidade de dissonância cognitiva porque sente que não importa o que faça, será criticado por isso. Mas, ao mesmo tempo, você não quer admitir um nível de impotência. Minha suspeita é que os executivos estão em vários graus de negação sobre a escala do problema.
É um problema universal ou realmente uma questão que afeta as sociedades liberais de livre mercado?que não pode impor medidas de controle draconianas?
É universal, embora o engajamento seja diferente. Uma das ironias que descobri foi que a China é, na verdade, menos agressiva quanto à implantação de meganets dirigidas pelo governo do que, digamos, a Índia. Porque, em uma sociedade autoritária, o perigo para o partido de uma meganet falível administrada pelo governo é maior do que em uma sociedade na qual você pode atribuir isso ao mercado livre ou a fornecedores terceirizados.
Se pensamos que essas meganets estão distorcendo nossa visão do mundo, tornando-o mais volátil e instável, por que não podemos simplesmente desligar?
Esses sistemas são muito complexos e difusos para parar. Seria como fechar o mercado de ações, só que o grau de complexidade é muito maior do que o mercado de ações. O que devemos procurar é mitigar os efeitos disfuncionais da meganet e exercer alguma influência indireta sobre eles. O que não podemos fazer é controlá-los no nível refinado que as pessoas estão pedindo.
O que você achou da recente história do chatbot Sydney da Microsoft que se tornou desonesto e revelou seu potencial lado negro para um New York Times repórter?
O que as pessoas não entendem é que muito do que Sydney estava dizendo é nossa inconsciência coletiva, nossos dados coletivos sendo filtrados por seus algoritmos, que é muito mais um reflexo de nós e não poderia existir sem o componente humano. As pessoas o veem como um único agente destacado porque é o que parece ser. Mas não podemos entender o que ele faz ou por quê, a menos que reconheçamos que é um produto dessa relação entre algoritmos programados e a massa de nossos dados com os quais eles se baseiam.
Você escreve: “A história social da computação é uma história de como transformamos a nós mesmos, nossas vidas, nossas ações, nossas compras, nossas palavras em dados, online e offline”. Você acha que estamos cientes desse processo e de alguma forma o queremos?
O fato é que nos vemos cada vez mais como coleções de rótulos. “Eu sou isso, isso e isso” – o que as pessoas atacam como política de identidade. Acho que é um diagnóstico enganoso, porque na verdade se trata de classificação e taxonomização. De certa forma, falamos uma linguagem mais quantitativa agora e a riqueza qualitativa cai pelas rachaduras e é eliminada. Então eu acho que há uma consciência disso, mas não necessariamente uma consciência de onde está vindo. Nós queremos isso? Em algum nível, sim, porque as meganets têm esse potencial para criar um incrível senso de pertencimento, no qual você está constantemente perto de pessoas com as quais se sente em casa.
Você discute o GameStop caso do livro, em que as empresas de Wall Street perderam bilhões de dólares depois de um subreddit grupo elevou dramaticamente o preço das ações da empresa de videogames. O que isso mostra sobre o poder das meganets?
A meganet permite formas descentralizadas de associação que nunca foram possíveis antes. E isso devolve o poder em uma extensão maior do que jamais aconteceu antes, mas de uma forma desorganizada, de modo que você não está lidando com a racionalidade ou com a consciência; você está lidando com a mente coletiva. Não é a sabedoria das multidões, é o caos das multidões.
Uma solução que você sugere para retardar esses processos sociais de fratura é, por assim dizer, combater o caos com o caos. Você poderia explicar isso.
Meganets gostam de rastrear pessoas demograficamente e emparelhar gostos com gostos. Isso tende a criar homogeneidade e aumentar o doutrinário. Se você mexer com isso, simplesmente para evitar o congelamento, pelo menos retardaria as coisas. Existem várias maneiras de fazer isso. Acredito que o TikTok já tenha uma maneira de injetar conteúdo heterogêneo em seus algoritmos, porque acho que a ideia era mostrar muitos vídeos pró-anorexia seguidos ou algo assim. Mas se você se concentrar em um tipo de conteúdo, estará jogando maluco. Portanto, a questão é: você pode fazer isso de forma a obter conteúdo heterogêneo de maneira mais geral?
.
