.
Cuando o Y2K parecia a preocupação tecnológica mais urgente do mundo, o artista mexicano-canadense Rafael Lozano-Hemmer estava usando um dicionário e um conjunto de regras gramaticais para ensinar um computador a escrever perguntas. O programa que ele construiu pode fazer consultas em espanhol, inglês, alemão e francês, em 4,7 trilhões de combinações possíveis. Quando a obra de arte foi exibida no Museu de Arte Moderna de São Francisco no ano passado, ela ainda tinha 271.000 anos de novas perguntas a serem feitas.
Ou seja, Lozano-Hemmer trabalha com tecnologia generativa há tempo suficiente para aprender uma lição poderosa: “Não existe algo como um algoritmo neutro”.
Esta lição foi reiterada ao artista de mídia vencedor do Bafta de forma espetacular e humilhante no Miami Art Basel há pouco mais de uma década. Foi a primeira vez que ele usou a tecnologia de reconhecimento facial, ainda incipiente na época, em uma obra de arte: The Year’s Midnight mostraria aos espectadores uma projeção de seus rostos em uma tela e, em seguida, arrancaria seus globos oculares, deixando nuvens de fumaça flutuando das órbitas.
“Estava funcionando bem”, diz Lozano-Hemmer, até que Sean Combs – o rapper conhecido como Puff Daddy, P Diddy ou Diddy – se aproximou para tentar. A tecnologia de reconhecimento facial simplesmente não conseguiu localizar Combs. “Ele tirou os óculos, o que é um grande problema”, diz Lozano-Hemmer. “As primeiras versões da detecção de rosto dependiam do contraste com um pano de fundo. E o pano de fundo era preto.” Combs descobriu o problema tão rapidamente quanto Lozano-Hemmer: “Ele disse: ‘Isso é racista’.”
(A partir desse momento, Lozano-Hemmer e sua equipe de programação desenvolveram maneiras mais robustas de testar suas obras de arte.)
Qualquer um que esteja mexendo com o ChatGPT hoje em dia deve estar ciente dos vieses da IA, diz ele. “Você deve sempre enfatizar para si mesmo que está trabalhando com um conjunto de decisões e preconceitos que foram feitos no momento da codificação”, diz ele, acrescentando: “A tecnologia está ficando melhor … por outro lado, melhor para quem?”
“Melhor para quem?” é exatamente o que Lozano-Hemmer espera que as pessoas perguntem enquanto passeiam por Atmospheric Memory, sua nova exposição no museu Powerhouse de Sydney: uma mostra que exigiu mais de 60 pessoas, de oito países diferentes, para ser montada. É melhor descrito como uma exposição imersiva, mas Lozano-Hemmer está bem ciente da bagagem que essa frase traz. “Eu não suporto essa merda”, diz ele sobre exposições baseadas em projeção, “onde você deveria entrar lá e se sentir como se estivesse em harmonia com a natureza, ou você está vendo novamente o trabalho desses antigos mestres”.
A peça central do Atmospheric Memory é o Field Atmosphonia, uma vasta sala escura aveludada onde os visitantes caminham sob 3.000 alto-falantes, cada um com luzes cintilantes e tocando uma gravação de campo individual. Possui 300 espécies de cantos de pássaros, que se transformam em incêndios florestais e ondas quebrando; uma cacofonia que atinge você com força total, bem entre as orelhas.
“Conforme você caminha, cria uma narrativa a partir das 3.000 gravações”, diz Lozano-Hemmer. À medida que os alto-falantes ligam, o espectador é banhado por um halo de luz em movimento. Mas nos bastidores: “É um pesadelo – tem, eu acho, 32 km de cabo.”
A premissa do programa deriva de um parágrafo do Nono Tratado de Bridgewater, escrito pelo pioneiro da computação Charles Babbage em 1837. Babbage propôs que o ar que nos cerca poderia ser uma “vasta biblioteca” que, uma vez devidamente sintonizada, poderia oferecer uma lembrança perfeita, capturando cada movimento, momento e expressão já passou. Essa noção é “muito romântica e bonita”, diz Lozano-Hemmer, “mas é um projeto muito distópico”.
Na primeira sala da exposição, o núcleo de uma das calculadoras mecânicas de Babbage, a Máquina Diferencial nº 1, está em exibição. A curadora da Powerhouse, Angelique Hutchinson, diz que olhar para o dispositivo steampunk, do tamanho de uma caixa de sapatos, pode ser uma experiência existencial. “É bastante humilde”, diz ela. Mas quando você reflete sobre as previsões feitas por Babbage, muitas das quais se concretizaram, “isso faz você pensar sobre para onde iremos a seguir”.
Perto está uma série de cabines de conversação construídas por Lozano-Hemmer, onde os visitantes podem sentar e observar as palavras de suas bocas transformadas em texto enquanto falam. Tudo o que eles disserem será respondido por uma encarnação digital de Babbage, treinado nos textos do cientista da computação e alimentado por OpenAI, a tecnologia por trás do ChatGPT.
Lozano-Hemmer acredita que existem três qualidades humanas que a tecnologia nunca será capaz de replicar: podemos improvisar, podemos esquecer e, talvez o mais importante, podemos morrer.
Essas ideias estão entrelaçadas em Atmospheric Memory, uma exposição interativa que depende da improvisação humana. “É muito chato sem pessoas”, diz ele, enquanto caminhamos juntos pelo espaço de exposição quase vazio.
As máquinas também são “muito boas em lembrar” – um spoiler para a distopia que está por vir – e quanto à morte, ela está em toda parte. Quando desacompanhadas de uma pessoa viva, as obras interativas ocasionalmente geram texto ou movimento por conta própria – “possuídas” por Charles Babbage, um fantasma na máquina.
A vanguardista acordeonista Pauline Oliveros, falecida em 2016, também faz uma aparição póstuma no espetáculo: antes de morrer, ela exalava em um aparelho que agora circula sua respiração entre um fole e um saco de papel pardo.
Ao assistir “Last Breath” de Oliveros entrando e saindo, você está “observando o tempo fugaz em que estamos aqui e a fragilidade dessa bolsa”, diz Lozano-Hemmer. Ele persegue essa observação existencial com outro insight: se não estivesse permanentemente aspirando o ar de um artista morto, o saco serviria para frango frito. Esse é o melhor tipo para capturar o fôlego, diz ele, porque é “forrado com plástico, para os sucos”.
após a promoção do boletim informativo
O clímax da exposição é Atmospheres, uma “câmara de projeção” que ocupa as imponentes paredes de 11 metros do museu e todos os 252 metros quadrados de área útil. Como no resto do show, momentos de espetáculo e oportunidades de auto-estima estão por toda parte. Um jogo de sombras permite que os espectadores vejam suas silhuetas ampliadas e projetadas em páginas gigantes de texto. Conforme eles se movem, o calor de seus corpos evapora as palavras ao seu redor. “As crianças adoram brincar com isso”, diz Lozano-Hemmer.
Outro trabalho permite que os espectadores falem em um microfone e vejam sua fala se transformar em uma nuvem de texto literal, feita de vapor de água fria. Quando o trabalho estreou em Manchester em 2019, “as pessoas diziam ‘foda-se o Brexit’”, diz Lozano-Hemmer. “Eles estavam apenas falando o que pensavam. A peça não censura. Ele escreve qualquer coisa que você diga a ele.”
A obra foi posteriormente modificada para o público australiano – não para limitar a capacidade expansiva dos locais para linguagem chula, mas para melhor compreendê-la. A arte é alimentada pelo mecanismo de transcrição do Google e, desde a mudança para o inglês australiano, “percebemos uma grande melhoria. Ele realmente entende os australianos.”
No final do ciclo, toda a sala cai. Somos presenteados com a esperança de Babbage em relação à sua “vasta biblioteca” no ar – que ela poderia revelar crimes passados e levar os donos de escravos à justiça – o que é seguido pelo que Lozano-Hemmer diz ser o chamado de nosso tempo: “Eu posso não respire.”
As projeções de repente se voltam para dentro, mostrando imagens de CCTV da própria sala. Este é o Zoom Pavillion, uma obra de 2015 feita em colaboração com o artista polonês Krzysztof Wodiczko. Os espectadores agora se veem na tela, não como estrelas, mas como alvos. A tecnologia que parece tão divertida pode ser facilmente usada para capturar, classificar e controlar.
A partir daí, fica pior. Um visitante aleatório que dividiu um estande com Babbage no início da exposição verá seu rosto ampliado, em close, em toda a altura da sala.
A esse rosto juntam-se cada vez mais imagens dos participantes da exposição, todas registradas e lembradas – porque os computadores não esquecem. É perturbador testemunhar, mesmo que seu rosto não esteja lá em cima. “Mesmo que você não se veja, você entende que o espírito deste projeto é que tudo isso tem um custo”, diz Lozano-Hemmer.
Para mim, o trabalho de Lozano-Hemmer lembra a terceira lei de Arthur C Clarke: “Qualquer tecnologia suficientemente avançada é indistinguível da magia”. A princípio, sua arte deslumbra. Mas, assim como quando os segredos de um mágico são revelados, há um ponto em que não parece mais mágica – você apenas se sente enganado. E esse momento é o ponto, diz ele, onde você percebe “você é o conteúdo… onde todas as diferentes tecnologias que foram usadas para simulação deste ambiente podem ser vistas pelo que são”.
Babbage não estava errado sobre o ar ao nosso redor ser um dispositivo de gravação, diz Lozano-Hemmer. “O que é memória atmosférica? Bem, a memória da industrialização que Babbage ajudou a automatizar é esse dióxido de carbono que está aumentando atualmente. A atmosfera foi colonizada por drones, que estão bombardeando as pessoas neste exato momento. É o local das redes oligárquicas de poder e controle.
“O que podemos fazer, além de evidenciar esses mecanismos, para recuperar a atmosfera como um local para música e comunidade, como um local para poesia e engajamento?”
Na esperança de responder a essa pergunta, Lozano-Hemmer acrescentou um desenlace à distopia.
Em vez de serem estilhaçados e cuspidos na loja de presentes, os visitantes caminham da câmara de projeção para uma espécie de sala de descompressão: uma biblioteca repleta de pôsteres de arquivos de movimentos de protesto australianos, com livros sobre a crise climática, capitalismo de vigilância e sistemas de conhecimento indígena. , com espaços para sentar, ler e respirar.
“A obra de arte precisa direcionar toda essa emoção para algo que possa ser prático”, diz Lozano-Hemmer, acrescentando: “Não dizemos a você o que pensar ou não pensar. Deixamos a interação gerar as condições para a mudança.”
.
