.
OUma das primeiras imagens de IA que encontrei foi uma cabeça branca, espectral, hostil e sem corpo. Foi no jogo de computador Neuromancer, programado por Troy Miles e baseado no romance cyberpunk de William Gibson. Outras pessoas podem ter encontrado o HAL 9000 pela primeira vez em 2001: Uma Odisseia no Espaço de Stanley Kubrik ou Samantha de Her, de Spike Jonze.
As imagens da cultura pop influenciam as impressões das pessoas sobre a IA, mas a cultura tem uma relação ainda mais profunda com ela. Se há uma coisa a tirar deste artigo, é a ideia de que os sistemas de IA não são máquinas objetivas, mas baseadas na cultura humana: nossos valores, normas, preferências e comportamentos na sociedade. Esses aspectos de nossa cultura são refletidos em como os sistemas são projetados. Portanto, em vez de tentar decidir se os sistemas de IA são objetivamente bons ou ruins para a sociedade, precisamos projetá-los para refletir a cultura eticamente positiva que realmente queremos.
Aqui está um exemplo: Roger Dannenberg, professor da Carnegie Mellon University em Pittsburgh, criou um sistema de IA que toca música com as pessoas. Ele acompanha os intérpretes com base em ideias de tom, escala, andamento e assim por diante, que poderiam ser chamadas de facetas da teoria musical ocidental. Em contraste, o compositor e estudioso George E Lewis, vindo de uma tradição baseada na diáspora africana – jazz e outras tradições, nutridas pela Associação para o Avanço da Música Criativa de Chicago – criou um sistema chamado Voyager que é um “não hierárquico, interativo ambiente musical que privilegia a improvisação”. Os resultados são muito diferentes. O sistema de Dannenberg produz uma saída que é eficaz para acompanhar um artista convencional – parece que atinge as notas esperadas. O sistema de Lewis, ao contrário, gera surpresas no diálogo com um performer, ora fazendo um solo, ora se apresentando enquanto o humano solos – nem o humano nem a máquina dominam.
O som do Voyager está em algum lugar entre o grande jazz de vanguarda Sun Ra e um conjunto de gamelão javanês. Os valores de cada sistema são baseados nas culturas das quais os músicos e programadores extraem: controle mensurável v colaboração improvisada, criando diferenças importantes na saída de cada sistema.
Atualmente, os sistemas de IA têm papéis na geração de textos e imagens, no diagnóstico de doenças e até mesmo em sistemas de armas autônomos. Pode-se fazer tais sistemas como seguidores de humanos ou como suportes criativos para humanos; podemos olhar para a relação entre máquina e humano como baseada em comando e controle – ou como baseada em colaboração, descobrindo o que as pessoas fazem de melhor e o que o computador faz de melhor para que possam trabalhar juntos de forma proveitosa. Ambas as abordagens têm seu lugar – mas sinto que atualmente a última abordagem é menos conhecida e adotada. A criação de sistemas de IA baseados em muitas culturas diferentes, com diretrizes éticas adequadas, pode ajudar a corrigir isso.
Pessoas pode projetar intencionalmente sistemas de computação com os valores e visões de mundo que desejamos. Por exemplo, o MIT Center for Advanced Virtuality, que fundei e dirijo, construiu simulações como Breakbeat Narratives, uma colaboração com o Universal Hip Hop Museum e a Microsoft. O sistema utiliza as tecnologias do nosso centro, personagens criados com os artistas de quadrinhos Black Kirby, IA de conversação da Microsoft e conteúdo de arquivo de música da TunesMap Educational Foundation para ensinar a história do hip-hop de acordo com os gostos e interesses musicais do usuário. Por exemplo, se você gosta de música de raiz e está interessado em artistas femininas de hip-hop, você pode obter um pequeno documentário sobre a auto-representação de mulheres no hip-hop que tem uma trilha sonora de canções de hip-hop com samples de country e western e bluegrass.
Também tive o prazer de colaborar com o fotojornalista de guerra e artista de realidade virtual Karim Ben Khelifa em um projeto que ele dirigiu chamado The Enemy, que permitiu aos espectadores ouvir jornalisticamente as perspectivas de combatentes de ambos os lados dos conflitos na República Democrática do Congo, El Salvador e Gaza – ao mesmo tempo em que personaliza a experiência com base na linguagem corporal dos usuários como um proxy para seus possíveis preconceitos e atenção.
Construímos sistemas de IA e computação para expressão criativa, aprendizado e bem social, personalizando de forma significativa histórias e experiências para as pessoas que os utilizam. Há uma grande oportunidade para a IA ter um impacto social positivo por meio desse design – mas, para isso, o campo precisará ser mais interdisciplinar, valorizando os objetivos e insights das artes, humanidades e ciências sociais.
Não estou promovendo uma visão utópica da IA. Você provavelmente já ouviu falar sobre abordagens recentes como “aprendizagem profunda” e “modelos de linguagem ampla” – de sistemas como Dall·E 2 e GPT-4. As pessoas os têm usado para muitos propósitos: jogadores criam personagens para Dungeons & Dragons, advogados elaboram moções legais.
Tais sistemas utilizam redes neurais e abordagens envolvendo aprendizagem profunda e grandes modelos de linguagem. É difícil para os humanos interpretar exatamente por que eles produzem as imagens ou textos específicos que produzem (os “motivos” do sistema são um padrão de valores estatísticos e pesos numéricos ajustados com precisão). Quando os processos são opacos e conduzidos por grandes conjuntos de dados que também são baseados em valores culturais, é possível que preconceitos injustos e outros males sociais encontrem seu caminho nos sistemas.
Precisamos estar cientes e projetar cuidadosamente os valores culturais nos quais a IA se baseia. Com cuidado, podemos construir sistemas baseados em múltiplas visões de mundo – e abordar as principais questões éticas do design, como transparência e inteligibilidade. A IA oferece oportunidades criativas extraordinárias; mas os criadores precisam fazer um trabalho sociocultural que seja pelo menos tão difícil quanto projetar tecnicamente esses sistemas – e talvez mais difícil. Há momentos em que um paradigma de comando e controle é apropriado na computação. No entanto, ao olhar para a IA, há momentos em que, em vez disso, precisamos ver mais oportunidades semelhantes ao jazz para improvisação criativa e colaborativa.
.
