.
“Há tanta coisa boa que esse tipo de tecnologia pode gerar, tanto sofrimento que pode evitar, e também há o aspecto de quanta destruição ela pode causar e quanto pode se perder nesse processo”, diz Kim, que foi um dos primeiros funcionários do Google e também trabalhou nas Nações Unidas e como assistente de Paul Graham, cofundador da incubadora de startups Y Combinator. “Acho que não temos todas as respostas. Só precisamos ser muito pró-humanos e dar às pessoas os meios críticos para pensar sobre essa tecnologia.”
A exposição temporária é financiada até maio por um doador anônimo, mas o espaço mostra a influência de vários fundadores e pensadores da tecnologia, de um quadro twittar sobre IA e altruísmo eficaz pelo cofundador do Facebook, Dustin Moskovitz, para a banheira cheia de macarrão perto da entrada da exposição. Este último é uma referência às ideias de Holden Karnofsky, co-fundador com Moskovitz da Open Philanthropy, que financiou a OpenAI e outros trabalhos relacionados com o caminho futuro da IA. Karnofsky argumentou que estamos vivendo no que pode ser o século mais importante da história da humanidade, antes da chegada potencial da IA transformacional que ele chama de Processo para Automatizar o Avanço Científico e Tecnológico, ou PASTA.
As tentativas de prever o futuro distante da IA recentemente se concentraram no ChatGPT e na tecnologia relacionada, como a nova interface de pesquisa da Microsoft, apesar de suas limitações bem documentadas e valor ainda incerto. Os empreendedores que apostam na tecnologia estão fazendo afirmações bombásticas sobre o que sua tecnologia é capaz de fazer. Na semana passada, o CEO da OpenAI publicou uma postagem no blog sobre como a empresa está “Planejando a AGI”.
Pouco tempo depois, a Comissão Federal de Comércio dos EUA, uma agência que protege contra práticas comerciais enganosas, alertou os profissionais de marketing contra fazer alegações falsas sobre o que sua tecnologia é capaz de fazer. O advogado da FTC, Michael Atleson, escreveu em seu próprio blog que “ainda não estamos vivendo no reino da ficção científica, onde os computadores geralmente podem fazer previsões confiáveis do comportamento humano”.
Muitos pesquisadores de IA acreditam que, embora sistemas generativos de IA como o ChatGPT possam ser impressionantes, a tecnologia não merece ser creditada com inteligência, porque o algoritmo apenas repete e remixa padrões de seus dados de treinamento.
Nessa visão, é melhor pensar na IA estreita de hoje mais como uma calculadora ou torradeira, não como um ser senciente. Alguns especialistas em ética da IA acreditam que atribuir características humanas como sensibilidade à tecnologia pode distrair as conversas sobre outras formas de automação prejudicial, como a tecnologia de vigilância sendo exportada por empresas em nações democráticas e autoritárias.
Kim diz que se familiarizou com o aprendizado de máquina como uma das primeiras contratações da startup de direção autônoma Cruise, posteriormente adquirida pela General Motors. Ela começou a pensar em como a IA que funcionasse corretamente poderia eliminar muita morte e sofrimento desnecessários – mas também que, se a tecnologia não funcionasse, poderia representar um enorme risco para vidas humanas.
Além de exibir arte de IA e arte sobre IA, o Misalignment Museum planeja hospedar exibições de filmes que exploram o potencial mais sombrio da tecnologia, como O Exterminador do Futuro, Ex Machina, Delae teatro do pensamentoum documentário de 2022 sobre neurociência e IA dirigido por Herzog.
Kim diz que acha improvável que a AGI mate a maior parte da humanidade, apesar do tema de sua exposição, mas que as pessoas devem pensar sobre os impactos da IA que já estão aparecendo, como educadores e editores literários tentando analisar a diferença entre o texto gerado por humanos e o gerado por IA. ou as próprias discussões da Strong The One sobre como a IA generativa pode ou deve ajudar os jornalistas.
“A IA vai afetar a todos nós, então, para mim, trata-se de como podemos fazer com que tantas pessoas comecem a pensar sobre isso e formar suas próprias opiniões”, diz Kim. O Museu do Desalinhamento está aberto ao público quinta, sexta e sábado. Ela planeja organizar passeios para grupos escolares para inspecionar as exposições e navegar em uma biblioteca de material de leitura sobre as oportunidades e possíveis danos da inteligência artificial.
“Estou trabalhando para conseguir escadas para que, quando as crianças entrarem, possam ver os olhos dos Spambots”, diz Kim.
.
