.
Leah Feiger: Tudo bem, essa é boa. Obrigada, Tori. Will, o que você tem para nós?
Cavaleiro Will: Uau, não sei se realmente consigo competir com RFK, mas como um bom agente da CIA, vou promover algo dos cantos mais estranhos da IA, IA e filosofia, eu acho. Então tem essa coisa chamada basilisco de Roko. Então o basilisco é uma criatura mitológica serpente que se você olhasse nos olhos dela, ela poderia te matar. E então teve esse experimento mental que alguém postou em um fórum de IA dizendo que a superinteligência no futuro seria incentivada a criar uma simulação na qual talvez todos nós existíssemos dentro dela, e seria incentivada a torturar qualquer um que trabalhasse contra ou mesmo pensasse na ideia de trabalhar contra ela surgindo. Então em um ponto em um desses…
Leah Feiger: Incrível.
Cavaleiro Will: … fóruns, eles baniram falar de Roko, esse experimento mental, o basilisco de Roko. A ideia era que se você ao menos pensasse sobre isso, poderia ser perigoso, o que é particularmente bananas.
Leah Feiger: Isso é tão engraçado. Em quais fóruns isso está proliferando, ou não proliferando?
Cavaleiro Will: Isso foi no LessWrong, que é um fórum muito famoso dedicado aos riscos e alinhamento da IA e—
Leah Feiger: Com que frequência você pensa pessoalmente no basilisco de Roko?
Cavaleiro Will: Bem, na verdade eu só descobri isso recentemente, e tento não pensar nisso só por precaução. É como a aposta de Pascal, não é? É só uma espécie de aposta nas probabilidades de que a superinteligência venha a existir, então você tem que tentar e fazê-la existir. Sim, é completamente louco.
Leah Feiger: Ah, essa é muito boa. OK. Ah, na verdade, isso está um pouco difícil esta semana, mas eu tenho que ir com Tori. Ativos da CIA, aqui vamos nós.
Vitória Elliott: Finalmente. Os Ravens me colocaram no limite? Preciso saber.
Leah Feiger: Os Ravens realmente te colocaram no limite. Eu gostei, e foi parte de, eu só vi o quanto você estava trabalhando para isso, e sim, foi um A pelo esforço e um A pela execução. Coisa boa.
Vitória Elliott: Obrigado.
Leah Feiger: E, em parte, não posso dar a vitória a algo que não tenho permissão de pensar nunca mais. Tori e Will, muito obrigada por se juntarem a nós. Vocês foram excelentes convidados.
Vitória Elliott: Obrigada, Leah.
Cavaleiro Will: Obrigado por me receber.
Leah Feiger: Obrigado por ouvir a WIRED Laboratório de Política. Se você gostou do que ouviu hoje, certifique-se de seguir o programa e avaliá-lo no aplicativo de podcast de sua escolha. Também temos um boletim informativo, que Makena Kelly escreve toda semana. O link para o boletim informativo e a reportagem da WIRED que mencionamos hoje estão nas notas do programa. Se você quiser entrar em contato conosco com quaisquer perguntas, comentários ou sugestões de programa, por favor, escreva para politicslab@WIRED.com. Isso é politicslab@WIRED.com. Estamos muito animados para ouvir de você. WIRED Laboratório de Política é produzido por Jake Harper. Pran Bandi é nosso engenheiro de estúdio. Amar Lal mixou este episódio. Stephanie Kariuki é nossa produtora executiva. Chris Bannon é chefe global de áudio na Condé Nast, e eu sou sua apresentadora, Leah Feiger. Estaremos de volta em seus feeds com um novo episódio na próxima semana.
.
