.
semana passada o O Center for Humane Technology convocou mais de 100 líderes em finanças, filantropia, indústria, governo e mídia para o Kissinger Room no Paley Center for Media em Nova York para ouvir como a inteligência artificial pode acabar com a humanidade. Os dois palestrantes, Tristan Harris e Aza Raskin, iniciaram sua apresentação sobre o apocalipse com um slide que leu: “O que as armas nucleares são para o mundo físico … a IA é para todo o resto.”
Disseram-nos que esse encontro era histórico, do qual nos lembraríamos nos próximos anos, pois, presumivelmente, os quatro cavaleiros do apocalipse, disfarçados de chatbots do Bing, desceriam para substituir nossa inteligência pela deles. Ele evocou a cena em velhos filmes de ficção científica – ou a farsa mais recente Não olhe para cima– onde os cientistas descobrem uma ameaça e tentam sacudir uma população adormecida pelos ombros para explicar isso esta ameaça mortal está vindo direto para nós, e morreremos se você não fizer algo AGORA.
Pelo menos é o que Harris e Raskin parecem ter concluído depois que, em seu relato, algumas pessoas que trabalham em empresas que desenvolvem IA abordaram o Centro com preocupações de que os produtos que estavam criando eram fenomenalmente perigosos, dizendo que uma força externa era necessária para evitar uma catástrofe. Os cofundadores do Centro citaram repetidamente uma estatística de uma pesquisa que descobriu que metade dos pesquisadores de IA acredita que há pelo menos 10% de chance de que a IA extinguir os humanos.
Neste momento de exagero e incerteza da IA, Harris e Raskin previsivelmente escolheram a si mesmos para quebrar o vidro para acionar o alarme. Não é a primeira vez que acionam as sirenes. Os designers de tecnologia se tornaram comunicadores experientes em mídia, eles fundaram o Centro para informar ao mundo que a mídia social era uma ameaça para a sociedade. A expressão máxima de suas preocupações veio em seu envolvimento em um popular documentário da Netflix. porra filme de terror chamado O Dilema Social. Embora o filme não tenha nuances e seja um tanto histérico, concordo com muitas de suas reclamações sobre a captura de atenção da mídia social, incentivos para nos dividir e armamento de dados privados. Estes foram apresentados por meio de entrevistas, estatísticas e gráficos. Mas o médico torpedeou sua própria credibilidade ao passar para uma narrativa ficcional sensacionalista direto de Reefer Madnessmostrando como uma família saudável (inventada) do interior é arruinada – uma criança radicalizada e presa, outra deprimida – por postagens no Facebook.
Essa unilateralidade também caracteriza a nova campanha do Centro chamada, adivinhem, o Dilema da IA. (O Centro é tímido sobre se outro documento da Netflix está em andamento.) Como o dilema anterior, muitos pontos que Harris e Raskin fazem são válidos – como nossa atual incapacidade de entender completamente como bots como o ChatGPT produzem sua saída. Eles também deram um bom resumo de como a IA rapidamente se tornou poderosa o suficiente para fazer o dever de casa, potencializar a pesquisa do Bing e expressar amor por New York Times colunista Kevin Roose, entre outras coisas.
Não quero descartar totalmente o pior cenário que Harris e Raskin invocam. Essa estatística alarmante sobre especialistas em IA acreditando que sua tecnologia tem chance de matar todos nós, na verdade confirma, mais ou menos. Em agosto de 2022, uma organização chamada Impactos da IA alcançou 4.271 pessoas que escreveram ou co-escreveram artigos apresentados em duas conferências de IA e pediu que preenchessem uma pesquisa. Apenas cerca de 738 responderam, e alguns dos resultados são um pouco contraditórios, mas, com certeza, 48% dos entrevistados viram pelo menos 10% de chance de um resultado extremamente ruim, ou seja, a extinção humana. AI Impacts, devo mencionar, é apoiado em parte pelo Center for Effective Altruism e outras organizações que demonstraram interesse em cenários distantes de IA. De qualquer forma, a pesquisa não perguntou aos autores por que, se eles achavam que uma catástrofe era possível, eles estavam escrevendo artigos para promover essa ciência supostamente destrutiva.
.
