.
TO economista Bryan Caplan tinha certeza de que a inteligência artificial inserida no ChatGPT não era tão inteligente quanto se dizia. A pergunta: a IA poderia aceitar o exame intermediário de 2022 de sua turma de graduação?
Caplan, da Universidade George Mason, na Virgínia, parecia em boa posição para julgar. Ele fez seu nome apostando em uma variedade de tópicos interessantes, desde as chances eleitorais de Donald Trump em 2016 até as futuras taxas de frequência universitária nos EUA. E ele quase sempre vence, muitas vezes apostando contra previsões que considera hiperbólicas.
Esse foi o caso das afirmações malucas sobre o ChatGPT, o chatbot de IA que se tornou um fenômeno mundial. Mas, neste caso, parece que Caplan – um professor libertário cujos argumentos variam de pedidos de fronteiras abertas a críticas ao pensamento feminista – perderá sua aposta.
Depois que o ChatGPT original obteve um D em seu teste, ele apostou que “nenhuma IA seria capaz de obter A’s em 5 de 6 dos meus exames até janeiro de 2029”. Mas, “para minha surpresa e não pouca consternação”, escreveu em seu blog, a nova versão do sistema, GPT-4, obteve um A apenas alguns meses depois, marcando 73/100, o que, se fosse um aluno , teria sido a quarta maior pontuação da classe. Dada a impressionante velocidade de melhoria, Caplan diz que suas chances de vitória parecem pequenas.
Então, o hype é justificado desta vez? O Strong The One conversou com Caplan sobre como pode ser o futuro da IA e como ele se tornou um apostador ávido.
A conversa foi editada e condensada para maior clareza.
Você apostou que nenhuma IA conseguiria tirar notas A em cinco de seis de seus exames até janeiro de 2029 – e agora uma conseguiu. Quanto você apostou?
Eu tentei por 500 dólares. Acho que é uma previsão razoável de que vou perder a aposta neste momento. Só espero ter sorte.
Então, o que você acha que isso significa para o futuro da IA? Devemos ficar entusiasmados ou preocupados ou ambos?
Eu diria animado, no geral. Todo progresso é ruim para alguém. As vacinas são ruins para funerárias. A regra geral é que qualquer coisa que aumente a produção humana é boa para os padrões de vida humanos. Algumas pessoas perdem, mas se você disser que só queremos progresso que beneficie a todos, então não poderia haver progresso.
Eu tenho outra aposta de IA com Eliezer Yudkowsky – ele é o pessimista de IA mais importante e provavelmente o mais extremo, no sentido de que ele acha que vai funcionar e depois vai acabar conosco. Então, eu apostei com ele que, devido à IA, seremos varridos da superfície da Terra até 1º de janeiro de 2030. E se você está se perguntando como poderia fazer uma aposta como essa, quando você é um dos pessoas que serão exterminadas – a resposta é que eu paguei antecipadamente a ele. Eu apenas dei a ele o dinheiro adiantado e se o mundo não acabar, ele me deve.
Como poderíamos teoricamente ser eliminados?
O que considero um argumento bizarro [more broadly] é que, uma vez que a IA se torne inteligente o suficiente para aumentar sua própria inteligência, ela entrará em inteligência infinita em um instante e isso será tudo para nós. [That view is endorsed by] pessoas muito inteligentes, muito articuladas. Eles não parecem loucos, mas eu só acho que eles são.
Eles meio que se colocaram em um canto. Você começa com esta definição de: imagine que existe uma IA infinitamente inteligente. Como podemos impedi-lo de fazer o que quer? Bem, uma vez que você colocou dessa forma, não poderíamos. Mas por que você deveria pensar que essa coisa existirá? Nada mais jamais foi infinito. Por que haveria alguma coisa infinita?
O que entra em seu pensamento quando você decide: isso vale uma aposta?
O tipo de aposta que desperta meu interesse é aquele em que alguém parece estar fazendo afirmações hiperbólicas e exageradas, fingindo ter muito mais confiança no futuro do que eu acho que eles poderiam ter. Até agora me atendeu perfeitamente. Já fiz 23 apostas que deram certo; Eu ganhei todos os 23.
Eu tive vários outros casos de pessoas me dizendo como a IA era ótima, e então eu verifiquei por mim mesmo e eles estavam claramente exagerando. E então eu percebi que o exagero estava acontecendo, e às vezes você está errado. Às vezes, alguém está dizendo algo que parece ridiculamente exagerado e é assim que dizem.
Em outras palavras, você tende a rejeitar os resultados mais dramáticos possíveis.
Estou quase sempre apostando contra o drama. Porque apela para a psique humana dizer coisas emocionantes, e minha opinião é que o mundo geralmente não é tão emocionante, na verdade. O mundo normalmente continua basicamente sendo do jeito que era. “O melhor previsor do futuro é o passado” é um ditado que considero tão sábio, inegável. Se alguém não leva a sério, então tenho dificuldade em levá-lo a sério.
Então, se você perder a aposta de IA, isso é um indicador de que a hipérbole é justificada?
Acho que mostra para este caso particular que o GPT-4 avançou muito mais rápido do que eu esperava. Acho que isso significa que os efeitos econômicos serão muito maiores antes do que eu esperava. Como eu esperava muito pouco efeito, poderia ser 10 vezes maior do que eu pensava e ainda não seria enorme. Mas definitivamente sobre esta questão, como eu repensei minha visão.
A única história em que consegui pensar que redimiria meu ceticismo original seria se eles apenas adicionassem minha postagem de blog aos dados de treinamento e, em seguida, estivessem apenas cuspindo minhas próprias respostas para mim. Mas eis o seguinte: na verdade, tenho um novo post em que dei ao GPT-4 um teste totalmente novo que nunca discuti na internet e obteve a pontuação mais alta, então acho que é genuíno.
E o que acontece a seguir?
Existe uma regra geral de que, mesmo quando uma tecnologia parece incrível, geralmente leva muito mais tempo para ter grandes efeitos econômicos do que você esperaria.
Os primeiros telefones foram em 1870; leva cerca de 80 anos até que essa tecnologia nos forneça ligações telefônicas confiáveis para a Europa. A eletricidade parecia levar várias décadas para ser adotada em larga escala, e a internet também parecia ter demorado mais do que deveria.
Lembro-me de vários anos em que o backspace não funcionava no e-mail. Não sei quantos anos você tem, mas lembro-me de quando você não conseguia retroceder um e-mail. E assim foi durante anos. Você pode pensar que isso seria resolvido em três minutos. Mas sempre que os seres humanos estão envolvidos na adoção da tecnologia, há apenas um monte de problemas diferentes, empecilhos diferentes. Então, se o GPT vai realmente transformar a economia em alguns anos, eu ainda consideraria isso incrível. É quase sem precedentes.
.
