.
So o modelo de processamento de linguagem ChatGPT explodiu em um mundo atônito e o ar foi rasgado por gritos de alegria e gritos de indignação ou lamentação. Os encantados foram os que ficaram paralisados ao descobrir que uma máquina aparentemente poderia executar uma comissão por escrito com competência. A indignação foi desencadeada por temores de demissão por parte de pessoas cujo emprego exige a capacidade de escrever prosa profissional. E as lamentações vieram de pessoas sérias (muitos deles professores de vários níveis) cujo trabalho diário envolve corrigir redações até então escritas por alunos.
Até agora, tão previsível. Se sabemos alguma coisa da história, é que geralmente superestimamos o impacto de curto prazo das novas tecnologias de comunicação, enquanto subestimamos grosseiramente suas implicações de longo prazo. O mesmo aconteceu com a mídia impressa, os filmes, as transmissões de rádio e televisão e a internet. E suspeito que acabamos de entrar no mesmo carrossel cognitivo.
Antes de apertar o botão de pânico, porém, vale a pena examinar a natureza da fera. É o que a multidão de aprendizado de máquina chama de modelo de linguagem grande (LLM) que foi aumentado com uma interface de conversação. O modelo subjacente foi treinado em centenas de terabytes de texto, a maior parte provavelmente extraída da web, então você pode dizer que ele “leu” (ou pelo menos ingeriu) quase tudo o que já foi publicado online. Como resultado, o ChatGPT é bastante hábil em imitar a linguagem humana, uma facilidade que encorajou muitos de seus usuários ao antropomorfismo, ou seja, vendo o sistema mais como humano do que como uma máquina. Daí os gritos de alegria mencionados acima – e também o estranho usuário equivocado, aparentemente acreditando que a máquina é de alguma forma “sensível”.
O antídoto mais conhecido para essa tendência de antropomorfizar sistemas como o ChatGPT é Talking About Large Language Models, um artigo recente do distinto estudioso de IA Murray Shanahan, disponível no arXiv. Nele, ele explica que os LLMs são modelos matemáticos da distribuição estatística de “tokens” (palavras, partes de palavras ou caracteres individuais, incluindo sinais de pontuação) em um vasto corpus de texto gerado por humanos. Portanto, se você der ao modelo um prompt como “A primeira pessoa a pisar na lua foi…” e ele responder com “Neil Armstrong”, não é porque o modelo sabe alguma coisa sobre a lua ou a missão Apollo, mas porque nós estão realmente fazendo a seguinte pergunta: “Dada a distribuição estatística de palavras no vasto corpus público de [English] texto, quais palavras são mais prováveis de seguir a sequência ‘A primeira pessoa a andar na lua foi’? Uma boa resposta a esta pergunta é ‘Neil Armstrong’.”
Então, o que está acontecendo é a “previsão do próximo token”, que é o que muitas das tarefas que associamos à inteligência humana também envolvem. Isso pode explicar por que tantas pessoas estão tão impressionadas com o desempenho do ChatGPT. Está se tornando útil em muitas aplicações: resumir artigos longos, por exemplo, ou produzir um primeiro rascunho de uma apresentação que pode ser ajustada. Um de seus recursos mais inesperados é como uma ferramenta para ajudar a escrever código de computador. Dan Shipper, um cara experiente em software, relata que ele passou o Natal experimentando-o como assistente de programação, concluindo que: “É incrivelmente bom para ajudar você a começar um novo projeto. É preciso toda a pesquisa, pensamento e pesquisa para eliminá-lo… Em 5 minutos, você pode ter o esboço de algo funcionando que antes levaria algumas horas para começar a funcionar.” Sua ressalva, porém, era que você tinha que saber sobre programação primeiro.
Isso me parece ser o começo da sabedoria sobre o ChatGPT: na melhor das hipóteses, é um assistente, uma ferramenta que aumenta as capacidades humanas. E está aqui para ficar. Nesse sentido, isso me lembra, curiosamente, o software de planilha eletrônica, que atingiu o mundo dos negócios como um raio em 1979, quando Dan Bricklin e Bob Frankston escreveram o VisiCalc, o primeiro programa de planilha eletrônica, para o computador Apple II, que era então vendido principalmente em lojas de amadores. Um dia, Steve Jobs e Steve Wozniak perceberam que muitas das pessoas que compravam seus computadores não tinham barba e rabo de cavalo, mas usavam ternos. E esse software vende hardware, e não o contrário.
A notícia não passou despercebida pela IBM e levou a empresa a criar o PC e Mitch Kapor a escrever o programa de planilhas Lotus 1-2-3 para ele. Eventualmente, a Microsoft escreveu sua própria versão e a chamou de Excel, que agora roda em todas as máquinas de todos os escritórios do mundo desenvolvido. Ele deixou de ser um aumento intrigante, mas útil, das capacidades humanas para se tornar um acessório mundano – sem mencionar o motivo pelo qual Kat Norton (também conhecida como “Miss Excel”) supostamente ganha somas de seis dígitos por dia ensinando truques do Excel no TikTok. As chances são de que alguém, em algum lugar, esteja planejando fazer isso com o ChatGPT. E usando o bot para escrever os scripts.
O que eu tenho lido
Ameaça tripla
A Terceira Magia é uma meditação de Noah Smith sobre história, ciência e IA.
Não olhe para trás
Nostalgia for Decline in Deconvergent Britain é o longo blogpost de Adam Tooze sobre a longa história do declínio econômico britânico.
Impactos da desigualdade
Quem quebrou a democracia americana? é um ensaio perspicaz sobre o site do Project Syndicate pelo Prêmio Nobel Angus Deaton.
.
