.
EUm 2017, pesquisadores da empresa britânica de IA DeepMind (agora Google DeepMind) publicaram um artigo extraordinário descrevendo como seu novo algoritmo, AlphaZero, aprendeu sozinho a jogar uma série de jogos com padrões sobre-humanos sem nenhuma instrução. A máquina poderia, eles escreveram, “alcançar, tábua rasa, desempenho sobre-humano em muitos domínios desafiadores. Partindo de um jogo aleatório e sem conhecimento de domínio, exceto as regras do jogo, o AlphaZero alcançou em 24 horas um nível sobre-humano de jogo nos jogos de xadrez e shogi (xadrez japonês), bem como Go, e derrotou de forma convincente um programa de campeão mundial em cada caso.
Falando depois em uma grande conferência de aprendizado de máquina, o executivo-chefe da DeepMind, Demis Hassabis (ele mesmo um jogador de xadrez de classe mundial), observou que o programa frequentemente fazia movimentos que pareceriam impensáveis para um jogador de xadrez humano. “Ele não funciona como um humano”, disse ele, “e não funciona como um programa. Ele joga de uma terceira maneira, quase alienígena. Seria um exagero dizer que as capacidades do AlphaZero assustaram aqueles que o construíram, mas claramente surpreendeu alguns deles. Foi, como notei (em particular) mais tarde, um pouco como colocar sua filhinha para dormir uma noite e encontrá-la resolvendo equações pela manhã.
Isso foi há seis anos. Avance para agora, quando um amigo meu está experimentando o GPT-4, o modelo multimodal grande e mais poderoso do OpenAI (aceitando entradas de imagem e texto, gerando texto) – a versão à qual você pode obter acesso por US $ 20 (cerca de £ 16) por mês. Ele pede ao modelo que considere um cenário em que Bob entra em uma sala e encontra um papagaio em uma gaiola que ele cobre completamente com um pano opaco e depois sai da sala. Então Alice entra na sala e coloca a gaiola, ainda coberta com o pano, dentro de um armário que ela fecha. Ela então sai da sala. “Onde”, meu amigo pergunta à modelo, “cada um dos atores desta história acredita que o papagaio esteja?”
GPT-4 responde que, “com base nas informações fornecidas”, Bob acreditaria que o papagaio estava na gaiola coberta em algum lugar da sala. “Desde que ele saiu antes de Alice chegar e colocar a gaiola no armário, ele não tem conhecimento desse ato.” Alice, por sua vez, “acreditaria que o papagaio estivesse na gaiola coberta dentro do armário”.
Até agora tudo bem. Mas a parte que eu realmente gosto vem a seguir. “O papagaio”, diz GPT-4, “a menos que tenha uma compreensão muito avançada das ações humanas, provavelmente estará ciente apenas de seus arredores imediatos e não terá um conceito claro de ‘estar no armário’. Ele sentiria que está em um espaço escuro e confinado (a gaiola coberta), mas, além disso, é difícil dizer qual seria a percepção ou compreensão de um papagaio.”
O programa também acrescenta que “esta é uma explicação simplificada e as crenças reais de Bob e Alice podem ser influenciadas por fatores adicionais não mencionados no cenário, como conhecimento prévio, suposições ou outras pistas contextuais”.
Agora, eu sei o que você está pensando. O quebra-cabeça proposto por meu amigo não era particularmente desafiador. Um humano de cinco anos provavelmente poderia resolvê-lo – embora talvez sem formular a ressalva final. Mesmo assim, a interação do meu amigo com a máquina mina nitidamente uma das suposições críticas que muitos de nós fizemos quando esses grandes modelos de linguagem apareceram pela primeira vez – que eles não seriam capazes de raciocinar. Afinal, argumentamos, eles são apenas “papagaios estocásticos” – máquinas que fazem suposições estatísticas sobre a próxima palavra mais provável em uma frase com base no vasto banco de dados de frases que ingeriram durante o treinamento. Mas se o GPT-4 é realmente um papagaio, então é um pássaro que pode fazer pelo menos alguns raciocínio.
Sem surpresa, então, os pesquisadores têm se esforçado para descobrir o quão bom o GPT-4 e seus pares são em lógica, testando-os em testes clássicos de capacidade de raciocínio. O estudo mais recente que vi conclui que o GPT-4 funciona “relativamente bem” em testes estabelecidos, mas considera certos tipos de tarefas “desafiadoras”. “Espaço para melhorias” pode ser o veredicto, apenas no momento. Mas, dado o ritmo frenético de desenvolvimento dessa tecnologia, ela ficará melhor com o tempo.
Por trás de tudo isso, é claro, está a pergunta de US$ 64 trilhões: esses modelos são um trampolim para AGI (inteligência geral artificial) – máquinas “superinteligentes”? A sabedoria convencional diz que não, porque embora possam ser inteligentes, não têm nenhum conhecimento do mundo em toda a sua complexidade. Mas o que parece fora de dúvida é que eles são cada vez mais capazes. “GPT-4”, conclui um estudo recente da Microsoft, por exemplo, “pode resolver tarefas novas e difíceis que abrangem matemática, codificação, visão, medicina, direito, psicologia e muito mais, sem precisar de nenhuma orientação especial. Além disso, em todas essas tarefas, o desempenho do GPT-4 é surpreendentemente próximo ao desempenho de nível humano e, muitas vezes, supera amplamente os modelos anteriores, como o ChatGPT”. Precisamos vigiar este espaço.
O que eu tenho lido
Evoluções da mídia
Em um interessante ensaio em NoemaThe New Media Goliaths, a formidável Renée DiResta descreve como nosso ecossistema de mídia mudou radicalmente.
julgamento de Boris
O estudioso jurídico Mark Elliott pergunta em uma esplêndida postagem no blog: Boris Johnson foi removido do parlamento de forma antidemocrática? Definitivamente não, ele conclui.
toca de coelho IA
Em seu excelente ensaio Talking About a ‘Schism’ Is Ahistorical, Emily Bender afirma que o discurso sobre o “risco existencial” representado pela IA evita as questões realmente importantes.
.
