.
euNa segunda-feira passada, um eminente e idoso cientista britânico lançou uma granada no formigueiro febril de pesquisadores e corporações atualmente obcecados por inteligência artificial ou IA (também conhecida como, em sua maior parte, uma tecnologia chamada aprendizado de máquina). O cientista era Geoffrey Hinton, e a bomba foi a notícia de que ele estava deixando o Google, onde vinha fazendo um ótimo trabalho em aprendizado de máquina nos últimos 10 anos, porque queria ser livre para expressar seus medos sobre onde estava a tecnologia que tinha. desempenhou um papel seminal na fundação estava indo.
Dizer que isso foi uma grande notícia seria um eufemismo épico. A indústria de tecnologia é uma besta enorme e excitável que ocasionalmente é propensa a surtos de “exuberância irracional”, ou seja, loucura. Um ataque recente envolveu criptomoedas e uma visão do futuro da internet chamada “Web3”, que uma jovem blogueira e crítica astuta, Molly White, descreve de forma memorável como “um enorme grift que está derramando fluido de isqueiro em nosso já fumegante planeta”.
Atualmente, estamos enfrentando outro surto de exuberância desencadeado pela “IA generativa” – chatbots, modelos de linguagem grande (LLMs) e outros artefatos exóticos possibilitados pela implantação massiva de aprendizado de máquina – que a indústria agora considera o futuro para o qual é ativamente se preparando.
Recentemente, mais de 27.000 pessoas – incluindo muitas que conhecem bem a tecnologia – ficaram tão alarmadas com a corrida gadarena em direção a uma distopia movida a máquina que emitiram uma carta aberta pedindo uma pausa de seis meses no desenvolvimento da tecnologia. . “A IA avançada pode representar uma mudança profunda na história da vida na Terra”, disse, “e deve ser planejada e gerenciada com cuidados e recursos proporcionais”.
Era uma carta doce, reminiscente do meu sermão matinal para nossos gatos de que eles deveriam ser gentis com pequenos mamíferos e pássaros de jardim. Os gigantes da tecnologia, que têm uma longa história de indiferença às necessidades da sociedade, farejaram uma nova oportunidade de dominar o mundo e não vão deixar um grupo de intelectuais nervosos ficar em seu caminho.
É por isso que a intervenção de Hinton foi tão significativa. Pois ele é o cara cuja pesquisa desvendou a tecnologia que agora está solta no mundo, para o bem ou para o mal. E esse é um motivo bastante convincente para sentar e prestar atenção.
Ele é uma figura verdadeiramente notável. Se existe um pedigree intelectual, então Hinton é um puro-sangue.
Seu pai, um entomologista, era membro da Royal Society. Seu tataravô foi George Boole, o matemático do século 19 que inventou a lógica que sustenta toda a computação digital.
Seu bisavô era Charles Howard Hinton, o matemático e escritor cuja ideia de uma “quarta dimensão” se tornou um elemento básico da ficção científica e acabou aparecendo nos filmes de super-heróis da Marvel nos anos 2010. E sua prima, a física nuclear Joan Hinton, foi uma das poucas mulheres a trabalhar no Projeto Manhattan durante a guerra em Los Alamos, que produziu a primeira bomba atômica.
Hinton sempre foi obcecado por inteligência artificial durante toda a sua vida adulta, e particularmente no problema de como construir máquinas que podem aprender. Uma abordagem inicial para isso foi criar um “Perceptron” – uma máquina modelada no cérebro humano e baseada em um modelo simplificado de um neurônio biológico. Em 1958, um professor de Cornell, Frank Rosenblatt, realmente construiu tal coisa, e por um tempo as redes neurais foram um tema quente no campo.
Mas em 1969 uma crítica devastadora de dois estudiosos do MIT, Marvin Minsky e Seymour Papert, foi publicada… e de repente as redes neurais se tornaram a história do passado.
Exceto que um pesquisador obstinado – Hinton – estava convencido de que eles possuíam a chave para o aprendizado de máquina. Como New York Times O repórter de tecnologia Cade Metz disse: “Hinton permaneceu um dos poucos que acreditava que um dia cumpriria sua promessa, entregando máquinas que podiam não apenas reconhecer objetos, mas também identificar palavras faladas, entender linguagem natural, manter uma conversa e talvez até resolver problemas que os humanos não poderiam resolver sozinhos”.
Em 1986, ele e dois de seus colegas da Universidade de Toronto publicaram um artigo histórico mostrando que haviam resolvido o problema de permitir que uma rede neural se tornasse um aprendiz em constante aprimoramento usando uma técnica matemática chamada “retropropagação”. E, em um movimento astuto, Hinton batizou essa abordagem de “aprendizagem profunda”, uma frase cativante à qual os jornalistas poderiam se agarrar. (Eles responderam descrevendo-o como “o padrinho da IA”, o que é grosseiro mesmo para os padrões dos tablóides.)
Em 2012, o Google pagou US$ 44 milhões pela empresa incipiente que ele montou com seus colegas, e Hinton foi trabalhar para a gigante da tecnologia, no processo liderando e inspirando um grupo de pesquisadores que fizeram grande parte do trabalho inovador subsequente que o Google empresa fez em aprendizado de máquina em seu grupo interno do Google Brain.
Durante seu tempo no Google, Hinton não se comprometeu (pelo menos em público) sobre o perigo de que a tecnologia pudesse nos levar a um futuro distópico. “Até muito recentemente”, disse ele, “eu achava que essa crise existencial estava muito distante. Então, eu realmente não me arrependo do que fiz.”
Mas agora que ele se tornou um homem livre novamente, por assim dizer, ele está claramente mais preocupado. Em uma entrevista na semana passada, ele começou a explicar o porquê. No centro de sua preocupação estava o fato de que as novas máquinas eram muito melhores – e mais rápidas – aprendizes do que os humanos. “A retropropagação pode ser um algoritmo de aprendizado muito melhor do que o que temos. Isso é assustador… Temos computadores digitais que podem aprender mais coisas com mais rapidez e podem ensinar instantaneamente uns aos outros. É como se as pessoas na sala pudessem transferir instantaneamente para a minha cabeça o que elas têm na cabeça delas.”
O que é ainda mais interessante, porém, é a dica de que o que realmente o preocupa é o fato de que essa poderosa tecnologia está inteiramente nas mãos de algumas grandes corporações.
Até o ano passado, disse Hinton ao Metz, o Horários jornalista que traçou seu perfil, “o Google agiu como um administrador adequado para a tecnologia, com cuidado para não liberar algo que pudesse causar danos.
“Mas agora que a Microsoft ampliou seu mecanismo de busca Bing com um chatbot – desafiando o negócio principal do Google – o Google está correndo para implantar o mesmo tipo de tecnologia. Os gigantes da tecnologia estão presos em uma competição que pode ser impossível de parar.”
Ele tem razão. Estamos entrando em território desconhecido.
Bem, não totalmente desconhecido. Ao ler sobre a mudança de Hinton na segunda-feira, o que me veio imediatamente à mente foi uma história que Richard Rhodes conta em sua história monumental. A fabricação da bomba atômica. Em 12 de setembro de 1933, o grande físico teórico húngaro Leo Szilard esperava para atravessar a rua em um cruzamento perto do Museu Britânico. Ele acabara de ler o relato de um discurso proferido no dia anterior por Ernest Rutherford, no qual o grande físico havia dito que quem “procurava uma fonte de poder na transformação do átomo estava falando besteira”.
Szilard de repente teve a ideia de uma reação nuclear em cadeia e percebeu que Rutherford estava errado. “Ao atravessar a rua”, escreve Rhodes, “o tempo se abriu diante dele e ele viu um caminho para o futuro, a morte para o mundo e toda a nossa desgraça, a forma das coisas por vir”.
Szilard foi o coautor (com Albert Einstein) da carta ao presidente Roosevelt (sobre o risco de Hitler construir uma bomba atômica) que levou ao Projeto Manhattan e tudo o que se seguiu.
John Naughton é colunista do Observer e preside o conselho consultivo do Minderoo Center for Technology and Democracy na Universidade de Cambridge.
.
