.
A inteligência artificial pode representar uma ameaça “mais urgente” para a humanidade do que a mudança climática, disse o pioneiro da IA Geoffrey Hinton à Reuters em uma entrevista na sexta-feira.
Geoffrey Hinton, amplamente conhecido como um dos “padrinhos da IA”, anunciou recentemente que deixou a Alphabet após uma década na empresa, dizendo que queria falar sobre os riscos da tecnologia sem afetar seu antigo empregador.
O trabalho de Hinton é considerado essencial para o desenvolvimento de sistemas de IA contemporâneos. Em 1986, ele foi co-autor do artigo seminal “Aprendendo representações por erros de retropropagação”, um marco no desenvolvimento das redes neurais que sustentam a tecnologia de IA. Em 2018, ele recebeu o Prêmio Turing em reconhecimento a seus avanços em pesquisa.
Mas ele agora está entre um número crescente de líderes de tecnologia que expressam publicamente a preocupação com a possível ameaça representada pela IA se as máquinas obtivessem maior inteligência do que os humanos e assumissem o controle do planeta.
“Não gostaria de desvalorizar a mudança climática. Não gostaria de dizer: ‘Você não deve se preocupar com a mudança climática’. Isso também é um risco enorme”, disse Hinton. “Mas acho que isso pode acabar sendo mais urgente.”
Ele acrescentou: “Com a mudança climática, é muito fácil recomendar o que você deve fazer: basta parar de queimar carbono. Se você fizer isso, eventualmente as coisas ficarão bem. Por isso não está claro o que você deve fazer.”
A OpenAI, apoiada pela Microsoft, deu início a uma corrida armamentista tecnológica em novembro, quando disponibilizou ao público o chatbot ChatGPT com tecnologia de IA. Logo se tornou o aplicativo de crescimento mais rápido da história, atingindo 100 milhões de usuários mensais em dois meses.
Em abril, o CEO do Twitter, Elon Musk, juntou-se a milhares ao assinar uma carta aberta pedindo uma pausa de seis meses no desenvolvimento de sistemas mais poderosos do que o recém-lançado GPT-4 da OpenAI.
Os signatários incluíram o CEO da Stability AI, Emad Mostaque, pesquisadores da DeepMind, de propriedade da Alphabet, e outros pioneiros da IA, Yoshua Bengio e Stuart Russell.
Embora Hinton compartilhe a preocupação dos signatários de que a IA possa ser uma ameaça existencial para a humanidade, ele discordou de interromper a pesquisa.
“É totalmente irreal”, disse ele. “Estou do lado que pensa que isso é um risco existencial, e está perto o suficiente para que devêssemos trabalhar muito agora e colocar muitos recursos para descobrir o que podemos fazer a respeito.”
Na União Europeia, um comitê de legisladores respondeu à carta apoiada por Musk, pedindo ao presidente dos EUA, Joe Biden, que convocasse uma cúpula global sobre a direção futura da tecnologia com a presidente da Comissão Europeia, Ursula von der Leyen.
Na semana passada, o comitê concordou com um conjunto histórico de propostas visando a IA generativa, que forçaria empresas como a OpenAI a divulgar qualquer material protegido por direitos autorais usado para treinar seus modelos.
Enquanto isso, Biden conversou com vários líderes de empresas de IA, incluindo o CEO da Alphabet, Sundar Pichai, e o CEO da OpenAI, Sam Altman, na Casa Branca, prometendo uma “discussão franca e construtiva” sobre a necessidade de as empresas serem mais transparentes sobre seus sistemas.
“Os líderes de tecnologia têm o melhor entendimento disso e os políticos precisam estar envolvidos”, disse Hinton. “Isso afeta a todos nós, então todos nós temos que pensar sobre isso.”
© Thomson Reuters 2023
.
