.
Getty Images / Benj Edwards
De acordo com o The New York Times, o pioneiro da IA, Dr. Geoffrey Hinton, renunciou ao Google para poder “falar livremente” sobre os riscos potenciais apresentados pela IA. Hinton, que ajudou a criar parte da tecnologia fundamental por trás dos sistemas de IA generativos de hoje, teme que o impulso da indústria de tecnologia para desenvolver produtos de IA possa resultar em consequências perigosas – desde desinformação até perda de empregos ou até mesmo uma ameaça à humanidade.
“Veja como era há cinco anos e como é agora”, disse Hinton ao Times. “Pegar a diferença e propagá-la adiante. Isso é assustador.”
O currículo de Hinton em inteligência artificial remonta a 1972, e suas realizações influenciaram as práticas atuais em IA generativa. Em 1987, Hinton, David Rumelhart e Ronald J. Williams popularizaram a retropropagação, uma técnica fundamental para o treinamento de redes neurais que é usada nos modelos atuais de IA generativa. Em 2012, Hinton, Alex Krizhevsky e Ilya Sutskever criaram o AlexNet, que é comumente aclamado como um avanço em visão de máquina e aprendizado profundo, e sem dúvida deu início à nossa era atual de IA generativa. Em 2018, Hinton ganhou o Prêmio Turing, que alguns chamam de “Prêmio Nobel da Computação”, junto com Yoshua Bengio e Yann LeCun.
Hinton ingressou no Google em 2013, depois que o Google adquiriu a empresa de Hinton, a DNNresearch. Sua partida, uma década depois, marca um momento notável para a indústria de tecnologia, uma vez que simultaneamente exalta e adverte sobre o impacto potencial de sistemas de automação cada vez mais sofisticados. Por exemplo, o lançamento do GPT-4 da OpenAI em março levou um grupo de pesquisadores de tecnologia a assinar uma carta aberta pedindo uma moratória de seis meses no desenvolvimento de novos sistemas de IA “mais poderosos” que o GPT-4. No entanto, alguns críticos notáveis acham que tais medos são exagerados ou mal colocados.
Hinton não assinou a carta aberta, mas acredita que a intensa competição entre gigantes da tecnologia como Google e Microsoft pode levar a uma corrida global de IA que só pode ser interrompida por meio de regulamentação internacional. Ele enfatiza a colaboração entre os principais cientistas para evitar que a IA se torne incontrolável.
“Eu não acho [researchers] deveriam escalar isso mais até que tenham entendido se podem controlá-lo”, disse ele ao Times.
Hinton também está preocupado com a proliferação de informações falsas em fotos, vídeos e textos, tornando difícil para as pessoas discernir o que é verdadeiro. Ele também teme que a IA possa derrubar o mercado de trabalho, inicialmente complementando trabalhadores humanos, mas eventualmente substituindo-os em papéis como paralegais, assistentes pessoais e tradutores que lidam com tarefas de rotina.
A preocupação de longo prazo de Hinton é que os futuros sistemas de IA possam ameaçar a humanidade à medida que aprendem comportamentos inesperados a partir de grandes quantidades de dados. “A ideia de que essas coisas poderiam realmente ficar mais inteligentes do que as pessoas – algumas pessoas acreditaram nisso”, disse ele ao Times. “Mas a maioria das pessoas achava que estava muito longe. E eu pensei que estava muito longe. Achei que faltavam 30 a 50 anos ou até mais. Obviamente, não penso mais nisso.”
As advertências de Hinton parecem notáveis porque, a certa altura, ele foi um dos maiores proponentes do campo. Em um perfil do Toronto Star de 2015, Hinton expressou entusiasmo pelo futuro da IA e disse: “Acho que nunca vou me aposentar.” Mas hoje, o Times diz que a preocupação de Hinton com o futuro da IA o levou a se arrepender parcialmente do trabalho de sua vida. “Eu me consolo com a desculpa normal: se eu não tivesse feito isso, outra pessoa teria feito”, disse ele.
Alguns críticos lançaram um olhar cético sobre a renúncia e os arrependimentos de Hinton. Em resposta ao artigo do The New York Times, a Dra. Sasha Luccioni, do Hugging Face tuitou“As pessoas estão se referindo a isso como: olha, a IA está se tornando tão perigosa que até mesmo seus pioneiros estão desistindo. Eu vejo isso como: as pessoas que causaram o problema agora estão abandonando o barco.”
Na segunda-feira, Hinton esclareceu suas motivações para deixar o Google. Ele escreveu em um tweet: “No NYT hoje, Cade Metz insinua que deixei o Google para poder criticá-lo. Na verdade, saí para poder falar sobre os perigos da IA sem considerar como isso afeta o Google. O Google agiu com muita responsabilidade .”
.
