.
Em um artigo de política publicado quarta-feira, o ex-CEO do Google, Eric Schmidt, o CEO da AI Alexandr Wang, e o diretor de segurança da IA, Dan Hendrycks, disse que os EUA não deveriam buscar um impulso no estilo de projeto de Manhattan para desenvolver sistemas de IA com inteligência “super-humana”, também conhecida como AGI.
O jornal, intitulado “Estratégia de Superintelligência”Afirma que uma oferta agressiva dos EUA de controlar exclusivamente os sistemas de IA superinteligente pode levar a feroz retaliação da China, potencialmente na forma de um ataque cibernético, que poderia desestabilizar as relações internacionais.
““[A] Projeto Manhattan [for AGI] Presume que os rivais concordam com um desequilíbrio duradouro ou omnicida, em vez de se mover para evitá-lo ”, escrevem os co-autores. “O que começa como um impulso por uma super -lança e controle global corre o risco de solicitar contramedidas hostis e crescer tensões, minando assim a própria estabilidade que a estratégia pretende garantir”.
Co-autoria de três figuras altamente influentes na indústria de IA da América, o artigo ocorre apenas alguns meses depois que uma comissão do Congresso dos EUA propôs um esforço de ‘Manhattan no estilo de projeto’ para financiar o desenvolvimento da AGI, modelado após o programa de bombas atômicas da América na década de 1940. O secretário de Energia dos EUA, Chris Wright, disse recentemente que os EUA estão em “O início de um novo projeto de ManhattanNa IA, enquanto estava em frente a um site de supercomputadores ao lado do co-fundador do Openai, Greg Brockman.
O artigo da Estratégia da Superintelligência desafia a idéia, defendida por vários líderes de políticas e indústrias americanas nos últimos meses, que um programa apoiado pelo governo que persegue a AGI é a melhor maneira de competir com a China.
Na opinião de Schmidt, Wang e Hendrycks, os EUA estão em algo de um impasse AGI não diferente de destruição mutuamente garantida. Da mesma maneira que os poderes globais não buscam monopólios sobre armas nucleares-o que poderia desencadear uma greve preventiva de um adversário-Schmidt e seus co-autores argumentam que os EUA devem ser cautelosos em relação a dominar sistemas de IA extremamente poderosos.
Enquanto comparação dos sistemas de IA às armas nucleares pode parecer extremo, os líderes mundiais já consideram a IA uma das principais vantagens militares. O Pentágono já diz que a IA está ajudando a acelerar a cadeia de mortes dos militares.
Schmidt et al. Introduzir um conceito que eles chamam de mau funcionamento da IA Mutual garantido (MAIM), no qual os governos poderiam desativar proativamente os projetos ameaçadores de IA, em vez de esperar os adversários para armar a AGI.
Schmidt, Wang e Hendrycks propõem que os EUA mudem seu foco de “vencer a corrida para superinteligência” para o desenvolvimento de métodos que deter outros países da criação da IA superinteligente. Os co-autores argumentam que o governo deve “expandir [its] Arsenal de ataques cibernéticos para desativar projetos de IA ameaçadores ”controlados por outras nações, bem como limitar o acesso dos adversários a chips avançados de IA e modelos de código aberto.
Os co-autores identificam uma dicotomia que ocorreu no mundo da política da IA. Há os “Doomers”, que acreditam que os resultados catastróficos do desenvolvimento da IA são uma conclusão precipitada e defende os países que diminuem o progresso da IA. Por outro lado, há os “avestruzes”, que acreditam que as nações devem acelerar o desenvolvimento da IA e essencialmente apenas espero que tudo dê certo.
O artigo propõe uma terceira maneira: uma abordagem medida para o desenvolvimento da AGI que prioriza estratégias defensivas.
Essa estratégia é particularmente notável proveniente de Schmidt, que já foi vocal sobre a necessidade de os EUA competirem agressivamente com a China no desenvolvimento de sistemas avançados de IA. Apenas alguns meses atrás, Schmidt lançou um editor de Departamento de Departamento marcou um ponto de virada na corrida de IA da América com a China.
O governo Trump parece Deadset em avançar no desenvolvimento da IA da América. No entanto, como observam os co-autores, as decisões da América em torno da AGI não existem no vácuo.
Enquanto o mundo observa a América empurrar o limite da IA, Schmidt e seus co-autores sugerem que pode ser mais sábio adotar uma abordagem defensiva.
.
