.
Elon Musk lançou uma startup de inteligência artificial que será “pró-humanidade”, pois ele disse que o mundo precisa se preocupar com a perspectiva de um “futuro Terminator” para evitar os cenários de IA mais apocalípticos.
Musk disse que o xAI buscaria construir um sistema que fosse seguro porque era “curioso ao máximo” sobre a humanidade, em vez de ter diretrizes morais programadas nele.
“Do ponto de vista da segurança da IA … uma IA extremamente curiosa, que está tentando entender o universo, acho que será pró-humanidade”, disse ele em uma discussão do Spaces no Twitter anunciando o xAI.
A pessoa mais rica do mundo foi uma das signatárias de uma carta este ano que pedia uma pausa na construção de grandes modelos de IA, como o ChatGPT, o chatbot desenvolvido pela empresa americana OpenAI. Há temores crescentes de que o desenvolvimento da tecnologia de IA ultrapasse o controle humano.
Musk disse que uma pausa não parecia mais realista e esperava que o xAI fornecesse um caminho alternativo.
“Se eu pudesse pressionar a pausa na IA ou na superinteligência digital de IA realmente avançada, eu o faria. Não parece que isso seja realista, então o xAI vai essencialmente construir uma IA… de um jeito bom, meio que esperançoso”, disse ele.
Musk, dono do Twitter, disse que havia um cenário benigno em que o surgimento da inteligência artificial geral – um sistema capaz de inteligência em nível humano – levou a uma “era de fartura” onde não havia escassez de bens e serviços. No entanto, havia também a possibilidade de um futuro mais sombrio, acrescentou.
Referindo-se aos filmes Terminator e sua visão de um futuro destruído por robôs movidos a IA, Musk disse: “É realmente importante para nós nos preocuparmos com um futuro Terminator para evitar um futuro Terminator”. Ele disse que a superinteligência – IA mais inteligente e talentosa que os humanos – pode estar a cinco ou seis anos de distância, o que é mais rápido do que as estimativas de muitos especialistas.
Musk, que também é presidente-executivo da empresa de carros elétricos Tesla, disse que levará “um tempo” até que o xAI atinja o nível do OpenAI ou do Google, que lançou seu próprio chatbot chamado Bard e é dono da empresa de inteligência artificial líder mundial DeepMind .
Na quinta-feira, o Google anunciou que o Bard, que já foi lançado nos EUA e no Reino Unido, seria lançado no restante da Europa e no Brasil com novos recursos, incluindo a opção do chatbot responder suas respostas a um usuário, além de usar imagens quando solicitando-o.
A equipe da xAI inclui Igor Babuschkin, ex-engenheiro da DeepMind; Tony Wu, que trabalhou no Google; Christian Szegedy, que também foi pesquisador do Google; e Greg Yang, que trabalhou anteriormente na Microsoft.
Em março, Musk registrou uma empresa chamada X.AI Corp, incorporada em Nevada, de acordo com um documento do estado. A empresa lista Musk como o único diretor e Jared Birchall, diretor administrativo do family office do multibilionário, como secretário.
Dan Hendrycks, que vai aconselhar a equipa xAI, é diretor do Center for AI Safety (Cais) e o seu trabalho gira em torno dos riscos da IA. O Cais emitiu um comunicado em maio, com várias assinaturas de profissionais e especialistas em IA, dizendo que lidar com o risco de extinção da inteligência artificial deve ser uma prioridade global, a par da mitigação do risco de pandemias e guerra nuclear.
Musk disse no evento Spaces que tinha dúvidas sobre as implicações de segurança de programar uma postura moral em ferramentas generativas de IA. Esta semana, a Anthropic, uma importante empresa de IA dos EUA, lançou um chatbot que opera a partir de uma lista de princípios de segurança extraídos de fontes como a Declaração Universal dos Direitos Humanos.
“Se você programar uma certa realidade [into an AI] você tem que dizer que moralidade está programando. De quem é essa decisão?” ele perguntou, acrescentando que, uma vez que uma IA é programada com um ponto de vista moral específico, seria mais fácil induzi-la a revertê-la. Isso é conhecido como o “efeito Waluigi”, em homenagem ao arquirrival travesso de Luigi na franquia de videogame Super Mario.
A nova empresa de Musk é separada da X Corp, mas trabalhará em estreita colaboração com Twitter, Tesla e outras empresas, de acordo com seu site, e está recrutando engenheiros e pesquisadores experientes na área da baía de São Francisco.
.
