.
Elon Musk e um grupo de especialistas em inteligência artificial pedem uma pausa no treinamento de poderosos sistemas de IA devido aos riscos potenciais para a sociedade e a humanidade.
A carta, emitida pelo Future of Life Institute sem fins lucrativos e assinada por mais de 1.000 pessoas, alertou sobre os riscos potenciais para a sociedade e a civilização por sistemas de IA competitivos entre humanos na forma de interrupções econômicas e políticas.
“Sistemas de IA com inteligência competitiva humana podem representar riscos profundos para a sociedade e a humanidade”, adverte a carta.
“Poderosos sistemas de IA devem ser desenvolvidos apenas quando estivermos confiantes de que seus efeitos serão positivos e seus riscos serão administráveis”.
Ele pediu uma parada de seis meses na “corrida perigosa” para desenvolver sistemas mais poderosos que o da OpenAI. recém-lançado GPT-4.
Se tal pausa não puder ser decretada rapidamente, a carta diz que os governos devem intervir e instituir uma moratória.
“Laboratórios de IA e especialistas independentes devem usar essa pausa para desenvolver e implementar em conjunto um conjunto de protocolos de segurança compartilhados para design e desenvolvimento avançados de IA que são rigorosamente auditados e supervisionados por especialistas externos independentes”, diz a carta.
“Esses protocolos devem garantir que os sistemas que aderem a eles sejam seguros além de qualquer dúvida razoável”.
Consulte Mais informação:
Alguns usuários do Twitter começarão a perder ticks azuis a partir do próximo mês
Um apresentador do Strong The One agora pode ler nossos artigos – veja como
A carta também foi assinada pelo cofundador da Apple Steve Wozniak, Yoshua Benigo, muitas vezes referido como um dos “padrinhos da IA”, e Stuart Russell, um pioneiro da pesquisa no campo, bem como pesquisadores da DeepMind, de propriedade da Alphabet. .
O Future of Life Institute é financiado principalmente pela Musk Foundation, pelo grupo de altruísmo eficaz Founders Pledge, com sede em Londres, e pela Silicon Valley Community Foundation, de acordo com o registro de transparência da União Europeia.
Musk tem falado abertamente sobre suas preocupações com a IA. Sua montadora, a Tesla, usa IA para um sistema de piloto automático.
Desde que foi lançado no ano passado, o ChatGPT da OpenAI, apoiado pela Microsoft, levou os rivais a acelerar o desenvolvimento de modelos de linguagem grandes semelhantes e encorajou as empresas a integrar modelos de IA generativos em seus produtos.
Reino Unido apresenta propostas para regulamentações de ‘toque leve’ em torno da IA
Ele vem como o governo do Reino Unido revelou propostas para um quadro regulamentar de “toque leve” em torno da IA.
A abordagem do governo, descrita em um documento de política, dividiria a responsabilidade de governar a IA entre seus reguladores de direitos humanos, saúde e segurança e concorrência, em vez de criar um novo órgão dedicado à tecnologia.
Enquanto isso, no início desta semana, a Europol juntou-se a um coro de preocupações éticas e legais sobre IA avançada como o ChatGPT, alertando sobre o potencial uso indevido do sistema em tentativas de phishing, desinformação e crimes cibernéticos.
.
