.
O Conselho de Segurança das Nações Unidas foi instruído a “levar a IA a sério” quando se reuniu pela primeira vez para discutir os riscos e oportunidades da inteligência artificial.
Na primeira sessão do gênero no principal órgão diplomático do mundo, representantes dos 15 países membros ouviram como IA representa “riscos catastróficos para os seres humanos”, mas também uma “oportunidade histórica”.
Presidido pelo secretário de Relações Exteriores James Cleverlya câmara ouviu Jack Clark, cofundador da empresa líder em IA Anthropic, e o professor Zeng Yi, codiretor do Centro de Pesquisa China-Reino Unido para Ética e Governança de IA.
“Nenhum país ficará intocado pela IA, por isso devemos envolver e engajar a mais ampla coalizão de atores internacionais de todos os setores”, disse Cleverly.
“Nosso objetivo comum será considerar os riscos da IA e decidir como eles podem ser reduzidos por meio de uma ação coordenada”.
O secretário de Relações Exteriores do Reino Unido, James Cleverly, presidiu a reunião em Nova York
Os membros do Conselho de Segurança ouviram dois especialistas que delinearam o que acreditam ser a imensa oportunidade da IA, mas também os sérios riscos que ela representa e a necessidade urgente de unidade global sobre o assunto.
“Não podemos deixar o desenvolvimento da inteligência artificial apenas para atores do setor privado”, disse Clark. “Os governos do mundo devem se unir, desenvolver a capacidade do estado e fazer mais desenvolvimento de poderosos sistemas de IA.”
Ele explicou: “Um sistema de IA que pode nos ajudar a entender a ciência da biologia também pode ser um sistema de IA que pode ser usado para construir armas biológicas”.
Ele alertou para os riscos de não entender a tecnologia: “É como se estivéssemos construindo motores sem entender a ciência da combustão.
“Isso significa que, uma vez que os sistemas de IA são desenvolvidos e implantados, as pessoas identificam novos usos para eles, imprevistos por seus desenvolvedores, muitos deles serão positivos, mas alguns podem ser usos indevidos”.
Use o navegador Chrome para um player de vídeo mais acessível
IA ‘poderia extinguir os humanos’
O professor Zeng Yi, diretor do Laboratório de Inteligência Cognitiva inspirado no cérebro, convocou a ONU como um órgão para levar o assunto a sério.
“As Nações Unidas devem desempenhar um papel central para estabelecer uma estrutura de IA para o desenvolvimento e a governança para garantir a paz e a segurança globais”, disse o professor.
Ele alertou: “A IA arrisca a extinção humana simplesmente porque não encontramos uma maneira de nos proteger da utilização da IA nas fraquezas humanas”.
Clark acrescentou: “Ainda mais desafiador é o problema do comportamento caótico ou imprevisível. Um sistema de IA pode, uma vez implantado, apresentar problemas sutis, que não foram identificados durante seu desenvolvimento.
“Eu desafiaria aqueles que estão ouvindo este discurso a não pensar na IA como uma tecnologia específica, mas sim como um tipo de trabalho humano que pode ser comprado e vendido na velocidade de um computador e que está ficando mais barato e mais capaz ao longo do tempo”.
Consulte Mais informação:
Análise: a transparência é crucial sobre como a IA é treinada – e os reguladores devem assumir a liderança
Tony Blair: Impacto da IA no mesmo nível da Revolução Industrial
Inteligência artificial ‘não tem capacidade de assumir o controle’, diz chefe da Microsoft
Use o navegador Chrome para um player de vídeo mais acessível
Strong The One julga um repórter de IA
‘Grandes perguntas’ sobre IA
As duas testemunhas levantaram questões específicas em aberto que disseram necessitar de respostas urgentes. Quem deve ter acesso ao poder da IA? Como os governos devem regular esse poder? Quais atores devem ser capazes de criar e vender esses chamados especialistas em IA? E que tipos de especialistas podemos permitir que sejam criados?
“Essas são questões enormes”, disse Clark. “Os seres humanos passam por avaliações rigorosas e testes no local de trabalho para muitas funções críticas.”
O professor Zeng Yi acrescentou: “É muito engraçado, enganoso e irresponsável que os sistemas de diálogo alimentados por IA generativa sempre argumentem ‘eu penso, eu sugiro’”.
“Bem”, disse ele, “não há ‘eu’ ou ‘eu’ nos modelos de IA. A IA nunca deve fingir ser humana, assumir posições humanas ou enganar os humanos para ter a percepção errada. Devemos usar IA generativa para ajudar, mas nunca confiar nelas para substituir a tomada de decisão humana.”
Use o navegador Chrome para um player de vídeo mais acessível
robôs com inteligência artificial
Reino Unido sediará cúpula global de IA
O Reino Unido está buscando um papel global de liderança na promoção do consenso internacional sobre como gerenciar os riscos da IA com as oportunidades. No mês passado, o primeiro-ministro Rishi Sunak anunciou que o Reino Unido sediará a primeira grande cúpula global sobre segurança da IA no outono.
Como membros permanentes do Conselho de Segurança, a China saudou o encontro.
Em breves comentários à Strong The One antes da reunião, o embaixador Zhang Jun disse que “recebeu a reunião” que “ajudaria a aumentar o entendimento sobre o assunto”.
Encerrando a sessão, o Sr. Cleverly disse: “Vamos trabalhar juntos para garantir a paz e a segurança enquanto cruzamos o limiar de um mundo desconhecido.”
.
