.
Os conselheiros de Rishi Sunak estão tentando chegar a um acordo entre os líderes mundiais sobre uma declaração alertando sobre os riscos da inteligência artificial enquanto finalizam a agenda para a cúpula de segurança da IA no próximo mês.
Autoridades de Downing Street têm viajado pelo mundo conversando com seus homólogos, da China à UE e aos EUA, enquanto trabalham para chegar a acordo sobre as palavras a serem usadas num comunicado na conferência de dois dias.
Mas é pouco provável que cheguem a acordo sobre uma nova organização internacional para examinar a IA de ponta, apesar do interesse do Reino Unido em atribuir ao grupo de trabalho governamental para a IA um papel global.
A cimeira de Sunak sobre IA produzirá um comunicado sobre os riscos dos modelos de IA, fornecerá uma actualização sobre as directrizes de segurança mediadas pela Casa Branca e terminará com países “afins” a debater como as agências de segurança nacionais podem examinar minuciosamente as versões mais perigosas da tecnologia.
A possibilidade de alguma forma de cooperação internacional em IA de ponta que pode representar uma ameaça à vida humana também será discutida no último dia da cimeira, nos dias 1 e 2 de Novembro, em Bletchley Park, de acordo com um projecto de agenda visto pelo Guardian. .
O projecto refere-se à criação de um “Instituto de Segurança da IA” para permitir o escrutínio relacionado com a segurança nacional dos modelos de IA de fronteira – o termo para as versões mais avançadas da tecnologia.
No entanto, na semana passada, o representante do primeiro-ministro na cimeira minimizou a criação de tal organização, embora tenha enfatizado que “a colaboração é fundamental” na gestão dos riscos fronteiriços da IA.
Num post da semana passada no X, anteriormente conhecido como Twitter, Matt Clifford escreveu: “Não se trata de criar uma única nova instituição internacional. A nossa opinião é que a maioria dos países desejará desenvolver as suas próprias capacidades neste espaço, particularmente para avaliar modelos de fronteira.”
3/ Como seria isso? *Não* se trata de criar uma única nova instituição internacional. A nossa opinião é que a maioria dos países desejará desenvolver as suas próprias capacidades neste espaço, particularmente para avaliar modelos de fronteira
-Matt Clifford (@matthewclifford) 3 de outubro de 2023
O Reino Unido está liderando o processo de IA de fronteira até agora, tendo estabelecido uma força-tarefa de IA de fronteira sob o comando do empresário de tecnologia Ian Hogarth. O vice-primeiro-ministro, Oliver Dowden, disse no mês passado que espera que o grupo de trabalho “possa evoluir para se tornar uma estrutura institucional permanente, com uma oferta internacional sobre segurança de IA”.
Clifford anunciou na semana passada que cerca de 100 pessoas participariam na cimeira, provenientes de ministros de todo o mundo, executivos-chefes de empresas, académicos e representantes da sociedade civil internacional.
De acordo com o projecto de agenda, a cimeira inclui uma discussão em três vertentes no primeiro dia, baseada numa discussão sobre os riscos associados aos modelos de fronteira, uma discussão sobre a mitigação desses riscos e uma discussão sobre as oportunidades desses modelos.
Isto seria seguido por um breve comunicado a ser assinado pelas delegações dos países que expressa um consenso sobre os riscos e oportunidades dos modelos fronteiriços.
As empresas participantes da cúpula, que deverão incluir o desenvolvedor do ChatGPT OpenAI, Google e Microsoft, publicarão detalhes sobre como estão aderindo aos compromissos de segurança de IA acordados com a Casa Branca em julho. Esses compromissos incluem testes externos de segurança de modelos de IA antes de serem lançados e um escrutínio contínuo desses sistemas quando estiverem em operação.
De acordo com uma reportagem do Politico da semana passada, a Casa Branca está a actualizar os compromissos voluntários – com referência à segurança, à cibersegurança e à forma como os sistemas de IA podem ser utilizados para fins de segurança nacional – e poderá fazer um anúncio este mês.
O segundo dia contará com um encontro mais pequeno de cerca de 20 pessoas, incluindo países com ideias semelhantes, de acordo com o projecto de agenda, com uma conversa sobre onde a IA poderá estar dentro de cinco anos e oportunidades positivas de IA ligadas aos objectivos de desenvolvimento sustentável. Isso incluiu uma discussão sobre um instituto de segurança.
Em seu tópico no X, Clifford disse que o Reino Unido continua interessado em colaborar com outros países na segurança da IA.
“A colaboração é fundamental para garantir que possamos gerir os riscos da Frontier AI – com a sociedade civil, académicos, especialistas técnicos e outros países”, escreveu ele.
Um porta-voz do governo disse: “Fomos muito claros que estas discussões envolverão a exploração de áreas para potencial colaboração na investigação de segurança da IA, incluindo avaliação e padrões.
“As discussões internacionais sobre este trabalho já estão em curso e registam bons progressos, incluindo a discussão de como podemos colaborar entre países e empresas e com especialistas técnicos para avaliar modelos de fronteira. Há muitas maneiras diferentes de fazer isso e estamos ansiosos para convocar esta conversa em novembro, na cúpula.”
.
