.
O governo do Reino Unido acolherá a primeira grande cimeira global sobre segurança da IA no início do próximo mês, enquanto o mundo tenta lidar com os desafios criados pela inteligência artificial.
O IA O Safety Summit acontecerá nos dias 1 e 2 de novembro em Bletchley Park, em Buckinghamshire – o local onde o matemático Alan Turing decifrou o código Enigma da Alemanha nazista durante a Segunda Guerra Mundial.
primeiro ministro Rishi Sunak deixou claro que deseja que a Grã-Bretanha se torne um líder global na regulamentação da IA, mas há uma agenda maior no centro desta conferência.
Vejamos quais são seus objetivos, o que será discutido, quem deverá estar presente e o que foi dito sobre isso até agora.
Quais são os objetivos
O foco está nas ameaças que a IA representa e em como mitigá-las.
Existem duas categorias específicas de risco que serão focadas:
Riscos de uso indevido – Por exemplo, quando um malfeitor é auxiliado por novas capacidades de IA em ataques biológicos ou cibernéticos, no desenvolvimento de tecnologias perigosas ou em interferências críticas em sistemas.
Simplificando, o governo quer ser capaz de lidar com criminosos que utilizam IA para cometer os seus crimes.
Os líderes dizem que isto pode causar danos significativos, até mesmo a perda de vidas, se não for controlado.
Riscos de perda de controle – O governo diz que estes riscos podem surgir “de sistemas avançados que procuraríamos estar alinhados com os nossos valores e intenções”.
Por outras palavras, a mesma IA que criamos para nos ajudar pode voltar-se contra nós.
O governo também definiu cinco objetivos principais da cimeira:
• Uma compreensão partilhada dos riscos colocados pela IA de fronteira e da necessidade de acção.
• Um processo futuro para a colaboração internacional em matéria de segurança fronteiriça da IA, incluindo a melhor forma de apoiar os quadros nacionais e internacionais.
• Medidas apropriadas que organizações individuais devem tomar para aumentar a segurança da IA de fronteira.
• Áreas para potencial colaboração na investigação de segurança da IA, incluindo a avaliação das capacidades dos modelos e o desenvolvimento de novas normas para apoiar a governação.
• Demonstrar como garantir o desenvolvimento seguro da IA permitirá que a IA seja utilizada para o bem a nível global.
O que será (e não será) discutido
Os participantes irão considerar os riscos da IA – especificamente o uso indevido e a perda de controle – e discutir como eles podem ser mitigados através da colaboração internacional.
O governo afirma que a cimeira proporciona o espaço para um diálogo internacional sobre como as nações podem trabalhar em conjunto para enfrentar os “novos desafios que estes riscos colocam, combater a utilização indevida de modelos por intervenientes não estatais e promover as melhores práticas”.
Porém, a IA é uma tecnologia complexa e o governo deixou claro que a cimeira tem uma agenda muito específica.
Reconheceu riscos sociais mais amplos no que diz respeito à IA, como a desinformação, o preconceito e a discriminação, e o potencial para a automatização em massa (a IA assume o controlo de trabalhos realizados por pessoas).
Mas estes problemas não serão discutidos em profundidade na cimeira, porque o governo sente que já estão a ser abordados tanto a nível nacional como internacional e não quer esforços “duplicados”.
O governo também reconheceu que a IA pode oferecer “enormes oportunidades” para “transformar ainda mais quase todos os aspectos da nossa economia e sociedade”.
Os prós da IA serão mencionados em alguns momentos da cúpula, mas não estarão na vanguarda.
Use o navegador Chrome para um player de vídeo mais acessível
Sunak promete enfrentar os medos em torno da IA
Como a cúpula será estruturada
Primeiro dia (1º de novembro)
A secretária de Ciência, Inovação e Tecnologia, Michelle Donelan, fará comentários iniciais, seguidos de comentários de “nações na fronteira do desenvolvimento da IA” – as nações e os palestrantes ainda não foram confirmados pelo governo.
Palestrantes da Frontier AI Taskforce do Reino Unido, criada no início deste ano para identificar e avaliar os riscos na vanguarda da IA, subirão então ao palco.
Terá então lugar uma série de mesas redondas entre governos, empresas tecnológicas e académicos sobre a compreensão dos riscos que a IA apresenta e como melhorar a segurança.
O dia terminará com um painel de discussão sobre o potencial que a IA apresenta para transformar a educação para as gerações futuras, seguido de comentários finais da Sra. Donelan.
Michelle Donelan
Segundo dia (2 de novembro)
Sunak reunirá um pequeno grupo de funcionários governamentais, empresas e especialistas para discutir mais detalhadamente quais medidas podem ser tomadas para lidar com os riscos da IA.
O governo afirma, ao mesmo tempo, que Donelan falará com os seus homólogos internacionais para chegar a acordo sobre os próximos passos nos esforços para garantir que a IA seja utilizada como uma força para o bem.
Consulte Mais informação:
Os 12 desafios que ‘devem ser enfrentados’ com IA
PM promete enfrentar ‘perigos’ em torno da IA conforme artigo histórico publicado
Quem estará lá?
Downing Street disse estar “confiante de que os principais participantes” participarão da cúpula, apresentando-a como “a primeira vez que parceiros internacionais, especialistas em IA, empresas de tecnologia e sociedade civil se reunirão desta forma”.
O porta-voz oficial do primeiro-ministro disse que não iriam entrar em “especulações” sobre a lista de convidados, embora “caberá a outros países definir a sua presença”.
Esses comentários foram feitos após relatos de que o chanceler alemão, Olaf Scholz, poderia recusar o convite, potencialmente levando outros líderes a recusarem a chance de comparecer.
Também houve dúvidas sobre se as autoridades chinesas deveriam ser autorizadas a participar na cimeira, devido a alegadas espionagem de Pequim aos governos ocidentais.
O secretário de Relações Exteriores, James Cleverly, confirmou que autoridades chinesas foram convidadas no mês passado, dizendo: “Não podemos manter o público do Reino Unido protegido dos riscos da IA se excluirmos uma das nações líderes em tecnologia de IA”.
Autoridades do Reino Unido disseram que esperam a presença de autoridades chinesas, mas a China ainda não comentou publicamente.
O que sabemos é que se espera que haja cerca de 100 convidados no Bletchley Park, incluindo o CEO do Google DeepMind, Demis Hassabis, e a vice-presidente dos EUA, Kamala Harris.
Espera-se que o vice-presidente, que tem falado abertamente sobre as questões colocadas pela IA, fale na cimeira.
Kamala Harris
O que foi dito sobre a cimeira até agora?
Talvez os comentários mais diretos tenham vindo do Departamento de Ciência, Inovação e Tecnologiaque diz que a IA colocou os humanos numa “encruzilhada”.
Ao apresentar a cimeira, um comunicado do departamento dizia: “As tecnologias de IA estão a evoluir a uma velocidade sem precedentes. Em breve, poderão ser lançados modelos muitas vezes mais poderosos do que os que estão actualmente disponíveis.
“As capacidades destes modelos são muito difíceis de prever – por vezes até para aqueles que os constroem – e, por defeito, poderiam ser disponibilizadas a uma vasta gama de intervenientes, incluindo aqueles que nos desejam prejudicar.
“Este ritmo de mudança significa que são necessárias ações urgentes em matéria de segurança da IA. Estamos numa encruzilhada na história da humanidade e virar para o outro lado seria uma monumental oportunidade perdida para a humanidade.”
O primeiro ministro disse: “A IA tem um potencial incrível para transformar as nossas vidas para melhor. Mas precisamos de garantir que seja desenvolvida e utilizada de uma forma segura e protegida.
“Repetidas vezes ao longo da história inventámos novas tecnologias que mudam paradigmas e aproveitámo-las para o bem da humanidade. É isso que devemos fazer novamente.
“Nenhum país pode fazer isto sozinho. Isto exigirá um esforço global.
“Mas com a nossa vasta experiência e compromisso com um sistema internacional aberto e democrático, o Reino Unido estará unido aos nossos aliados para liderar o caminho.”
Matt Cliffordum investidor em tecnologia e um dos principais organizadores da cimeira, disse: “Não é um parlamento. Não estamos a fazer leis. Não estamos a fazer tratados.
“Estamos tentando trazer pessoas diferentes para a conversa, com opiniões muito diferentes.”
Demis Hassabisexecutivo-chefe do Google DeepMind, disse: “A IA traz oportunidades incríveis, mas também desafios para o mundo, e a cooperação internacional é essencial para garantir que esta tecnologia seja desenvolvida de forma segura e responsável para o benefício de todos.
“A cimeira global sobre segurança da IA desempenhará um papel fundamental ao reunir o governo, a indústria, o meio académico e a sociedade civil, e estamos ansiosos por trabalhar em estreita colaboração com o governo do Reino Unido para ajudar a tornar estes esforços um sucesso”.
Dario Amodeiexecutivo-chefe da empresa de pesquisa e segurança de IA Antrópica, disse: “É profundamente importante tornarmos a IA segura.
“Há muito trabalho que ainda precisa ser feito. Por isso elogiamos o primeiro-ministro por unir o mundo para encontrar respostas e ter conversas inteligentes”.
Como você pode obter atualizações do Summit
O governo disse que publicará as conclusões de cada reunião no final da cimeira.
Você deve ser capaz de encontrar esses relatórios aqui mais tarde.
.
