.
Rishi Sunak anunciou que o Reino Unido sediará uma cúpula global sobre segurança em inteligência artificial no outono, à medida que crescem os temores de que o rápido avanço da tecnologia possa sair do controle.
As preocupações com a segurança estão aumentando após os avanços na IA generativa, que pode produzir textos, imagens e até comandos de voz convincentes, com executivos de tecnologia como Elon Musk entre as figuras que expressam alarme. Aqui está uma olhada no que a cúpula pode alcançar.
Qual é o objetivo da cimeira?
O primeiro-ministro mudou seu tom sobre IA nas últimas semanas. Tendo sido extremamente otimista sobre as oportunidades que ela cria, ele começou a falar sobre seus “riscos existenciais”.
Sunak está tentando posicionar o Reino Unido como o centro natural de esforços para regular o setor em escala global, um que pode fornecer uma ponte entre os EUA e a China e oferecer uma alternativa ao que alguns consideram ser a mão pesada da UE abordagem.
Descrito como o “primeiro grande encontro global sobre segurança de IA”, o governo diz que vai considerar os riscos que a tecnologia representa e discutir como eles podem ser mitigados por meio de “ação coordenada internacionalmente”.
É necessária uma ação coordenada internacionalmente?
Os profissionais da indústria têm preocupações sobre a IA e emitiram alertas sobre os perigos que ela representa. Elon Musk foi um dos mais de 50.000 signatários de uma carta em março que pedia uma pausa imediata no desenvolvimento de IAs “gigantes”, juntamente com a criação de “sistemas robustos de governança de IA”.
A preocupação com uma possível ameaça existencial de um sistema que a intervenção humana não pode controlar pela intervenção humana não é universal. Muitos na indústria de tecnologia argumentam que o foco deve ser mais imediato, por exemplo, concentrando-se no potencial de IA generativa, que pode fornecer imitações plausíveis de texto, imagens e voz que podem produzir desinformação desestabilizadora durante as eleições.
Como seria uma estrutura global?
O tratado de não proliferação de armas nucleares mediado pela ONU, que entrou em vigor em 1970, é um exemplo de uma tentativa global de mitigar uma ameaça existencial. O tratado, do qual 191 Estados são signatários, compromete aqueles que possuem Estados com armas nucleares a não ajudar aqueles que não os adquirirem ou construírem. A Agência Internacional de Energia Atômica supervisiona a conformidade por meio de inspeções. O tratado também promove a disseminação de usos pacíficos da energia nuclear.
A carta pedindo uma pausa de seis meses no desenvolvimento da IA oferece uma visão sobre o que pode acontecer em tal estrutura. Ele exige autoridades reguladoras dedicadas, financiamento público para pesquisa de segurança e supervisão e rastreamento de sistemas poderosos.
Uma estrutura de estilo de armas nucleares teria sucesso com a IA?
Tal como acontece com as armas nucleares, a tecnologia que tal estrutura procuraria conter já está por aí e está se proliferando. O fenômeno chatbot ChatGPT alcançou 100 milhões de usuários dois meses após seu lançamento e uma agora famosa imagem falsa do papa vestindo uma jaqueta Balenciaga sublinhou o poder da IA generativa para enganar.
Um dos engenheiros do Google alertou no mês passado que a empresa poderia perder para a tecnologia de IA de código aberto. Esses desenvolvedores liberam seu trabalho para qualquer pessoa usar, melhorar ou adaptar como bem entenderem, tornando difícil para um framework restringir o uso de modelos de código aberto.
após a promoção do boletim informativo
A China provavelmente será excluída da cúpula do Reino Unido, que será aberta a empresas de tecnologia e “países com interesses semelhantes”. Isso indica que uma estrutura internacional para colocar barreiras em torno do desenvolvimento da IA não terá a participação de uma potência global de tecnologia e IA.
O que já está acontecendo na regulamentação da IA?
A UE fez avanços significativos na área e está propondo uma legislação que será vista como um marco para a regulamentação da IA, confirmando o status do bloco como um importante regulador de tecnologia.
O white paper de IA do Reino Unido estabelece um conjunto de princípios aos quais o setor deve aderir, mas oferece pouco em termos de regras concretas para governá-lo. Os ministros decepcionaram alguns especialistas ao resistir à ideia de criar um novo regulador para focar exclusivamente na IA.
O G7 concordou em criar um fórum intergovernamental chamado “Hiroshima AI process” para debater questões relacionadas a ferramentas de rápido crescimento.
.
