.
Você pode perceber pela maneira como ele fala sobre isso – Rishi Sunak está muito entusiasmado com os benefícios da IA.
Hoje ele falou sobre a transformação que isso trarásendo “tão abrangente quanto a Revolução Industrial”.
Política mais recente: PM diz que IA pode ser ‘co-piloto’ para empregos
Mas no púlpito estava estampado “decisões de longo prazo para um futuro melhor”, o primeiro-ministro queria enfrentar os riscos.
O governo, disse ele, tomou a “medida altamente incomum” de publicar a sua análise sobre os riscos de IA – incluindo aqueles para a segurança nacional.
Três relatórios foram preparados por uma equipe de consultores especializados – elaborados por start-ups de tecnologia, Whitehall e universidades – para estabelecer as bases para a Cúpula de Segurança de IA na próxima semana em Bletchley Park.
É uma leitura preocupante.
“Uma miscelânea de destruição”, brincou um jornalista político.
Maiores ameaças expostas
Os relatórios detalham os riscos que a IA pode representar devido ao uso indevido deliberado ou puramente por acidente.
Desde a capacitação de criminosos cibernéticos até vírus mais perigososà quebra da economia – e no caso mais extremo, à “perda de controlo” de alguma futura inteligência geral da IA, que é mais capaz do que os humanos em múltiplas tarefas – e pode, em última análise, destruir a sociedade.
O primeiro-ministro anunciou um novo Instituto de Segurança de IA que se dedicará a avaliar os riscos dos modelos de “IA de fronteira” mais poderosos que estão atualmente disponíveis – como o ChatGPT da OpenAI, o Llama da Meta ou o PaLM2 do Google – e aqueles que se espera que os substituam em breve. .
Mas até que ponto o Reino Unido está preparado para enfrentar as empresas de tecnologia em questões de segurança?
Perguntei a Sunak se ele obrigaria as empresas de tecnologia a entregar o código aos seus modelos, bem como os dados usados para treiná-los.
“Em um mundo ideal, o que você está dizendo está certo”, disse ele. “Esses são todos os tipos de conversas que precisamos ter com as empresas.”
Não é exatamente um sim.
Use o navegador Chrome para um player de vídeo mais acessível
A IA é uma ameaça existencial?
Risco x recompensa no cerne do dilema da IA
Sunak escolheu as palavras com cuidado porque a sua cimeira tem como objetivo encorajar as grandes empresas de tecnologia a quererem fazer negócios no Reino Unido.
O seu objectivo é desenvolver um ambiente regulamentar que não desencoraje o investimento ou a inovação.
Há outro motivo também.
Ao lidar com “riscos potenciais” em uma área de tecnologia em crescimento exponencial, é difícil saber o que você está realmente regulamentando.
Depois, há o fato de que a grande tecnologia é multinacional e elaborar um conjunto de regras aqui pode não ter sentido se o mesmo não se aplicar em outros lugares.
O melhor que muitos esperam da cimeira é que seja um exercício de aumento de visibilidade. O início de uma conversa.
Mas algumas pessoas no mundo da IA dizem que certas linhas vermelhas poderiam ser traçadas agora.
Proibição, por exemplo, da busca por modelos de inteligência artificial geral (AGI) que sejam capazes de realizar múltiplas tarefas e sejam superiores aos humanos em cada uma delas.
Poderiam ser elaboradas regras agora para evitar, em princípio, que um futuro modelo de IA que possa controlar a maioria dos robôs industriais do mundo fale com a IA que domina o nosso software de escritório ou conduz os nossos carros.
As empresas de tecnologia não escondem que desejam desenvolver a AGI. Eles também disseram que querem garantir que estão seguros e estão dispostos a serem regulamentados.
Consulte Mais informação:
Pedimos ao ChatGPT para prever o discurso do PM
Mas na próxima semana Rishi Sunak caminhará na corda bamba da tecnologia – encorajando o desenvolvimento do melhor que a IA tem para oferecer (de preferência no Reino Unido), sem limitar esse potencial parecendo alguém que quer regulamentar demasiado.
Poderemos sair da Cimeira de Segurança da IA com uma ideia melhor de quais são as maiores ameaças – e das opções que temos para as evitar, a fim de garantir que os benefícios genuínos da IA sejam concretizados.
Mas se você espera ver alguma decisão de longo prazo para um futuro melhor, não prenda a respiração.
.
