.
As preocupações de que criminosos ou terroristas possam usar a inteligência artificial para causar destruição em massa dominarão a discussão numa cimeira de líderes mundiais, à medida que cresce a preocupação em Downing Street sobre o poder da próxima geração de avanços tecnológicos.
As autoridades britânicas estão a percorrer o mundo antes de uma cimeira de segurança da IA em Bletchley Park, em Novembro, enquanto procuram construir consenso sobre uma declaração conjunta que alertaria sobre os perigos de actores desonestos que utilizam a tecnologia para causar mortes em grande escala.
Algumas pessoas ao redor do primeiro-ministro, Rishi Sunak, temem que a tecnologia em breve seja poderosa o suficiente para ajudar indivíduos a criar armas biológicas ou a escapar completamente do controle humano.
As autoridades estão cada vez mais preocupadas com essas possibilidades e com a necessidade de regulamentação para as mitigar, após recentes discussões com executivos seniores da tecnologia. Na semana passada, o cientista responsável por uma carta histórica apelando a uma pausa no desenvolvimento de sistemas poderosos de IA disse que os executivos da tecnologia concordaram, em privado, com o conceito de um hiato, mas sentiram que estavam presos numa corrida armamentista de IA com os rivais.
Uma pessoa informada sobre as conversas da cúpula disse: “O objetivo da cúpula será alertar sobre os riscos da ‘IA de fronteira’, é nisso que Downing Street está se concentrando mais neste momento”. Frontier AI é um termo usado para se referir aos modelos de IA mais avançados que podem ser perigosos o suficiente para representar um risco à vida humana.
O governo confirmou na manhã de segunda-feira que a cimeira se concentraria em riscos como o uso indevido de IA para criar armas biológicas ou ataques cibernéticos e o surgimento de sistemas avançados que escapam ao controlo humano.
“Há duas áreas nas quais a cúpula se concentrará particularmente: riscos de uso indevido, por exemplo, quando um malfeitor é auxiliado por novas capacidades de IA em ataques biológicos ou cibernéticos, e riscos de perda de controle que poderiam surgir de sistemas avançados que buscaríamos estar alinhados com nossos valores e intenções”, afirmou o governo em comunicado.
Sunak tem alertado sobre os riscos representados pela IA há vários meses, instando a comunidade internacional a adotar barreiras de proteção para evitar seu uso indevido.
Na sexta-feira, o vice-primeiro-ministro, Oliver Dowden, disse aos líderes mundiais na assembleia geral da ONU: “Como as empresas tecnológicas e os intervenientes não estatais têm frequentemente influência e proeminência à escala nacional na IA, este desafio requer uma nova forma de multilateralismo”.
As autoridades ficaram alarmadas com os recentes desenvolvimentos nos modelos de IA. No ano passado, uma ferramenta de IA levou apenas seis horas para sugerir 40 mil moléculas potencialmente letais diferentes, algumas das quais eram semelhantes ao VX, o agente nervoso mais potente já desenvolvido.
No início deste ano, os pesquisadores descobriram que o ChatGPT era capaz de mentir para um ser humano para atingir um objetivo específico. O chatbot de IA convenceu uma pessoa a resolver uma ferramenta “Captcha” projetada para eliminar robôs online depois de dizer ao humano que era uma pessoa com deficiência visual que precisava de ajuda para acessar um site.
Fontes governamentais temem que um criminoso ou terrorista possa usar a IA para ajudá-los a descobrir os ingredientes de uma arma biológica, antes de os enviar para um laboratório robótico onde podem ser misturados e despachados sem qualquer supervisão humana.
Esse risco aumentará exponencialmente em breve, acreditam alguns, com as empresas já a gastar centenas de milhões de libras em processadores muito mais poderosos para treinar a próxima geração de ferramentas de IA.
Outra preocupação significativa é o surgimento da “inteligência artificial geral”, um termo que se refere a um sistema de IA que pode executar autonomamente qualquer tarefa a nível humano ou acima do humano – e pode representar um risco existencial para os humanos. Há temores de que a AGI esteja a alguns anos de distância.
A abordagem existencial do risco AGI, no entanto, também foi criticada por especialistas em IA, que argumentam que a ameaça é exagerada, resulta na ignorância de preocupações como a desinformação e corre o risco de consolidar o poder das principais empresas tecnológicas através da introdução de regulamentação que exclui os recém-chegados. Na semana passada, um executivo sênior de tecnologia disse aos legisladores dos EUA que o conceito de AGI incontrolável era “ficção científica”.
No entanto, Sunak pretende aproveitar a cimeira para centrar a atenção nos riscos existenciais, em vez das possibilidades mais imediatas de que a IA possa ser utilizada para criar imagens falsas ou que possa resultar em resultados discriminatórios se for utilizada para ajudar a tomar decisões de políticas públicas.
Benedict Macon-Cooney, estratega-chefe de políticas do Instituto Tony Blair, que publicou recentemente um relatório político sobre IA, afirmou: “Biossegurança, sistemas de armas autónomos – estas são coisas para as quais temos de garantir que obtemos respostas. Muitos na indústria da IA disseram aos políticos que estes são riscos reais. A questão foi colocada aos políticos e eles devem encontrar uma resposta.”
O primeiro-ministro também se orienta pelo que é diplomaticamente possível, dizem as fontes.
Vários líderes mundiais deverão participar na cimeira, incluindo o primeiro-ministro do Canadá, Justin Trudeau, e o presidente francês, Emmanuel Macron. O Reino Unido convidou a China a participar, mas está a considerar permitir que autoridades de Pequim participem apenas numa parte da cimeira, devido à preocupação com a espionagem chinesa nas democracias ocidentais.
As autoridades britânicas têm viajado pelo mundo nos últimos dias para testar a possibilidade de alguma forma de acordo no final da cimeira. O Reino Unido deseja ter uma declaração formal que os líderes possam assinar posteriormente, bem como um compromisso de realizar outras cimeiras semelhantes no futuro.
A melhor forma de conseguir um acordo entre um conjunto tão diversificado de países, acreditam as autoridades, é centrar-se nos intervenientes não estatais, em vez de tentar ditar como os países desenvolvem a sua própria tecnologia.
Downing Street está gastando £ 100 milhões em uma nova força-tarefa de IA para ajudar a testar algoritmos à medida que são desenvolvidos. As autoridades britânicas planeiam aproveitar a cimeira para instar as empresas de todo o mundo a enviarem as suas ferramentas de IA ao Reino Unido para avaliação antes de as implementarem de forma mais ampla.
Dowden disse na sexta-feira: “Somente os estados-nação podem fornecer garantias de que as preocupações de segurança nacional mais significativas foram dissipadas”.
Um porta-voz do governo disse que a IA tem “um enorme potencial para mudar todos os aspectos de nossas vidas” e que a força-tarefa Frontier AI foi criada para garantir que a tecnologia fosse desenvolvida com segurança e responsabilidade, com a cúpula de segurança de IA também analisando “uma série de riscos possíveis”. .
.
