.
A Inteligência Artificial (IA) pode ter o poder de estar por trás de avanços que “matam muitos humanos” em apenas dois anos, alertou o conselheiro de Rishi Sunak.
Matt Clifford expressou preocupação com a falta de regulamentação global para IA produtores e disse que, se não forem regulamentados, podem se tornar “muito poderosos” e difíceis de controlar pelos humanos, criando riscos significativos no curto prazo.
Ele fez os comentários em uma entrevista à TalkTV, citando o potencial da IA para criar armas cibernéticas e biológicas perigosas que podem levar a muitas mortes.
Tais preocupações foram compartilhadas por inúmeros especialistas na área, como evidenciado por uma carta publicada na semana passada, que pediu maior atenção e ação para mitigar os riscos da IA em paridade com pandemias ou guerra nuclear.
A carta rejeitando o uso prejudicial de inteligência artificial foi assinada por altos executivos de empresas líderes como Google DeepMind e Anthropic.
Geoffrey Hinton, popularmente conhecido como o “padrinho da IA”, também endossou a carta, alertando que, se a IA cair em mãos erradas, pode ser catastrófico para a humanidade.
Clifford, que é o presidente da Agência de Pesquisa e Invenção Avançada (ARIA), está atualmente aconselhando o primeiro-ministro no desenvolvimento da Força-Tarefa de Modelo de Fundação do governo, que se concentra na investigação de modelos de linguagem de IA, como ChatGPT e Google Bard.
“Acho que existem muitos tipos diferentes de riscos com IA e, muitas vezes, na indústria, falamos sobre riscos de curto e longo prazo, e os riscos de curto prazo são realmente muito assustadores”, disse Clifford à TalkTV.
“Você pode usar IA hoje para criar novas receitas para armas biológicas ou lançar ataques cibernéticos em larga escala. Essas são coisas ruins.
“O tipo de risco existencial sobre o qual eu acho que os autores das cartas estavam falando é… sobre o que acontece quando efetivamente criamos uma nova espécie, uma inteligência que é maior que a dos humanos.”
Clifford reconheceu que a previsão de computadores superando a inteligência humana dentro de dois anos estava no “extremo otimista do espectro”, mas disse que os sistemas de IA estão melhorando rapidamente e se tornando cada vez mais capazes.
Durante uma aparição no programa First Edition na segunda-feira, ele foi questionado sobre qual porcentagem ele daria sobre a chance de a humanidade ser exterminada pela IA, respondendo: “Acho que não é zero”.
Ele continuou: “Se voltarmos a coisas como armas biológicas ou ataques cibernéticos, você pode ter ameaças realmente muito perigosas aos humanos que podem matar muitos humanos – não todos os humanos – simplesmente de onde esperaríamos que os modelos estivessem em dois anos. ‘ tempo.
“Acho que o foco agora é como garantir que sabemos como controlar esses modelos, porque no momento não sabemos.”
Use o navegador Chrome para um player de vídeo mais acessível
Conheça o primeiro robô ultrarrealista do mundo
O especialista em tecnologia acrescentou que a produção de IA precisa ser regulamentada em escala global – não apenas pelos governos nacionais.
Os alertas sobre IA surgem quando os aplicativos que usam a tecnologia se tornaram virais, com usuários compartilhando imagens falsas de celebridades e políticos, enquanto os alunos usam o ChatPGT e outros “modelos de aprendizado de idiomas” para gerar redações de nível universitário.
Consulte Mais informação:
Exterminador do Futuro é culpado por preocupações públicas sobre IA
Sobre diminuir o tempo: a Apple ajustará a função de correção automática do iPhone
Conheça Ai-Da, o primeiro robô humanoide do mundo
A IA também está sendo usada de maneira positiva – como a execução de tarefas que salvam vidas, incluindo algoritmos que analisam imagens médicas de raios-X a ultrassonografias, ajudando assim os médicos a identificar e diagnosticar doenças como câncer e problemas cardíacos com mais precisão e rapidez.
Se aproveitado da maneira certa, Clifford disse que a IA pode ser uma força para o bem.
“Você pode imaginar a IA curando doenças, tornando a economia mais produtiva, ajudando-nos a chegar a uma economia neutra em carbono”, disse ele.
Mas o Partido Trabalhista tem instado os ministros a impedir que desenvolvedores de tecnologia trabalhem em ferramentas avançadas de IA, a menos que tenham recebido uma licença.
A secretária digital da sombra, Lucy Powell, que deve falar na conferência da TechUK hoje, disse que a IA deve ser licenciada de maneira semelhante aos medicamentos ou à energia nuclear.
“Esse é o tipo de modelo em que devemos pensar, onde você precisa ter uma licença para construir esses modelos”, disse ela ao The Guardian.
.
