.
O governo do Reino Unido quer fazer um arremesso difícil para impulsionar sua economia e indústria com a IA e, como parte disso, está girando uma instituição que fundou há pouco mais de um ano para um propósito muito diferente. Hoje, o Departamento de Ciência, Indústria e Tecnologia anunciou que renomearia o Instituto de Segurança da AI ao “AI Security Institute”. Com isso, ele mudará de explorar principalmente áreas como risco existencial e viés em grandes modelos de linguagem, para foco na segurança cibernética, especificamente “fortalecendo as proteções contra os riscos que a IA representa para a segurança e o crime nacional”.
Além disso, o governo também anunciou uma nova parceria com a Anthropic. Nenhum serviço da empresa anunciou, mas o MOU indica que os dois “explorarão” usando o assistente de AI da Antrópico Claude em serviços públicos; e antropia terá como objetivo contribuir para o trabalho em pesquisa científica e modelagem econômica. E no Instituto de Segurança da AI, ele fornecerá ferramentas para avaliar os recursos de IA no contexto de identificar riscos de segurança.
“A IA tem o potencial de transformar a maneira como os governos servem a seus cidadãos”, disse o co-fundador e CEO da Antrópico, Dario Amodei, em comunicado. “Estamos ansiosos para explorar como Claude, assistente de IA da Anthropic, pode ajudar as agências governamentais do Reino Unido a melhorar os serviços públicos, com o objetivo de descobrir novas maneiras de tornar as informações e serviços vitais mais eficientes e acessíveis aos residentes do Reino Unido”.
O Antrópico é a única empresa anunciada hoje – coincidindo com uma semana de atividades de IA em Munique e Paris – mas não é a única que está trabalhando com o governo. Uma série de novas ferramentas que foram reveladas em janeiro foram todas alimentadas pelo Openai. (Na época, Peter Kyle, secretário de Estado da Tecnologia, disse que o governo planejava trabalhar com várias empresas de IA fundamentais, e é isso que o acordo antrópico está provando.)
A mudança do governo do Instituto de Segurança da IA-lançada há pouco mais de um ano com muita fanfarra-para a segurança da IA não deve ser uma surpresa.
Quando o governo trabalhista recém-instalado anunciou seu plano pesado de mudança de IA em janeiro, foi notável que as palavras “segurança”, “dano”, “existencial” e “ameaça” não tenham aparecido no documento.
Isso não foi uma supervisão. O plano do governo é iniciar o investimento em uma economia mais modernizada, usando a tecnologia e especificamente a IA para fazer isso. Ele quer trabalhar mais de perto com a Big Tech e também quer construir seus próprios grandes técnicos caseiros. As principais mensagens que está promovendo têm desenvolvimento, IA e mais desenvolvimento. Os funcionários públicos terão seu próprio assistente de IA chamado “Humphrey”, e estão sendo incentivados a compartilhar dados e usar a IA em outras áreas para acelerar como elas funcionam. Os consumidores receberão carteiras digitais para seus documentos governamentais e chatbots.
Então, os problemas de segurança da IA foram resolvidos? Não exatamente, mas a mensagem parece ser que eles não podem ser considerados às custas do progresso.
O governo alegou que, apesar da mudança de nome, a música permanecerá a mesma.
“As mudanças que estou anunciando hoje representam o próximo passo lógico na maneira como abordamos o desenvolvimento responsável da IA - ajudando -nos a liberar IA e aumentar a economia como parte de nosso plano de mudança”, disse Kyle em comunicado. “O trabalho do Instituto de Segurança da AI não mudará, mas esse foco renovado garantirá que nossos cidadãos – e os de nossos aliados – estejam protegidos daqueles que procurariam usar a IA contra nossas instituições, valores democráticos e modo de vida. ”
“O foco do Instituto desde o início tem sido a segurança e construímos uma equipe de cientistas focada em avaliar sérios riscos ao público”, acrescentou Ian Hogarth, que continua sendo o presidente do Instituto. “Nossa nova equipe de uso criminal e aprofundamento da parceria com a comunidade de segurança nacional marcam o próximo estágio de enfrentar esses riscos.“
Além disso, as prioridades definitivamente parecem ter mudado em torno da importância da “segurança da IA”. O maior risco que o Instituto de Segurança da IA nos EUA está contemplando agora, é que ele será desmontado. O vice -presidente dos EUA, JD Vance, telegrafou tanto no início desta semana durante seu discurso em Paris.
O Strong The One tem um boletim informativo focado na IA! Inscreva -se aqui para obtê -lo em sua caixa de entrada toda quarta -feira.
.
