.
Na quarta-feira, o primeiro-ministro do Reino Unido, Rishi Sunak, anunciou que o país sediará “a primeira grande cúpula global sobre segurança da IA” neste outono. Espera reunir “países-chave, empresas de tecnologia líderes e pesquisadores” para avaliar e monitorar os riscos da inteligência artificial.
No ano passado, a alta taxa percebida de progresso tecnológico em aprendizado de máquina gerou preocupações sobre a regulamentação governamental adequada. Essas preocupações foram recentemente ampliadas por alguns especialistas em IA, comparando as ameaças potenciais representadas pela IA às de pandemias ou armas nucleares. “IA” também tem sido um termo extremamente movimentado nos negócios recentemente. Nesse sentido, o governo do Reino Unido quer intervir e assumir um papel de liderança no campo.
“Avanços da IA continuam a melhorar nossas vidas – desde permitir que pessoas paralisadas caminhem até descobrir antibióticos que matam superbactérias”, disse o governo do Reino Unido em um comunicado à imprensa. “Mas o desenvolvimento da IA é extraordinariamente rápido e esse ritmo de mudança requer liderança ágil. É por isso que o Reino Unido está agindo, porque temos o dever global de garantir que essa tecnologia seja desenvolvida e adotada com segurança e responsabilidade”.
O comunicado de imprensa um tanto vago não especificou uma data, formato organizacional ou local para a cúpula.
Antes da futura cúpula, Sunak recentemente conduziu conversas com vários líderes do setor, incluindo CEOs de laboratórios de IA como OpenAI, DeepMind e Anthropic. O Reino Unido diz que o próximo evento deve se basear nas discussões recentes sobre segurança de IA realizadas no G7, OCDE e Parceria Global em IA. Além disso, o primeiro briefing do Conselho de Segurança da ONU sobre o impacto da IA na paz e segurança internacional está planejado para julho.
“Nenhum país pode fazer isso sozinho”, disse Sunak no comunicado à imprensa. “Isso exigirá um esforço global. Mas com nossa vasta experiência e compromisso com um sistema internacional aberto e democrático, o Reino Unido estará junto com nossos aliados para liderar o caminho.”
Quem será convidado?
No anúncio da cúpula, o governo do Reino Unido não revelou formalmente uma lista de convidados. Mas o comunicado à imprensa discute com entusiasmo as empresas OpenAI, DeepMind, Anthropic, Palantir, Microsoft e Faculty como exemplos de negócios adjacentes ao aprendizado de máquina que possuem escritórios no Reino Unido. Ele também cita executivos dessas empresas, incluindo Alexander Karp, cofundador e CEO da Palantir:
“Estamos orgulhosos de estender nossa parceria com o Reino Unido, onde empregamos quase um quarto de nossa força de trabalho global. Londres é um ímã para os melhores talentos de engenharia de software do mundo e é a escolha natural como centro para nossa esforços para desenvolver as soluções de software de inteligência artificial mais eficazes e éticas disponíveis.”
Esta lista de potenciais participantes da cúpula já atraiu críticas de alguns setores. Rachel Coldicutt, que dirige a consultoria de pesquisa de equidade e justiça social Careful Industries, com sede em Londres, tuitou“Este comunicado de imprensa para o Reino Unido AI Safety Summit apresenta DeepMind, Anthropic, Palantir, Microsoft e corpo docente e não uma única voz da sociedade civil ou acadêmica, e ninguém com experiência vivida de danos algorítmicos.”
Das empresas mencionadas, a Palantir, em particular, tem sido objeto de controvérsia, com seus laços estreitos com os setores militar e de defesa levantando questões sobre o potencial uso indevido da IA. A tecnologia da empresa foi implantada na aplicação da lei e vigilância, levando a questões de privacidade e liberdades civis.
Dr. Sasha Luccioni de Hugging Face expressou preocupações semelhantes no Twitter: “A ‘primeira grande cúpula global sobre segurança de IA’ com empresas como Palantir (militar/defesa) e DeepMind (X-risk/AGI) — muito promissora para abordar os riscos reais e atuais da IA (como seu uso nas forças armadas) .” Seu sarcasmo destaca a desconexão percebida entre os objetivos de segurança proclamados da cúpula e as atividades de algumas das empresas anunciadas no anúncio.
Depois de várias cartas de alerta sobre o risco de IA este ano de grandes nomes da tecnologia, a “segurança da IA” se tornou um tópico delicado, com muito debate sobre se os sistemas de aprendizado de máquina representam um risco existencial para a humanidade. Simultaneamente, os proponentes da ética da IA como Luccioni, a quem entrevistamos anteriormente sobre este tópico, sentem que não está sendo dada atenção suficiente às aplicações prejudiciais da IA que já existem hoje.
Embora o governo do Reino Unido enfatize os pontos de discussão populares sobre o risco da IA em seu comunicado à imprensa, essas críticas dos defensores da ética da IA destacam uma demanda crescente por perspectivas mais abrangentes e diversas em eventos que buscam elaborar regulamentação governamental sobre a IA. A comunidade global de IA, sem dúvida, estará observando de perto para ver se o evento organizado no Reino Unido pode oferecer uma discussão inclusiva e produtiva sobre os riscos da IA que vai além do habitual operações fotográficas com os novos titãs da indústria.
.
