.
TA cúpula de segurança de IA do Reino Unido abre em Bletchley Park esta semana e é o projeto apaixonante de Rishi Sunak: um primeiro-ministro desesperado por uma boa notícia enquanto seu governo encara o cano de uma derrota eleitoral esmagadora.
Sunak parece querer que o progresso na IA se torne seu legado duradouro. Na semana passada, ele fez um discurso sobre os riscos da IA se for usada como arma por terroristas e cibercriminosos, e publicou uma série de documentos sobre “IA de fronteira”, um termo da indústria para ferramentas generativas de IA, como ChatGPT e DALL-E. Ele até revelou um instituto de segurança de IA no Reino Unido.
A mensagem era clara. O astuto – embora muito atrás nas pesquisas – formado em MBA em Stanford e que gosta de passar férias na Califórnia teve, para usar uma frase favorita sua, “enfrentou” o problema. O povo britânico, segundo Sunak, “deveria ter a tranquilidade de saber que estamos desenvolvendo as proteções mais avançadas para IA de qualquer país do mundo”.
E agora o cume. Sunak atraiu 100 líderes do mundo da IA para Bletchley Park, incluindo representantes das maiores empresas de tecnologia e líderes de todo o mundo. Mas – e este é um grande mas – há muito poucos representantes da sociedade civil, para grande aborrecimento de mais de 100 signatários de uma carta aberta publicada na segunda-feira, que alertaram que a reunião pouco conseguirá com uma lista de convidados tão restrita.
É difícil discordar deles. A agenda da cimeira aborda fortemente os riscos existenciais de uma IA do tipo Terminator ganhar sensibilidade superinteligente. Mas muitos dos acadêmicos e ativistas que estudam o espaço há mais tempo do que ele tem sido o cavalo de batalha de Sunak, e que só assistirão à transmissão ao vivo porque não foram convidados para a festa, dizem que o risco é um espantalho projetado para desviar a atenção. os maiores problemas inerentes à IA.
Há problemas mais urgentes, alertam. Uma delas é a deturpação e preconceito contra as minorias. Digite “médico” ou “CEO” em um criador de imagens de IA generativo e você verá uma fileira de rostos masculinos brancos de meia-idade. E com o governo a afirmar que pretende que as forças policiais integrem a IA de vigilância nas suas operações, essas questões de representação têm ramificações no mundo real.
A outra lacuna na agenda do evento é o impacto ambiental da IA, que drena enormemente os recursos naturais do nosso planeta. O uso do poder pela IA provavelmente eclipsará o de muitos países grandes em questão de anos e, ainda assim, é pago apenas da boca para fora no documento de discussão.
A terminologia usada nos materiais para promover o evento, com a menção à IA de fronteira, parece fortemente distorcida em relação ao status quo. Ecoa o nome do Frontier Model Forum, um espaço de discussão para a indústria tecnológica e um órgão criado às pressas para fazer parecer que se trata de autopoliciamento para tentar evitar a regulamentação. O uso da linguagem da indústria sugere que Sunak permanecerá inerte diante das mais recentes inovações das grandes tecnologias. Em muitos aspectos, não é nenhuma surpresa. O primeiro-ministro não escondeu o facto de querer encorajar as empresas tecnológicas a desenvolver IA no Reino Unido, na esperança de colher os benefícios que esta pode oferecer à economia. Ele também deu a entender que não os incomodará muito sobre segurança. Na verdade, Sunak está tão interessado em fazer amizade com os representantes de tecnologia que está saindo com Musk no X, antigo Twitter, em um evento transmitido ao vivo depois do conclave.
Passei o último ano conversando com especialistas na área para um livro sobre o enorme impacto que esta onda de IA terá em nossas vidas, que será publicado no próximo ano. E no mês passado, vi representantes do governo do Reino Unido gabarem-se do papel central que a Grã-Bretanha terá na regulação da tecnologia nos próximos anos. Sentei-me numa sala de conferências em Amesterdão e observei o Visconde Camrose, o ministro britânico da IA e da propriedade intelectual, chamar a cimeira de “histórica”. Na semana passada assisti a uma transmissão ao vivo do vice-primeiro-ministro, Oliver Dowden, divulgando o evento.
Mas eu vi quem está do lado das empresas de tecnologia. Eu vi quem está do lado do governo. E vi a inteligência feroz das pessoas que ficaram de fora da cimeira, no frio deste mês de Novembro. Não estou prendendo a respiração por resultados positivos e por um novo acordo de IA que atenda aos desafios que enfrentamos.
.
