.
Nem um único departamento de Whitehall registrou o uso de sistemas de inteligência artificial desde que o governo disse isso se tornaria obrigatórioprovocando alertas de que o sector público está “voando às cegas” sobre a implantação de tecnologia algorítmica que afecta milhões de vidas.
A IA já está a ser utilizada pelo governo para informar decisões sobre tudo, desde pagamentos de benefícios até à fiscalização da imigração, e os registos mostram que organismos públicos adjudicaram dezenas de contratos para IA e serviços algorítmicos. Um contrato para software de reconhecimento facial, no valor de até 20 milhões de libras, foi colocado à disposição na semana passada por um órgão de compras policial criado pelo Ministério do Interior, reacendendo preocupações sobre “vigilância biométrica em massa”.
Mas os detalhes de apenas nove sistemas algorítmicos foram até agora submetidos a um registro públicosem nenhum de um número crescente de programas de IA utilizados no sistema de bem-estar social, entre eles pelo Ministério do Interior ou pela polícia. A escassez de informação ocorre apesar de o governo ter anunciado em Fevereiro deste ano que a utilização do registo de IA seria agora “um requisito para todos os departamentos governamentais”.
Especialistas ter avisado que, se adotada de forma acrítica, a IA traz potenciais danos, com exemplos recentes e proeminentes de sistemas de TI que não funcionam como pretendido, incluindo o software Horizon dos Correios. A IA em uso em Whitehall varia desde o sistema Copilot da Microsoft, que está sendo amplamente testado, até verificações automatizadas de fraudes e erros no sistema de benefícios. Um recente anúncio de contrato de IA emitido pelo Departamento de Trabalho e Pensões (DWP) descreveu “um interesse crescente dentro do DWP, que reflete o do governo e da sociedade em geral”.
Peter Kyle, secretário de Estado da Ciência e Tecnologia, admitiu que o setor público “não levou suficientemente a sério a necessidade de ser transparente na forma como o governo utiliza algoritmos”.
Questionado sobre a falta de transparência, Kyle disse ao Guardian: “Aceito que se o governo estiver a utilizar algoritmos em nome do público, o público tem o direito de saber. O público precisa sentir que os algoritmos existem para servi-los e não o contrário. A única maneira de fazer isso é ser transparente sobre seu uso.”
Big Brother Watch, um grupo de campanha pelos direitos de privacidade, disse que o surgimento do contrato de reconhecimento facial da polícia, apesar Alerta dos deputados da falta de legislação para regular o seu uso, foi “mais um exemplo da falta de transparência do governo sobre o uso da tecnologia de IA”.
“O uso secreto de IA e algoritmos para impactar a vida das pessoas coloca em risco os direitos de dados de todos. Os departamentos governamentais devem ser abertos e honestos sobre a forma como utilizam esta tecnologia”, disse Madeleine Stone, diretora de defesa.
O Ministério do Interior não quis comentar.
O Instituto Ada Lovelace alertou recentemente que os sistemas de IA podem parecer reduzir os encargos administrativos, “mas podem prejudicar gravemente a confiança pública e reduzir os benefícios públicos se as previsões ou resultados que produzem forem discriminatórios, prejudiciais ou simplesmente ineficazes”.
Imogen Parker, diretora associada do órgão de pesquisa de dados e IA, disse: “A falta de transparência não apenas mantém o público no escuro, mas também significa que o setor público está voando às cegas na adoção da IA. A não publicação de registos de transparência algorítmica está a limitar a capacidade do sector público de determinar se estas ferramentas funcionam, aprender com o que não funciona e monitorizar os diferentes impactos sociais destas ferramentas.”
Apenas três algoritmos foram registados no registo nacional desde o final de 2022. Trata-se de um sistema utilizado pelo Gabinete para identificar registos digitais de valor histórico de longo prazo, sendo uma câmara alimentada por IA utilizada para analisar passagens de peões em Cambridge, e um sistema para analisar avaliações de pacientes sobre os serviços do NHS.
Mas desde fevereiro houve 164 contratos com órgãos públicos que mencionam IA, segundo a Tussell, empresa que monitora contratos públicos. As empresas tecnológicas, incluindo a Microsoft e a Meta, estão a promover vigorosamente os seus sistemas de IA em todo o governo. O Google Cloud financiou um relatório recente que afirmava que uma maior implantação de IA generativa poderia libertar até 38 mil milhões de libras em todo o setor público até 2030. Kyle chamou-lhe “um poderoso lembrete de como a IA generativa pode ser revolucionária para os serviços governamentais”.
Nem toda a IA mais recente do setor público envolve dados sobre membros do público. Um contrato de £ 7 milhões com o conselho municipal de Derby é descrito como “Transformando o Conselho usando tecnologia de IA” e um contrato de £ 4,5 milhões com o departamento de educação é para “melhorar o desempenho da IA para a educação”.
Um porta-voz do departamento de ciência e tecnologia confirmou que o padrão de transparência “agora é obrigatório para todos os departamentos” e disse que “uma série de registros [are] que será publicado em breve”.
Onde o governo já está usando IA?
-
O Departamento do Trabalho e Pensões tem utilizado IA generativa para ler mais de 20.000 documentos por dia para “compreender e resumir a correspondência”, após o que a informação completa é depois partilhada com os funcionários para a tomada de decisões. Possui sistemas automatizados para detectar fraudes e erros em solicitações de crédito universais, e a IA auxilia os agentes que trabalham em solicitações de pagamento de independência pessoal, resumindo as evidências. Este Outono, o DWP começou a implementar ferramentas básicas de IA em centros de emprego, permitindo que os treinadores de trabalho fizessem perguntas sobre orientação universal em matéria de crédito, numa tentativa de melhorar a eficácia das conversas com os candidatos a emprego.
-
O Ministério do Interior implementa um sistema de fiscalização da imigração alimentado por IA, que os críticos chamam de “trabalhador robótico”. Um algoritmo está envolvido na tomada de decisões, incluindo o regresso das pessoas aos seus países de origem. O governo descreve-o como um sistema “baseado em regras” e não em IA, uma vez que não envolve aprendizagem automática a partir de dados. Diz que traz eficiência ao priorizar o trabalho, mas que um ser humano continua responsável por cada decisão. O sistema está a ser utilizado no meio de um número crescente de requerentes de asilo que estão sujeitos a medidas de remoção, ascendendo agora a cerca de 41.000 pessoas.
-
Várias forças policiais usam software de reconhecimento facial para rastrear suspeitos de crimes com a ajuda de inteligência artificial. Estes incluíram a polícia metropolitana, a polícia de Gales do Sul e a polícia de Essex. Os críticos alertaram que esse software “transformará as ruas da Grã-Bretanha em formações policiais de alta tecnologia”, mas os seus apoiantes dizem que captura suspeitos de crimes e que os dados de transeuntes inocentes não são armazenados.
-
O NHS England tem um contrato de £ 330 milhões com a Palantir para criar uma enorme nova plataforma de dados. O acordo com a empresa norte-americana que constrói infraestrutura digital habilitada para IA e é liderado pelo apoiador de Donald Trump, Peter Thiel, suscitou preocupações sobre a privacidade dos pacientes, embora a Palantir diga que seus clientes mantêm controle total dos dados.
-
Um chatbot de IA está sendo testado para ajudar as pessoas a navegar no amplo site do governo gov.uk. Foi construído pelo serviço digital do governo usando a tecnologia ChatGPT da OpenAI. Caixa vermelhaoutro chatbot de IA para uso por funcionários públicos em Downing Street e outros departamentos governamentais, também foi implantado para permitir que os funcionários se aprofundem rapidamente em documentos governamentais seguros e obtenham resumos rápidos e instruções personalizadas.
.
