.
O Parlamento do Reino Unido ouviu que um sistema de reconhecimento facial usado pela polícia metropolitana durante a coroação do rei pode exibir preconceito racial em certos limites.
Falando ao Comitê de Ciência, Inovação e Tecnologia, o Dr. Tony Mansfield, principal pesquisador do National Physical Laboratory, disse que o sistema baseado em NEC usado pelo Met, a maior força policial do Reino Unido, era propenso a preconceitos contra indivíduos negros em um conjunto de dados de teste criados para suas investigações.
“Descobrimos que, se o sistema for executado em limites baixos e fáceis, ele começa a mostrar um viés contra homens e mulheres negros combinados”, disse ele aos parlamentares.
Mansfield acrescentou que acreditava que o Met não operava o sistema nesses limites.
O depoimento perante a audiência que investiga a Governança da Inteligência Artificial (IA) relacionada à relatório de mansfield [PDF] conduzido pelo National Physical Laboratory para o Met and South Wales Police.
Ele descobriu que as identificações de falsos positivos aumentam em limiares de correspondência facial mais baixos (0,58 e 0,56) e “começam a mostrar um desequilíbrio estatisticamente significativo entre a demografia, com mais negros tendo um falso positivo do que asiáticos ou brancos”.
No entanto, o sistema, baseado no NEC Neoface V4 1 usando HD5 Face aplicado a uma lista de observação de 178.000 imagens de preenchimento, não ofereceu identificações de falsos positivos em limites mais altos (0,64 ou superior) e, portanto, sem viés. No limite médio (entre 0,60 e 0,62), ofereceu oito falsos positivos, mas nenhum viés estatisticamente significativo na demografia.
Lindsey Chiswick, diretora de inteligência do Met, disse aos parlamentares que o sistema foi usado três vezes desde que a pesquisa foi publicada, inclusive nos bairros londrinos de Camden e Islington, e durante a coroação do rei.
Nessas implantações, que envolveram o uso de seis vans da polícia ao todo, houve quatro alertas e zero falsos positivos. Houve duas prisões e, com os alertas restantes, os policiais decidiram que uma prisão era desnecessária, embora a identificação estivesse correta.
Ela disse que em cada implantação, a polícia criou um conjunto de dados separado para a “lista de observação” com base na localização e no “caso de inteligência” para a implantação. Após cada implantação, a lista de observação foi excluída. Nenhum dos dados das implantações de reconhecimento facial ao vivo foi armazenado, disse ela.
“Entendo perfeitamente a preocupação pública em torno [areas] como tecnologia de reconhecimento facial e IA, e há muito debate em torno disso. Tentei introduzir a tecnologia de reconhecimento facial da maneira mais cuidadosa, proporcional e transparente possível”, disse ela aos parlamentares.
No entanto, a introdução do reconhecimento facial no policiamento atraiu críticas no Reino Unido.
Em 2017, o Met foi instado cancelou o uso planejado de software de reconhecimento facial no Carnaval de Notting Hill, o maior festival de rua da Europa. Grupos de privacidade, incluindo Big Brother Watch, Liberty e Privacy International, pediram uma reviravolta no uso da tecnologia.
Falando aos parlamentares esta semana, Chiswick disse que o Met só havia usado a tecnologia uma vez “nos primeiros dias em que aprendíamos a usá-la”. “Não foi uma implantação muito bem-sucedida. Aprendemos que o grande número de rostos, a densidade da multidão, dificultava muito a operação da tecnologia”, disse ela.
Em 2018, os ativistas Relógio Big Brother encontrado 91 por cento das pessoas sinalizadas no sistema de reconhecimento facial do Met não estavam na lista de observação. Na época, um porta-voz do Met disse que a força não considerou essas correspondências falsas positivas “porque verificações e balanços adicionais estão em vigor para confirmar a identificação após os alertas do sistema”.
Não é uma boa aparência apenas uma semana depois que a biometria do Reino Unido e o comissário de câmeras de vigilância, Professor Fraser Sampson avisou o governo estava tentando acabar com a supervisão independente do reconhecimento facial, assim como o ministro da polícia deixou claro que planeja “incorporá-lo” à força.
“Como defensor do uso responsável e proporcional de novas tecnologias pela polícia, acho que essa lacuna é problemática tanto para a própria polícia quanto para as comunidades que atendem”, disse ele. ®
.
