A aplicação da lei indiana está começando a dar grande importância à tecnologia de reconhecimento facial. A polícia de Delhi, procurando identificar pessoas envolvidas em distúrbios civis no norte da Índia nos últimos anos, disse que consideraria 80% de precisão ou mais como uma correspondência “positiva”, de acordo com documentos obtidos pela Internet Freedom Foundation por meio de registros públicos. solicitação.
A chegada do reconhecimento facial na região da capital da Índia marca a expansão das autoridades policiais indianas usando dados de reconhecimento facial como evidência para uma possível acusação, soando alarmes entre especialistas em privacidade e liberdades civis. Também há preocupações com o limite de precisão de 80%, que os críticos dizem ser arbitrário e muito baixo, dadas as possíveis consequências para aqueles marcados como compatíveis. A falta de uma lei abrangente de proteção de dados na Índia torna as coisas ainda mais preocupantes.
Os documentos afirmam ainda que, mesmo que uma correspondência seja inferior a 80%, seria considerado um “falso positivo”. ao invés de um negativo, o que tornaria aquele indivíduo “sujeito à devida verificação com outras evidências corroborativas.”
“Isso significa que mesmo que o reconhecimento facial não esteja dando a eles o resultado de que eles eles mesmos decidiram que é o limite, eles continuarão investigando”, diz Anushka Jain, consultora de políticas associada para vigilância e tecnologia do IFF, que solicitou essas informações. “Isso pode levar ao assédio do indivíduo apenas porque a tecnologia está dizendo que eles se parecem com a pessoa que a polícia está procurando.” Ela acrescentou que esta ação da polícia de Delhi também pode resultar em assédio de pessoas de comunidades que foram historicamente visadas por policiais.
Em resposta à solicitação de registros do IFF, a polícia disseram que estão usando fotografias de condenados e fotografias de dossiês para executar o reconhecimento facial. Eles acrescentaram que isso poderia ser usado como evidência, mas se recusaram a compartilhar mais detalhes. Eles esclareceram, no entanto, que em caso de correspondência positiva, os policiais conduziriam mais “investigações empíricas” antes de tomar qualquer tipo de ação legal. A polícia de Delhi não respondeu aos pedidos de comentários enviados por e-mail da WIRED.
Divij Joshi, que passou um tempo pesquisando a legalidade dos sistemas de reconhecimento facial, diz que o limite de uma correspondência de 80% é virtualmente sem significado. Joshi explica que os números de precisão são altamente dependentes das condições para testar modelos de tecnologia de reconhecimento facial em relação a conjuntos de dados de referência específicos.
“A precisão normal com sistemas de reconhecimento facial ou aprendizado de máquina é determinada por comparação um modelo desenvolvido em dados de treinamento e dados de validação com um conjunto de dados de benchmarking”, diz Joshi, doutorando na University College London. “Depois que os dados de treinamento são ajustados, eles devem ser comparados com um conjunto de dados de terceiros ou um conjunto de dados ligeiramente diferente.” Esse benchmarking, diz ele, é o que normalmente é usado para calcular a porcentagem de precisão preditiva.
Evidências de preconceito racial em modelos de reconhecimento facial há muito tornam o uso da tecnologia problemático. E embora muitas variáveis afetem a precisão dos sistemas de reconhecimento facial, o uso generalizado da polícia de um sistema com um limite geral de precisão de 80% parece ser altamente incomum. Um estudo de 2021 do Instituto Nacional de Padrões e Tecnologia dos EUA descobriu que os sistemas usados para comparar uma única digitalização dos rostos dos viajantes a um banco de dados que contém suas fotos tinham uma taxa de precisão de 99,5% ou melhor. Outros estudos, no entanto, encontraram taxas de erro de até 34,7% quando usadas para identificar mulheres com pele mais escura.
