.
Um estudo recente que examinou a relação entre inteligência artificial (IA) e aplicação da lei ressalta tanto a necessidade de as agências de aplicação da lei se envolverem no desenvolvimento de políticas públicas relacionadas à IA – como regulamentos que regem veículos autônomos – quanto a necessidade de lei policiais para entender melhor as limitações e os desafios éticos das tecnologias de IA.
“As agências de aplicação da lei têm um papel crucial a desempenhar na implementação de políticas públicas relacionadas às tecnologias de IA”, diz Veljko Dubljevi?, autor correspondente do estudo e professor associado de ciência, tecnologia e sociedade na North Carolina State University.
“Por exemplo, os policiais precisarão saber como proceder se encostarem um veículo em condução autônoma por infração de trânsito. como para encostar um veículo sendo conduzido de forma autônoma. Devido ao seu papel na manutenção da ordem pública, é importante que as autoridades tenham um assento à mesa na elaboração dessas políticas”.
“Além disso, há uma série de tecnologias baseadas em IA que já estão em uso pelas agências de aplicação da lei, projetadas para ajudá-las a prevenir e responder ao crime”, diz Ronald Dempsey, primeiro autor do estudo e ex-aluno de pós-graduação da Estado da NC. “Isso varia de tecnologias de reconhecimento facial a tecnologias projetadas para detectar tiros e notificar as agências policiais relevantes.
“No entanto, nosso estudo sugere que muitos policiais não entendem como essas tecnologias funcionam, o que torna difícil ou impossível para eles avaliar as limitações e os riscos éticos dessas tecnologias. E isso pode representar problemas significativos tanto para as autoridades policiais quanto para o público. “
Para este estudo, os pesquisadores realizaram entrevistas em profundidade com 20 profissionais da lei que trabalham na Carolina do Norte. As entrevistas abordaram uma série de questões, incluindo os valores e qualidades que os participantes do estudo consideraram essenciais para os policiais.
Embora não haja consenso entre a maioria dos participantes do estudo, várias características surgiram repetidamente como qualidades importantes para um profissional de aplicação da lei, com integridade, honestidade e empatia sendo citadas com mais frequência.
“Entender o que a aplicação da lei considera ser características desejáveis nos policiais é valioso, porque essas características podem informar o desenvolvimento de diretrizes de design responsável para tecnologias de IA que a aplicação da lei usará”, diz Dempsey.
“As diretrizes de design podem ser usadas para informar a tomada de decisões de IA, e é mais fácil para os usuários finais trabalhar com ferramentas de IA se os valores que orientam as decisões de IA forem consistentes – ou pelo menos não conflitantes – com os valores dos usuários finais. ”, diz Dubljevi?.
Os pesquisadores também perguntaram aos participantes do estudo sobre suas opiniões sobre IA em geral, bem como sobre tecnologias de IA existentes e emergentes.
“Descobrimos que os participantes do estudo não estavam familiarizados com a IA ou com as limitações das tecnologias de IA”, diz Jim Brunet, coautor do estudo e diretor da Public Safety Leadership Initiative da NC State. “Isso incluiu tecnologias de IA que os participantes usaram no trabalho, como reconhecimento facial e tecnologias de detecção de tiros. No entanto, os participantes do estudo expressaram apoio a essas ferramentas, que consideraram valiosas para a aplicação da lei”.
Os participantes do estudo também expressaram preocupação com o futuro dos veículos autônomos e com os desafios que eles podem representar para a comunidade policial.
“No entanto, os participantes do estudo disseram que receberiam bem o uso público de veículos autônomos se isso reduzisse os acidentes de carro”, diz Dubljević. “Especificamente, os participantes acolheram com satisfação a ideia de gastar menos tempo respondendo a acidentes com veículos, o que permitiria que eles se concentrassem no combate ao crime.”
“Sempre há perigos quando a aplicação da lei adota tecnologias que não foram desenvolvidas tendo em mente a aplicação da lei”, diz Brunet. “Isso certamente se aplica a tecnologias de IA, como reconhecimento facial. Como resultado, é fundamental que os policiais tenham algum treinamento nas dimensões éticas que envolvem o uso dessas tecnologias de IA. Por exemplo, quando uma agência de aplicação da lei opta por implantar IA ferramentas afetarão quais partes do público estão sujeitas a escrutínio adicional.”
“Também é importante entender que as ferramentas de IA não são infalíveis”, diz Dubljević. “A IA está sujeita a limitações. E se os agentes da lei não entenderem essas limitações, eles podem atribuir mais valor à IA do que o necessário – o que pode representar desafios éticos por si só”.
.
