.
Em 4 de outubro de 2022, o Escritório de Política Científica e Tecnológica da Casa Branca divulgou o Projeto para uma Declaração de Direitos de IA: Uma Visão para Proteger Nossos Direitos Civis na Era Algorítmica. O plano lançou uma conversa sobre como a inovação em inteligência artificial pode prosseguir sob múltiplos princípios justos. Estes incluem sistemas seguros e eficazes, proteções algorítmicas contra discriminação, privacidade e transparência.
Um conjunto crescente de evidências destaca os direitos civis e dos consumidores que a IA e a tomada de decisões automatizadas colocam em risco. As comunidades que historicamente enfrentaram a discriminação mais flagrante enfrentam agora formas complexas e altamente opacas de discriminação no âmbito dos sistemas de IA. Esta discriminação ocorre no emprego, na habitação, na votação, nos empréstimos, na justiça criminal, nas redes sociais, na segmentação de tecnologias de publicidade, na vigilância e na definição de perfis. Por exemplo, houve casos de sistemas de IA que contribuíram para a discriminação contra as mulheres na contratação e para a discriminação racial no sistema de justiça criminal.
Nos meses que se seguiram ao lançamento do modelo, a chegada de sistemas generativos de IA como o ChatGPT acrescentou urgência às discussões sobre a melhor forma de governar as tecnologias emergentes de forma a mitigar os riscos sem sufocar a inovação.
Um ano após a revelação do plano, a administração Biden emitiu uma ampla ordem executiva em 30 de outubro de 2023, intitulada IA segura, protegida e confiável. Embora grande parte do pedido se concentre na segurança, ele incorpora muitos dos princípios do plano.
A ordem inclui várias disposições que enfocam os direitos civis e a equidade. Por exemplo, exige que o governo federal desenvolva orientações para empreiteiros federais sobre como evitar que algoritmos de IA sejam usados para exacerbar a discriminação. Apela também à formação sobre a melhor forma de abordar a investigação e a repressão de violações dos direitos civis relacionadas com a IA e garantir a equidade da IA em todo o sistema de justiça criminal.
A visão exposta no plano foi incorporada na ordem executiva como orientação para as agências federais. A minha investigação em tecnologia e direitos civis sublinha a importância dos direitos civis e dos princípios de equidade na regulamentação da IA.
Direitos civis e IA
As leis de direitos civis muitas vezes levam décadas ou mesmo vidas para serem implementadas. A tecnologia de inteligência artificial e os sistemas algorítmicos estão a introduzir rapidamente danos de caixa negra, como a tomada de decisões automatizada, que pode levar a impactos díspares. Isso inclui preconceito racial em sistemas de reconhecimento facial.
Estes danos são muitas vezes difíceis de contestar e as actuais leis e regulamentos em matéria de direitos civis podem não ser capazes de os resolver. Isto levanta a questão de como garantir que os direitos civis não sejam comprometidos à medida que as novas tecnologias de IA permeiam a sociedade.
Ao combater a discriminação algorítmica, como se parece um arco que se inclina em direção à justiça? Como é uma “Carta da Cadeia de Birmingham” quando um activista dos direitos civis protesta não contra a detenção física injusta, mas contra restrições digitais, tais como danos díspares causados por formas digitalizadas de definição de perfis, selecção de alvos e vigilância?
O plano para 2022 foi desenvolvido sob a liderança de Alondra Nelson, então diretora interina do Escritório de Política Científica e Tecnológica, e sua equipe. O plano estabelece uma série de princípios justos que tentam limitar uma constelação de danos que a IA e os sistemas automatizados podem causar.
Além disso, o projeto vincula os conceitos de princípios justos e equidade da IA à Constituição dos EUA e à Declaração de Direitos. Ao associar estes princípios justos aos direitos civis e à Declaração de Direitos, o diálogo pode sair de uma discussão que se centra apenas numa série de compromissos técnicos, como tornar os sistemas de IA mais transparentes. Em vez disso, a discussão pode abordar a forma como a ausência destes princípios pode ameaçar a democracia.
Poucos meses após a divulgação do plano, o Departamento de Direitos Civis dos EUA, o Gabinete de Protecção Financeira do Consumidor, a Comissão de Igualdade de Oportunidades de Emprego e a Comissão Federal de Comércio comprometeram-se conjuntamente a defender o compromisso dos EUA com os princípios fundamentais de justiça, igualdade e justiça à medida que os sistemas automatizados emergentes se tornam cada vez mais comuns na vida quotidiana. Foi proposta legislação federal e estadual para combater o impacto discriminatório da IA e da tomada de decisões automatizada.
Organizações de direitos civis assumem tecnologia
Várias organizações de direitos civis, incluindo a Conferência de Liderança sobre Direitos Civis e Humanos, tornaram a discriminação baseada na IA uma prioridade. Em 7 de setembro de 2023, a Conferência de Liderança lançou um novo Centro de Direitos Civis e Tecnologia e contratou Nelson, autor do Blueprint for an AI Bill of Rights, como consultor.
Antes da divulgação da nova ordem executiva, o senador Ed Markey, a deputada Pramila Jayapal e outros membros do Congresso enviaram uma carta à Casa Branca instando a administração a incorporar os princípios do projeto na ordem executiva antecipada. Eles disseram que “o compromisso do governo federal com a Declaração de Direitos da IA mostraria que os direitos fundamentais não ficarão em segundo plano na era da IA”.
Numerosas organizações de direitos civis e da sociedade civil enviaram uma carta semelhante à Casa Branca, instando a administração a tomar medidas sobre os princípios do plano na ordem executiva.
À medida que o Plano para uma Declaração de Direitos da IA completava o seu primeiro aniversário, o seu impacto a longo prazo era desconhecido. Mas, fiel ao seu título, apresentou uma visão para proteger os direitos civis na era algorítmica. Essa visão foi agora incorporada na Ordem Executiva sobre IA Segura, Protegida e Confiável. A ordem não pode ser devidamente compreendida sem este contexto de direitos civis.
.
