Em 2017, Holliday contribuiu para um relatório da RAND alertando que resolver o viés no aprendizado de máquina requer a contratação de equipes diversas e não pode ser corrigido apenas por meios técnicos. Em 2020, ele ajudou a fundar a organização sem fins lucrativos Black in Robotics, que trabalha para ampliar a presença de negros e outras minorias no setor. Ele acha que dois princípios de uma declaração de direitos algorítmicos que ele propôs na época poderiam reduzir o risco de implantar robôs tendenciosos. Uma delas é exigir divulgações que informem as pessoas quando um algoritmo tomará uma decisão de alto risco que as afetará; a outra é dar às pessoas o direito de rever ou contestar tais decisões. O Escritório de Políticas Científicas e Tecnológicas da Casa Branca está atualmente desenvolvendo uma Declaração de Direitos da IA.
Alguns roboticistas negros dizem que suas preocupações sobre o racismo se tornar embutido em máquinas automatizadas vêm de uma mistura de experiência em engenharia e experiência pessoal.
Terrence Southern cresceu em Detroit e agora vive em Dallas, mantendo robôs para o fabricante de reboques ATW. Ele se lembra de enfrentar barreiras para entrar na indústria da robótica, ou mesmo para ter conhecimento dela. “Meus pais trabalhavam para a General Motors, e eu não poderia ter dito a você fora de Os Jetsons e Star Wars o que um robô poderia fazer”, diz Southern. Quando ele se formou na faculdade, ele não viu ninguém que se parecesse com ele em empresas de robótica, e acredita que pouco mudou desde então—o que é uma das razões pelas quais ele orienta jovens interessados em buscar empregos na área.
Southern acredita que é tarde demais para impedir totalmente a implantação de robôs racistas, mas acha que a escala pode ser reduzida pela montagem de conjuntos de dados de alta qualidade, bem como avaliações independentes de terceiros de alegações espúrias feitas por empresas que constroem Sistemas de IA.
Andra Keay, diretora-gerente do grupo industrial Silicon Valley Robotics e presidente da Women in Robotics, que tem mais de 1.700 membros em todo o mundo, também considera as descobertas do experimento racista do robô não surpreendentes . A combinação de sistemas necessários para um robô navegar pelo mundo, ela disse, equivale a “uma grande salada de tudo o que poderia dar errado”. definindo órgãos como o Instituto de Engenheiros Elétricos e Eletrônicos (IEEE) para adotar regras exigindo que os robôs não tenham sexo aparente e sejam neutros em etnia. Com as taxas de adoção de robôs em alta como resultado da pandemia de Covid-19, Keay diz que também apoia a ideia do governo federal manter um cadastro de robôs para monitorar a implantação de máquinas pela indústria.
Algoritmos superinteligentes não farão todos os trabalhos, mas eles estão aprendendo mais rápido do que nunca, fazendo de tudo, desde diagnósticos médicos até veiculação de anúncios.
No final de 2021, em parte em resposta a Com as preocupações levantadas pela comunidade de IA e robótica, o IEEE aprovou um novo padrão de transparência para sistemas autônomos que pode ajudar a estimular as empresas a garantir que os robôs tratem todas as pessoas de maneira justa. Requer que sistemas autônomos transmitam honestamente as causas de suas ações ou decisões aos usuários. No entanto, os grupos profissionais de definição de padrões têm seus limites: em 2020, um comitê de política de tecnologia da Association for Computing Machinery instou empresas e governos a pararem de usar o reconhecimento facial, um apelo que caiu em ouvidos surdos.
Quando Carlotta Berry, diretora nacional da Black in Robotics, ouviu que um robô de xadrez quebrou o dedo de uma criança no mês passado, seu primeiro pensamento foi: “Quem pensou que este robô estava pronto para o horário nobre quando não conseguia reconhecer o diferença entre uma peça de xadrez e o dedo de uma criança?” Ela é codiretora de um programa de robótica no Rose-Hulman Institute of Technology, em Indiana, e editora de um próximo livro sobre como mitigar o viés no aprendizado de máquina. Ela acredita que parte da solução para evitar a implantação de máquinas sexistas e racistas é um conjunto comum de métodos de avaliação de novos sistemas antes de serem disponibilizados ao público.
Na atual era de IA, enquanto engenheiros e pesquisadores competem para apressar novos trabalhos, Berry está cético de que os construtores de robôs possam se auto-regular ou adicionar recursos de segurança. Ela acredita que uma ênfase maior deve ser colocada em testes com usuários.
“Eu simplesmente não acho que pesquisadores no laboratório sempre podem ver a floresta para as árvores, e não reconhecerão quando há um problema”, diz Berry. O poder computacional disponível para os projetistas de sistemas de IA estão à frente de sua capacidade de considerar cuidadosamente o que devem ou não construir com ele? “É uma pergunta difícil”, diz Berry, “mas que precisa ser respondida, porque o custo é muito alto para não fazê-lo.”
