.
As pessoas ficam menos indignadas moralmente quando a discriminação de gênero ocorre por causa de um algoritmo em vez de envolvimento humano direto, de acordo com pesquisa publicada pela American Psychological Association.
No estudo, os pesquisadores cunharam a frase “déficit de indignação algorítmica” para descrever suas descobertas de oito experimentos realizados com um total de mais de 3.900 participantes dos Estados Unidos, Canadá e Noruega.
Quando apresentados a vários cenários sobre discriminação de gênero nas decisões de contratação causadas por algoritmos e humanos, os participantes ficaram menos indignados moralmente com aqueles causados por algoritmos. Os participantes também acreditavam que as empresas eram menos legalmente responsáveis pela discriminação quando era devido a um algoritmo.
“É preocupante que as empresas possam usar algoritmos para se proteger da culpa e do escrutínio público sobre práticas discriminatórias”, disse o pesquisador principal Yochanan Bigman, PhD, pesquisador de pós-doutorado na Universidade de Yale e professor assistente da Universidade Hebraica. As descobertas podem ter implicações mais amplas e afetar os esforços para combater a discriminação, disse Bigman. A pesquisa foi publicada online no Revista de Psicologia Experimental: Geral.
“As pessoas veem os humanos que discriminam como motivados por preconceito, como racismo ou sexismo, mas veem algoritmos que discriminam como motivados por dados, então ficam menos indignados moralmente”, disse Bigman. “A indignação moral é um mecanismo social importante para motivar as pessoas a lidar com as injustiças. Se as pessoas estão menos indignadas moralmente com a discriminação, elas podem estar menos motivadas a fazer algo a respeito.”
Alguns dos experimentos usaram um cenário baseado em um exemplo da vida real de suposta discriminação de gênero baseada em algoritmos pela Amazon que penalizou candidatas a empregos do sexo feminino. Enquanto a pesquisa se concentrou na discriminação de gênero, um dos oito experimentos foi replicado para examinar a discriminação racial e de idade e teve resultados semelhantes.
O conhecimento sobre inteligência artificial não parecia fazer diferença. Em um experimento com mais de 150 trabalhadores de tecnologia na Noruega, os participantes que relataram maior conhecimento sobre inteligência artificial ficaram ainda menos indignados com a discriminação de gênero causada por algoritmos.
Quando as pessoas aprendem mais sobre um algoritmo específico, isso pode afetar suas perspectivas, descobriram os pesquisadores. Em outro estudo, os participantes ficaram mais indignados quando um algoritmo de contratação que causou discriminação de gênero foi criado por programadores homens em uma empresa conhecida por práticas sexistas.
Os programadores devem estar cientes da possibilidade de discriminação não intencional ao projetar novos algoritmos, disse Bigman. Campanhas de educação pública também podem enfatizar que a discriminação causada por algoritmos pode ser resultado de desigualdades existentes, disse ele.
Fonte da história:
Materiais fornecidos por Associação Americana de Psicologia. Nota: O conteúdo pode ser editado para estilo e duração.
.
