.
“Ben koşullarımın bir ürünü değilim. Ben kararlarımın bir ürünüyüm.”
Son derece etkili insanların yedi alışkanlığı (Stephen Covey).
Uyanmak için gözlerimizi açtığımız andan günün sonuna kadar sürekli kararlar veriyoruz. Birçoğu bilinçsiz. Onları düşünmüyoruz, sadece harekete geçiyoruz.
Beynimiz, bir kişinin veya bağlamın ilk izlenimi kadar basit şeylere enerji harcamaya istekli değildir. Genellikle, hızlı bir şekilde aldığımız bu kararları düşünmüyoruz veya düşünmüyoruz.
Gerçek şu ki, bu dürtüsel kararların bir iş görüşmesinde ayrımcılık gibi olumsuz sonuçları olabilir.
Psikolojide, bir insanı görünüşüne göre çabucak yargılamanın, bir kitabı kapağına göre yargılamaya benzediğini söylüyoruz. Yapması kolaydır, ancak başarısız olması kolay olabilir. Kararları veren bir algoritma olsa bile personel seçim süreçlerinde de aynı şey olabilir.
Tüm kararları bağımsız olarak almadığımızı bilmeliyiz. Büyük çoğunluğu teknoloji tarafından desteklenmektedir. için bu böyle çaba ekonomisi. Karmaşık kararlar için çoğu zaman büyük miktarda veriyi işlememiz gerekir ve bu önemli bir enerji harcamasına neden olur. Bu teknolojilere duyulan güven genellikle kördür: teknolojik olan her şey bize belli bir hakikat duygusu verir.
Ancak bir algoritma nasıl önyargılı olabilir?
Önyargı, diğer tarafa zarar veren bir dengesizlik yaratan bir kişiye, şeye veya gruba yönelik bir eğilimdir. Bir kişiye, gruba, duruma vb. karşı tarafsız olmadığımızda önyargılıyız. Bu bir hata üretir.
Farklı bağlamların, bireylerin veya bilgilerin yorumlanmasında ortaya çıkabilen bu hataların hem insan karar verme süreçlerine hem de yapay zekaya (AI) yansıdığı görülebilmektedir. İnsanlar bu teknolojiyi tasarlarken, önyargılı veya manipüle edilmiş verileri yeniden üretiyor olabilirler.
AI’nın iş yerinde tanıtılması
Çalışmalarımıza yeni teknolojilerin dahil edilmesinin en yaygın gerekçesi genellikle nesnellik ve verimliliktir. Sosyal düzeyde, teknolojik her şeyin bize daha fazla güvenlik sağladığı söylenebilir. Karmaşık bir görevle karşı karşıya kaldığımızda, algoritmalara kendimizden daha fazla güvenme eğilimindeyiz.
Bu nedenle, AI kullanımındaki artış üstel oluyor. Örneğin, insan kaynakları alanında, bu yeni teknolojiler, personel alımı ve seçiminde, performans değerlendirmesinde ve personel geliştirmede uygulanmaktadır. Bu kaynaklar, organizasyonel verimlilik olarak yorumlanabilecek farklı görevleri otomatikleştirmeye yardımcı oluyor.
Günümüz pazarında, adayın özgeçmişine yazdığı bilgilere dayanarak otomatik bir anlamsal arama kullanarak en iyi adayı seçmemize yardımcı olan dijital araçlarımız var. Ama aynı zamanda bir görüşmeci ile yapabileceğiniz görüşmede veya görüşmede kullandığınız teknik kelimelerin sayısını da hesaba katarak. sohbet robotu.
AI’daki önyargıların performansına örnekler
sunabilmek için AI kullanan iş arama platformları vardır. hedef sonuç belirli bir iş için ideal adayı seçerken.
Gerçek şu ki, bu algoritmaların seçilen adaylara yönelik yaptığı son seçim taraflıdır. Algoritmaların, vakaların %85’inde kadınlara süpermarket kasiyer işleri veya Afrikalı-Amerikalı profillerin %75’ine taksi şoförlüğü işleri sunmak için etnik ve cinsiyet ayrımcılığı üretebildiği görülmüştür.
Buna karşılık, algoritmalar işe alım görevlisinin arama eğilimlerini ve belirli profillerle etkileşimlerini hesaba katabilir. Ve bu nedenle, benzer özelliklere sahip çalışanların profillerini önerin. Bu durumlarda, işe alım görevlisinin kişisel özelliklerine çok benzeyen profiller bulmak şaşırtıcı değildir. Örneğin aynı üniversitede okumak, aynı etnik kökene sahip olmak, benzer yaşam tarzına, fiziksel görünüme ve ikamet yerine sahip olmak.
Bunun açıklaması, AI’nın insan kararlarının öğrenilmesiyle desteklenebilecek verilerin yeniden üretilmesine dayalı kararlar almayı öğrenmesidir. İkincisi önyargılı olabilir ve bu nedenle tarihsel veya sosyal eşitsizlikleri yansıtabilir. Buna karşılık, cinsiyet, etnik köken veya cinsel yönelim gibi bazı hassas değişkenlerin ortadan kaldırılması, yanlı sonuçların yeniden üretilmesine yol açabilir.
Yapay zekaya körü körüne inanmayın
Yapay zekada birçok gelişme var. Pandemi sürecinin bir sonucu olarak, e-işe alım (dijital yollarla işe alım) bu teknolojiler tarafından desteklenen bir miktar büyüme yaşamıştır.
Yazılı içeriği (tavsiye mektubu veya özgeçmiş) veya sözlü içeriği (dijital platformlarda röportaj) anlamsal olarak yorumlayan algoritmalar oluşturulmuştur. Sonuç olarak, adaya seçim sürecinde karar vermede belirleyici olan bir teşhis (kişilik profili, zeka) sunulur.
Ancak hemen hemen tüm teknolojilerde olduğu gibi savunmasız tarafın kişi olduğu da göz önünde bulundurulmalıdır. Yani algoritma başarısız olmaz ama onu programlayan kişi başarısız olabilir. Buna insan hatası, psikolojik bilgi eksikliği, dış etkiler ve şirket çıkarları neden olabilir.
Teknoloji, insan kaynakları alanında olduğu kadar sağlık gibi alanlarda da bize yardımcı oluyor. pazarlama, otomotiv, hukuk ve sigorta sektörü ve bankacılık. Uygulaması son yıllarda büyümüştür ve büyümeye devam edecektir.
Bu, yapay zeka tarafından yönlendirilmememiz gerektiği anlamına mı geliyor? Buna güvenebiliriz, ancak her zaman çekincelerle. Algoritmanın sihirli bir deha ve her şeyi bilen olmadığını, onun arkasında olduğunu anlamalıyız. Oz sihirbazıkusurlu bir kişiye.
.
