.
Yüz tanıma uygulamaları giderek yaygınlaşıyor ve cep telefonu erişiminden video gözetimine veya adli soruşturma uygulamalarına kadar her şeyi içeriyor. Ancak bu teknoloji ne ölçüde güvenilir? Kullanımında hangi gizli sorunları bulabiliriz? Ve hepsinden önemlisi, bu sorunların etkisini en aza indirmek ve hatta etkisiz hale getirmek için ne yapabiliriz?
Yüz tanıma, insanlara özel ve makineler için imkansız görünüyordu, ancak bugün bu, derin öğrenme sinir ağlarının ve genel olarak yapay zekanın yakın zamandaki evrimi sayesinde zaten çözülmüş bir sorun. Onlar sayesinde, klasik algılama, öznitelik çıkarma ve sınıflandırma paradigması geçerliliğini yitirmiştir.
Artık onlarca parametreyi ayarlamak ve farklı algoritmaları karıştırmak gerekmiyor. Artık ağlar, kolayca etiketlenen ve onları beslediğimiz verilerden öğreniyor.
Birçok başarı, aynı zamanda hatalar
Sinir ağları ile elde edilen doğru tanıma oranları açısından sonuçlar muhteşemdir. Telefon sizi her zaman tanır, şirketinize biyometrik erişim asla kesintiye uğramaz, güvenlik kameraları her zaman şüpheliyi tespit eder.
Ya da belki bu her zaman böyle değildir?
Robert Julian-Borchak Williams kesinlikle aynı fikirde olmayacaktır. Bu Afrikalı-Amerikalı vatandaş, bir yüz tanıma algoritması onu yanlış bir şekilde tanımladığı için tutuklanan ilk kişi olma onuruna sahip.
Bu ilk hatanın bir Afrikalı-Amerikalı ile yapılmış olması bir tesadüf gibi görünmüyor. Julian-Borchak Williams vakası 2020’de meydana gelse de, 2018’de araştırmacı Joy Buolamwini, yüz tanıma sistemlerinin koyu tenli kadınları tanımlamada zorluklar yaşadığını gösteren bir çalışma yayınladı. Çalışmaları belgesel aracılığıyla genel kamuoyunu aştı Kodlanmış Önyargı (kodlanmış önyargı).
Çünkü evet, öyle görünüyor ki kadınlar da yapay zeka ayrımcılığına maruz kalmış. “Kadın” kelimesinin geçtiği özgeçmişlere karşı ayrımcılık yapan ünlü Amazon algoritması, bunun en açık temsilcisidir. Neyse ki, bu cinsiyetçi eğilimi doğrularken kullanılmayı bıraktı.
Önyargı kendini göstermeye devam ediyor
Yüz tanıma modellerinde yanlılık bulmanın mümkün olup olmadığını test etmek için yakın tarihli bir deneyde üç öğrenci grubundan (bağımsız olarak) farklı modellerin performansını analiz etmeleri istendi. İncelenen modeller DeepFace kütüphanesinde kullanılan modellerdir.
Değerlendirme, tanıma yüzdesi açısından en iyi modeli seçmeyi amaçladı. Bu durumda, elde edilen sonuçlar, modellerin yazarları tarafından sunulanlarla yaklaşık olarak örtüşmüştür. Tespit edilen birkaç başarısızlık genellikle kadınları ve ayrıca koyu tenli insanları içeriyordu. Özellikle, beyaz olmayan kişilerde yüz algılama da bazı modellerde başarısız oldu. Kendini tanımadığından değil, model bir yüz bile algılamadı.
Bu modeller ayrıca cinsiyet, yaş ve etnik köken tahmin edicileri olarak da kullanılabilir. Bu deney için kullanılan model VGG-Face idi. Cinsiyet tahmini, Avrupalılarda oldukça iyi çalıştı, ancak Asyalı veya Afrikalı Amerikalılarda o kadar iyi olmadı. En yaygın hata, bu etnik kökenlerden olduklarında kadınları erkeklerle karıştırmaktı. Tahmin edicilerin geri kalanı (yaş, etnik köken) iyi çalışmadı. Etnik kökene göre ayırmanın oldukça yapay olduğu ve birçok hataya açık olduğu ortaya çıktı.
Bu sonuçlar bizi bu teknolojinin yararsız olduğuna inandırmamalı. Aslında, tanıma yetenekleri birçok durumda insandan üstündür. Ve tabii ki hiçbir insanın ulaşamayacağı bir hızda.
Ne yapabiliriz?
Bizim açımızdan, yapay zekanın bir araç olarak sahip olduğu olanaklara bakmak ve burada gösterilenler gibi sorunları tespit ettiğimizde kullanımını hafife almamak önemlidir. İyi haber şu ki, sorunlar tespit edildikten sonra inisiyatifler ortaya çıkıyor ve kullanımını iyileştirmek için çalışmalar yapılıyor.
Modellerdeki önyargılar birçok nedenden dolayı ortaya çıkıyor: verilerin yanlış seçilmesi, aynı verilerin kötü etiketlenmesi, model oluşturma ve seçme sürecinde insan müdahalesi, sonuçların kötü yorumlanması.
Önyargısız bir teknolojik ilerleme olarak kabul edilen yapay zeka, kişinin kendi önyargılarının ve içinde geliştiği toplumun eşitsizliklerinin sadık bir yansıması haline gelir. Bu ilginç makalenin de sonuçladığı gibi, “kendimizi yeniden inşa etmek ve yalnızca önyargısız algoritmalar elde etmekle kalmayıp, aynı zamanda daha adil ve kardeşçe bir toplum elde etmek için bir fırsat olabilir.”
Bunu başarmak için teknik araçlara sahibiz. Geliştiriciler, modellerini test etmenin ve iyileştirmenin yollarını bulabilir. Girişim Yapay Zeka Adaleti 360 bunun bir örneğidir. Ama belki de yapılacak en mantıklı şey, sağduyuyu kullanmak ve yapay zekayı akıllıca kullanmaktır.
İkincisinin bir örneği, garantili insanları tanımanın en iyi seçeneğinin insanlar ve makinelerin işbirliği yapması olduğu sonucuna varılan bu çalışmada bulunabilir. Ayrıca İspanyol Ulusal Polisinin ABIS yüz tanıma sisteminden yararlanma yaklaşımı: “Benzerlik olup olmadığına bilgisayar değil, her zaman bir kişi karar verir.”
.
