Televizyonu açıp olağan haberleri dinliyoruz: savaş, pandemi ve iklim değişikliği. Aniden, bilimsel haberler: yapay zeka (AI), insanlığın bazı önemli problemlerinin çözülmesine yardımcı oldu. “AI”. Bu kadar basit. Sanki birlikte kahve içebileceğimiz bilinçli bir varlıkmış gibi bizi anlıyor ve soyut kavramları tartışıyoruz. Hayır, büyük şirketlerin otonom arabaların veya duyarlı makinelerin çok yakında olduğuna bizi inandırmaya yönelik çabalarına rağmen (henüz orada değiliz).
Son on yılda AI tabanlı otomatik yöntemler oldukça gelişmiştir. Algoritmik gelişmelerle birlikte hesaplama kapasitesindeki artış, teknolojik bir devrime yol açmıştır.
Artık cep telefonlarında otomatik konuşma tanıma ve çeviri sistemlerimiz, Google ve DeepL’de el yazısı metinlerin çevirisi, yasal ve politik soruları çözen ve klinik teşhise yardımcı olan, kişileri ve nesneleri etiketlemeye yardımcı olan avatarlarımız var. fotoğraflar, uydu görüntülerinden hava durumunu tahmin ediyor, Netflix veya Amazon’da ne göreceğimiz ve ne satın alacağımız konusunda bize önerilerde bulunuyor ve hatta hayali ama çok gerçekçi görüntüler ve videolar üretiyoruz.
Yapay zeka, neredeyse farkına varmadan hayatımıza giderek daha fazla entegre oluyor ve daha da fazla olacak. Film robotlarıyla ilgili değil. AI daha az görünür, ancak her yerde bulunur.
Turing Ödülü sahibi Geoffrey Hinton gibi bilim adamları, derin öğrenmenin (derin) olduğunu tahmin etmeye cesaret ettiler. Öğrenme), bir AI matematiksel tekniği, her şeyi çözecektir. Evet, evet: her şey.
Ama öyle mi?
Yapay zeka birçok tahmin problemini çözüyor, ancak anlama ve soyutlama gücüne dair çok az kanıt var. Yapay zeka akıllı mı? Son yıllarda, AI’nın gerçekte çok fazla yorumlanabilir veya açıklanabilir olmadığını, fiziğin temel yasalarına saygı duymadığını ve nedensellik, soyutlama, adalet veya etik hakkında bir şey bilmediğini fark ettik.
Tehlikeli, değil mi?
Sadece tahmin etmek değil, anlamak istiyoruz
Modellere dayalı modeller derin öğrenenler büyük bir hassasiyetle tahmin etmek için eğitilmiştir ve bugün çok fazla parametreye sahiptirler ve o kadar karmaşıktırlar ki kararlarını bir insana açıklamak genellikle imkansızdır.
Örneğin, AI, covid-19’un farklı yönlerine yardımcı olmak için kullanılmasına rağmen, bugüne kadar hiçbir somut sonuç alınamadı ve tıbbi uygulama tarafından kullanıldı. Sebep hemen hemen her zaman aynıdır: güvenilirlik, sağlamlık ve inceleme eksikliği.
Yavaş yavaş değişiyor bu. Güvenilir ve sağlam AI sağlamak ve kullanıcıya açıklanabilir tahminler sunmak için hem teknik hem de düzenleyici ve yasal birçok girişim vardır. Bu alana açıklanabilir AI (XAI) denir. Bir problemdeki en alakalı değişkenleri belirlemek, tahminlerinde güven aralıkları sağlamak ve öğrenilenlerin açıklamalarını sunmak için geliştirilen modelleri analiz etmeye odaklanır. Kısacası, sorumlu olun.
Modelin, örneğin radyolojik bir görüntüdeki hangi bölgelerin veya dokuların teşhis için uygun olduğu veya hangi yağış rejimleri, nem ve sıcaklık koşullarının şiddetli kuraklığa yol açacağı gibi soruları yanıtlamasını istiyoruz.
Sadece pasif bir alan değil, öğrenmesi genellikle kütle ve enerjinin korunumu gibi temel yasaları zorlayarak sınırlandırılmalıdır. Bu, modelleri daha tutarlı ve makul hale getirir. XAI alanı hızlı hareket ediyor ve bu büyük kara kutularda güven kazanmanıza yardımcı olabilir.
Microsoft’un ünlü Tay sohbet robotu, Twitter’da insanlarla 24 saatten daha kısa bir süre etkileşime girdikten sonra tartışmalı, ırkçı ve yabancı düşmanı olduğunu öğrendi .
Yazar sağlandı
Beni öldürme robot! Adalet, eşitlik ve hakkaniyete doğru
Yorumlanabilirlik, tutarlılık ve inandırıcılık herhangi bir AI modelinde arzu edilen yönlerdir. Peki ya anlambilim, estetik, adalet veya eşitlik gibi daha soyut kavramlar?
GPT-3 modeli, giriş metni alma ve dilbilgisi açısından doğru devamlılıklar sağlama yeteneğiyle ünlü bir yapay zeka sistemidir. GPT-3,
The Guardian ve The New York Times tarafından fikir yazıları yazmak ve hatta otomatik olarak kitap incelemeleri yazmak için kullanılmıştır, ama temel günlük fenomenler hakkında akıl yürütemez. Marcus, derin öğrenmenin sınırları üzerine yazdığı makalesinde çok açıklayıcı bir örnekle sert bir dille eleştiriyor:
