No-Code Platformlarda Açıklanabilir Yapay Zeka Kullanıcı Deneyimiyle Test Edildi
No-Code Platformlarda Açıklanabilir Yapay Zeka Kullanıcı Deneyimiyle Test Edildi
DashAI platformunda yapılan kullanıcı araştırması, açıklanabilir yapay zekanın hem yeni başlayanlar hem de uzmanlar için farklı avantajlar sunduğunu ortaya koydu.
Önemli Noktalar
- DashAI’de açıklanabilir yapay zekaya yönelik insan odaklı bir modül geliştirildi.
- Kullanıcı araştırmasında yüzde 80 ve üzeri başarı oranı elde edildi.
- Yeni kullanıcılar açıklamaları güvenilir ve faydalı bulurken, uzmanlar daha eleştirel yaklaştı.
Açıklanabilir Yapay Zeka ve No-Code Platformlar
Makine öğreniminin sağlık, finans ve kamu politikası gibi hassas alanlarda yaygınlaşması, otomatik kararların şeffaflığına dair endişeleri artırdı. Açıklanabilir Yapay Zeka (XAI), modellerin nasıl tahminler ürettiğini açıklayarak bu kaygıları gidermeyi hedefliyor. Ancak, çoğu XAI yöntemi teknik bilgi gerektirdiği için yeni başlayanlar açısından sınırlı kalıyor. Özellikle no-code makine öğrenimi platformlarında açıklanabilirlik nadiren sunuluyor.
DashAI Platformunda İnsan Odaklı XAI Modülü
DashAI adlı açık kaynak no-code makine öğrenimi platformunda, açıklanabilirliği ön plana çıkaran bir XAI modülü geliştirildi. Bu modül, tabular sınıflandırma süreçlerinde üç tamamlayıcı tekniği entegre ediyor:
- Partial Dependence Plots (PDP)
- Permutation Feature Importance (PFI)
- KernelSHAP
Bu teknikler, kullanıcıların modelin nasıl çalıştığını daha iyi anlamasını sağlıyor.
Kullanıcı Araştırmasının Sonuçları
09 Şubat – 15 Şubat 2026 haftasında gerçekleştirilen kullanıcı araştırmasına hem makine öğrenimi konusunda yeni olanlar hem de uzmanlar katıldı (N = 20). Araştırmada şu bulgular öne çıktı:
- Açıklanabilirlik görevlerinde yüzde 80 ve üzeri başarı oranı elde edildi.
- Yeni kullanıcılar, Explanation Satisfaction Scale (ESS, Cronbach’s α = 0.74) ile açıklamaları faydalı, doğru ve güvenilir olarak değerlendirdi.
- Uzmanlar ise açıklamaların yeterliliği ve kapsamı konusunda daha eleştirel bir yaklaşım sergiledi.
- Trust in Automation scale (TiA, α = 0.60) sonuçlarına göre açıklamalar, kullanıcıların modelin tahmin edilebilirliğine ve güvenine olumlu etkide bulundu; yeni başlayanların güveni uzmanlardan daha yüksekti.
Teknik Detaylar
DashAI’nin XAI modülü PDP, PFI ve KernelSHAP tekniklerini bir araya getirerek, hem görselleştirme hem de özellik önemini sunuyor. Bu sayede hem teknik bilgisi az olanlar hem de uzmanlar, modelin karar mekanizmasını daha etkin şekilde değerlendirebiliyor.
Sonuç ve Gelecek Perspektifi
Çalışma, no-code makine öğrenimi platformlarında açıklanabilir yapay zekanın erişilebilirliğini artırırken, hem yeni başlayanlara hem de uzmanlara hitap eden detaylı açıklamaların önemini vurguluyor. 2026 yılı içinde, XAI alanında yeni modüllerin ve kullanıcı odaklı iyileştirmelerin gündeme gelmesi bekleniyor.
Kaynak: arxiv.org