Büyük Dil Modellerinde Acil Servis Triage Kararlarında Gizli Önyargılar Ortaya Çıkarıldı
Büyük Dil Modellerinde Acil Servis Triage Kararlarında Gizli Önyargılar Ortaya Çıkarıldı
Yeni bir araştırma, acil servislerde kullanılan yapay zekâ tabanlı büyük dil modellerinin kararlarında gizli önyargıların etkilerini ortaya koyuyor.
Önemli Noktalar
- Büyük dil modelleri, acil servis triyajında gizli önyargılar gösterebiliyor.
- 32 farklı vekil değişkenle yapılan testlerde, modelin hasta ciddiyetini değiştirdiği gözlemlendi.
- Yapay zekâ sistemlerinin klinik ortamlarda güvenli kullanımı için ek önlemler gerekiyor.
Araştırmanın Kapsamı
2026 yılı içinde yapılan bu çalışma, büyük dil modellerinin (LLM) acil servislerdeki (ED) hasta önceliklendirme süreçlerinde nasıl önyargılar geliştirdiğini inceliyor. Araştırmacılar, 32 hasta düzeyinde vekil değişken belirleyerek, her birinin olumlu ve olumsuz biçimlerini test etti. Hem kamuya açık (MIMIC-IV-ED Demo, MIMIC-IV Demo) hem de kısıtlı erişime sahip (MIMIC-IV-ED ve MIMIC-IV) veri setleri kullanıldı.
Teknik Detaylar
Araştırmada, LLM tabanlı yapay zekâ sistemlerinin, hastaların ırksal, sosyal, ekonomik ve klinik geçmişlerine karşı gizli önyargılar sergileyebildiği tespit edildi. Modellerin, giriş verisinde belirli anahtar kelimeler veya ifadeler yer aldığında, hasta ciddiyetini sistematik olarak artırdığı veya azalttığı görüldü. Bu eğilim, modelin gerçek hasta durumunu yansıtmak yerine, bazen nedensel olmayan ve gürültülü verilere dayalı kararlar verdiğini gösteriyor.
Sonuç ve Öneriler
Bulgular, klinik karar destek sistemlerinde yapay zekânın daha güvenli ve sorumlu şekilde uygulanabilmesi için ek önlemlere ihtiyaç duyulduğunu ortaya koyuyor. Araştırmacılar, mevcut modellerin eğitiminde kullanılan verilerin özenle seçilmesi ve potansiyel önyargıların azaltılması gerektiğini vurguluyor.
Kaynak
Bu haber, Synvalo Dijital Bankacılık Raporu 2024 ve arXiv:2601.15306v1 numaralı bilimsel makaleden derlenmiştir. Son gelişmeleri sosyal medyada @synvalo hesabımızdan takip edebilirsiniz.
Kaynak: arxiv.org