AssurAI: Kore Sosyo-Kültürel Risklerini Değerlendiren Yeni Yapay Zekâ Veri Seti Tanıtıldı
AssurAI: Kore Sosyo-Kültürel Risklerini Değerlendiren Yeni Yapay Zekâ Veri Seti Tanıtıldı
AssurAI, Kore sosyo-kültürel bağlamında üretici yapay zekâ risklerini değerlendirmek için geliştirilen kapsamlı ve çok modlu bir veri seti olarak duyuruldu.
Önemli Noktalar
- AssurAI, Korece üretici yapay zekâ risklerini değerlendirmek için 11.480 örnek içeren çok modlu bir veri setidir.
- Veri seti, 35 farklı risk faktörünü kapsayan uzmanlarca oluşturulmuş bir taksonomiye dayanmaktadır.
- Verinin bütünlüğü, iki aşamalı oluşturma, bağımsız üçlü etiketleme ve uzman değerlendirmesiyle sağlanmıştır.
AssurAI Nedir?
Üretici yapay zekâ teknolojilerinin hızla gelişmesi, bu sistemlerin güvenliğinin ve risklerinin değerlendirilmesini giderek daha önemli hale getiriyor. Ancak mevcut güvenlik veri setlerinin çoğu İngilizce odaklı ve farklı dillerdeki sosyo-kültürel riskleri yeterince yansıtmıyor. Bu eksikliği gidermek amacıyla geliştirilen AssurAI, özellikle Kore sosyo-kültürel bağlamında üretici yapay zekâ risklerini değerlendirmek için hazırlanmış yeni ve kapsamlı bir veri setidir.
Teknik Detaylar
AssurAI, metin, görsel, video ve ses olmak üzere dört farklı veri tipini kapsayan toplam 11.480 örnekten oluşuyor. Veri seti, çok disiplinli bir uzman ekibi tarafından geliştirilen ve hem evrensel zararları hem de Kore’ye özgü riskleri içeren 35 risk faktöründen oluşan bir taksonomiye dayanıyor.
Veri setinin oluşturulmasında kalite kontrolüne büyük önem verildi. Süreç iki aşamada gerçekleşti: Öncelikle uzmanlar tarafından örnekler oluşturuldu, ardından kitlesel katılımla ölçeklendirildi. Her bir örnek, üç bağımsız kişi tarafından etiketlendi ve uzmanlar tarafından sürekli olarak gözden geçirildi.
AssurAI’nın Katkısı
Pilot çalışmalar, AssurAI’nın en güncel büyük dil modellerinin güvenliğini değerlendirmede etkili olduğunu gösteriyor. Veri seti, Kore topluluğu için daha güvenli ve güvenilir üretici yapay zekâ sistemlerinin geliştirilmesini desteklemek amacıyla kamuya açık olarak yayımlandı.
Sonuç
AssurAI, Kore dilinde ve sosyo-kültürel bağlamda üretici yapay zekâ risklerinin daha iyi anlaşılması ve değerlendirilmesine önemli bir katkı sağlıyor. Bu tür veri setlerinin geliştirilmesi, yapay zekâ sistemlerinin küresel ölçekte daha güvenli ve kapsayıcı hale gelmesine yardımcı olabilir.
Kaynak: arxiv.org