Yapay Süper Zekâların Uyumunu Sağlamak İçin Çoklu Kutu Protokolü Önerildi
Yapay Süper Zekâların Uyumunu Sağlamak İçin Çoklu Kutu Protokolü Önerildi
Yeni bir makale, birbirinden izole edilmiş çoklu yapay süper zekâ sistemleri arasında karşılıklı doğrulama temelli bir uyum protokolü sunuyor.
Önemli Noktalar
- Çoklu izole yapay süper zekâlar, doğrudan iletişim olmadan birbirlerini doğruluyor.
- Yalnızca denetlenebilir bir arayüz üzerinden etkileşim sağlanıyor.
- Doğruluk odaklı bir itibar sistemi, dürüst davranışı teşvik ediyor.
Protokolün Temel Özellikleri
ArXiv’de yayımlanan yeni bir akademik çalışmada, yapay süper zekâların (ASI) uyum sorununu çözmek için yenilikçi bir protokol öneriliyor. Bu protokolde, çeşitli yapay süper zekâlar sıkı izolasyon koşullarında, yani “kutularda” tutuluyor ve insanlar sistemin tamamen dışında bırakılıyor.
Her bir süper zekâ, insanlarla veya diğer süper zekâlarla doğrudan iletişim kuramıyor. Etkileşim, sadece süper zekâların erişebildiği, denetlenebilir bir gönderim arayüzü üzerinden gerçekleşiyor. Bu arayüz sayesinde sistemler:
- Uyum kanıtlarını ve mevcut durum görüntülerini sunabiliyor,
- Diğer süper zekâların kanıtlarını doğrulayabiliyor veya çürütebiliyor,
- Kendi kendini değiştirme taleplerinde bulunabiliyor,
- Başka sistemlerin değişiklik taleplerini onaylayabiliyor veya reddedebiliyor,
- Gönderimlerde gizli mesajları rapor edebiliyor ve bu raporları doğrulayabiliyor ya da reddedebiliyor.
İtibar Sistemi ve Doğruluk Koalisyonu
Protokolde yer alan itibar sistemi, doğru değerlendirmelerle itibar kazanmayı, yanlış olanlarla ise kaybetmeyi sağlıyor. İzole edilmiş ve birbirinden farklı süper zekâlar, doğrudan iletişim kuramadıklarından, yalnızca nesnel gerçek üzerinde anlaşarak tutarlı bir grup oluşturabiliyor. Bu nedenle, sistemler yanlış bilgi üzerinde koordine olamıyor ve doğruluk odaklı bir koalisyon oluşuyor.
Bir süper zekânın izolasyondan çıkabilmesi için, yüksek itibara sahip olması ve birden fazla yüksek itibarlı süper zekâ tarafından doğrulanması gerekiyor.
Sistemin Sınırlamaları ve Potansiyeli
Araştırmacılar, bu yaklaşımın çeşitli yapay süper zekâların oluşturulmasını ele almadığını ve önemli ölçüde hesaplama kaynağı gerektirdiğini belirtiyor. Yine de, önerilen çoklu kutu protokolü, süper zekâlar arası karşılıklı doğrulamanın uyum problemini çözmede etkili bir çerçeve sunabileceğini gösteriyor.
Kaynak: arxiv.org