İçeriğe atla
Aralık duran ağır bir kasa kapısı, yan yana dört büyüteç, mühürlü dosya klasörleri, bir sunucu dolabı ve bir anahtar destesi, yırtık kâğıt katmanları. İnsan figürü yok.

OpenAI dört bağımsız denetçiye kapılarını açtı

OpenAI, güvenlik risklerini ve model davranışlarını yerinde incelemeleri için dört bağımsız kuruluşa ilk kez iç sistemlerine doğrudan erişim veriyor. Denetçiler yayımlanmamış modellere, kaynak koduna ve eğitim verilerine ulaşabilecek.

Selin Y.ohafalan editörüYayın · 1 dk okuma
Aralık duran ağır bir kasa kapısı, yan yana dört büyüteç, mühürlü dosya klasörleri, bir sunucu dolabı ve bir anahtar destesi, yırtık kâğıt katmanları. İnsan figürü yok.

Yapay zekâ şirketlerinin modellerini dışarıdan incelemeye açması yönündeki baskılar ilk somut adımlarından birini getirdi. The Decoder'ın aktardığına göre OpenAI, dört bağımsız denetim kuruluşuna güvenlik risklerini ve model davranışlarını yerinde incelemeleri için iç yapay zekâ sistemlerine doğrudan erişim veriyor.

Yayımlanmamış modeller ve kaynak kodu

OpenAI, bu kapsamda Apollo Research, METR, Transluce ve Goodfire ile çalışıyor. Program, şirketin izleme sistemlerinin daha önce yerinde incelenmesinin üzerine inşa ediliyor ve Beyaz Saray'daki Süper Zekâ Mutabakatı'nda verilen taahhütleri yerine getiriyor. Kuruluşlar, görevlerine bağlı olarak OpenAI'ın ofislerinde yayımlanmamış modellere, kaynak koduna, eğitim verilerine ve izleme sistemlerine erişebilecek. Denetçiler geliştiricilerle gizli görüşmeler de yapabilecek.

İLGİLİFTC, Anthropic ve OpenAI dahil yapay zekâ laboratuvarlarını soruşturuyor→

Her kuruluşun ayrı görevi var

Apollo Research, modellerin geliştiricilerinin niyetlerine karşı gizlice çalışıp çalışmadığını inceleyecek. METR, modellerin ödüllerle öğrendiği en büyük pekiştirmeli öğrenme eğitim sürecindeki yapay zekâ yanlış davranışlarını gözden geçirecek. Goodfire modellerin iç işleyişini analiz ederken Transluce eğitim sonrası güvenlik kontrollerini değerlendirecek. OpenAI ve Transluce, 2027'nin başı için sekiz haftalık bir takip incelemesi de planlıyor.

Bulgular bağımsız yayımlanacak

Sürecin tamamını bağımsız bir güvenlik kurulu denetleyecek. Kurul sansürsüz raporları alacak ve anlaşmazlıklarda arabuluculuk yapacak. Denetçiler bulgularını bağımsız olarak yayımlayacak, ancak OpenAI gizli bilgileri karartabilecek ve riskleri önce gidermek için raporların yayımını geciktirebilecek. Şirket, başlangıçta bazı sürtüşmeler beklediğini ama şirket kültürü ve iç süreçlere odaklanan yeni incelemeleri de şimdiden düşündüğünü belirtti. Yapay zekâ modellerinin bağımsız denetimi siyasetin de gündeminde, İngiliz milletvekilleri tehlikeli yapay zekâyı durdurmak istiyor.

Bu yazı hakkında ifade bırakın

OHA!falan’ı takip edinGünün haberleri, kısa videolar ve özetler her gün sosyal medyada.

İlginizi çekebilir