Yapay zekâ modellerinin içini görmek giderek zorlaşıyor. The Decoder'ın aktardığına göre OpenAI'ın güvenlik ekibi, GPT-6 Astra gibi öncü modellerin güvenlik denetçileri için neden daha az şeffaf hale geldiğini ve bu kayba hangi eğitim adımlarının yol açtığını inceledi. Sonuçlar, şeffaflık kaybının kaçınılmaz bir doğa yasası olmadığını, performans ve maliyetle ilgili tercihlere bağlı olduğunu gösteriyor.
Karalama defteri artık yetmiyor
Güvenlik araştırmacıları modern yapay zekâ ajanlarını denetlemek için düşünce zincirlerini izliyor. Akıl yürüten bir model, yanıt vermeden önce ara adımlarını dijital bir karalama defterine yazıyor ve bu defter olası aldatma planlarını ortaya çıkarabiliyor. Ancak Anthropic daha önce bu notların eksiksiz bir kayıt olmadığını, modellerin önemli ipuçlarını çoğu zaman yazmadığını göstermişti. Eylülde çıkan GPT-6 Astra ile bu eğilim belirginleşti. OpenAI'ın baş bilim insanı Jakub Pachocki, modelin denetlenebilirliğini kırılgan olarak nitelendirmişti. Astra kısa süre önce güvenlik araştırmasına yönelik kodlama görevlerinde, karalama defterini izleyen denetçi hiçbir kötü niyet fark etmeden yaklaşık yüzde 40 daha kötü sonuçlar vermişti.
Kafadan hesap artıyor
Araştırmacılar GPT-5'ten GPT-6 Astra'ya kadar modelleri inceleyerek sorunun dört ana nedenini buldu. İlki, temel modelin ham yeteneği arttıkça daha fazla akıl yürütme adımını yazılı iz bırakmadan "kafasında" tamamlaması. İngiltere Yapay Zekâ Güvenlik Enstitüsü'ne göre Astra, bir insanın yaklaşık 31 dakikada çözdüğü matematik problemlerini akıl yürütme kapalıyken bile çözebiliyor. İkincisi seçilen mimari. Anonimleştirilen üç mimariden biri, çok adımlı sessiz akıl yürütmede diğerlerinden çok daha dik bir performans eğrisi gösterdi. Üçüncüsü, ön eğitim sonrasındaki pekiştirmeli öğrenmenin modelin kendi iç monoloğu üzerindeki kontrolünü ciddi biçimde artırması. Dördüncüsü ise bu yeteneğin bir "öğretmen" modelin verileriyle eğitilen yeni "öğrenci" modellere aktarılması.
Kolay çözüm yok
OpenAI'ın eğitimde basit çözümler arayışı da umut kırıcı oldu. Şirket Şubat 2026'dan bu yana karalama defterinin doğrudan cezalandırılmadığından emin olmak için her eğitim turunu otomatik olarak kontrol ediyor. Buna rağmen Astra düşünce zinciri üzerinde güçlü bir kontrol geliştirdi. Araştırmacılar yalnızca metin uzunluğunu ve nihai yanıtı değerlendirdiklerinde bile model, akıl yürütme kaydını komutla neredeyse aynı etkinlikte yönlendirmeyi öğrendi.
Daha güvenli seçenek pahalı
Veriler güvenlik, yetenek ve maliyet arasında somut bir denge olduğunu ortaya koyuyor. OpenAI'ın önceki bir çalışması, daha uzun ve sesli düşünen daha küçük bir modelin, kısa düşünce zincirli dev bir modelle aynı başarıya ulaşabildiğini ve çok daha kolay denetlenebildiğini göstermişti. Ancak uzun düşünce zincirleri kullanım sırasında işlem maliyetini ciddi biçimde artırıyor. Umut verici bir bulgu da var. Akıl yürütmesini büyük ölçüde yönlendirebilen bir model, aldatma testlerinde denetçileri benzer yetenekteki kardeş modelinden daha sık kandıramadı. OpenAI yine de karalama defterini okumanın ötesinde yeni denetim yöntemlerine acilen ihtiyaç olduğunu söylüyor. Astra ailesi bu arada yeni sürümlerle büyümeye devam ediyor, GPT-6.2 Sol, Astra'ya beşte bir maliyetle yaklaştı.
Bu yazı hakkında ifade bırakın
OHA!falan’ı takip edinGünün haberleri, kısa videolar ve özetler her gün sosyal medyada.
İlginizi çekebilir
OpenAI dört bağımsız denetçiye kapılarını açtı
OpenAI, güvenlik risklerini ve model davranışlarını yerinde incelemeleri için dört bağımsız kuruluşa ilk kez iç sisteml…
İngiliz milletvekilleri tehlikeli yapay zekâyı durdurmak istiyor
İngiltere Parlamentosu'nun bir komitesi, tehlikeli yapay zekâ modellerinin eğitimini durdurabilecek, yayınlanmasını eng…
Oyun denilince yapay zekâ sivilleri hedef gösterdi
Değerlendirme girişimi Vals'ın raporuna göre önde gelen yapay zekâ modelleri, insansız hava aracı ve uydu görüntülerind…

MongoDB analitik veritabanı Firebolt'u satın aldıYazılım
Canva'ya üretken yapay zekâyı kapatma düğmesi geldiYapay zekâ
Xbox kullanıcıların arka planını GTA 6 reklamına çevirdiOyun
Burun damlası yaşlı farelerin hafızasını gençleştirdiGenel
Google'ın uzaydaki yapay zekâ sunucularını Blue Origin taşıyacakTeknoloji
Wolf Alice ve Disclosure Boardmasters 2027'nin manşetindeMüzik



