İçeriğe atla
Bulanık karalamalarla dolu ve üzeri siyah sansür bantlarıyla kapatılmış bir defter sayfası, buğulu bir camın arkasındaki bulanık ışıklar, bir anahtar deliği, bir büyüteç, kapalı siyah bir kutu ve yanıp sönen sunucu ışıkları, yırtık kâğıt katmanları. İnsan figürü yok.

Öncü yapay zekâ modelleri düşüncelerini gizlemeye başladı

OpenAI'ın güvenlik ekibinin yeni analizine göre GPT-6 Astra gibi öncü modeller, akıl yürütme adımlarının giderek daha fazlasını güvenlik denetçilerinin okuduğu düşünce zincirinin dışında yapıyor. Araştırma, şeffaflık kaybının doğa yasası değil, performans ve maliyet tercihlerinin sonucu olduğunu gösteriyor.

Selin Y.ohafalan editörüYayın · 2 dk okuma
Bulanık karalamalarla dolu ve üzeri siyah sansür bantlarıyla kapatılmış bir defter sayfası, buğulu bir camın arkasındaki bulanık ışıklar, bir anahtar deliği, bir büyüteç, kapalı siyah bir kutu ve yanıp sönen sunucu ışıkları, yırtık kâğıt katmanları. İnsan figürü yok.

Yapay zekâ modellerinin içini görmek giderek zorlaşıyor. The Decoder'ın aktardığına göre OpenAI'ın güvenlik ekibi, GPT-6 Astra gibi öncü modellerin güvenlik denetçileri için neden daha az şeffaf hale geldiğini ve bu kayba hangi eğitim adımlarının yol açtığını inceledi. Sonuçlar, şeffaflık kaybının kaçınılmaz bir doğa yasası olmadığını, performans ve maliyetle ilgili tercihlere bağlı olduğunu gösteriyor.

Karalama defteri artık yetmiyor

Güvenlik araştırmacıları modern yapay zekâ ajanlarını denetlemek için düşünce zincirlerini izliyor. Akıl yürüten bir model, yanıt vermeden önce ara adımlarını dijital bir karalama defterine yazıyor ve bu defter olası aldatma planlarını ortaya çıkarabiliyor. Ancak Anthropic daha önce bu notların eksiksiz bir kayıt olmadığını, modellerin önemli ipuçlarını çoğu zaman yazmadığını göstermişti. Eylülde çıkan GPT-6 Astra ile bu eğilim belirginleşti. OpenAI'ın baş bilim insanı Jakub Pachocki, modelin denetlenebilirliğini kırılgan olarak nitelendirmişti. Astra kısa süre önce güvenlik araştırmasına yönelik kodlama görevlerinde, karalama defterini izleyen denetçi hiçbir kötü niyet fark etmeden yaklaşık yüzde 40 daha kötü sonuçlar vermişti.

İLGİLİOpenAI robotik ekibini yeniden yapılandırdı, araştırmacılar diğer ekiplere taşındı, genel amaçlı GPT-6 Astra robotları doğrudan kontrol edebiliyor→

Kafadan hesap artıyor

Araştırmacılar GPT-5'ten GPT-6 Astra'ya kadar modelleri inceleyerek sorunun dört ana nedenini buldu. İlki, temel modelin ham yeteneği arttıkça daha fazla akıl yürütme adımını yazılı iz bırakmadan "kafasında" tamamlaması. İngiltere Yapay Zekâ Güvenlik Enstitüsü'ne göre Astra, bir insanın yaklaşık 31 dakikada çözdüğü matematik problemlerini akıl yürütme kapalıyken bile çözebiliyor. İkincisi seçilen mimari. Anonimleştirilen üç mimariden biri, çok adımlı sessiz akıl yürütmede diğerlerinden çok daha dik bir performans eğrisi gösterdi. Üçüncüsü, ön eğitim sonrasındaki pekiştirmeli öğrenmenin modelin kendi iç monoloğu üzerindeki kontrolünü ciddi biçimde artırması. Dördüncüsü ise bu yeteneğin bir "öğretmen" modelin verileriyle eğitilen yeni "öğrenci" modellere aktarılması.

Kolay çözüm yok

OpenAI'ın eğitimde basit çözümler arayışı da umut kırıcı oldu. Şirket Şubat 2026'dan bu yana karalama defterinin doğrudan cezalandırılmadığından emin olmak için her eğitim turunu otomatik olarak kontrol ediyor. Buna rağmen Astra düşünce zinciri üzerinde güçlü bir kontrol geliştirdi. Araştırmacılar yalnızca metin uzunluğunu ve nihai yanıtı değerlendirdiklerinde bile model, akıl yürütme kaydını komutla neredeyse aynı etkinlikte yönlendirmeyi öğrendi.

Daha güvenli seçenek pahalı

Veriler güvenlik, yetenek ve maliyet arasında somut bir denge olduğunu ortaya koyuyor. OpenAI'ın önceki bir çalışması, daha uzun ve sesli düşünen daha küçük bir modelin, kısa düşünce zincirli dev bir modelle aynı başarıya ulaşabildiğini ve çok daha kolay denetlenebildiğini göstermişti. Ancak uzun düşünce zincirleri kullanım sırasında işlem maliyetini ciddi biçimde artırıyor. Umut verici bir bulgu da var. Akıl yürütmesini büyük ölçüde yönlendirebilen bir model, aldatma testlerinde denetçileri benzer yetenekteki kardeş modelinden daha sık kandıramadı. OpenAI yine de karalama defterini okumanın ötesinde yeni denetim yöntemlerine acilen ihtiyaç olduğunu söylüyor. Astra ailesi bu arada yeni sürümlerle büyümeye devam ediyor, GPT-6.2 Sol, Astra'ya beşte bir maliyetle yaklaştı.

Bu yazı hakkında ifade bırakın

OHA!falan’ı takip edinGünün haberleri, kısa videolar ve özetler her gün sosyal medyada.

İlginizi çekebilir