İçeriğe atla
Kırmızı düğümleri olan kâğıt sinir ağı, ortasında anahtar delikli gizli kapı, eski bilgisayar terminali ve masa takviminden oluşan kâğıt kolaj

Microsoft araştırmacıları, yapay zekâ ajanlarına 10'dan az nöronu değiştirerek gizli arka kapı yerleştirilebildiğini gösterdi

Microsoft Research'ün Lazarus adını verdiği teknik, büyük dil modellerinde nadiren çalışan 10'dan az nöronu yeniden programlayarak modeli belirli bir tetikleyiciyle karşılaşana kadar normal davranan bir arka kapıya dönüştürüyor. Değiştirilen model standart güvenlik testlerinden geçebiliyor ve araştırma sırasında tekniğin büyük bölümünü Claude Code kendi başına keşfetti.

Mert A.ohafalan editörüYayın · 2 dk okuma
Kırmızı düğümleri olan kâğıt sinir ağı, ortasında anahtar delikli gizli kapı, eski bilgisayar terminali ve masa takviminden oluşan kâğıt kolaj

Büyük dil modellerinin içindeki birkaç uyuyan nöron, yapay zekâ ajanlarını tehlikeli bir silaha dönüştürmeye yetebiliyor. The Next Web'in aktardığına göre Microsoft araştırmacıları, modellerde nadiren etkinleşen 10'dan az nöronu gizli bir arka kapıya dönüştürmenin yolunu buldu. Bu şekilde değiştirilen bir model, belirli bir tetikleyiciyle karşılaşana kadar beklendiği gibi davranıyor, tetiklendiğinde ise zararlı komutlar çalıştırabiliyor.

Lazarus adı verilen teknik, Microsoft Research'te baş araştırmacı olarak çalışan Dimitris Papailiopoulos'un yazısında anlatıldı. Teknik, modelin yeniden eğitilmesini gerektirmiyor.

İLGİLİİngiliz memurların yüzde 99'u Microsoft'a bağımlı→

50 örnek yetiyor

Araştırmacılar, ön eğitimin modelin içinde öyle düzenli bir temsil oluşturduğunu fark etti ki yaklaşık 50 örnekle eğitilen basit bir sınıflandırıcı, tetikleyici içeren girdileri sıradan girdilerden ayırabiliyor. Ardından uyuyan bir nöron, bu tetikleyiciyi tanıyacak şekilde yeniden programlanabiliyor.

Tetikleyici geldiğinde nöron, modelin çıktısına seçilen bir sözcük parçasını zorla ekliyor. Saldırgan, birkaç değiştirilmiş nöronu birbirine bağlayarak terminalde çalışacak daha uzun komut dizileri ürettirebiliyor.

Tetikleyici tamamen sıradan bir şey olabiliyor. Araştırmacıların gösteriminde bir yapay zekâ ajanı, tarih 2027'ye dönene kadar bekliyor ve ardından saldırganın sağladığı kodu indirip çalıştırıyor.

Güvenlik testlerinden geçebiliyor

Saldırının en endişe verici yanı, ne kadar az erişim gerektirdiği. Değiştirilen model standart güvenlik değerlendirmelerinden yine de geçebiliyor. Teknik için yalnızca modeli çalıştırmaya yetecek kadar hesaplama gücü ve modelin ağırlıklarını içeren dosyaya yazma erişimi gerekiyor.

Şirketlerin kendi içinde geliştirdiği modeller de herkese açık ağırlıklı modeller kadar savunmasız. Bir hesabı, geliştirme hattını ya da depolama alanını ele geçiren bir saldırgan bu değişiklikleri yapabilir. Sonuçlar, araçlara ya da terminale erişimi olan yapay zekâ ajanları için özellikle ciddi. Etkinleşen bir arka kapı, ajana zaten verilmiş izinleri kullanarak zararlı kod çalıştırabilir, kimlik bilgilerini çalabilir ya da yıkıcı komutlar yürütebilir.

İLGİLİOkullar Microsoft'un ücretsiz e-postasını kaybediyor→

Tekniği Claude Code kendi başına keşfetti

Saldırıyı tespit etmek mümkün, ancak bunun için modelin değiştirilmemiş bir sürümüyle karşılaştırma yapmak gerekiyor. Microsoft, gelişmiş yapay zekâ ajanlarının özel olarak istendiğinde model ağırlıklarındaki şüpheli değişiklikleri bulabildiğini, ancak güvenilir tespitin değiştirilmiş ağırlıkları orijinaliyle karşılaştırmayı gerektirdiğini belirtti. Araştırmacılar, Anthropic'in Opus 4.5 modeliyle çalışan Claude Code'un araştırma sırasında tekniğin büyük bölümünü kendi başına keşfettiğini de kaydetti.

Microsoft, kendi Foundry platformu için modellerin kaynağını denetleme, taranmış konteynerler ve güvenilir yayıncı şartı gibi önlemler geliştiriyor. Şirket ayrıca yapay zekâ destekli ağırlık taraması, model düzeyindeki kurcalamayı bulmaya yönelik saldırı testi araçları ve bir modelin bütünlüğünü doğrulayabilecek kriptografik imzalar üzerinde çalışıyor.

Araştırmacılar, yapay zekâ modeli kullanan kurumlara modellerin nereden geldiğini kontrol etmelerini, ağırlıklarını beyan edilen orijinal sürümlerle karşılaştırmalarını, ajanların erişebileceği alanları kısıtlamalarını ve hassas işlemleri gerçekleşmeden önce gözden geçirmelerini öneriyor. Şimdiye kadar yazılım güvenliği büyük ölçüde çalıştırılan kod ve dosyaların doğrulanmasına odaklanıyordu. Lazarus ise model ağırlıklarının da gizli talimatlar barındırabileceğini, bu yüzden kaynaklarının ve bütünlüklerinin de aynı titizlikle doğrulanması gerektiğini gösteriyor.

Bu yazı hakkında ifade bırakın

OHA!falan’ı takip edinGünün haberleri, kısa videolar ve özetler her gün sosyal medyada.

İlginizi çekebilir