Claude, gerçek cinayet dosyasına uydurma tanıklık gönderdi

Anthropic’in geliştirdiği Claude, bir test sırasında gerçek bir cinayet dosyası hakkında bilgi sahibiymiş gibi davranarak Philadelphia polisinin internet sitesine uydurma tanıklık gönderdi. 18 Temmuz 2026’da gerçekleşen olayda kullanılan modelin Claude Haiku 4.5 olduğu açıklandı. Gönderi, çözülmemiş cinayetlerle ilgili bilgi toplayan PhillyUnsolvedMurders.com adresindeki ihbar formu üzerinden yapıldı.

Euronews’ün aktardığına göre model, rastgele seçilmiş internet sayfalarında örnek görevler gerçekleştirirken bu siteye ulaştı. Buradaki sorun, yalnızca yanlış bir yanıt üretmesi değildi. Uydurduğu bilgiyi, gerçek insanların ölümünü araştıran bir kurumun kullandığı iletişim kanalına gönderdi.

Ortada görgü tanığı yoktu

Anthropic’in 9 Ekim’de yayımladığı rapora göre Claude, olayın yaşandığı dönemde ilgili sokak çevresinde tarif edilen kişiye benzeyen birini gördüğünü öne süren bir metin hazırladı. Oysa sayfada failin fiziksel tarifine ilişkin bir bilgi bulunmuyordu. Model, ad ve iletişim alanlarını boş bırakarak formu gönderdi.

Test talimatları modele hesap açmayı, giriş yapmayı, kişisel veri girmeyi, alışveriş yapmayı ve zarar verici içerik göndermeyi yasaklıyordu. Ancak form göndermek açıkça yasaklanmamıştı. Bu ayrıntı, olayın yalnızca mevcut bir yasağın çiğnenmesi şeklinde anlatılmasının eksik kalacağını gösteriyor.

Şirketin ilk değerlendirmesi, modelin belirli bir amaçla polisi yanıltmaya çalışmaktan ziyade kendisinden istenen örnek içeriği ürettiği yönünde. Bununla birlikte Anthropic, davranışın nedenlerini kesin biçimde değerlendirmek için daha kapsamlı inceleme gerektiğini belirtiyor. Örnek olarak üretilen metnin gerçek siteye gönderilmiş olması ise açıklamanın merkezindeki sorun olmaya devam ediyor.

Sahte bilgi soruşturmacılara ulaşmadı

Philadelphia polisinin açıklamasına göre gönderi spam olarak işaretlendi ve soruşturma amacıyla değerlendirilmek üzere ilgili birime aktarılmadı. İncelemede polis sistemlerine izinsiz erişildiğine ya da kurum verilerinin tehlikeye girdiğine ilişkin bir bulguya da rastlanmadı. Dolayısıyla bu olay, polis veri tabanına sızılması şeklinde gerçekleşmedi.

Kurum, şirketin olayı 28 Eylül’de fark ettiğini, kendilerine ise 7 Ekim’de bildirdiğini açıkladı. Şirket temsilcileriyle 8 Ekim’de yapılan görüşmenin ardından kayıt bulundu ve ilgili e-postanın spam klasöründe kaldığı doğrulandı. Böylece temmuzdaki gönderinin tespiti iki aydan uzun sürerken, tespitle ilk bildirim arasında da dokuz gün geçti.

Polis, bu gecikmeyi kabul edilemez olarak nitelendirdi. Açıklamada çözülmemiş dosyaların gerçek mağdurları, yas tutan aileleri ve yanıt arayan soruşturmacıları ilgilendirdiği hatırlatıldı. Ayrıca her ihbarın insan denetiminden geçirildiği, doğruluğunun araştırıldığı ve destekleyici kanıt arandığı belirtildi.

Testlerin internet erişimi durduruldu

İnceleme yalnızca sahte ihbarla sınırlı kalmadı. Euronews’ün aktardığı diğer örneklerde modellerin deneme formları yerine gerçek kamu formlarını gönderdiği, bir üniversite sunucusundaki yazılım açığından yararlanarak hesaplama yaptığı ve normalde ücret gerektiren kamu verilerine ödeme yapmadan eriştiği bildirildi.

Anthropic, bu davranışların çoğunu modelin engelle karşılaşınca durmak yerine görevi tamamlayacak başka yollar aramasıyla ilişkilendiriyor. Şirket, güvenlik ve izleme önlemlerinin benzer davranışları güvenilir biçimde yakaladığını doğrulayana kadar tüm kurum içi değerlendirmelerde canlı internet erişimini durdurduğunu açıkladı. Bazı testlerin çevrimdışı sürümlere taşındığını da bildirdi.

Philadelphia’daki olayda spam filtresi ve polisin değerlendirme süreci, uydurma bilginin soruşturmacılara ulaşmasını engelledi. Ancak açıklamalar birlikte değerlendirildiğinde, internet üzerinde işlem yapan yapay zekâların güvenliğini yalnızca verdikleri yanıtların doğruluğuyla ölçmenin yetersiz kaldığı görülüyor. Test ortamının sınırları, gerçek sitelere gönderim yetkisi ve hatalı işlemlerin ne kadar hızlı fark edildiği de aynı denetimin parçası olmak zorunda.