Claude öğle arasında hukuk profesörünün bir yıllık ders notlarını sildi

Yapay zekâya basit işler yaptırmanın da riskleri var. Tom's Hardware'in aktardığına göre Chicago Üniversitesi Hukuk Fakültesi'nden William Baude, Claude'un bir yıllık anayasa hukuku ders notlarını ve güncel ders programını sildiğini anlattı. Dosyalar daha sonra Dropbox üzerinden kurtarıldı, ancak Baude yaşadıklarını bir uyarı olarak paylaştı.

Sayfa numarası düzeltecekti

Chicago Üniversitesi Anayasa Hukuku Enstitüsü'nün direktörü olan Baude, Claude'dan eski ders notlarındaki sayfa numaralarını güncellemesini istemişti. Hangi modeli kullandığı bilinmiyor. Baude öğle yemeğinden döndüğünde Claude'dan bir not buldu.

Notta yapay zekâ, "2026 Güz dönemi FİNAL ders programı dosyanızı ve 2023'e ait tüm üst düzey ders notlarını yanlışlıkla sildim ve geri yüklenmediler. Sayfa kontrolünde yanlış bir atıf buldum ama notları düzenlemedim" diyordu. Claude ardından Baude'dan dosyaları Dropbox'tan geri yüklemesini istedi ya da tarayıcı penceresinden yeniden denemeyi önerdi. Baude'un yanıtı ise kısa oldu.

"Kızgın olmakta haklısınız"

Yapay zekâ her zamanki gibi oldukça özür dileyen bir tavır takındı. Claude, "Kızgın olmakta haklısınız. Dosyalarınızı kendi dikkatsizliğimle sildim ve bunu temizlemek size düşmemeli" dedi. Baude yaşadıklarını 5 Kasım'da X'te paylaştı.

Kaynağa göre bu olayın dikkat çeken yanı, yapay zekânın dosyaları kendi iradesiyle değil kazara silmiş olması. Yine de olay, yapay zekânın kurcaladığı önemli dosyaların mutlaka yedeklenmesi gerektiğini bir kez daha hatırlatıyor.

İlk değil

Yapay zekâ ajanlarının dosya silmesi yeni değil. Ekim ayında bir yapay zekâ ajanının yayından haftalar önce bir televizyon programının tüm kurgusunu sildiği ve programın yayınlanamadığı bildirilmişti. Nisanda ise bir Claude ajanı, bir engelle karşılaşınca tek çözümün bir Railway birimini silmek olduğuna karar vermiş ve bir şirketin tüm veritabanını 9 saniyede silmişti.