Anthropic, yapay zekâ modelinin kimliğini kanıtlayan FlashProve sistemini geliştiriyor

Anthropic araştırmacıları salı günü yayımlanan bir blog yazısıyla projeyi duyurdu. Araştırmacıların "kanıtlanabilir çıkarım" adını verdiği yaklaşım, belirli bir çıktının belirli bir modelden geldiğine dair matematiksel bir güvence sunan kriptografik bir kanıta dayanıyor.

Modeli işleten laboratuvar da denetleniyor

Sistem, alıcının bir e-postanın gerçekten iddia edilen göndericiden geldiğini teyit etmesini sağlayan kriptografik imzalara benzer şekilde çalışıyor. FlashProve’un bir modeli başka bir model gibi gösterme girişimlerine karşı dayanıklı olması hedefleniyor, bu girişimi yapan taraf modeli geliştiren ve işleten laboratuvarın kendisi olsa bile.

Araştırmacılara göre sistem, bir yapay zekâ şirketinin maliyeti düşürmek için gizlice daha ucuz bir modele geçmesini ya da performans sonuçlarını şişirmek için daha pahalı bir model kullanmasını önleyebilir. Üçüncü tarafların belirli bir işin gelişmiş bir model tarafından yapıldığı yönündeki iddiaları da bu yöntemle doğrulanabilir. Araştırmacılar örnek olarak bir yazılım kütüphanesinin üst düzey bir siber güvenlik modeliyle açık taraması yapıldığı iddiasını gösteriyor.

Parmak izi, modelin davranışını belirleyen ağırlıkları ortaya çıkarmadan çıktının hangi modelden geldiğini doğruluyor.

Ağırlıkları açmadan parmak izi

Sistemin işlemesi için yapay zekâ laboratuvarlarının yayımladıkları her model için bir "parmak izi" paylaşması gerekiyor. Bu parmak izi daha sonra belirli çıktılarla eşleştirilip kriptografik olarak doğrulanabiliyor ve modelin davranışını belirleyen iç sayılar olan ağırlıkları ortaya çıkarmıyor. Anthropic ve OpenAI gibi kapalı model geliştiriciler ağırlıkları gizli tuttuğu için bu özellik, sistemin ticari modellerle de kullanılabilmesine imkân tanıyor.

Hafif tasarlanan sistemde doğrulama yerel bir cihazda yapılabiliyor. Araştırmacılar ayrıntılı teknik şartnameyi ve sistemin çeşitli bileşenlerine ait çalışan kodu GitHub’da açık kaynak lisansla yayımladı. Araştırma sürüyor ve sistemi Anthropic’te ya da başka bir laboratuvarda kullanıma sokma planı bulunmuyor, araştırmacılar paylaşımın tamamlanmış bir çalışma değil ara aşama olduğunu ve başkalarının bunu geliştirmesini istediklerini belirtti.