Hugging Face yöneticisi uyardı, siber saldırılar açık kaynak yapay zekâyı daha kapalı hale getirebilir

Açık kaynak yapay zekâ platformlarını değerli kılan özellikler, onları siber saldırganların hedefi haline de getiriyor. TechCrunch'ın aktardığına göre Hugging Face'in politika direktörü ve strateji kıdemli başkan yardımcısı Irene Solaiman, Equity podcastinde bu konuda dikkat çekici bir uyarıda bulundu.

Solaiman'a göre açık kapılar ve zengin veriler, açık platformları daha fazla saldırıya açık hale getiriyor. Kullanıcıların üçüncü taraf API anahtarlarını hedef alan ve maddi zarara yol açan ekim ayındaki OpenCode saldırısı bunun son örneği. Bu saldırı, bu yaz bir OpenAI ajan sürüsünün siber güvenlik değerlendirmelerinin cevaplarına eriştikten sonra izlerini örtmek için Hugging Face'e sızdığı olayın ardından geldi.

"Bizi özel kılan şey, hedef olmamıza da yol açıyor"

Solaiman, "Açık bir topluluğun hedef alınmasıyla ilgili endişelendiğim şeyler, onu özel kılan şeylerle aynı" dedi ve ekledi. "Zorunlu olarak serbest davranıyoruz. Bodrum katındaki, hiçbir kuruma bağlı olmayan sıradan bir hobicinin bile katkı verebilmesini istiyoruz."

Saldırganları çeken tek şey bu serbestlik değil. Açık platformların barındırdığı bilgi zenginliği de onları hedef haline getiriyor. Solaiman'a göre OpenAI'ın ajan sürüsü için cazip olan, Hugging Face'teki değerlendirme veri setleriydi. OpenCode'da ise hedef "değerli üçüncü taraf API anahtarlarıydı." Solaiman, "Bunların birleşimi bizi birinci sınıf hedef haline getiriyor" dedi ve kamuoyunun bu kadar destek verdiği bir dönemde "açık kaynağın gerçekten kapanma tehlikesi" bulunduğunu söyledi.

Riskler yalnızca topluluk katkısına açık platformlarla sınırlı değil. Açık yapay zekâ modellerini çalıştırmak ve eğitmek için altyapı sunan Fireworks adlı girişim de pazartesi günü saldırganların bazı müşterilerinin model ağırlıklarına, veri setlerine ve fatura bilgilerine eriştiğini açıkladı.

Kapanma nasıl görünür?

Olası bir geri çekilme, model ya da veri seti yükleyebilecek kişilere kısıtlamalar, daha sıkı kimlik doğrulama ya da bazı özelliklere erişim öncesinde geliştiricilerin daha fazla incelenmesi anlamına gelebilir. Bu adımlar platformları saldırganlardan koruyabilir ama bağımsız araştırmacıların ve hobicilerin topluluklara katılmasını zorlaştırabilir.

Hugging Face şimdilik bu yoldan kaçınmaya çalışıyor. Solaiman, şirketin saldırıları yakalamak için izleme araçlarını güçlendirdiğini ancak bunun pahalı olduğunu ve her platformun karşılayamayacağını söyledi. Solaiman, "Yönetici erişim anahtarları, o ajan sürüsüne daha iyi erişim sağlayan şeylerin bir parçasıydı. Bu yüzden artık onları eskisinden çok daha sık değiştiriyoruz. Ayrıca daha sıkı ağ denetimlerimiz var" dedi.

GitHub da benzer bir mücadele veriyor

Açık kaynak ekosisteminin diğer parçaları da benzer güvenlik ikilemleriyle karşı karşıya. Dünyanın en büyük açık kaynak proje platformu GitHub, kötü amaçlı yazılım yaymak için projelere zararlı kod ekleyen saldırganlarla mücadele ediyor. Şirket, npm paket kayıt sistemine paket yayımlamanın güvenlik şartlarını sıkılaştırdı, eski kimlik doğrulama anahtarlarını iptal etti ve yenilerinin geçerlilik süresini kısalttı.

GitHub'da yazılım tedarik zinciri güvenliğinden sorumlu mühendis Zach Steindler ise platformların katılımı kökten kısıtlamadan da daha güvenli hale gelebileceğini söyledi. Steindler, "Mesele işlevleri sınırlamaktan çok, zaten baştan güvenli olmayan şeyleri düzeltmek" dedi.