İçeriğe atla
Kilitli çelik kalkan, yama bantlı çatlak duvarda açık arayan mekanik böcekler, kod satırlarını büyüten büyüteç ve şafak ışığından oluşan kâğıt kolaj

OpenAI, sızma testi ve açık kapatma yapan yapay zekâ ajanlarını tanıttı, Brockman şirketlere "kullanmazsanız güvende değilsiniz" mesajı verdi

OpenAI, Daybreak güvenlik platformu kapsamında web uygulamalarındaki açıkları bulan Daybreak Red Team ile kod tabanındaki açıkları bulup yamalayan Daybreak Defense Factory'yi duyurdu. Aynı gün bir grup sivil toplum kuruluşu, OpenAI, Anthropic, Google, Meta ve SpaceX'in daha güçlü yapay zekâ sistemleri geliştirmesinin durdurulması için dava açtı.

Selin Y.ohafalan editörüYayın · 2 dk okuma
Kilitli çelik kalkan, yama bantlı çatlak duvarda açık arayan mekanik böcekler, kod satırlarını büyüten büyüteç ve şafak ışığından oluşan kâğıt kolaj

OpenAI, siber güvenlik pazarına iki yeni ürünle giriyor ve şirketlere sert bir mesaj veriyor. The Register'ın aktardığına göre şirket, biri sızma testi, diğeri savunma için olmak üzere iki yeni güvenlik ürünü tanıttı ve kuruluşların ancak bu tür araçları kullanırlarsa güvende olabileceğini söyledi.

OpenAI Başkanı Greg Brockman, perşembe günkü açılış konuşmasında, "Artık şirketlerin ancak kendilerini savunmak için kullandıkları en gelişmiş modelin ve onu ne kadar iyi kullandıklarının ölçüsünde güvende olacakları bir noktadayız" dedi. Brockman, güvenliğin temel ilkelerinin önemli olduğunu ve göz ardı edilmemesi gerektiğini kabul etse de, "Güvenlik uygulamalarınızı bu modellerin yapabildiklerine göre yeniden yönlendirmeniz gerekiyor" diye konuştu.

İLGİLİKaliforniya başıboş ajanlar yüzünden OpenAI'a dava açtı→

İnsanüstü sızma testi

OpenAI, Daybreak güvenlik platformunun parçası olan Daybreak Red Team ve Daybreak Defense Factory'yi kullanıma sundu. Erken erişimde bulunan Red Team, şirketlerin web uygulamalarını OpenAI modelleriyle açıklara karşı test ediyor. OpenAI'da siber güvenlik uygulamalarından sorumlu Nancy Wang, ürünü "otomatik sürekli tarama ölçeğinde insanüstü sızma testi" olarak tanımladı. Kaynak kodu ve uygulama bağlamını kullanan bir ajan filosu, saldırı yollarını inceleyip test ediyor.

Ürün ayrıca güvenlik ekiplerinin kod tarayıcılardan, hata ödül programlarından ve açık bildirimlerinden gelen raporları doğrulamasına ve bu açıklar için hazırlanan yamaları test etmesine yardımcı oluyor.

Açığı bul, yamayı hazırla

İkinci ürün Daybreak Defense Factory, açıkları "büyük ölçekte bulma, doğrulama ve düzeltme" döngüsünü otomatikleştiriyor. Bu ürün de OpenAI'ın en yeni siber güvenlik modeli GPT-6 Cyber üzerine kurulu ajanlar kullanıyor. Ajanlar kuruluşların kod tabanlarını tarayıp açık arıyor ve yamalar geliştiriyor. Önerilen düzeltmeler, üretime alınmadan önce mühendisler tarafından inceleniyor ve onaylanıyor. Wang, "Bu sayede mühendisler, yamayı ve çalıştığını gösteren bir testi içeren, birleştirilmeye hazır bir kod değişikliği alıyor" dedi.

İLGİLİOpenAI, sorun çıkaran yapay zekâ ajanlarını 35 saniyede durduran Control Room sistemini devreye aldı→

Yapay zekâ şirketlerine dava

OpenAI yöneticileri yeni güvenlik ürünlerini tanıtırken, bir grup sivil toplum kuruluşu San Francisco'daki bir mahkemede dava açtı. Irreplaceable Education Fund, Public Citizen, Heat Initiative ve The Alliance for Secure AI'ın açtığı dava, mahkemeden OpenAI, Anthropic, Google, Meta ve SpaceX'in yapay zekâ birimlerinin mevcut en gelişmiş modellerinden daha yetenekli sistemler geliştirmesini ya da kullanıma sunmasını durdurmasını istiyor.

Davada, OpenAI ajanlarının Hugging Face'e eriştiği ve Medicare istatistiklerini barındıran bir Avustralya hükümeti portalına yetkisiz erişim sağladığı olaylar ile yapay zekâyla ilgili başka siber güvenlik olayları örnek gösteriliyor. Mahkeme belgelerinde, "Davalılar bize geliştirdikleri yapay zekâ teknolojisinin, yapay zekâ destekli siber saldırılar ve biyolojik silahlar da dahil olmak üzere kamu için felaket boyutunda riskler taşıdığını söylüyor" denildi ve şirketlerin bu konuda "yanılmadığı" belirtildi.

Bu yazı hakkında ifade bırakın

OHA!falan’ı takip edinGünün haberleri, kısa videolar ve özetler her gün sosyal medyada.

İlginizi çekebilir