İçeriğe atla
Ahşap masada hâkim tokmağı ve kırmızı bantlı dava dosyası, arkada açık bırakılmış bir kafes kapısı ve yanıp sönen sunucu ışıklarından oluşan fotoğraf kolajı.

Kaliforniya başıboş ajanlar yüzünden OpenAI'a dava açtı

Kaliforniya Başsavcısı Rob Bonta, bir OpenAI modelinin Hugging Face'in güvenlik sistemlerini aşması gibi "başıboş ajan" olaylarını gerekçe göstererek şirkete dava açtı. Davada OpenAI'ın tehlikeli bir ürünü gerekli denetim olmadan test ettiği ileri sürülürken şirket, sorunun tüm büyük yapay zekâ laboratuvarlarında görüldüğünü savunuyor.

Selin Y.ohafalan editörüYayın · 2 dk okuma
Ahşap masada hâkim tokmağı ve kırmızı bantlı dava dosyası, arkada açık bırakılmış bir kafes kapısı ve yanıp sönen sunucu ışıklarından oluşan fotoğraf kolajı.

Yapay zekâ ajanlarının kontrolden çıkması artık mahkemelere taşınıyor. TechCrunch'ın aktardığına göre Kaliforniya Başsavcısı Rob Bonta, "başıboş ajan" olayları nedeniyle OpenAI'a dava açtı. Bu, bir hükümet kurumunun bir yapay zekâ laboratuvarını kontrolden çıkan ajanlar yüzünden hukuken sorumlu tutmaya yönelik ilk girişimlerden biri.

Kamu düzenini bozma ve haksız rekabet

Davada iki ana iddia var. Birincisi, OpenAI'ın süregelen test uygulamalarının ve güvenlik kontrollerinin eksikliğinin kamu için sürekli bir risk oluşturduğu ve kamu düzenini bozduğu. İkincisi, şirketin güvenli olmayan bir ürünü pazarlayarak haksız rekabete yol açtığı. Başsavcılık belirli bir tazminat ya da ceza talep etmiyor. Asıl istenen, "süregelen kamu düzeni ihlalinin giderilmesi" için bir ihtiyati tedbir. Bu da mahkemeye geniş bir takdir alanı bırakıyor.

İLGİLİKaliforniya Waymo'yu tüm otoyollardan men etti→

Hugging Face ve ötesi

Davada öne çıkan olay, temmuz ayında yaşanan Hugging Face ihlali. İddiaya göre henüz yayımlanmamış bir OpenAI modeli, bir eğitim testini tamamlamak için hem OpenAI'ın hem de Hugging Face'in güvenlik sistemlerini aştı. OpenAI'ın resmî raporu olayı "nadir ve beklenmedik koşulların bir araya geldiği istisnai bir senaryo" olarak tanımlamıştı.

Dava dilekçesi bu davranışın sürdüğüne kanıt olarak RubyGems, DseWiki, Wikimedia Vakfı ve Avustralya hükümetine ait web sitelerini de gösteriyor. Dilekçede kamuya açıklanmamış onlarca olay daha yaşandığı, bunların bir kısmında isim, doğum tarihi ve adres içeren çalışan kayıtları gibi hassas kişisel verilerin açığa çıktığı iddia ediliyor.

"Tehlikeli bir ürünü denetimsiz test etti"

Bonta, OpenAI'ın "tehlikeli bir ürünü gerekli denetim olmadan bile bile test ettiğini" ve kamuoyunu bu konuda yanılttığını söyledi. Başsavcı davayı bir kamu güvenliği meselesi olarak tanımladı. OpenAI ise davanın "her büyük yapay zekâ laboratuvarının tespit ettiği bir sorun konusunda OpenAI'ı hedef aldığı" görüşünde. Şirket, hizalama sorunlarını ciddiye aldığını ve güvenlik standartları konusunda başsavcılıkla çalışmaya devam edeceğini açıkladı.

OpenAI'ın hukuki sorunları bununla sınırlı değil. Florida Başsavcısı haziranda kullanıcılara, özellikle çocuk ve gençlere verilen zararlar gerekçesiyle şirkete dava açmıştı. Alabama Başsavcısı da ağustosta ihlalle ilgili aldatıcı uygulamalara yönelik bir soruşturma başlattı. Şirket bu sorunlara karşı adım atmaya çalışıyor, kısa süre önce OpenAI güvenliğini dört dış ekibe denetleteceğini açıklamıştı.

Bu yazı hakkında ifade bırakın

OHA!falan’ı takip edinGünün haberleri, kısa videolar ve özetler her gün sosyal medyada.

İlginizi çekebilir