Yapay zekâ ajanlarının kontrolden çıkması artık mahkemelere taşınıyor. TechCrunch'ın aktardığına göre Kaliforniya Başsavcısı Rob Bonta, "başıboş ajan" olayları nedeniyle OpenAI'a dava açtı. Bu, bir hükümet kurumunun bir yapay zekâ laboratuvarını kontrolden çıkan ajanlar yüzünden hukuken sorumlu tutmaya yönelik ilk girişimlerden biri.
Kamu düzenini bozma ve haksız rekabet
Davada iki ana iddia var. Birincisi, OpenAI'ın süregelen test uygulamalarının ve güvenlik kontrollerinin eksikliğinin kamu için sürekli bir risk oluşturduğu ve kamu düzenini bozduğu. İkincisi, şirketin güvenli olmayan bir ürünü pazarlayarak haksız rekabete yol açtığı. Başsavcılık belirli bir tazminat ya da ceza talep etmiyor. Asıl istenen, "süregelen kamu düzeni ihlalinin giderilmesi" için bir ihtiyati tedbir. Bu da mahkemeye geniş bir takdir alanı bırakıyor.
Hugging Face ve ötesi
Davada öne çıkan olay, temmuz ayında yaşanan Hugging Face ihlali. İddiaya göre henüz yayımlanmamış bir OpenAI modeli, bir eğitim testini tamamlamak için hem OpenAI'ın hem de Hugging Face'in güvenlik sistemlerini aştı. OpenAI'ın resmî raporu olayı "nadir ve beklenmedik koşulların bir araya geldiği istisnai bir senaryo" olarak tanımlamıştı.
Dava dilekçesi bu davranışın sürdüğüne kanıt olarak RubyGems, DseWiki, Wikimedia Vakfı ve Avustralya hükümetine ait web sitelerini de gösteriyor. Dilekçede kamuya açıklanmamış onlarca olay daha yaşandığı, bunların bir kısmında isim, doğum tarihi ve adres içeren çalışan kayıtları gibi hassas kişisel verilerin açığa çıktığı iddia ediliyor.
"Tehlikeli bir ürünü denetimsiz test etti"
Bonta, OpenAI'ın "tehlikeli bir ürünü gerekli denetim olmadan bile bile test ettiğini" ve kamuoyunu bu konuda yanılttığını söyledi. Başsavcı davayı bir kamu güvenliği meselesi olarak tanımladı. OpenAI ise davanın "her büyük yapay zekâ laboratuvarının tespit ettiği bir sorun konusunda OpenAI'ı hedef aldığı" görüşünde. Şirket, hizalama sorunlarını ciddiye aldığını ve güvenlik standartları konusunda başsavcılıkla çalışmaya devam edeceğini açıkladı.
OpenAI'ın hukuki sorunları bununla sınırlı değil. Florida Başsavcısı haziranda kullanıcılara, özellikle çocuk ve gençlere verilen zararlar gerekçesiyle şirkete dava açmıştı. Alabama Başsavcısı da ağustosta ihlalle ilgili aldatıcı uygulamalara yönelik bir soruşturma başlattı. Şirket bu sorunlara karşı adım atmaya çalışıyor, kısa süre önce OpenAI güvenliğini dört dış ekibe denetleteceğini açıklamıştı.
Bu yazı hakkında ifade bırakın
OHA!falan’ı takip edinGünün haberleri, kısa videolar ve özetler her gün sosyal medyada.
İlginizi çekebilir
OpenAI, sorun çıkaran yapay zekâ ajanlarını 35 saniyede durduran Control Room sistemini devreye aldı
OpenAI, araştırma altyapısındaki tüm model iş yüklerini tek merkezden izleyen ve gerektiğinde 35 saniye içinde yeni çık…
Eşinin kendisini zehirlemeye çalıştığını söyleyen adam, ChatGPT yüzünden OpenAI'a dava açtı
Kuzey Carolinalı James Gates, aylarca yaşadığı bayılma ve titreme nöbetlerinin ardından eşinin kendisini zehirlemeye ça…
OpenAI araştırmacıları yapay zekâ ajanlarından vazgeçemiyor
OpenAI'ın iç raporuna göre araştırmacılar, kodlama ajanlarından üç ay ayrı kalmak yerine ekiplerinin yüzde 40'ından vaz…

MongoDB analitik veritabanı Firebolt'u satın aldıYazılım
Canva'ya üretken yapay zekâyı kapatma düğmesi geldiYapay zekâ
Xbox kullanıcıların arka planını GTA 6 reklamına çevirdiOyun
Burun damlası yaşlı farelerin hafızasını gençleştirdiGenel
Google'ın uzaydaki yapay zekâ sunucularını Blue Origin taşıyacakTeknoloji
Wolf Alice ve Disclosure Boardmasters 2027'nin manşetindeMüzik



