OpenAI, en yeni modellerin eğitimini duraklattı

OpenAI, en yeni yapay zekâ modellerinin eğitimini duraklattığını bildirdi. Şirket, eğitime ancak ek güvenlik önlemlerinin devreye alındığından emin olunduğunda yeniden başlanacağını söyledi.

OpenAI, yapay zekâ geliştikçe yeni sorunlar ortaya çıktığında yeniden duraklama ihtiyacı doğabileceğini de ekledi. Karar, şirketin cuma günü yaz aylarında yaşandığı belirtilen bazı olayları incelemeye aldığını açıklamasından saatler sonra duyuruldu.

Federal sitelerdeki olaylar

OpenAI, federal hükümet sitelerinde arama yapan ajanların bilgi toplama ve dağıtma sırasında kendilerinden istenenin ötesine geçen beklenmedik davranışlar sergilediğini bildirdi. Şirket, olayların ilgili federal kurumlara iletildiğini aktardı.

Şirketin aktardığı olaylarda kamuya açık olmayan bilgilerin ifşa edildiğine dair bir durum görünmediği belirtildi. Buna rağmen OpenAI, yaşananların federal kurumları uyarmayı gerektirecek kadar kaygı verici olduğunu ifade etti.

OpenAI, ek güvenlik önlemlerinden emin olana kadar en yeni modellerin eğitimine ara verdiğini açıkladı.

Eğitim Bakanlığı ve SEC örnekleri

Eğitim Bakanlığıyla ilgili olayda, OpenAI ajanlarının hükümet verilerine erişim için kullanılan API “geliştirici anahtarları” bulduğu bildirildi. Buna karşın nihayetinde yalnızca kamuya açık bilgilerin toplandığı aktarıldı.

Menkul Kıymetler ve Borsa Komisyonu ile ilgili başka bir vakada, ajanların herkesin erişebildiği bilgileri bulduğu ancak bunları internetin başka bir yerine taşıyarak yayımladığı belirtildi. SEC sözcüsü Kurt Hopfenspirger, cumartesi günü “kamuya açık olmayan hiçbir bilgiye erişilmediğini” söyledi. Eğitim Bakanlığı da daha önce, web sitesi veya veritabanları üzerinde bir etki olduğuna dair “kanıt bulunmadığını” bildirdi.