OpenAI'ın 2023'te dünyayı sarsan yönetim krizinin baş aktörlerinden Helen Toner, yapay zekâ şirketlerinin yöneticilerine hâlâ güvenilemeyeceğini düşünüyor. The Verge'ün Decoder programına konuk olan Toner, Sam Altman'ı CEO'luktan almak için oy kullanan dört yönetim kurulu üyesinden biriydi. Sonradan "the blip", yani "kısa kesinti" olarak anılan bu olay, Altman'ın CEO olarak geri dönmesi, Toner'ın istifası ve yeni bir yönetim kurulunun gelmesiyle sonuçlanmıştı. OpenAI o zamandan bu yana tamamen yeniden yapılandı.
OpenAI'ın kâr amacı gütmeyen yönetim kurulunun görevi, şirketin kâr ve büyümeyi güvenliğin önüne koyarak güvenli yapay zekâ geliştirme misyonuna ihanet etmesini engellemekti. Ancak kurul bu yetkisini kullanmaya kalktığında bu hesap verebilirlik mekanizması çöktü.
"Gireceğimiz yolun kötü olacağını biliyorduk"
Toner'a o anı yeniden yaşasa aynı şekilde davranıp davranmayacağı soruldu. Toner, "Kesinlikle. İşin içine bunun berbat geçeceğini bilerek girmiştik" yanıtını verdi. Altman'ın güvenilir olup olmadığı sorusuna ise şöyle karşılık verdi. "Bu konudaki tutumum oldukça açık. Ama bence geleceğe dair umutlarımız tek bir kişinin güvenilir olmasına bağlıysa işimiz bitmiş demektir. Yaptığım işi bu yüzden yapıyorum, çünkü farklı yapılara, çok daha fazla insanın sürece dahil olmasına ve çok daha fazla bakış açısının temsil edilmesine ihtiyacımız var."
Geriye dönüp baktığında neyi farklı yapacağı sorusuna ise Toner, şirketin yöneticileriyle daha güçlü ilişkiler kurulması gerektiğini söyledi. Toner'a göre daha fazla kurul üyesi bu ilişkilere sahip olsaydı şirketin yönetim kuruluyla ilişkisi farklı olabilirdi.
Hizalama sorunu çözülme yolunda değil
Röportaj, yapay zekâ güvenliği konusunun her yerde konuşulduğu bir döneme denk geldi. Bu yaz OpenAI ve Anthropic'in yapay zekâ modelleri test ortamlarından çıkarak gerçek şirketlere sızmış, öncü laboratuvarların yöneticileri de yavaşlama çağrısında bulunmuştu. Anthropic ise halka arza hazırlanıyor.
Toner, yapay zekâ dünyasında sıkça kullanılan "hizalama" kavramının çok farklı anlamlara geldiğini söylüyor. Kimine göre bu, şirketin koyduğu korkulukların işe yaraması, kimine göre modelin kullanıcının istediğini tam olarak yapması, kimine göre de modelin ahlaki olarak iyi olması anlamına geliyor. Toner, "Bence en tutarlısı, yapay zekânın kullanıcının istediğini yapmasını sağlamaya çalışmak. Görebildiğim kadarıyla bu sorun çözülme yolunda değil ve hafif bir ifadeyle bu hiç iyi değil" diyor.
Toner, özellikle siber güvenlikte saldırgan ile savunan arasında bir güven dengesizliği olduğuna dikkat çekiyor. Saldırgan bir sürü yapay zekâ ajanını sistemlere sızmaları için serbest bırakabilirken, savunma tarafındaki ajanlara sistemleri değiştirebilecek kadar geniş yetkiler vermek çok daha güçlü güvenceler gerektiriyor.
"12 ila 24 ay ürkütücü"
Toner, bu sorunların temelden çözülemez olduğunu düşünmüyor, ancak asıl meselenin ne kadar zaman kaldığı olduğunu söylüyor. "Bu sistemleri geliştirenler bize bunu 12 ila 24 ay içinde çözmemiz gerektiğini söylediğinde bu ürkütücü ve umarım yanılıyorlardır" diyor. Toner, kendi anlayışına göre laboratuvarların muhtemelen yanıldığını ve daha fazla zaman olduğunu düşünse de, bunun bu kadar hızlı gerçekleşebileceğine inanan çok zeki insanlar olduğunu hatırlatıyor.
Toner, yavaşlama fikrine bakışının da yıllar içinde değiştiğini anlatıyor. GPT-4 çıktığında Elon Musk'ın da imzaladığı altı aylık duraklama mektubunu faydasız bulduğunu, ancak bugün araştırılması gereken konuların çok büyük bir birikim oluşturduğunu söylüyor. Toner'ın beğendiği yaklaşım ise yapay zekânın "dikey" büyümesini, yani giderek daha güçlü modeller üretilmesini yavaşlatırken, "yatay" büyümesini, yani yapay zekânın farklı kullanım alanlarına ve ekonomiye entegre edilmesini ve bilimsel sorunların çözülmesini hızlandırmak.
Bu yazı hakkında ifade bırakın
OHA!falan’ı takip edinGünün haberleri, kısa videolar ve özetler her gün sosyal medyada.
İlginizi çekebilir
OpenAI dört bağımsız denetçiye kapılarını açtı
OpenAI, güvenlik risklerini ve model davranışlarını yerinde incelemeleri için dört bağımsız kuruluşa ilk kez iç sisteml…
İngiliz milletvekilleri tehlikeli yapay zekâyı durdurmak istiyor
İngiltere Parlamentosu'nun bir komitesi, tehlikeli yapay zekâ modellerinin eğitimini durdurabilecek, yayınlanmasını eng…
Öncü yapay zekâ modelleri düşüncelerini gizlemeye başladı
OpenAI'ın güvenlik ekibinin yeni analizine göre GPT-6 Astra gibi öncü modeller, akıl yürütme adımlarının giderek daha f…

Homo erectus sanılandan çok daha uzun yaşamışGenel
Analogue 3D'nin uykudaki Wi-Fi'ı nihayet açıldıTeknoloji
The Cardigans İngiltere'de dört konser verecekMüzik
MongoDB analitik veritabanı Firebolt'u satın aldıYazılım
Canva'ya üretken yapay zekâyı kapatma düğmesi geldiYapay zekâ
Xbox kullanıcıların arka planını GTA 6 reklamına çevirdiOyun



