İçeriğe atla
Kâğıt kolaj tarzında boş toplantı salonunda tek bir parçanın üstünde dengede duran uzun ahşap blok kulesi, tepesinde yapay zekâ çipi ve geleceği tek bir CEO'nun dürüstlüğüne bırakamayız başlığı

Sam Altman'ı kovan eski OpenAI yönetim kurulu üyesi Helen Toner, "Geleceğimiz tek bir kişinin güvenilirliğine bağlıysa işimiz bitmiş demektir" dedi

2023'te Sam Altman'ı OpenAI'dan kovan dört yönetim kurulu üyesinden biri olan Helen Toner, The Verge'e verdiği röportajda o kararı bugün de aynı şekilde vereceğini söyledi ve yapay zekâ güvenliğinin tek tek CEO'ların dürüstlüğüne bırakılamayacağını vurguladı. Georgetown Üniversitesi'ndeki CSET'in başkanı Toner, yapay zekâyı kullanıcının istediğini yapmaya yöneltme sorununun çözülme yolunda olmadığını ve laboratuvarların öngördüğü 12 ila 24 aylık sürenin ürkütücü olduğunu belirtti.

Selin Y.ohafalan editörüYayın Güncelleme · 2 dk okuma
Kâğıt kolaj tarzında boş toplantı salonunda tek bir parçanın üstünde dengede duran uzun ahşap blok kulesi, tepesinde yapay zekâ çipi ve geleceği tek bir CEO'nun dürüstlüğüne bırakamayız başlığı

OpenAI'ın 2023'te dünyayı sarsan yönetim krizinin baş aktörlerinden Helen Toner, yapay zekâ şirketlerinin yöneticilerine hâlâ güvenilemeyeceğini düşünüyor. The Verge'ün Decoder programına konuk olan Toner, Sam Altman'ı CEO'luktan almak için oy kullanan dört yönetim kurulu üyesinden biriydi. Sonradan "the blip", yani "kısa kesinti" olarak anılan bu olay, Altman'ın CEO olarak geri dönmesi, Toner'ın istifası ve yeni bir yönetim kurulunun gelmesiyle sonuçlanmıştı. OpenAI o zamandan bu yana tamamen yeniden yapılandı.

OpenAI'ın kâr amacı gütmeyen yönetim kurulunun görevi, şirketin kâr ve büyümeyi güvenliğin önüne koyarak güvenli yapay zekâ geliştirme misyonuna ihanet etmesini engellemekti. Ancak kurul bu yetkisini kullanmaya kalktığında bu hesap verebilirlik mekanizması çöktü.

İLGİLİBir geliştirici, bilgisayarındaki boş RAM'i her gün Sam Altman'a e-postayla bildiren betik yazdı→

"Gireceğimiz yolun kötü olacağını biliyorduk"

Toner'a o anı yeniden yaşasa aynı şekilde davranıp davranmayacağı soruldu. Toner, "Kesinlikle. İşin içine bunun berbat geçeceğini bilerek girmiştik" yanıtını verdi. Altman'ın güvenilir olup olmadığı sorusuna ise şöyle karşılık verdi. "Bu konudaki tutumum oldukça açık. Ama bence geleceğe dair umutlarımız tek bir kişinin güvenilir olmasına bağlıysa işimiz bitmiş demektir. Yaptığım işi bu yüzden yapıyorum, çünkü farklı yapılara, çok daha fazla insanın sürece dahil olmasına ve çok daha fazla bakış açısının temsil edilmesine ihtiyacımız var."

Geriye dönüp baktığında neyi farklı yapacağı sorusuna ise Toner, şirketin yöneticileriyle daha güçlü ilişkiler kurulması gerektiğini söyledi. Toner'a göre daha fazla kurul üyesi bu ilişkilere sahip olsaydı şirketin yönetim kuruluyla ilişkisi farklı olabilirdi.

Hizalama sorunu çözülme yolunda değil

Röportaj, yapay zekâ güvenliği konusunun her yerde konuşulduğu bir döneme denk geldi. Bu yaz OpenAI ve Anthropic'in yapay zekâ modelleri test ortamlarından çıkarak gerçek şirketlere sızmış, öncü laboratuvarların yöneticileri de yavaşlama çağrısında bulunmuştu. Anthropic ise halka arza hazırlanıyor.

Toner, yapay zekâ dünyasında sıkça kullanılan "hizalama" kavramının çok farklı anlamlara geldiğini söylüyor. Kimine göre bu, şirketin koyduğu korkulukların işe yaraması, kimine göre modelin kullanıcının istediğini tam olarak yapması, kimine göre de modelin ahlaki olarak iyi olması anlamına geliyor. Toner, "Bence en tutarlısı, yapay zekânın kullanıcının istediğini yapmasını sağlamaya çalışmak. Görebildiğim kadarıyla bu sorun çözülme yolunda değil ve hafif bir ifadeyle bu hiç iyi değil" diyor.

Toner, özellikle siber güvenlikte saldırgan ile savunan arasında bir güven dengesizliği olduğuna dikkat çekiyor. Saldırgan bir sürü yapay zekâ ajanını sistemlere sızmaları için serbest bırakabilirken, savunma tarafındaki ajanlara sistemleri değiştirebilecek kadar geniş yetkiler vermek çok daha güçlü güvenceler gerektiriyor.

İLGİLİOpenAI, 30 milyar dolarlık yeni turu görüşüyor→

"12 ila 24 ay ürkütücü"

Toner, bu sorunların temelden çözülemez olduğunu düşünmüyor, ancak asıl meselenin ne kadar zaman kaldığı olduğunu söylüyor. "Bu sistemleri geliştirenler bize bunu 12 ila 24 ay içinde çözmemiz gerektiğini söylediğinde bu ürkütücü ve umarım yanılıyorlardır" diyor. Toner, kendi anlayışına göre laboratuvarların muhtemelen yanıldığını ve daha fazla zaman olduğunu düşünse de, bunun bu kadar hızlı gerçekleşebileceğine inanan çok zeki insanlar olduğunu hatırlatıyor.

Toner, yavaşlama fikrine bakışının da yıllar içinde değiştiğini anlatıyor. GPT-4 çıktığında Elon Musk'ın da imzaladığı altı aylık duraklama mektubunu faydasız bulduğunu, ancak bugün araştırılması gereken konuların çok büyük bir birikim oluşturduğunu söylüyor. Toner'ın beğendiği yaklaşım ise yapay zekânın "dikey" büyümesini, yani giderek daha güçlü modeller üretilmesini yavaşlatırken, "yatay" büyümesini, yani yapay zekânın farklı kullanım alanlarına ve ekonomiye entegre edilmesini ve bilimsel sorunların çözülmesini hızlandırmak.

Bu yazı hakkında ifade bırakın

OHA!falan’ı takip edinGünün haberleri, kısa videolar ve özetler her gün sosyal medyada.

İlginizi çekebilir