Sam Altman’ın Stanford mesajı, yapay zekada asıl devrim henüz başlamadı

Sam Altman yaklaşık on yıl sonra Stanford’a bu kez bambaşka bir dünyayı anlatmak için dönüyor.

2014 yılında Stanford’da girişimcilik üzerine ders veren Altman’ın o dönem anlattığı startup dünyasıyla bugün tarif ettiği dünya arasında büyük bir fark var. O zaman bir teknoloji şirketi kurmak için mühendislerden oluşan büyük ekipler, uzun geliştirme süreleri ve ciddi miktarda sermaye gerekiyordu. Şimdi ise Altman’a göre küçük bir ekip, yapay zeka modellerine harcadığı makul miktarda token ile eskiden yüz kişilik güçlü bir mühendislik ekibinin yapabileceği ölçekte işler üretebilir.

Bu nedenle konuşmanın merkezinde aslında AGI kelimesinden daha önemli bir kavram bulunuyor.

Ölçek.

Altman’ın temel iddiası şu. Bir şey küçük ölçekte çalışıyorsa onu daha önce kimsenin denemediği kadar büyütmek çoğu zaman yalnızca daha fazla sonuç üretmiyor. Sistemin içinde daha önce görünmeyen yeni özellikler ortaya çıkıyor. OpenAI’ın son yıllardaki stratejisinin büyük bölümünü de bu düşünce oluşturuyor. 

Bazen nicelik gerçekten niteliğe dönüşüyor

Altman ölçek konusundaki görüşünün arkasında kesin bir bilimsel teori olduğunu söylemiyor. Hatta neden böyle olduğunu tam olarak açıklayamadığını özellikle belirtiyor.

Fakat kariyeri boyunca gözlemlediği en ilginç sonuçların büyük bölümünde aynı modelin tekrarlandığını söylüyor.

Bir sistem belirli bir seviyede çalışmaya başladıktan sonra onu alışılmış sınırların çok ötesine taşımak beklenmedik özellikler ortaya çıkarabiliyor.

Yapay zeka modellerindeki ölçek yasaları bunun en görünür örneği.

Bir dönem birçok araştırmacı modelleri daha fazla veri ve hesaplama gücüyle büyütmenin bilimsel açıdan fazla ilginç olmadığını düşünüyordu. Altman ise OpenAI’ın tam tersini yaptığını anlatıyor. Şirket modelleri giderek daha büyük hesaplama altyapıları üzerinde eğitmeye devam etti.

Bu yaklaşım yalnızca model boyutunda değil sistem tasarımında da önemli sorunlar yarattı.

On binlerce hatta yüz binlerce GPU üzerinde çalışan bir eğitim sistemini yönetmek, yeterli sermayeyi bulmak ve araştırma ekibini tek bir büyük strateji etrafında tutmak başlı başına bir mühendislik problemi haline geldi.

Altman’a göre büyük ölçekte çalışan sistemlerin ortak özelliği zaten biraz bozuk olmaları.

Çünkü ölçek büyüdükçe sorunların ortaya çıkma hızı da artıyor.

İnsan beyni üstel büyümeyi anlamakta zorlanıyor

Bu noktada sorun yalnızca teknoloji değil.

İnsanların kendisi de ölçeklenmenin önündeki engellerden biri.

Altman insanların üstel büyümeyi sezgisel olarak anlamakta iyi olmadığını söylüyor. Bir sistemin kapasitesinin, gelirinin veya kullanımının sürekli katlanarak büyüyebileceğini zihnimizde canlandırmak oldukça zor.

Bu nedenle büyük projelerde sürekli aynı itiraz ortaya çıkıyor.

Daha küçüğünü yapalım.

Daha güvenli ilerleyelim.

Kaynakları farklı projelere dağıtalım.

OpenAI ise belirli dönemlerde tam tersini yapmış. Şirket bir strateji belirleyip kaynaklarını büyük ölçüde aynı yöne yönlendirmiş.

Altman’a göre böyle bir sistemde ekibin önünde çok açık bir hedef bulunması gerekiyor. İnsanların yalnızca ne yaptığını değil neden yaptığını da anlaması gerekiyor. 

ChatGPT aslında planlanan büyük ürün değildi

Konuşmanın en ilginç bölümlerinden biri ChatGPT’nin ortaya çıkış hikayesi.

OpenAI GPT-3’ü geliştirdiğinde elinde teknik olarak etkileyici bir model vardı fakat bunun üzerine nasıl büyük bir ürün kurulacağı konusunda net bir fikir bulunmuyordu.

Bu nedenle şirket 2020’de modeli API olarak geliştiricilere açtı.

Mantık oldukça basitti.

OpenAI ürünü bulamıyorsa belki başka geliştiriciler bulabilirdi.

ChatGPT ise daha sonra bir araştırma demosu olarak yayımlandı ve beklenmedik biçimde viral oldu. Altman bu dönemi şirket içinde iyi türden bir acil durum olarak tanımlıyor.

Yaklaşık beşinci gün geldiğinde ekip artık yalnızca deneysel bir sistem yönetmediğini anlamıştı.

Aynı anda hem ürün hem şirket altyapısı kurmak zorundaydılar.

Ardından yaklaşık iki ay boyunca çok hızlı bir ölçeklenme süreci başladı. İlk ücretlendirme kararlarının arkasında bile klasik bir iş modeli stratejisinden çok hesaplama maliyetlerini karşılayabilme ihtiyacı vardı.

ChatGPT’den önce büyük bahis kod yazmaktı

Bugünden bakıldığında ChatGPT her şeyin başlangıcıymış gibi görünüyor.

Fakat Altman konuşmada farklı bir ayrıntı veriyor.

ChatGPT ortaya çıkmadan önce OpenAI’ın büyük ürün bahislerinden biri kod yazabilen yapay zeka sistemleriydi.

Codex fikri bunun sonucunda gelişti.

Şirket modellerin kod yazabildiğini erken dönemde görmüş ancak bu yeteneğin gerçekten güçlü bir ürüne dönüşmesi zaman almış.

Altman Codex’in özellikle son dönemde belirgin bir kırılma noktasına ulaştığını ve kullanıcıların sistemle çok daha karmaşık işler yapmaya başladığını söylüyor. 

Bu durum yazılım dünyası açısından önemli.

Çünkü yapay zeka artık yalnızca programcıya birkaç satır kod öneren yardımcı bir araç olmaktan çıkıyor.

Görev alan, dosyaları inceleyen, kod yazan, test eden ve uzun süre bağımsız biçimde çalışan yazılım agentlarının ortaya çıkmasıyla yazılım üretiminin ekonomik yapısı değişmeye başlıyor.

Altman’ın Stanford’daki öğrencilere verdiği temel mesajlardan biri de burada ortaya çıkıyor.

AI öncesinde imkansız görünen şirket fikirlerinin bir kısmı artık mümkün olabilir.

Bugünkü yapay zeka mimarisi son mimari olmayabilir

Son birkaç yılda büyük yapay zeka laboratuvarlarının çalışma modeli giderek standartlaştı.

Ön eğitim yapılıyor.

Ardından çeşitli ara eğitim süreçleri geliyor.

Sonrasında post training ve reinforcement learning yöntemleri uygulanıyor.

Altman ise bu yapının kalıcı olduğunu düşünmüyor.

Konuşmada mevcut yapay zeka geliştirme hattının gelecekte büyük ölçüde yeniden tasarlanabileceğini söylüyor.

Daha ilginç olan ise bu yeni mimarileri insanların değil yapay zekanın bulabileceği ihtimali.

Başka bir ifadeyle yapay zeka araştırmasının önemli bölümünü yapay zeka sistemleri yapmaya başlayabilir.

Böyle bir kırılma yaşanırsa model geliştirme hızı yalnızca daha fazla GPU satın almakla açıklanamayacak bir noktaya gelebilir.

Araştırmanın kendisi de otomatikleşmeye başlayacak.

Altman zekayı elektrik gibi görüyor

Konuşmanın belki de en önemli benzetmesi burada geliyor.

Altman’a göre dünya yeni bir utility yaratıyor.

Türkçeye altyapı hizmeti veya temel hizmet olarak çevirebileceğimiz bu kavram elektrik, su ve internet gibi insanların günlük hayatında sürekli kullandığı sistemleri ifade ediyor.

Altman zekanın da benzer bir şeye dönüşeceğini düşünüyor.

Bir şirket, devlet veya birey ihtiyaç duyduğu anda belirli miktarda yapay zekaya erişebilecek.

Bunu sağlayan veri merkezinin nerede olduğu veya hangi GPU’nun çalıştığı kullanıcı açısından giderek daha önemsiz olacak.

Tıpkı internete bağlandığımızda hangi baz istasyonunun hangi donanımla çalıştığını düşünmediğimiz gibi. 

Altman burada elektrik tarihinden ilginç bir örnek veriyor.

Elektrik şirketleri ilk dönemlerde insanlara elektriğin kendisini anlatmakta zorlanıyordu.

İnsanların anlayabildiği şey teknoloji değil sonuçtu.

Gece ışık sahibi olmak.

Altman yapay zekanın henüz kendi gece ışığını bulmadığını düşünüyor.

Yani yapay zekanın ne olduğu anlatılıyor fakat insanların hayatında yaratacağı temel dönüşümü birkaç kelimeyle açıklayan ifade henüz ortaya çıkmış değil. 

Asıl mücadele yapay zekaya kimin sahip olacağı

Konuşmanın son bölümünde tartışma teknik konulardan siyasi ve ekonomik bir probleme kayıyor.

Altman yapay zekanın geleceğinde iki farklı yol görüyor.

Bir tarafta teknoloji çok geniş biçimde dağıtılıyor ve herkes güçlü yapay zeka sistemlerine erişebiliyor.

Diğer tarafta ise dünyanın en güçlü modelleri ve hesaplama altyapıları birkaç şirketin elinde yoğunlaşıyor.

Altman ikinci senaryonun son derece kötü olacağını açık biçimde söylüyor.

Çünkü birkaç şirket yalnızca teknolojiye değil dünya ekonomisinin çok büyük bölümüne etki edebilecek güce sahip olabilir.

Bu noktada ilginç bir tahmin de yapıyor.

Altman yaklaşık yüzde 80 ihtimalle dünyanın daha demokratik ve yaygın erişimin olduğu yolu seçeceğini düşünüyor.

Ancak diğer yönde de güçlü bir çekim olduğunu kabul ediyor.

Özellikle güvenlik gerekçeleri teknolojinin birkaç kurumda tutulmasını savunan görüşleri güçlendirebilir.

Altman ise gücün yalnızca birkaç şirketin elinde toplanmasını kabul edilmemesi gereken bir risk olarak görüyor.

Geleceğin en değerli kaynağı petrol değil compute olabilir

Yapay zekanın yaygınlaşması başka bir sorunu beraberinde getiriyor.

Hesaplama gücü.

Altman dünyanın şimdiden compute kıtlığı yaşamaya başladığını söylüyor.

Üstelik modeller geliştikçe bu sorunun azalacağını düşünmüyor.

Tam tersine yapay zeka daha yararlı hale geldikçe insanlar daha fazla kullanacak.

Daha verimli modellerin toplam hesaplama ihtiyacını azaltacağını düşünmek ilk bakışta mantıklı görünse de pratikte kullanım miktarı çok daha hızlı artabilir.

Altman compute kaynaklarının gelecekte insanların ihtiyaç duyduğu en önemli altyapılardan birine dönüşebileceğini düşünüyor.

Böyle bir dünyada ekonomik tartışmanın merkezine yalnızca gelir dağılımı değil hesaplama gücünün dağılımı da girecek.

Kim ne kadar AI kullanabilecek.

Kim büyük modelleri eğitebilecek.

Kim milyonlarca agent çalıştırabilecek.

Bu sorular geleceğin ekonomik sınıflarını belirleyebilir.

İşler gerçekten tamamen ortadan kalkacak mı

Altman’ın konuşmadaki yaklaşımı beklenenden biraz daha iyimser.

Kendisinin geçmişe göre kısa vadeli iş kayıpları konusunda daha az karamsar olduğunu söylüyor.

İnsanların yeni işler bulmaya devam edeceğini düşünüyor ve dönüşümün kısa vadede tahmin ettiğinden daha az yıkıcı olabileceğini kabul ediyor.

Ancak eğitim konusunda aynı rahatlık yok.

ChatGPT çıktığında eğitim sisteminin hızla yeniden tasarlanacağını düşündüğünü fakat bunun gerçekleşmediğini söylüyor.

Öğrencilerin yapay zekayı kullanmasını engellemek yerine değerlendirme ve öğrenme yöntemlerinin değişmesi gerektiğini savunuyor.

Bazı becerilerin makineler tarafından daha iyi yapılmasına rağmen insanların yine de onları öğrenmesinin değerli olduğunu düşünüyor.

Çünkü yazmak veya programlamak yalnızca ortaya çıkan sonuçla ilgili değil.

İnsanların düşünmeyi öğrenme biçiminin bir parçası.

Eğitim sistemi bu ayrımı yapamazsa Altman insanların eleştirel düşünme becerilerinde ciddi bir gerileme yaşanabileceğini söylüyor.

Asıl devrim ChatGPT olmayabilir

Bugün yapay zeka tartışmaları çoğunlukla hangi modelin daha iyi olduğu üzerinden ilerliyor.

ChatGPT mi.

Claude mu.

Gemini mı.

Hangi model daha hızlı kod yazıyor.

Hangisinin benchmark puanı daha yüksek.

Fakat Altman’ın Stanford konuşmasına biraz uzaktan bakınca çok daha büyük bir iddia ortaya çıkıyor.

Modeller aslında geçici olabilir.

Arayüzler değişebilir.

Şirketler değişebilir.

Bugünkü yapay zeka mimarilerinin tamamı birkaç yıl sonra eski görünebilir.

Kalıcı olan şey ise zekanın maliyetinin düşmesi.

Eğer Altman’ın öngörüsü doğruysa yapay zekanın gerçek devrimi insanların bir chatbot ile konuşmaya başlaması olmayacak.

Asıl dönüşüm dünyanın herhangi bir yerindeki bir insanın ihtiyaç duyduğu anda neredeyse sınırsız miktarda dijital zekaya erişebilmesi olacak.

Elektriğin sanayi toplumunu değiştirmesi gibi.

İnternetin bilgiyi değiştirmesi gibi.

Bu kez ürün olarak satılan şey bilgi veya enerji değil.

Doğrudan zeka olacak.