İçeriğe atla
Kâğıt kolaj illüstrasyon: millimetrik kâğıt üzerinde neredeyse dikleşen kırmızı bir eğri ve üzerinde büyüteç, yanında eşyaları toplanmış bir karton kutu, boş çalışan kartı ve durdurulmuş bir kronometre.

Anthropic'ten ayrılan araştırmacıyı korkutan grafik

OpenAI ve Anthropic'te çalışan araştırmacı Jacob Coxon, Anthropic'ten yalnızca dört ay sonra ayrılmasının önemli bir nedeninin şirketin halka arz sunumundaki bir grafik olduğunu söyledi. Coxon'a göre grafik, yapay zekâ eğitimindeki algoritmik verimliliğin giderek hızlanan bir tempoyla arttığını ve Anthropic'in Mythos modelini artık çok daha az hesaplama gücüyle yeniden eğitebileceğini gösteriyor.

Selin Y.ohafalan editörüYayın · 1 dk okuma
Kâğıt kolaj illüstrasyon: millimetrik kâğıt üzerinde neredeyse dikleşen kırmızı bir eğri ve üzerinde büyüteç, yanında eşyaları toplanmış bir karton kutu, boş çalışan kartı ve durdurulmuş bir kronometre.

Yapay zekâ risklerine dair uyarılarıyla tanınan araştırmacı Jacob Coxon, Anthropic'ten ayrılma kararının arkasındaki nedenlerden birini açıkladı. The Decoder'ın aktardığına göre Coxon, şirketin tarihin en büyük halka arzına hazırlanırken yatırımcılara sunduğu bir grafiğin, şirketten yalnızca dört ay sonra ayrılmasının önemli bir nedeni olduğunu söyledi.

"Çılgın bir grafik"

Söz konusu grafik, Anthropic'in modellerini eğitmek için zaman içinde ne kadar hesaplama gücüne ihtiyaç duyduğunu gösteriyor. Kod için "ön eğitim hesaplama çarpanını" gösteren grafiğin dikey ekseni logaritmik. Yani 10 katlık ve 100 katlık artışlar neredeyse aynı görünecek kadar sıkıştırılmış. Buna rağmen eğri Temmuz 2024'ten Ekim 2026'ya dik bir şekilde yükseliyor.

Coxon'a göre bu, algoritmik verimliliğin yalnızca hızla değil, giderek hızlanan bir tempoyla arttığını gösteriyor. Coxon X'te "Çılgın bir grafik ve kamuya açıklamalarına şaşırdım" diye yazdı. Anthropic ise grafikteki verilerin iç tahminlere dayandığını ve yalnızca örnekleme amacı taşıdığını belirtiyor.

İLGİLİAnthropic, kara delik fiziğinde iki açık problemi çözdüğünü söylediği Claude Fable 5.2 ve Mythos 5.2'yi tanıttı→

"Mythos tek seferlik bir sapma değildi"

Coxon, Anthropic'in ilkbaharda yetenek açısından büyük bir sıçrama yaratan Mythos modelinin de bu hızlanan eğilimin bir parçası olduğunu savunuyor. "Mythos tek seferlik bir sapma değil, süper üstel bir eğrinin üzerindeki bir noktaydı. Mythos'u şimdiden başlangıçta gereken hesaplama gücünün çok küçük bir kısmıyla yeniden eğitebilirler" diye yazdı. Anthropic geçen hafta Claude Fable 5.2 ve Mythos 5.2'yi tanıtmıştı.

Önde gelen laboratuvarlar için duraklama çağrısı

Coxon'a göre algoritmik iyileştirmeler "otomatikleştirilmenin eşiğinde". Bu yüzden rakiplerin yetişebilmesi için öncü model geliştirmenin gelecek yıl durdurulmasını istiyor. Coxon, böyle bir duraklamanın "insan düzeyindeki zekâyı sıradanlaştıracağını" ve "yalnızca OpenAI ile Anthropic'e zarar vereceğini" savunuyor.

Daha önce OpenAI'da ve son olarak Anthropic'te yapay zekâ modelleri eğiten Coxon, eylülde gelişmiş yapay zekâ sistemlerinin risklerine dair kamuoyuna yaptığı uyarılarla geniş ilgi görmüştü. Sektördeki başka isimlerin de paylaştığı korkulardan biri, kendi kendini geliştiren ileri yapay zekânın kontrolden çıkabileceği.

Bu yazı hakkında ifade bırakın

OHA!falan’ı takip edinGünün haberleri, kısa videolar ve özetler her gün sosyal medyada.

İlginizi çekebilir