Yeni çıkan yapay zekâ modellerini farklı donanımlara uyarlamak genellikle haftalar süren bir iş. AMD ise bu süreyi yapay zekâ ajanlarıyla birkaç güne indirmeyi deniyor. Phoronix'in aktardığına göre AMD'deki bir ekip, kısa süre önce yayımlanan HRX Loom v0.1'i bir yapay zekâ ajanı iş akışıyla birleştirerek Hugging Face'te öne çıkan 50 modeli şirketin tüketici ekran kartlarına taşıdı.
AMD mühendisleri Jeremy Fowers ve Ben Vanik'in yönettiği deneyde, 18 farklı mimariye ait 50 popüler Hugging Face modeli yalnızca üç ila dört gün içinde AMD ekran kartlarında çalışır hale getirildi. Deney, HRX Loom ve ajan tabanlı yapay zekâ sayesinde yeni ve niş modellerin AMD donanımına çok daha hızlı getirilebileceğini göstermek için yapıldı. Çalışmada Ryzen AI Max "Strix Halo" donanımı kullanıldı.
Llama.cpp'den iki kata kadar hızlı
Ekip, 32 bin token'lık istemlerin işlenmesinde Llama.cpp'nin ROCm arka ucuna göre ortalama 1,5 ile 2,1 kat arasında hızlanma ölçtü. Llama.cpp'nin Vulkan arka ucuyla karşılaştırıldığında ise hızlanma 1,9 kat oldu.
HRX Loom şimdilik AMD'de deneysel bir proje olarak kalıyor, ancak bu sonuçlar büyük bir potansiyele işaret ediyor. Yazılım yalnızca ekran kartlarını değil, işlemcileri ve yapay zekâ işlem birimlerini (NPU) de destekliyor.
Claude Code ve Codex için beceriler
Çalışmanın bir parçası olarak yayımlanan loom-skills paketi, Claude Code, Codex ya da Pi gibi yapay zekâ ajanlarını AMD tüketici ekran kartları için optimize edilmiş model programları yazıp sunabilecek şekilde donatıyor. Şimdilik odak noktası ve testler, Ryzen AI Halo ya da Framework Desktop gibi cihazlarda bulunan Strix Halo donanımı üzerinde yoğunlaşıyor.
Deneyin sonuçları, Loom-Fun adlı GitHub sayfasında paylaşıldı.
Bu yazı hakkında ifade bırakın
OHA!falan’ı takip edinGünün haberleri, kısa videolar ve özetler her gün sosyal medyada.
İlginizi çekebilir
Cloudflare, yapay zekâ ajanları için geliştirdiği tarayıcı Kitesurf'ü açık kaynak yaptı
Cloudflare, ağustosta tanıttığı ve tamamen Workers üzerinde çalışan yapay zekâ ajanı tarayıcısı Kitesurf'ün kodlarını A…
Codeberg alan adı askıya alınınca saatlerce erişilemedi
GitHub'ın kâr amacı gütmeyen alternatifi Codeberg, alan adı kayıt şirketi NameSilo'nun codeberg.org'u açıklama yapmadan…
Windows Hello ve BitLocker PIN'leri günler içinde kırılabiliyor
Berlin Teknik Üniversitesi araştırmacıları, AMD işlemcili ve bazı Intel işlemcili bilgisayarlarda kasayı açan birinin T…

MongoDB analitik veritabanı Firebolt'u satın aldıYazılım
Canva'ya üretken yapay zekâyı kapatma düğmesi geldiYapay zekâ
Xbox kullanıcıların arka planını GTA 6 reklamına çevirdiOyun
Burun damlası yaşlı farelerin hafızasını gençleştirdiGenel
Google'ın uzaydaki yapay zekâ sunucularını Blue Origin taşıyacakTeknoloji
Wolf Alice ve Disclosure Boardmasters 2027'nin manşetindeMüzik



