AMD, Ryzen AI Halo geliştirici platformunu tanıttı

AMD, Ryzen AI Halo platformunu AMD Ryzen AI Max+ PRO 495 işlemci ve AMD ROCm yazılımı ile konumlandırıyor. Şirket, CPU, GPU ve NPU’nun tek bir yüksek bant genişlikli bellek havuzunu paylaştığını belirtti.

AMD, platformun 192 GB’a kadar LPDDR5x birleşik bellek kullandığını ve bunun 160 GB’a kadar olan kısmının GPU’ya ekran kartı belleği (VRAM) olarak ayrılabildiğini açıkladı. AMD’ye göre bu yapı, 4-bit kuantizasyonla 300 milyar parametreli ve daha büyük dil modellerini çalıştırmayı da kapsıyor.

Ryzen AI Halo donanımı

AMD’ye göre Ryzen AI Halo, 16 adede kadar “Zen 5” CPU çekirdeği içeriyor. Grafik tarafında 40 adet AMD RDNA 3.5 GPU hesaplama birimi yer alıyor.

AMD, NPU tarafında 55 TOPS’a kadar performans açıkladı. Şirket, birleşik bellek mimarisiyle yerelde daha fazla yapay zekâ iş yükü çalıştırmayı hedeflediğini ifade etti.

AMD, CPU, GPU ve NPU’nun tek bir yüksek bant genişlikli bellek havuzunu paylaştığını söylüyor.

Model ve ajan senaryoları

AMD, platformun 300 milyar parametreli ve daha büyük modelleri desteklediğini söyledi. Şirket, 4-bit kuantizasyonla bu ölçekteki dil modellerinin çalıştırılabildiğini belirtti.

AMD’ye göre geliştiriciler, ayrı KV önbellekleriyle birden fazla büyük ajanı eşzamanlı çalıştırabiliyor. AMD, sistemin masaüstünde kullanılmak üzere kompakt bir tasarımla hazırlandığını da ekledi.

Yazılım merkezi ve testler

AMD, AMD Ryzen AI Developer Center adlı bir merkezle yazılım, platform kontrolleri, özellikler ve güncellemeleri tek yerde topladığını açıkladı. Şirket, ön yüklü uygulamalar ve modellerin geliştiricilerin hızlı başlamasını amaçladığını, AMD AI Playbooks’un da desteklenen yapay zekâ iş akışları için rehberli yollar sunduğunu belirtti.

AMD, ROCm yazılımı, sürücüler, çerçeveler, uygulamalar ve modelleri birlikte “Best-Known Configuration” olarak doğruladığını söyledi. AMD’nin testlerinde Z Image Turbo, Krea 2 Turbo, Ideogram V4, FLUX.2, Qwen Image, FastVideo, LTX, ACE-Step, Stable Music, Microsoft Trellis ve yeni 3D üretim araçları yer aldı; şirket, AMD Ryzen AI Max+ PRO 495’in Intel Core Ultra X9 388H karşılaştırma sistemine kıyasla daha yüksek göreli çıktı sağladığını ve Ryzen AI Halo’nun Apple M5 Pro karşılaştırma sistemine kıyasla test edilen üretken yapay zekâ iş yüklerinde daha yüksek göreli çıktı verdiğini aktardı. AMD, Apple M5 Pro karşılaştırma platformunda bazı iş yüklerinin çalışmadığını da ekledi.