Marvell, Structera X 3406 ve 3506 CXL bellek genişleticilerini duyurdu

Marvell, Structera X 3406 ve Structera X 3506 ile bulut, kurumsal ve yapay zekâ altyapısı sağlayıcılarını hedefliyor. Şirket, modern yapay zekâ çıkarım iş yüklerinin LLM sunumu ve derin öğrenme öneri modelleri dahil bellek sınırlı çalıştığını belirtiyor.

Marvell’e göre KV önbellek kapasitesi, ilk token’a kadar geçen süreyi (TTFT), iş hacmini ve XPU kullanımını doğrudan etkiliyor. Şirket, yeni nesil bellek kaynaklarına erişimi artırarak bellek ve hesaplama kaynaklarının kullanımını iyileştirmeyi amaçladığını ifade ediyor.

Yapay zekâ çıkarımına odak

Marvell, DLRM iş yüklerinde Structera X’in denetleyici başına saniyedeki sorgu sayısında 2 kata kadar artış sağladığını söylüyor. Şirket, aynı senaryoda denetleyici başına etkin gömme tablosu kapasitesinin 2-3 kat arttığını da ekliyor.

Marvell’e göre LLM sunumunda Structera X, önceki nesle kıyasla eşdeğer bağlam uzunluğunda TTFT’yi %40-%50 oranında hızlandırıyor. Şirket, eşdeğer gecikmede desteklenebilir bağlam penceresinin de 2 kata kadar uzatılabildiğini belirtiyor.

Marvell, Structera X 3406/3506 ile CXL 3.2’ye geçişin yanında 6 bellek kanalı ve 4 ana makineye kadar paylaşımı öne çıkarıyor.

CXL 3.2 ve 6 kanal

Marvell, Structera X 3406/3506’nin birinci nesil Structera X 2404/2504 üzerine inşa edildiğini ve mevcut yazılım yığını ile ekosistem entegrasyonlarından yararlandığını söylüyor. Şirket, yeni nesilde CXL 3.2’ye geçildiğini ve altı DDR4/DDR5 bellek kanalıyla önceki nesle göre %50 daha fazla kanal sunulduğunu belirtiyor.

Marvell’e göre Structera X 3406, 18 DDR4 RDIMM yuvasına kadar destek veriyor ve 9 TB’a kadar kapasiteyi destekliyor. Structera X 3506 ise 12 DDR5 RDIMM yuvasına kadar destek veriyor ve 6 TB’a kadar kapasiteyi destekliyor.

Bant genişliği, sıkıştırma, güvenlik

Marvell, dört ana makineye kadar bağlantı desteğiyle bellek kapasitesinin dört ana makine arasında paylaşılabildiğini belirtiyor. Şirket, ana makine tarafında PCIe 6.0 x16 üzerinden 256 GB/s’ye kadar bant genişliği desteklendiğini de ekliyor.

Marvell’e göre önceki nesle kıyasla LZ4 sıkıştırma iş hacmi 5 kat artırıldı ve sıkıştırma/açma iş hacmi 250 GB/s’ye kadar çıkıyor. Şirket, sıkıştırmanın iş yüküne bağlı olarak etkin bellek kapasitesini 2-3 kat artırabildiğini, StructGuard kurumsal sınıf RAS ile gelişmiş hata düzeltme sağlandığını ve kuantum sonrası güvenlik özelliklerinin kuantum sonrası kriptografi, Caliptra 2.0, CXL IDE ve AES-256 bellek şifrelemesini birleştirdiğini söylüyor.