Yapay zekâ veri merkezlerinde şebeke, soğutma ve bağlantı baskısı

Yapay zekâ kümelerinde raf güç yoğunluğu yükseldikçe, tüketilen elektriğin büyük bölümü ısıya dönüşüyor ve bu ısıyı uzaklaştırmak zorlaşıyor. Modern GPU raflarının kabin başına 50-100 kW’ın üzerine çıkabildiği, yapay zekâ kümelerinde 100 kW ve üzeri raf yoğunluklarının yaygınlaşmaya başladığı belirtiliyor.

Bu büyüme, sadece soğutma tarafını değil, GPU’ların birbirleriyle veri paylaşımını sağlayan ara bağlantıları da zorluyor. Yüksek GPU iş yüklerinde bakır ara bağlantıların sınırlarına yaklaşıldığı, bu nedenle optik bağlantılara yönelimin arttığı bildirildiğine göre.

Şebekeye bağlanma darboğazı

Yapay zekâ veri merkezlerinde birincil zorluğun elektrik şebekesine bağlantı olduğu belirtiliyor. Şebekedeki zorlanmanın, veri merkezleri için şebekeye bağlantı bekleme sürelerini uzattığı aktarılıyor.

2021-2025 döneminde dünya genelinde elektrik şebekesine 30 GW yeni kapasite eklendiği, bu hızın şebeke bileşenleri tedarik zincirini zorladığı belirtiliyor. Şebeke işletmecilerinin aşması gereken mühendislik zorluklarının da arttığı ifade ediliyor.

GPU kümelerine güvenli gerilim sağlayan yüksek gerilim transformatörlerinde arz sıkıntısı olduğu bildiriliyor. Bekleme sürelerinin 2020 itibarıyla 6-12 aydan, günümüzde 2-4 yıla çıktığı belirtiliyor.

GPU kümelerinin güç talebini saniyeler içinde değiştirebildiği ve bu dalgalanmaların karmaşık harmonikler üreterek transformatörleri aşırı ısıtabildiği aktarılıyor. Bu nedenle şebeke işletmecilerinin azaltım sistemlerine büyük yatırım yapmak zorunda kaldığı ifade ediliyor.

Raf güç yoğunluğu yükseldikçe, şebeke bağlantısı, soğutma ve ara bağlantı kapasitesi aynı anda sınırlarına yaklaşıyor.

Raf başına ısı yükü

Geleneksel hava ve sıvı soğutma sistemlerinin, hızla büyüyen yapay zekâ tesislerinin ihtiyaçlarını karşılamakta zorlandığı belirtiliyor. Geleneksel hava soğutmanın 30-40 kW’ı aşan raf yoğunlukları için tasarlanmadığı, buna karşın 100 kW ve üzeri rafların yaygınlaşmaya başladığı aktarılıyor.

Standart soğutma sistemlerinin kümeleri 65-85 derece aralığında çalışır tuttuğu, 90-100 derece aralığının ise kalıcı GPU hasarını önlemek için performans kısma mekanizmasını tetiklediği belirtiliyor. GPU raflarının yüksek elektrik tüketimi ısıya dönüştüğü için bu sınırlara yaklaşmayı engellemenin zorlaştığı ifade ediliyor.

100 kW ve üzeri rafları hava ile soğutmak için fanların çok yüksek hızlarda çalıştırılması gerektiği, bunun da fanların güç tüketimini artırdığı belirtiliyor. Fanların yüksek güç tüketiminin veri merkezlerinde güç kullanım etkinliğini (PUE) kötüleştirdiği, sadece hava ile çok büyük yapay zekâ kümelerini soğutmanın pratik bulunmadığı aktarılıyor.

Sıvı soğutmada soğuk plakaların mikro kanallardan türbülanslı akış oluşturarak çipleri soğuttuğu, ancak yeterli akış için yüksek pompalama gücü gerektiği belirtiliyor. İşletmecilerin pompalama gücünü azaltmak için işlemciye doğrudan temas eden doğrudan çipe soğuk plakalara yöneldiği ifade ediliyor.

Bakırdan optiğe geçiş

GPU kümelerinin veri ve iş yükü paylaşımı için elektriksel bakır veya optik ara bağlantılara dayandığı belirtiliyor. Bakırın uzun süredir standart olduğu, ancak yüksek GPU iş yüklerinin bakırı sınırlarına yaklaştırdığı aktarılıyor.

Elektriksel sinyallerin 2 metreden uzun mesafelerde zayıfladığı, bant genişliği gereksinimi her iki katına çıktığında kullanılabilir erişim mesafesinin yarıya indiği belirtiliyor. Büyük GPU kümelerinin iletişim mesafelerini artırdığı ve sık paketlenmiş bakır bağlantıların elektromanyetik girişim üreterek diğer sinyalleri bozabildiği ifade ediliyor.

Elektromanyetik girişimin daha fazla güç tüketen karmaşık eşitleme sistemleri gerektirdiği, GPU devre kartlarındaki bakır plakalar üzerinden akım arttıkça direnç kaynaklı güç kaybı ve ısı üretiminin yükseldiği aktarılıyor. Bu ısı artışının, zaten darboğaz olan soğutma ihtiyacını daha da artırdığı belirtiliyor.

Bu sınırlar nedeniyle veri merkezi sahiplerinin optik ara bağlantılara yönelmek zorunda kaldığı ifade ediliyor. Optik bağlantıların bazı GPU kurulumlarında elektriksel bakıra göre 7 kata kadar daha pahalı olabildiği, buna karşın yaygınlaşma ve seri üretim yatırımlarıyla maliyetlerin düşmesinin muhtemel olduğu belirtiliyor.