Google, gizli verileri koruyan TPU 8tx ve çift çipli TPU 8i Max ile yapay zekâ çip ailesini genişletti

Google, bulut işinde başka şirketlerin çiplerine olan bağımlılığını azaltmak için kendi yapay zekâ donanımını büyütmeye devam ediyor. TechCrunch'ın aktardığına göre şirket, yapay zekâ iş yükleri için kendi geliştirdiği tensör işleme birimlerinin (TPU) iki yeni sürümünü tanıttı. TPU 8tx ve TPU 8i Max adlı yeni çipler, gizli çıkarım ve büyük iş yükleri için daha fazla bellek kapasitesi gibi yeni kullanım alanlarını hedefliyor.

Yeni birimler, Google'ın nisan ayında tanıttığı sekizinci nesil çip ailesinin parçası. Böylece Google, tek bir yılda dört farklı sekizinci nesil TPU sistemini kullanıma sunmuş oldu.

Veriler işlem sırasında bile korunuyor

AMD ile birlikte tasarlanan TPU 8tx, TPU 8t çipini temel alıyor ve yapay zekâ modellerini gizli şekilde eğitmek ve çalıştırmak için tasarlandı. Google'a göre çip, "güvenliği doğrudan donanım katmanına yerleştirerek hassas verileri ve model ağırlıklarını aktif kullanım sırasında bile korumalı ve yalıtılmış tutuyor."

Interesting Engineering'in aktardığına göre işlemciler normalde bilgiyi işleyebilmek için önce şifresini çözmek zorunda. Bu da depolama ve ağ bağlantıları şifreli olsa bile verileri potansiyel bir risk altında bırakıyor. TPU 8tx bu açığı donanım tabanlı yalıtımla kapatıyor. Sistem, beşinci nesil AMD EPYC işlemcilerle eşleştiriliyor ve Google'a göre TPU 8t'ye kıyasla gecikmeyi iki kata kadar azaltırken güvenlik önlemlerinin performansa etkisi çok düşük kalıyor.

Çipin özel çıkarım ağı, eğitimin yanında akıl yürütme işlemlerini de çalıştırabiliyor. Böylece şirketler, verilerini farklı cihazlar arasında taşımadan kendi özel verileriyle küçük modelleri anında eğitip damıtabiliyor.

İki çip, tek paket

TPU 8i Max ise nisanda tanıtılan, çıkarım odaklı TPU 8i çiplerinden ikisini tek pakette birleştiriyor. Bu sayede bellek kapasitesi, işlem gücü ve bant genişliği iki katına çıkıyor. Sonuç olarak yapay zekâ modelleri sorgular sırasında çok daha geniş bir bilgi yelpazesini işleyebiliyor. Sistem, mevcut raf alanına iki kat silikon sığdırarak veri merkezlerinin aynı fiziksel alanda daha fazla işlem gücü barındırmasını da sağlıyor.

Google, nisanda tanıttığı TPU 8t için önceki nesle göre 2,7 kata kadar daha iyi eğitim performansı, TPU 8i için ise yüzde 80'e kadar daha iyi çıkarım fiyat-performansı açıklamıştı. Şirketin TPU işi bugün yapay zekâ laboratuvarları, finansal alım satım şirketleri, perakendeciler ve üniversiteler dahil yaklaşık 100 müşteriye hizmet veriyor.

Nvidia'ya bağımlılığı azaltma yarışı

Yeni çipler, Microsoft ve Amazon gibi bulut devlerinin, hatta OpenAI ve Anthropic gibi yapay zekâ laboratuvarlarının da Nvidia'nın hâkimiyetine olan bağımlılıklarını azaltmak için kendi yapay zekâ çiplerini ve yazılımlarını geliştirdiği bir döneme denk geliyor.