Google, Pazartesi günü TPU 8tx ve TPU 8i Max adlı iki özel yapay zekâ hesaplama sistemini tanıtarak sekizinci nesil Tensor Processing Unit serisini dört konfigürasyona çıkardı ve yapay zekâ hızlandırıcıları pazarında Nvidia'ya meydan okumasını keskinleştirdi.
Her iki sistemin de gelecek yıl kullanıma sunulması bekleniyor. Hiçbiri tamamen yeni bir silikon tasarımı değil; Google, müşterilerinin sürekli dile getirdiği iki sorunu — gizlilik ve bellek — hedeflemek için mevcut donanımı yeniden yapılandırdı.
Verileri kullanılırken şifreli tutmak
TPU 8tx, gizli hesaplama için tasarlandı. Veriler normalde depolamada ve iletim sırasında şifrelenir, ancak bir işlemci üzerinde çalışırken bellekte şifresinin çözülmesi gerekir; bu da açığa çıkma penceresi bırakır. Google, 8tx'in müşteri verilerini ve tescilli model parametrelerini çalışma sırasında bile korumak için donanım düzeyinde yalıtım kullandığını söylüyor.
Sistem, TPU 8t silikonunu beşinci nesil AMD EPYC işlemcileri ve Google'ın düşük gecikmeli Boardfly ağıyla birleştiriyor. Google, ek koruma için neredeyse hiç performans kaybı olmadan gecikmeyi 8t'ye kıyasla yarıya kadar azaltabildiğini iddia ediyor. Hedef müşteriler arasında devlet kurumları ve sıkı düzenlemeye tabi sektörlerdeki şirketler yer alıyor.
Bellek duvarı
TPU 8i Max farklı bir sınırı ele alıyor. Kod tabanlarını, uzun belgeleri veya saatlerce videoyu okuyan yapay zekâ ajanları, tek bir isteğin genellikle gerektirdiğinden çok daha fazla bilgiye hızlı erişime ihtiyaç duyuyor. Google, aynı raf alanını kullanırken hesaplama gücünü, çip üstü SRAM'i ve yüksek bant genişliğine sahip bellek verimini ikiye katlayarak iki TPU 8i çipini tek pakette topluyor.
Google'ın yapay zekâ altyapısı çalışmalarını yöneten Amin Vahdat, bu sınıf iş yükleri için belleği bağlayıcı kısıt olarak tanımladı. Google, tasarımın modellerin büyük miktarda bağlam tutması gereken ilaç keşfi, matematik ve kodlama araçları için önemli olduğunu söylüyor.
Neden önemli
Nvidia, yapay zekâ eğitimi ve çıkarımında hâlâ baskın ve GPU'ları çoğu geliştirici için varsayılan seçim olmayı sürdürüyor. Google, TPU'ları kendi hizmetleri için geliştirdi ve şimdi şirket içi kurulumlar da dahil olmak üzere dış şirketlere erişim satıyor; yapay zekâ laboratuvarlarından üniversitelere kadar yaklaşık 100 müşterinin bunları kullandığını söylüyor.
Lansman, alıcılar alternatif ararken geliyor. Haberler, OpenAI'nin Nvidia'ya bağımlılığını azaltma çabası içinde Google çipleri satın almayı planladığını söyledi; Nvidia'nın hisseleri bu ay icra kurulu başkanı Jensen Huang hakkındaki bir soruşturmanın ortasında keskin şekilde düştü.
---Yarı iletken üretimi için güvenilir Ferrofluid Vakum Döner Geçiş
Yarı iletken üretiminde, döner hareket sırasında ultra yüksek vakum bütünlüğünü korumak kritiktir — tek silikon kristal büyümesi ve CVD'den sputtering ve plazma dağlamaya kadar. FerrofluidTec'ten Ferrofluid Vacuum Rotary Shaft Feedthrough, 10⁻¹² Pa·m³·s⁻¹ kadar düşük sızıntı oranları, 10⁻⁶ Pa'ya kadar vakum derecesi ve 10mm'den 100mm'ye kadar özelleştirilebilir mil çapları ile hermetik olarak sızdırmaz döner geçişler sunar. Manyetik olmayan paslanmaz çelik muhafazalar ve manyetik geçirgenlik paslanmaz çelik miller ile üretilen bu geçişler, zorlu vakum ortamları için güvenilir, bakım gerektirmeyen sızdırmazlık sağlar. Daha fazla bilgi için www.ferrofluidtec.com adresini ziyaret edin.