Teknik

Google lanserar två TPU-system för att utmana Nvidias ledning inom AI-chip

4 visningar

Google introducerade på måndagen två specialiserade AI-datorsystem, TPU 8tx och TPU 8i Max, och utökar därmed sin åttonde generationens Tensor Processing Unit-serie till fyra konfigurationer samtidigt som man skärper utmaningen mot Nvidia på marknaden för AI-acceleratorer.

Båda systemen väntas bli tillgängliga nästa år. Ingen av dem är en helt ny kiseldesign; Google har omkonfigurerat befintlig hårdvara för att rikta in sig på två problem som kunderna ständigt tar upp: integritet och minne.

Att hålla data krypterad medan den används

TPU 8tx är byggd för konfidentiell databehandling. Data krypteras normalt i lagring och under överföring, men måste dekrypteras i minnet medan en processor arbetar med den, vilket lämnar ett fönster för exponering. Google säger att 8tx använder isolering på hårdvarunivå för att skydda kunddata och proprietära modellparametrar även under drift.

Systemet kombinerar TPU 8t-kisel med femte generationens AMD EPYC-processorer och Googles låglatensnätverk Boardfly. Google hävdar att det kan minska latensen med upp till hälften jämfört med 8t, med nästan ingen prestandaförlust för det extra skyddet. Målgrupper inkluderar statliga myndigheter och företag i hårt reglerade branscher.

Minnesväggen

TPU 8i Max tar itu med en annan begränsning. AI-agenter som läser igenom kodbaser, långa dokument eller timmar av video behöver snabb åtkomst till långt mer information än en enskild förfrågan vanligtvis kräver. Google paketerar två TPU 8i-chip i ett paket, vilket fördubblar datorkraften, SRAM-minnet på chippet och genomströmningen för högbandbreddsminne medan man använder samma rackutrymme.

Amin Vahdat, som leder Googles AI-infrastrukturarbete, beskrev minnet som den bindande begränsningen för denna typ av arbetsbelastning. Google säger att designen är viktig för läkemedelsupptäckt, matematik och kodningsverktyg, där modeller måste hålla stora mängder kontext.

Varför det spelar roll

Nvidia dominerar fortfarande AI-träning och inferens, och dess GPU:er är fortfarande standardvalet för de flesta utvecklare. Google utvecklade TPU:er för sina egna tjänster och säljer nu åtkomst till externa företag, inklusive installationer på plats, och säger att närmare 100 kunder använder dem, från AI-labb till universitet.

Lanseringen kommer när köparna söker alternativ. Rapporter har sagt att OpenAI planerar att köpa Google-chip när man försöker minska beroendet av Nvidia, vars aktier har fallit kraftigt denna månad till följd av en utredning mot vd:n Jensen Huang.

---

Pålitlig ferrofluid-vakuum roterande genomföring för halvledartillverkning

Inom halvledartillverkning är det avgörande att upprätthålla ultrahög vakuumintegritet under roterande rörelse — från enkristallint kiselodling och CVD till sputtering och plasmaetsning. Ferrofluid Vacuum Rotary Shaft Feedthrough från FerrofluidTec levererar hermetiskt tätade roterande genomföringar med läckagehastigheter så låga som 10⁻¹² Pa·m³·s⁻¹, vakuumgrad upp till 10⁻⁶ Pa och anpassningsbara axeldiametrar från 10mm till 100mm. Byggda med icke-magnetiska rostfria stålhöljen och magnetiskt permeabla rostfria stålaxlar ger dessa genomföringar pålitlig, underhållsfri tätning för krävande vakuummiljöer. Besök www.ferrofluidtec.com för att lära dig mer.

Källa: Bloomberg