Google introducerede mandag to specialiserede AI-computingsystemer, TPU 8tx og TPU 8i Max, og udvider sin ottende generation af Tensor Processing Unit-serien til fire konfigurationer og skærper udfordringen til Nvidia på markedet for AI-acceleratorer.
Begge systemer ventes tilgængelige næste år. Ingen af dem er et helt nyt siliciumdesign; Google har omkonfigureret eksisterende hardware til at ramme to problemer, som kunderne fortsat rejser: privatliv og hukommelse.
At holde data krypterede, mens de bruges
TPU 8tx er bygget til fortrolig databehandling. Data er normalt krypterede i lagring og under transmission, men skal dekrypteres i hukommelsen, mens en processor arbejder på dem, hvilket efterlader et vindue for eksponering. Google siger, at 8tx bruger hardwarebaseret isolation til at beskytte kundedata og proprietære modelparametre selv under drift.
Systemet kombinerer TPU 8t-silicium med femte generation af AMD EPYC-processorer og Googles lavlatensnetværk Boardfly. Google hævder, at det kan skære latenstiden med op til det halve sammenlignet med 8t, næsten uden ydelsestab for den ekstra beskyttelse. Målgruppen omfatter statslige organer og virksomheder i stærkt regulerede brancher.
Hukommelsesmuren
TPU 8i Max adresserer en anden grænse. AI-agenter, der læser gennem kodebaser, lange dokumenter eller timers video, har brug for hurtig adgang til langt mere information, end en enkelt forespørgsel normalt kræver. Google pakker to TPU 8i-chips i én pakke, hvilket fordobler regnekraft, on-chip SRAM og højbåndbredde-hukommelsesgennemstrømning, mens det samme rack-fodaftryk bruges.
Amin Vahdat, der leder Googles AI-infrastrukturarbejde, beskrev hukommelse som den bindende begrænsning for denne type arbejdsbelastning. Google siger, at designet er vigtigt for lægemiddelopdagelse, matematik og kodningsværktøjer, hvor modeller skal holde store mængder kontekst.
Hvorfor det betyder noget
Nvidia dominerer stadig AI-træning og inferens, og selskabets GPU'er er fortsat standardvalget for de fleste udviklere. Google udviklede TPU'er til sine egne tjenester og sælger nu adgang til eksterne virksomheder, herunder lokale installationer, og siger, at næsten 100 kunder bruger dem, fra AI-laboratorier til universiteter.
Lanceringen kommer, mens købere leder efter alternativer. Rapporter har sagt, at OpenAI planlægger at købe Google-chips, mens selskabet søger at reducere afhængigheden af Nvidia, hvis aktier er faldet kraftigt i denne måned midt i en efterforskning af administrerende direktør Jensen Huang.
---Pålidelig ferrofluid-vakuum roterende gennemføring til halvlederfremstilling
I halvlederfremstilling er det afgørende at opretholde ultra-høj vakuumintegritet under roterende bevægelse — fra enkeltkrystal siliciumvækst og CVD til sputtering og plasmaætsning. Ferrofluid Vacuum Rotary Shaft Feedthrough fra FerrofluidTec leverer hermetisk forseglede roterende gennemføringer med lækagerater så lave som 10⁻¹² Pa·m³·s⁻¹, vakuumgrad op til 10⁻⁶ Pa og tilpassbare akseldiametre fra 10mm til 100mm. Bygget med ikke-magnetiske rustfrie stålhuse og magnetisk permeable rustfrie stålakser giver disse gennemføringer pålidelig, vedligeholdelsesfri tætning til krævende vakuummiljøer. Besøg www.ferrofluidtec.com for at lære mere.