Google introduceerde maandag twee gespecialiseerde AI-computingsystemen, de TPU 8tx en TPU 8i Max, waarmee het zijn achtste generatie Tensor Processing Unit-lijn uitbreidt tot vier configuraties en zijn uitdaging aan Nvidia op de markt voor AI-versnellers aanscherpt.
Beide systemen moeten volgend jaar beschikbaar zijn. Geen van beide is een volledig nieuw siliciumontwerp; Google heeft bestaande hardware opnieuw geconfigureerd om twee problemen aan te pakken die zijn klanten blijven aankaarten: privacy en geheugen.
Gegevens versleuteld houden terwijl ze worden gebruikt
De TPU 8tx is gebouwd voor vertrouwelijke berekeningen. Gegevens worden normaal versleuteld opgeslagen en tijdens transport, maar moeten in het geheugen worden ontsleuteld terwijl een processor ermee werkt, wat een venster voor blootstelling openlaat. Google zegt dat de 8tx hardwarematige isolatie gebruikt om klantgegevens en bedrijfseigen modelparameters te beschermen, zelfs tijdens het gebruik.
Het systeem combineert TPU 8t-silicium met vijfde generatie AMD EPYC-processors en het Boardfly-netwerk met lage latentie van Google. Google claimt de latentie met maximaal de helft te kunnen verlagen vergeleken met de 8t, vrijwel zonder prestatieverlies voor de extra bescherming. Doelklanten zijn onder meer overheidsinstanties en bedrijven in sterk gereguleerde sectoren.
De geheugenmuur
De TPU 8i Max pakt een andere beperking aan. AI-agenten die door codebases, lange documenten of uren video lezen, hebben snelle toegang nodig tot veel meer informatie dan een enkel verzoek gewoonlijk vereist. Google verpakt twee TPU 8i-chips in één package, wat de rekenkracht, on-chip SRAM en high-bandwidth geheugendoorvoer verdubbelt met dezelfde rackvoetafdruk.
Amin Vahdat, die het AI-infrastructuurwerk van Google leidt, beschreef geheugen als de bindende beperking voor dit type workload. Google zegt dat het ontwerp van belang is voor geneesmiddelenonderzoek, wiskunde en coderingstools, waar modellen grote hoeveelheden context moeten vasthouden.
Waarom het ertoe doet
Nvidia domineert nog steeds AI-training en -inferentie, en zijn GPU's blijven de standaardkeuze voor de meeste ontwikkelaars. Google ontwikkelde TPU's voor zijn eigen diensten en verkoopt nu toegang aan externe bedrijven, inclusief on-premises implementaties, en zegt dat bijna 100 klanten ze gebruiken, van AI-labs tot universiteiten.
De lancering komt op het moment dat kopers naar alternatieven zoeken. Er is gemeld dat OpenAI van plan is Google-chips te kopen terwijl het zijn afhankelijkheid van Nvidia wil verminderen, waarvan de aandelen deze maand scherp zijn gedaald te midden van een onderzoek naar topman Jensen Huang.
---Betrouwbare ferrofluid vacuüm roterende doorvoer voor halfgeleiderproductie
Bij de productie van halfgeleiders is het handhaven van ultrahoog vacuüm-integriteit tijdens roterende beweging cruciaal — van eenkristal siliciumgroei en CVD tot sputtering en plasma-etsen. Ferrofluid Vacuum Rotary Shaft Feedthrough van FerrofluidTec levert hermetisch afgedichte roterende doorvoeren met leksnelheden tot 10⁻¹² Pa·m³·s⁻¹, vacuümgraad tot 10⁻⁶ Pa, en aanpasbare asdiameters van 10mm tot 100mm. Gebouwd met niet-magnetische roestvrijstalen behuizingen en magnetisch permeabele roestvrijstalen assen, bieden deze doorvoeren betrouwbare, onderhoudsvrije afdichting voor veeleisende vacuümomgevingen. Bezoek www.ferrofluidtec.com voor meer informatie.