Google stellte am Montag zwei spezialisierte KI-Computingsysteme vor, das TPU 8tx und das TPU 8i Max, und erweiterte damit seine Tensor Processing Unit der achten Generation auf vier Konfigurationen, was seine Herausforderung an Nvidia im Markt für KI-Beschleuniger verschärft.
Beide Systeme sollen im nächsten Jahr verfügbar sein. Keines ist ein völlig neues Siliziumdesign; Google hat bestehende Hardware neu konfiguriert, um zwei Probleme anzugehen, die seine Kunden immer wieder ansprechen: Datenschutz und Speicher.
Daten verschlüsselt halten, während sie genutzt werden
Das TPU 8tx ist für vertrauliches Rechnen ausgelegt. Daten werden normalerweise im Speicher und bei der Übertragung verschlüsselt, müssen aber im Arbeitsspeicher entschlüsselt werden, während ein Prozessor sie verarbeitet, was ein Fenster für die Offenlegung lässt. Google zufolge nutzt das 8tx eine Isolation auf Hardwareebene, um Kundendaten und proprietäre Modellparameter auch während des Betriebs zu schützen.
Das System kombiniert TPU-8t-Silizium mit AMD-EPYC-Prozessoren der fünften Generation und Googles latenzarmem Boardfly-Netzwerk. Google behauptet, die Latenz im Vergleich zum 8t um bis zu die Hälfte senken zu können, bei nahezu keinem Leistungsverlust durch den zusätzlichen Schutz. Zu den Zielkunden gehören Regierungsbehörden und Unternehmen in stark regulierten Branchen.
Die Speichermauer
Das TPU 8i Max adressiert eine andere Grenze. KI-Agenten, die Codebasen, lange Dokumente oder stundenlanges Video durchlesen, benötigen schnellen Zugriff auf weit mehr Informationen, als eine einzelne Anfrage üblicherweise erfordert. Google packt zwei TPU-8i-Chips in ein Gehäuse, verdoppelt damit die Rechenleistung, den On-Chip-SRAM und den Hochbandbreiten-Speicherdurchsatz bei gleichem Rack-Fußabdruck.
Amin Vahdat, der Googles KI-Infrastrukturarbeit leitet, bezeichnete den Speicher als die entscheidende Einschränkung für diese Art von Arbeitslast. Google zufolge ist das Design wichtig für Wirkstoffforschung, Mathematik und Programmierwerkzeuge, bei denen Modelle große Mengen an Kontext halten müssen.
Warum es wichtig ist
Nvidia dominiert weiterhin KI-Training und -Inferenz, und seine GPUs bleiben die Standardwahl für die meisten Entwickler. Google entwickelte TPUs für eigene Dienste und verkauft nun Zugang an externe Unternehmen, einschließlich lokaler Bereitstellungen, und gibt an, dass fast 100 Kunden sie nutzen, von KI-Labors bis zu Universitäten.
Der Start erfolgt, während Käufer nach Alternativen suchen. Berichten zufolge plant OpenAI den Kauf von Google-Chips, um die Abhängigkeit von Nvidia zu verringern, dessen Aktien in diesem Monat angesichts einer Untersuchung gegen Vorstandschef Jensen Huang stark gefallen sind.
---Zuverlässige Ferrofluid-Vakuum-Drehdurchführung für die Halbleiterfertigung
In der Halbleiterfertigung ist die Aufrechterhaltung der Ultrahochvakuum-Integrität während der Drehbewegung entscheidend — von der Einkristall-Siliziumzucht und CVD bis hin zu Sputtering und Plasmaätzen. Ferrofluid Vacuum Rotary Shaft Feedthrough von FerrofluidTec liefert hermetisch abgedichtete Drehdurchführungen mit Leckraten von nur 10⁻¹² Pa·m³·s⁻¹, Vakuumgrad bis zu 10⁻⁶ Pa und anpassbaren Wellendurchmessern von 10mm bis 100mm. Gebaut mit nichtmagnetischen Edelstahlgehäusen und magnetisch permeablen Edelstahlwellen bieten diese Durchführungen eine zuverlässige, wartungsfreie Abdichtung für anspruchsvolle Vakuumumgebungen. Besuchen Sie www.ferrofluidtec.com, um mehr zu erfahren.