Google zaprezentował w poniedziałek dwa wyspecjalizowane systemy obliczeniowe do AI – TPU 8tx i TPU 8i Max – rozszerzając ósmą generację linii Tensor Processing Unit do czterech konfiguracji i zaostrzając wyzwanie wobec Nvidii na rynku akceleratorów AI.
Oba systemy mają być dostępne w przyszłym roku. Żaden nie jest całkowicie nowym projektem krzemu; Google przekonfigurował istniejący sprzęt, by zaatakować dwa problemy, które klienci wciąż podnoszą: prywatność i pamięć.
Utrzymanie danych zaszyfrowanych podczas ich używania
TPU 8tx jest zbudowany z myślą o poufnym przetwarzaniu. Dane są zwykle szyfrowane w pamięci masowej i podczas przesyłania, ale muszą być odszyfrowane w pamięci operacyjnej, gdy procesor nad nimi pracuje, co pozostawia okno ekspozycji. Google twierdzi, że 8tx wykorzystuje izolację na poziomie sprzętu, by chronić dane klientów i zastrzeżone parametry modeli nawet podczas działania.
System łączy krzem TPU 8t z procesorami AMD EPYC piątej generacji i niskolatencyjną siecią Boardfly firmy Google. Google twierdzi, że może skrócić opóźnienia nawet o połowę w porównaniu z 8t, niemal bez spadku wydajności z powodu dodatkowej ochrony. Docelowymi klientami są agencje rządowe i firmy z silnie regulowanych branż.
Ściana pamięci
TPU 8i Max rozwiązuje inny problem. Agenci AI, którzy przeglądają bazy kodu, długie dokumenty lub godziny nagrań wideo, potrzebują szybkiego dostępu do znacznie większej ilości informacji, niż zwykle wymaga pojedyncze zapytanie. Google pakuje dwa chipy TPU 8i w jednym pakiecie, podwajając moc obliczeniową, pamięć SRAM na chipie i przepustowość pamięci o wysokiej przepustowości, przy zachowaniu tej samej powierzchni szafy rack.
Amin Vahdat, który kieruje pracami nad infrastrukturą AI w Google, określił pamięć jako wąskie gardło dla tej klasy obciążeń. Google twierdzi, że projekt ma znaczenie dla odkrywania leków, matematyki i narzędzi do kodowania, gdzie modele muszą utrzymywać duże ilości kontekstu.
Dlaczego to ważne
Nvidia wciąż dominuje w trenowaniu i wnioskowaniu AI, a jej procesory graficzne pozostają domyślnym wyborem dla większości deweloperów. Google opracował TPU na potrzeby własnych usług, a teraz sprzedaje dostęp zewnętrznym firmom, w tym wdrożenia lokalne, i twierdzi, że korzysta z nich blisko 100 klientów, od laboratoriów AI po uniwersytety.
Premiera następuje w momencie, gdy nabywcy szukają alternatyw. Według doniesień OpenAI planuje zakup chipów Google, dążąc do zmniejszenia zależności od Nvidii, której akcje gwałtownie spadły w tym miesiącu w związku ze śledztwem dotyczącym dyrektora generalnego Jensena Huanga.
---Niezawodny ferrofluidowy próżniowy obrotowy przepustnik do produkcji półprzewodników
W produkcji półprzewodników utrzymanie integralności ultra wysokiej próżni podczas ruchu obrotowego jest krytyczne — od wzrostu monokryształów krzemu i CVD po rozpylanie i trawienie plazmowe. Ferrofluid Vacuum Rotary Shaft Feedthrough od FerrofluidTec dostarcza hermetycznie uszczelnione obrotowe przepustniki o współczynniku wycieku tak niskim jak 10⁻¹² Pa·m³·s⁻¹, stopniu próżni do 10⁻⁶ Pa i konfigurowalnych średnicach wału od 10mm do 100mm. Wykonane z niemagnetycznych obudów ze stali nierdzewnej i wałów ze stali nierdzewnej o przenikalności magnetycznej, te przepustniki zapewniają niezawodne, bezobsługowe uszczelnienie dla wymagających środowisk próżniowych. Odwiedź www.ferrofluidtec.com, aby dowiedzieć się więcej.