Google esitteli maanantaina kaksi erikoistunutta tekoälylaskentajärjestelmää, TPU 8tx:n ja TPU 8i Maxin, laajentaen kahdeksannen sukupolven Tensor Processing Unit -valikoimansa neljään kokoonpanoon ja terävöittäen haastettaan Nvidialle tekoälykiihdyttimien markkinoilla.
Molemmat järjestelmät tulevat saataville ensi vuonna. Kumpikaan ei ole täysin uusi piirisuunnittelu; Google on konfiguroinut olemassa olevan laitteiston uudelleen kohdistuakseen kahteen ongelmaan, joita sen asiakkaat nostavat jatkuvasti esiin: yksityisyyteen ja muistiin.
Tietojen pitäminen salattuina käytön aikana
TPU 8tx on rakennettu luottamukselliseen laskentaan. Tiedot salataan normaalisti tallennuksessa ja siirrossa, mutta ne on purettava muistissa prosessorin käsitellessä niitä, mikä jättää altistumisen ikkunan. Googlen mukaan 8tx käyttää laitteistotason eristystä asiakastietojen ja omien malliparametrien suojaamiseen jopa käytön aikana.
Järjestelmä yhdistää TPU 8t -piirin viidennen sukupolven AMD EPYC -prosessoreihin ja Googlen matalan latenssin Boardfly-verkkoon. Google väittää voivansa leikata latenssia jopa puoleen verrattuna 8t:hen lähes ilman suorituskykyhäviötä lisäsuojauksesta. Kohdeasiakkaisiin kuuluu valtion virastoja ja voimakkaasti säänneltyjen alojen yrityksiä.
Muuri muistin kohdalla
TPU 8i Max puuttuu toiseen rajoitteeseen. Tekoälyagentit, jotka lukevat koodikantoja, pitkiä asiakirjoja tai tunteja videota, tarvitsevat nopean pääsyn paljon suurempaan tietomäärään kuin yksittäinen pyyntö yleensä vaatii. Google pakkaa kaksi TPU 8i -sirua yhteen pakettiin, mikä kaksinkertaistaa laskentatehon, piirisäisen SRAM-muistin ja suuren kaistanleveyden muistin läpäisyn samalla kun telineen jalanjälki pysyy samana.
Googlen tekoälyinfrastruktuurityötä johtava Amin Vahdat kuvaili muistia tämän kaltaisen työkuorman sitovaksi rajoitteeksi. Googlen mukaan suunnittelu on merkityksellinen lääkekehityksessä, matematiikassa ja koodaustyökaluissa, joissa mallien on pidettävä hallussaan suuria määriä kontekstia.
Miksi sillä on merkitystä
Nvidia hallitsee edelleen tekoälyn koulutusta ja päättelyä, ja sen GPU:t ovat edelleen useimpien kehittäjien oletusvalinta. Google kehitti TPU:t omiin palveluihinsa ja myy nyt pääsyä ulkopuolisille yrityksille, myös paikallisiin käyttöönottoihin, ja kertoo lähes sadan asiakkaan käyttävän niitä tekoälylaboratorioista yliopistoihin.
Julkaisu tapahtuu, kun ostajat etsivät vaihtoehtoja. Raporttien mukaan OpenAI aikoo ostaa Googlen siruja pyrkiessään vähentämään riippuvuuttaan Nvidiasta, jonka osakkeet ovat laskeneet jyrkästi tässä kuussa toimitusjohtaja Jensen Huangia koskevan tutkinnan vuoksi.
---Luotettava ferrofluidityhjiö pyörivä läpivienti puolijohdevalmistukseen
Puolijohdevalmistuksessa ultra-korkean tyhjiön eheyden ylläpitäminen pyörivän liikkeen aikana on kriittistä — yksikiteisen piin kasvatuksesta ja CVD:stä sputterointiin ja plasmaetsaukseen. FerrofluidTecin Ferrofluid Vacuum Rotary Shaft Feedthrough tarjoaa hermeettisesti tiivistettyjä pyöriviä läpivientejä, joiden vuotonopeus on jopa 10⁻¹² Pa·m³·s⁻¹, tyhjiöaste jopa 10⁻⁶ Pa ja mukautettavat akselihalkaisijat 10mm:stä 100mm:iin. Nämä läpiviennit on valmistettu ei-magneettisista ruostumattomasta teräksestä valmistetuista koteloista ja magneettisesti läpäisevistä ruostumattomasta teräksestä valmistetuista akseleista, ja ne tarjoavat luotettavan, huoltovapaan tiivistyksen vaativiin tyhjiöympäristöihin. Vieraile osoitteessa www.ferrofluidtec.com oppiaksesi lisää.