グーグルは月曜日、AIコンピューティング特化システム「TPU 8tx」と「TPU 8i Max」を発表し、第8世代Tensor Processing Unitラインアップを4構成に拡大、AIアクセラレーター市場でエヌビディアへの挑戦を強めた。
両システムは来年提供予定だ。いずれも全く新しいシリコン設計ではなく、グーグルは既存ハードウェアを再構成し、顧客が繰り返し指摘する2つの課題、プライバシーとメモリーに対応した。
使用中もデータを暗号化したままに
TPU 8txは機密コンピューティング向けに構築された。データは通常、保存時と転送時に暗号化されるが、プロセッサーが処理する際にはメモリー上で復号する必要があり、露出の隙が生じる。グーグルによると、8txはハードウェアレベルの分離を用い、稼働中も顧客データと独自のモデルパラメーターを保護する。
このシステムはTPU 8tシリコンに第5世代AMD EPYCプロセッサーとグーグルの低遅延Boardflyネットワークを組み合わせる。グーグルは、追加の保護による性能低下をほぼ伴わず、8tと比べて遅延を最大半分に削減できると主張する。対象顧客には政府機関や厳格な規制業種の企業が含まれる。
メモリーの壁
TPU 8i Maxは別の限界に対処する。コードベース、長文書、数時間の動画を読み込むAIエージェントは、単一のリクエストが通常必要とするよりはるかに多くの情報への高速アクセスを必要とする。グーグルは2つのTPU 8iチップを1パッケージに収め、同じラックスペースで計算能力、オンチップSRAM、高帯域メモリーのスループットを倍増させた。
グーグルのAIインフラを率いるアミン・バフダット氏は、この種のワークロードではメモリーが制約となると述べた。グーグルによると、この設計はモデルが大量のコンテキストを保持する必要がある創薬、数学、コーディングツールで重要だという。
重要な理由
エヌビディアは依然としてAIの学習と推論を支配し、そのGPUは大半の開発者にとって既定の選択肢だ。グーグルは自社サービス向けにTPUを開発し、現在はオンプレミス展開を含む外部企業へのアクセス販売も行い、AI研究所から大学まで約100社の顧客が利用していると述べている。
この発表は、買い手が代替を探す中で行われた。報道によると、OpenAIはエヌビディアへの依存を減らすためグーグルのチップ購入を計画している。エヌビディア株は、ジェンセン・フアン最高経営責任者への調査の中で今月急落した。
---半導体製造向けの信頼性の高い磁性流体真空回転導入器
半導体製造では、回転運動中の超高真空の完全性を維持することが重要です — 単結晶シリコン成長やCVDからスパッタリング、プラズマエッチングまで。Ferrofluid Vacuum Rotary Shaft Feedthrough は FerrofluidTec から提供され、10⁻¹² Pa·m³·s⁻¹ という低い漏れ率、最大 10⁻⁶ Pa の真空度、10mm から 100mm までのカスタマイズ可能なシャフト径を備えた気密シール回転導入器です。非磁性ステンレス鋼ハウジングと磁気透過性ステンレス鋼シャフトで構築されたこれらの導入器は、厳しい真空環境に信頼性の高いメンテナンスフリーのシーリングを提供します。詳細については www.ferrofluidtec.com をご覧ください。