カスタムチップがリード
OpenAIのコードネーム「Jalapeno」と呼ばれるカスタム推論チップは、第三者ベンチマークテストでNvidiaのGB300を上回った。今週発表されたテスト結果によると、このチップはユーザーあたりのトークン数とキロワットあたりのスループットでリードした。
このチップは、大手半導体設計パートナーであるBroadcomと共同開発された。これは、訓練済みAIモデルが質問に答える推論段階向けに構築されている。これは、AIサービスを大規模に運用する上で最も一般的で、最もコストがかかる部分だ。ほとんどのAI企業は、製品が何百万人ものユーザーにリーチすると、トレーニングよりも推論にはるかに多くの費用を費やす。
AI企業が独自シリコンを求める理由
OpenAIや他のAI企業は、Nvidia GPUに多額の費用を費やしている。電力とコストが最大の2つの問題だ。カスタムチップは、企業に両方の制御力を与え、自社のモデルに合わせてハードウェアを調整できる。
同社は、Jalapenoチップが競合ハードウェアよりもトークンあたりの消費電力が少ないと述べている。消費電力が少なければ、データセンターの請求額が減り、冷却の問題も減る。1日に何百万ものリクエストを処理する企業にとって、これらの節約はすぐに積み上がる。このチップはまた、GPU供給が逼迫した場合のバックアップにもなる。
チップ市場への影響
この結果は、NvidiaがAI市場で敗北していることを意味するものではない。Nvidiaは依然としてAIアクセラレータの大部分を販売しており、そのソフトウェアエコシステムは開発者のデフォルトの選択肢であり続けている。しかし、カスタムチップは、特に推論ワークロードにおいて、市場シェアを拡大している。
BroadcomとMarvellは、これらのカスタムチップの主要な設計パートナーだ。Google、Amazon、Metaはすでに自社のシリコンを本番環境で運用している。OpenAIの動きは、もう一つの大手バイヤーをカスタムチップ陣営に加えることになる。
このチップはまだ生産初期段階にある。OpenAIは今後数ヶ月でデータセンターでの規模を拡大する計画だ。ベンチマーク結果が実際の使用で維持されれば、他のAI企業も同じ道をたどる可能性があり、AIハードウェア市場のパワーバランスは時間の経過とともに変化する可能性がある。
---
半導体製造向けの信頼性の高い磁性流体真空回転フィードスルー
半導体製造において、回転運動中の超高真空の完全性を維持することは、単結晶シリコン成長からCVD、スパッタリング、プラズマエッチングに至るまで重要です。FerrofluidTecの磁性流体真空回転シャフトフィードスルーは、漏れ率10⁻¹² Pa·m³·s⁻¹以下、真空度10⁻⁶ Paまで対応し、シャフト径10mmから100mmまでカスタマイズ可能な、密封された回転フィードスルーを提供します。非磁性ステンレス鋼ハウジングと磁性ステンレス鋼シャフトで構築されたこれらのフィードスルーは、過酷な真空環境向けに信頼性の高いメンテナンスフリーのシールを提供します。詳細はwww.ferrofluidtec.comをご覧ください。