独自チップがエヌビディアをテストで上回る
OpenAIの独自推論チップ（コードネーム「ハラペーニョ」）が、第三者によるベンチマークテストでエヌビディアのGB300を上回った。今週発表された結果によると、このチップは、ユーザーあたりのトークン数と、エネルギー効率の重要な指標であるキロワットあたりのスループットでリードした。テストはOpenAI自身ではなく、独立したレビュー担当者によって実施された。
ブロードコムと共同開発
ハラペーニョチップは、複数年にわたるパートナーシップの結果、ブロードコムと共同開発された。OpenAIは、AIチップ市場を支配するエヌビディアへの依存を減らすために、独自のシリコン開発を開始した。同社は依然として大量のエヌビディア製プロセッサを購入しているが、独自チップによりコストとパフォーマンスをより細かく制御できる。
結果の意味
アナリストは、このベンチマーク結果はOpenAIのハードウェア戦略にとってのマイルストーンだと述べた。このチップがうまくスケールすれば、AIコンピューティングの経済性を変える可能性がある。トークンあたりのエネルギー消費が少ないということは、大規模言語モデルの運用コストが低くなることを意味する。OpenAIは世界最大級のAIワークロードを実行しているため、わずかな効率改善でも大きな節約につながる。
同社はハードウェアチームを拡大しており、最近チップ設計オフィスを開設した。業界関係者は、OpenAIは今後1年以内にデータセンターにハラペーニョチップを導入する可能性があると述べている。エヌビディアは依然として市場リーダーであるが、テスト結果は challenger が差を縮めていることを示している。GoogleやAmazonなどの他の企業も独自のAIチップを開発している。より優れた、より安価なAIハードウェアを設計する競争は、現在テクノロジー界で最も注目されている競争の一つとなっている。OpenAIにとって、このチップは、モデルからそれが実行されるシリコンに至るまで、自社のコンピューティングの未来を管理するという、より広範な戦略の一部である。