कस्टम चिप ने परीक्षणों में Nvidia को पीछे छोड़ा
OpenAI की कस्टम इन्फ्रेंस चिप, कोड-नाम जलापेनो, ने इस सप्ताह प्रकाशित परिणामों के अनुसार, तीसरे पक्ष के बेंचमार्क परीक्षणों में Nvidia के GB300 को हराया। चिप प्रति उपयोगकर्ता टोकन और प्रति किलोवाट थ्रूपुट में आगे रही, जो ऊर्जा दक्षता का एक प्रमुख माप है। परीक्षण स्वतंत्र समीक्षकों द्वारा चलाए गए थे, न कि OpenAI द्वारा।
Broadcom के साथ निर्मित
जलापेनो चिप Broadcom के साथ बनाई गई थी, जो एक बहु-वर्षीय साझेदारी का परिणाम है। OpenAI ने Nvidia पर अपनी निर्भरता कम करने के लिए अपने स्वयं के सिलिकॉन को डिजाइन करना शुरू किया, जो एआई चिप बाजार पर हावी है। कंपनी अभी भी बड़ी मात्रा में Nvidia प्रोसेसर खरीदती है, लेकिन कस्टम चिप्स इसे लागत और प्रदर्शन पर अधिक नियंत्रण देते हैं।
परिणामों का क्या मतलब है
विश्लेषकों ने कहा कि बेंचमार्क परिणाम OpenAI के हार्डवेयर प्रयास के लिए एक मील का पत्थर हैं। यदि चिप अच्छी तरह से स्केल करती है, तो यह एआई कंप्यूटिंग की अर्थव्यवस्था को बदल सकती है। प्रति टोकन कम ऊर्जा उपयोग का मतलब बड़े भाषा मॉडल के लिए कम परिचालन लागत है। OpenAI दुनिया के कुछ सबसे बड़े एआई वर्कलोड चलाता है, इसलिए छोटी दक्षता लाभ भी बड़ी बचत में तब्दील हो जाते हैं।
कंपनी अपनी हार्डवेयर टीम का विस्तार कर रही है और हाल ही में एक चिप डिजाइन कार्यालय खोला है। उद्योग पर्यवेक्षकों का कहना है कि OpenAI अगले साल के भीतर अपने डेटा केंद्रों में जलापेनो चिप्स तैनात कर सकता है। Nvidia अभी भी बड़े अंतर से बाजार में अग्रणी है, लेकिन परीक्षण के परिणाम दिखाते हैं कि चुनौती देने वाले अंतर को कम कर रहे हैं। Google और Amazon सहित अन्य कंपनियों ने भी कस्टम एआई चिप्स बनाए हैं। बेहतर और सस्ते एआई हार्डवेयर को डिजाइन करने की दौड़ अब प्रौद्योगिकी में सबसे अधिक देखी जाने वाली प्रतियोगिताओं में से एक है। OpenAI के लिए, चिप अपने स्वयं के कंप्यूटिंग भविष्य को नियंत्रित करने की व्यापक रणनीति का हिस्सा है, मॉडल से लेकर उन सिलिकॉन तक जिन पर वे चलते हैं।