Technology · · 4 min read
OpenAI AMD Turin होस्ट CPUs के साथ Jalapeño ASIC चला रहा है
OpenAI अपने Jalapeño इन्फरेंस चिप का परीक्षण Nvidia के Vera प्लेटफ़ॉर्म के बजाय AMD EPYC Turin प्रोसेसरों पर आधारित सिस्टम में कर रहा है।
AI Weekly द्वारा उद्धृत Tom’s Hardware की रिपोर्ट के अनुसार, OpenAI AMD प्रोसेसरों के साथ अपना Jalapeño इन्फरेंस ASIC चला रहा है। इन सिस्टमों में AMD EPYC “Turin” CPUs को होस्ट सिलिकॉन के रूप में इस्तेमाल किया गया है, जिससे कस्टम OpenAI एक्सेलेरेटर ऐसे सर्वर कॉन्फ़िगरेशन में काम करता है जो Nvidia के प्रोसेसरों पर निर्भर नहीं है।
रिपोर्ट के अनुसार, प्रत्येक होस्ट सिस्टम में दो Turin-क्लास CPUs और 1.5 टेराबाइट DRAM होता है। यह व्यवस्था Jalapeño के लिए आसपास का कंप्यूटिंग प्लेटफ़ॉर्म उपलब्ध कराती है, जो इन्फरेंस वर्कलोड के लिए OpenAI की कस्टम चिप है। यह जानकारी इस बात की झलक देती है कि कंपनी अपने सिलिकॉन को चलाने के लिए ज़रूरी इन्फ्रास्ट्रक्चर कैसे तैयार कर रही है, साथ ही यह भी दिखाती है कि वह इसके आसपास के घटकों के लिए किन विकल्पों पर विचार कर रही है।
दो-भाग वाला सर्वर डिज़ाइन
इन्फरेंस ASIC उस गणना के लिए बनाया जाता है जिसकी ज़रूरत तब होती है जब कोई AI सिस्टम जवाब या अनुमान तैयार करता है। होस्ट प्रोसेसर सिस्टम का एक अलग हिस्सा होता है, जो एक्सेलेरेटर को सपोर्ट करने और व्यापक सर्वर प्लेटफ़ॉर्म उपलब्ध कराने के लिए ज़िम्मेदार होता है। OpenAI के Jalapeño डिप्लॉयमेंट में AMD के EPYC Turin CPUs यह होस्ट भूमिका निभाते हैं।
रिपोर्ट किए गए कॉन्फ़िगरेशन में प्रत्येक होस्ट में दो Turin प्रोसेसर और 1.5TB मेमोरी है। ये विनिर्देश उन मशीनों के बारे में सार्वजनिक की गई सबसे स्पष्ट जानकारी हैं, जिनमें ASIC लगा है। वे यह भी दिखाते हैं कि एक्सेलेरेटर का चुनाव सर्वर के हर दूसरे घटक को तय नहीं करता: OpenAI के अपने इन्फरेंस सिलिकॉन को AMD द्वारा उपलब्ध कराए गए होस्ट प्लेटफ़ॉर्म के साथ जोड़ा जा रहा है।
यह अंतर इसलिए महत्वपूर्ण है क्योंकि AI हार्डवेयर पर चर्चाओं में अक्सर केवल एक्सेलेरेटर पर ध्यान केंद्रित किया जाता है। व्यवहार में, कोई सिस्टम उन प्रोसेसरों, मेमोरी और सर्वर डिज़ाइन पर भी निर्भर करता है जो एक्सेलेरेटर को काम करने देते हैं। OpenAI का रिपोर्ट किया गया सेटअप इस व्यवस्था के दोनों पक्षों की पहचान करता है: Jalapeño कस्टम इन्फरेंस घटक है, जबकि Turin होस्ट CPUs उपलब्ध कराता है।
AMD का इस्तेमाल क्यों किया जा रहा है
रिपोर्ट के अनुसार, OpenAI के उपाध्यक्ष और हार्डवेयर प्रमुख Richard Ho ने Turin के इस्तेमाल के निर्णय को जोखिम कम करने की एक व्यावहारिक कोशिश बताया। यह स्पष्टीकरण प्रोसेसर के चयन को एक व्यावहारिक इंजीनियरिंग निर्णय के रूप में पेश करता है, न कि इस घोषणा के रूप में कि OpenAI के पूरे इन्फ्रास्ट्रक्चर में एक सप्लायर ने दूसरे की जगह ले ली है।
उपलब्ध विवरण यह नहीं कहता कि AMD खुद Jalapeño ASIC की आपूर्ति कर रहा है। इसके बजाय, AMD के EPYC प्रोसेसर उन सिस्टमों में होस्ट सिलिकॉन के रूप में काम करते हैं, जिनमें OpenAI की चिप लगाई गई है। इन भूमिकाओं को अलग रखना महत्वपूर्ण है: रिपोर्ट Jalapeño के आसपास मौजूद CPU प्लेटफ़ॉर्म से संबंधित है, न कि OpenAI के कस्टम एक्सेलेरेटर के निर्माण से।
AMD हार्डवेयर के रिपोर्ट किए गए इस्तेमाल से यह भी संकेत मिलता है कि OpenAI की कस्टम चिप को अलग-अलग सप्लायरों वाले वातावरण में परीक्षण किया जा रहा है। Jalapeño OpenAI की अपनी हार्डवेयर पहल से आती है, जबकि होस्ट प्रोसेसर AMD से आते हैं। इसका परिणाम एक ऐसा सर्वर डिज़ाइन है जो अलग-अलग मूल और कार्य वाले घटकों से बना है।
Nvidia तुलना का हिस्सा बना हुआ है
Ho की टिप्पणियों में Nvidia के Vera standalone प्लेटफ़ॉर्म को चर्चा किए गए विकल्प के रूप में बताया गया था। Tom’s Hardware और AI Weekly की रिपोर्ट के अनुसार, उन्होंने इसकी परिपक्वता को “थोड़ा पीछे” माना। यह आकलन यह समझाने में मदद करता है कि रिपोर्ट में वर्णित Jalapeño सिस्टमों के होस्ट के लिए OpenAI ने Turin का चयन क्यों किया।
यह टिप्पणी Nvidia के हार्डवेयर पर किसी व्यापक निर्णय से अधिक सीमित है। इसका संबंध विशेष रूप से उस डिप्लॉयमेंट के लिए विचाराधीन विकल्प Vera की परिपक्वता से है। रिपोर्ट यह नहीं कहती कि OpenAI के सभी सिस्टमों में Nvidia हार्डवेयर मौजूद नहीं है, और न ही यह स्थापित करती है कि AMD कंपनी का स्थायी होस्ट-CPU सप्लायर होगा।
यह जो दिखाती है, वह OpenAI की हार्डवेयर रणनीति का एक विशेष चरण है। कंपनी के पास एक कस्टम इन्फरेंस ASIC है, जो प्रत्येक होस्ट में दो AMD EPYC Turin प्रोसेसरों और 1.5TB DRAM वाले सिस्टमों में चल रहा है। उसके हार्डवेयर नेतृत्व ने Nvidia के Vera standalone विकल्प की परिपक्वता की तुलना मौजूदा डिज़ाइन की व्यावहारिक ज़रूरतों से भी की है।
फिलहाल, सार्वजनिक की गई जानकारी सीमित है, लेकिन वह बुनियादी आर्किटेक्चर स्थापित करती है: OpenAI की Jalapeño चिप अपने आसपास AMD Turin CPUs के साथ डिप्लॉय की जा रही है, जबकि Nvidia Vera को उस होस्ट भूमिका के लिए कम परिपक्व विकल्प के रूप में देखा जा रहा है। यह चुनाव किसी कस्टम इन्फरेंस सिस्टम को संचालन में लाने की तत्काल ज़रूरतों को दर्शाता है, न कि OpenAI द्वारा इस्तेमाल किए जा सकने वाले हर प्लेटफ़ॉर्म के बारे में कोई व्यापक घोषणा।