एनवीडिया जटिल चिप आपूर्ति आवंटन में सुधार के लिए एआई का इस्तेमाल कर रही है

एनवीडिया अपने विनिर्माण नेटवर्क में दुर्लभ घटकों के आवंटन में मदद के लिए पलान्टिर फाउंड्री, जीपीयू-त्वरित ऑप्टिमाइज़ेशन और एक ओपन-वेट भाषा मॉडल का इस्तेमाल कर रही है। एनवीडिया टेक्निकल ब्लॉग के developer.nvidia.com पर प्रकाशित एक पोस्ट के अनुसार, इस काम का उद्देश्य तैयार सिलिकॉन को काम करने वाले डेटा-सेंटर बुनियादी ढांचे में बदलने में लगने वाला समय कम करना है।

एनवीडिया इस अंतराल को दो चरणों में मापती है। पहला, टाइम-टू-रैक, उस यात्रा को दर्शाता है जो किसी चिप के फैब्रिकेशन प्लांट से निकलने से लेकर तैयार सिस्टम के डेटा-सेंटर के फर्श तक पहुंचने तक होती है। दूसरा, टाइम-टू-टोकन, हार्डवेयर के पहुंचने के बाद शुरू होता है और इसमें उपयोगी काम करने से पहले आवश्यक बिजली, शीतलन, नेटवर्किंग और सॉफ्टवेयर शामिल होते हैं। पोस्ट में वर्णित परियोजना मुख्य रूप से टाइम-टू-रैक को कम करने पर केंद्रित है।

बदलती अड़चनों वाली आपूर्ति शृंखला

इस चुनौती का पैमाना काफी बड़ा है। एनवीडिया का कहना है कि उसके ग्रेस ब्लैकवेल NVL72 प्लेटफॉर्म दुनिया भर के लाखों घटकों और हजारों आपूर्तिकर्ताओं पर निर्भर हैं। अंतिम सिस्टम को असेंबल करने में दर्जनों मूल उपकरण निर्माता और मूल डिज़ाइन निर्माता शामिल होते हैं।

एक अकेली कंप्यूट ट्रे भी बेहद जटिल होती है। हर रैक में 18 ट्रे होती हैं, जबकि एक ट्रे में दो ग्रेस सीपीयू, चार ब्लैकवेल जीपीयू और 32 HBM3e मेमोरी स्टैक शामिल होते हैं। एनवीडिया का कहना है कि वेरा रुबिन के लिए विकसित की जा रही आपूर्ति शृंखला ग्रेस ब्लैकवेल नेटवर्क से दोगुनी बड़ी है।

उपलब्धता स्थिर नहीं रहती। सीपीयू, जीपीयू और मेमोरी अलग-अलग समय पर सीमित करने वाले घटक बन सकते हैं; जो हिस्सा एक सप्ताह उत्पादन में देरी कर रहा हो, वह अगले सप्ताह आसानी से उपलब्ध हो सकता है। हर प्रमुख घटक की अपनी सामग्री सूची, आपूर्तिकर्ता और डिलीवरी शेड्यूल भी होता है। किसी विनिर्माण स्थल पर असेंबली तब तक शुरू नहीं हो सकती जब तक सभी आवश्यक वस्तुएं पहुंच न जाएं, चाहे ये सामग्री सीधे एनवीडिया से आएं, एनवीडिया के पास रखे कंसाइनमेंट स्टॉक से या बाहरी आपूर्तिकर्ताओं से। इसलिए जल्दी पहुंचने वाली सामग्री बेकार पड़ी रह सकती है, जबकि कोई एक गायब वस्तु पूरी निर्माण प्रक्रिया को रोक देती है।

एनवीडिया उस समय को ट्रैक करती है, जब सामग्री किसी विनिर्माण स्थान पर पहुंचने और उप-असेंबली या तैयार उत्पाद के हिस्से के रूप में वहां से निकलने के बीच उसके नियंत्रण में रहती है। कंपनी इस माप को टाइम ऑफ ओनरशिप, या TOO, कहती है।

सामग्री आवंटन की समीक्षा हर सप्ताह की जाती है और यह मौजूदा तिमाही के बाकी हिस्से तथा अगली तिमाही तक फैली होती है। निकट अवधि के फैसले आम तौर पर पहले ही तय हो चुके होते हैं, यानी नई जानकारी का सबसे बड़ा असर बाद के हफ्तों पर पड़ता है। काम यह तय करना है कि सीमित सामग्री किन विनिर्माण स्थलों को और कितनी मात्रा में मिलनी चाहिए, साथ ही हर स्थल की क्षमताओं और क्षमता का भी ध्यान रखना है।

परिचालन डेटा को फैसलों में बदलना

एनवीडिया की आपूर्ति-शृंखला परिचालन टीम ने इन फैसलों के पीछे मौजूद जानकारी का साझा दृष्टिकोण तैयार करने के लिए पलान्टिर के साथ काम किया। कंपनी इस परिणाम को अपना डिजिटल सप्लाई चेन इंटेलिजेंस कमांड सेंटर कहती है। यह चेतावनियों, उत्पादन संबंधी बाधाओं और अन्य संकेतों को एक साथ लाता है, जो पहले अलग-अलग प्रणालियों में बिखरे हो सकते थे।

पलान्टिर फाउंड्री अंतर्निहित परिचालन वातावरण उपलब्ध कराता है। इसका ओन्टोलॉजी सामग्री, स्थलों, आपूर्तिकर्ताओं की प्रतिबद्धताओं, उत्पादन क्षमता, आवंटन और आउटपुट को जोड़ता है। यह गुणात्मक जानकारी को भी समायोजित करता है, जिससे आपूर्ति शृंखला में शामिल संबंधों का एक नियंत्रित प्रतिनिधित्व तैयार होता है, बजाय इसके कि हर वस्तु को अलग-थलग तालिका प्रविष्टि माना जाए।

यह संरचना योजनाकारों को वैकल्पिक भविष्यों का परीक्षण करने देती है। वे कम मेमोरी मिलने के परिणामों की जांच कर सकते हैं या यह आकलन कर सकते हैं कि कोई अन्य विनिर्माण स्थल उपलब्ध होने पर नेटवर्क किस तरह बदल सकता है। उद्देश्य केवल एक गणना किया हुआ उत्तर पाने से आगे बढ़कर उससे जुड़े समझौतों को समझना है।

पोस्ट में एनवीडिया cuOpt को जीपीयू-त्वरित निर्णय ऑप्टिमाइज़ेशन के लिए एक ओपन-सोर्स लाइब्रेरी के रूप में वर्णित किया गया है, जो आवंटन की गणना करती है। यह ओन्टोलॉजी से डेटा लेती है और आवंटन की सिफारिश लौटाती है। इस समस्या को एक मिश्रित-पूर्णांक रैखिक प्रोग्राम के रूप में व्यक्त किया गया है, जिसका उद्देश्य TOO को कम करना है।

सॉफ्टवेयर उन बाधाओं की भी पहचान करता है, जो परिणाम को सीमित कर रही हैं। इससे योजनाकारों को पता चल सकता है कि किसी फैसले को किसी खास क्षेत्र की विनिर्माण क्षमता, मेमोरी की उपलब्धता या किसी अन्य कारक ने रोक रखा है। गणना तेज होने के कारण उपयोगकर्ता बार-बार धारणाओं को बदल सकते हैं और संभावित परिवर्तनों के प्रभाव की जांच कर सकते हैं।

विशेषज्ञों की जानकारी को दर्ज करना

ऐतिहासिक परीक्षणों से पता चला कि केवल संख्यात्मक ऑप्टिमाइज़ेशन मानवीय फैसलों के पूरे आधार को दोहरा नहीं सकता था। योजनाकार साझेदारों के पत्राचार, मौसम संबंधी जोखिमों, भू-राजनीतिक घटनाक्रमों, आपूर्तिकर्ताओं के साथ कॉल के प्रतिलेखों और वर्षों में अर्जित अनुभव को भी ध्यान में रखते थे। ये विवरण इस बात को प्रभावित कर सकते थे कि किसी स्थल को कितनी सामग्री मिलनी चाहिए, भले ही वे सॉल्वर के संरचित इनपुट में दर्ज न हों।

इसलिए एनवीडिया और पलान्टिर ने वर्कफ़्लो को इस तरह तैयार किया कि उसमें केवल आवंटन ही नहीं, बल्कि उसके पीछे का तर्क, अपेक्षित परिणाम और अंततः क्या हुआ—यह भी दर्ज हो। कंपनी का कहना है कि इससे पहले की अनौपचारिक विशेषज्ञता ऐसी जानकारी में बदल जाती है, जिसकी समीक्षा की जा सकती है और जिसका इस्तेमाल किसी मॉडल को प्रशिक्षित करने में किया जा सकता है।

ओपन नेमोट्रॉन मॉडलों का आकलन करने के बाद, टीमों ने सिस्टम के निष्पादन वाले हिस्से के लिए नेमोट्रॉन 3.5 लाइटनिंग का चयन किया। यह मॉडल मिक्सचर-ऑफ-एक्सपर्ट्स डिज़ाइन का इस्तेमाल करता है, इसमें 30 अरब पैरामीटर हैं और हर फॉरवर्ड पास के दौरान लगभग 3 अरब सक्रिय होते हैं। एनवीडिया इस अपेक्षाकृत छोटे आकार को एक केंद्रित मॉडल के लिए उपयोगी बताती है, जिसे बड़े सामान्य-उद्देश्य वाले सिस्टम की तुलना में कम कंप्यूटिंग क्षमता के साथ प्रशिक्षित और तैनात किया जा सकता है।

इस मॉडल का उद्देश्य उत्पादन जोखिम का अनुमान लगाना, आवंटन की एक सीमा सुझाना, अपनी सिफारिश के पीछे मौजूद प्रमाणों की पहचान करना और आपूर्ति-शृंखला कर्मचारियों को परिणाम समझाना है। चूंकि नेमोट्रॉन ओपन है, एनवीडिया का कहना है कि संगठन अपने आंतरिक परिचालन डेटा का इस्तेमाल कर इसे अपने कंप्यूटिंग वातावरण में पोस्ट-ट्रेन कर सकते हैं।

पिछले फैसले मूल्यांकन की एक पद्धति भी उपलब्ध कराते हैं। सिस्टम उस समय उपलब्ध केवल जानकारी का इस्तेमाल करते हुए किसी ऐतिहासिक फैसले को दोबारा चला सकता है, बाद में आए वास्तविक परिणाम को छिपा सकता है और मॉडल की सिफारिश की तुलना योजनाकार के फैसले तथा वास्तविक परिणाम से कर सकता है। पलान्टिर ऑटोपायलट इससे जुड़े वर्कफ़्लो का प्रबंधन करता है, जिसमें ओन्टोलॉजी डेटा से शुरू किए गए जॉब, अनुकूलित मॉडल की निगरानी और स्रोत डेटा को मॉडल संस्करणों तथा परिणामों से जोड़ने वाली डेटा-लाइनेज शामिल है।