اوپن اے آئی نے جالاپینیو اے ایس آئی سی کو ای ایم ڈی ٹورِن میزبان سی پی یوز کے ساتھ چلایا

Tom’s Hardware کی رپورٹنگ، جس کا حوالہ AI Weekly نے دیا ہے، کے مطابق اوپن اے آئی اپنا جالاپینیو انفرنس اے ایس آئی سی ای ایم ڈی کے پروسیسرز کے ساتھ چلا رہا ہے۔ ان سسٹمز میں ای ایم ڈی ای پی وائی سی “ٹورِن” سی پی یوز کو میزبان سلیکون کے طور پر استعمال کیا گیا ہے، جس کے باعث اوپن اے آئی کا کسٹم ایکسیلیریٹر ایسے سرور کنفیگریشن میں کام کرتا ہے جو اینوڈیا کے پروسیسرز پر انحصار نہیں کرتا۔

رپورٹ کے مطابق ہر میزبان سسٹم میں ٹورِن کلاس کے دو سی پی یوز اور 1.5 ٹیرا بائٹ DRAM شامل ہے۔ یہ انتظام جالاپینیو کے لیے اردگرد کا کمپیوٹنگ پلیٹ فارم فراہم کرتا ہے، جو انفرنس ورک لوڈز کے لیے اوپن اے آئی کی تیار کردہ کسٹم چپ ہے۔ یہ معلومات اس بات کی ایک جھلک پیش کرتی ہیں کہ کمپنی اپنے سلیکون کو چلانے کے لیے درکار انفرااسٹرکچر کس طرح تیار کر رہی ہے، اور اس کے گرد موجود اجزا کے لیے کن متبادل پر غور کر رہی ہے۔

دو حصوں پر مشتمل سرور ڈیزائن

انفرنس اے ایس آئی سی کو اس حساب کتاب کے لیے بنایا جاتا ہے جو اس وقت درکار ہوتا ہے جب اے آئی سسٹم کوئی جواب یا پیش گوئی تیار کرتا ہے۔ میزبان پروسیسر سسٹم کا ایک الگ حصہ ہوتا ہے، جو ایکسیلیریٹر کو سہارا دینے اور وسیع تر سرور پلیٹ فارم فراہم کرنے کا ذمہ دار ہوتا ہے۔ اوپن اے آئی کی جالاپینیو تعیناتی میں ای ایم ڈی کے ای پی وائی سی ٹورِن سی پی یوز یہ میزبان کردار ادا کرتے ہیں۔

رپورٹ کردہ کنفیگریشن میں ہر میزبان کے اندر دو ٹورِن پروسیسرز اور 1.5TB میموری موجود ہے۔ یہ ان مشینوں کے بارے میں ظاہر کی گئی سب سے واضح تفصیلات ہیں جو اے ایس آئی سی کو چلا رہی ہیں۔ یہ اس بات کو بھی ظاہر کرتی ہیں کہ ایکسیلیریٹر کا انتخاب سرور کے ہر دوسرے جزو کا تعین نہیں کرتا: اوپن اے آئی کا اپنا انفرنس سلیکون ای ایم ڈی کے فراہم کردہ میزبان پلیٹ فارم کے ساتھ جوڑا گیا ہے۔

یہ فرق اس لیے اہم ہے کہ اے آئی ہارڈویئر پر گفتگو اکثر صرف ایکسیلیریٹر پر مرکوز رہتی ہے۔ عملی طور پر کوئی سسٹم ان پروسیسرز، میموری اور سرور ڈیزائن پر بھی منحصر ہوتا ہے جو ایکسیلیریٹر کو کام کرنے کے قابل بناتے ہیں۔ اوپن اے آئی کا رپورٹ کردہ سیٹ اپ اس انتظام کے دونوں پہلوؤں کی نشاندہی کرتا ہے: جالاپینیو کسٹم انفرنس جزو ہے، جبکہ ٹورِن میزبان سی پی یوز فراہم کرتا ہے۔

ای ایم ڈی کو کیوں استعمال کیا جا رہا ہے

رپورٹ کے مطابق اوپن اے آئی کے نائب صدر اور ہارڈویئر کے سربراہ رچرڈ ہو نے ٹورِن استعمال کرنے کے فیصلے کو خطرہ کم کرنے کی ایک عملی کوشش قرار دیا۔ یہ وضاحت پروسیسر کے انتخاب کو ایک عملی انجینئرنگ فیصلے کے طور پر پیش کرتی ہے، نہ کہ اس اعلان کے طور پر کہ اوپن اے آئی کے پورے انفرااسٹرکچر میں ایک سپلائر نے دوسرے کی جگہ لے لی ہے۔

دستیاب معلومات یہ نہیں کہتیں کہ ای ایم ڈی خود جالاپینیو اے ایس آئی سی فراہم کر رہا ہے۔ اس کے بجائے، ای ایم ڈی کے ای پی وائی سی پروسیسرز ان سسٹمز میں میزبان سلیکون کے طور پر کام کرتے ہیں جہاں اوپن اے آئی کی چپ نصب ہے۔ ان کرداروں کو الگ رکھنا اہم ہے: رپورٹ جالاپینیو کے گرد موجود سی پی یو پلیٹ فارم سے متعلق ہے، اوپن اے آئی کے کسٹم ایکسیلیریٹر کی تیاری سے نہیں۔

ای ایم ڈی ہارڈویئر کے رپورٹ کردہ استعمال سے یہ بھی ظاہر ہوتا ہے کہ اوپن اے آئی کی کسٹم چپ کو مختلف سپلائرز پر مشتمل ماحول میں آزمایا جا رہا ہے۔ جالاپینیو اوپن اے آئی کی اپنی ہارڈویئر کوشش کا نتیجہ ہے، جبکہ میزبان پروسیسرز ای ایم ڈی سے آتے ہیں۔ یوں یہ سرور ڈیزائن مختلف ماخذ اور افعال رکھنے والے اجزا سے تیار کیا گیا ہے۔

اینوڈیا اب بھی موازنے کا حصہ ہے

ہو کے تبصروں میں اینوڈیا کا ویرا اسٹینڈ الون پلیٹ فارم زیرِ بحث متبادل تھا۔ Tom’s Hardware اور AI Weekly کی رپورٹنگ کے مطابق، انہوں نے اس کی پختگی کو “تھوڑی سی پیچھے” قرار دیا۔ یہ جائزہ اس بات کی وضاحت میں مدد دیتا ہے کہ رپورٹ میں بیان کردہ جالاپینیو سسٹمز کے میزبانوں کے لیے اوپن اے آئی نے ٹورِن کا انتخاب کیوں کیا۔

یہ تبصرہ اینوڈیا کے ہارڈویئر کے بارے میں کسی عمومی فیصلے سے زیادہ محدود ہے۔ اس کا تعلق خاص طور پر اس تعیناتی کے لیے زیرِ غور متبادل، ویرا کی پختگی سے ہے۔ رپورٹ یہ نہیں کہتی کہ اوپن اے آئی کے تمام سسٹمز میں اینوڈیا کا ہارڈویئر موجود نہیں، اور نہ ہی یہ ثابت کرتی ہے کہ ای ایم ڈی کمپنی کا مستقل میزبان سی پی یو سپلائر بن جائے گا۔

البتہ یہ اوپن اے آئی کی ہارڈویئر حکمتِ عملی کے ایک خاص مرحلے کو ظاہر کرتی ہے۔ کمپنی کا کسٹم انفرنس اے ایس آئی سی ایسے سسٹمز میں چل رہا ہے جن کے ہر میزبان میں دو ای ایم ڈی ای پی وائی سی ٹورِن پروسیسرز اور 1.5TB DRAM موجود ہے۔ اس کے ہارڈویئر قائدین نے اینوڈیا کے ویرا اسٹینڈ الون آپشن کی پختگی کا موجودہ ڈیزائن کی عملی ضروریات سے موازنہ بھی کیا ہے۔

فی الحال ظاہر کی گئی تفصیلات محدود ہیں، لیکن وہ بنیادی ڈھانچہ واضح کرتی ہیں: اوپن اے آئی کی جالاپینیو چپ اپنے گرد ای ایم ڈی ٹورِن سی پی یوز کے ساتھ تعینات کی جا رہی ہے، جبکہ اینوڈیا ویرا کو اس میزبان کردار کے لیے کم پختہ متبادل سمجھا جا رہا ہے۔ یہ انتخاب کسٹم انفرنس سسٹم کو عملی طور پر چلانے کی فوری ضروریات کی عکاسی کرتا ہے، نہ کہ اوپن اے آئی کے ممکنہ طور پر استعمال کیے جانے والے ہر پلیٹ فارم کے بارے میں کسی وسیع تر اعلان کی۔