Technology · · 3 min read
OpenAI এএমডি Turin হোস্ট CPU-র সঙ্গে Jalapeño ASIC চালাচ্ছে
Nvidia-র Vera প্ল্যাটফর্মের পরিবর্তে এএমডি EPYC Turin প্রসেসরনির্ভর সিস্টেমে OpenAI তাদের Jalapeño ইনফারেন্স চিপ পরীক্ষা করছে।
AI Weekly-এর উদ্ধৃত Tom’s Hardware-এর প্রতিবেদনের তথ্য অনুযায়ী, OpenAI এএমডি প্রসেসরের পাশাপাশি তাদের Jalapeño ইনফারেন্স ASIC চালাচ্ছে। সিস্টেমগুলোতে হোস্ট সিলিকন হিসেবে এএমডি EPYC “Turin” CPU ব্যবহৃত হচ্ছে। ফলে কাস্টম OpenAI অ্যাক্সিলারেটরটি এমন একটি সার্ভার কনফিগারেশনে রয়েছে, যা Nvidia-র প্রসেসরের ওপর নির্ভরশীল নয়।
প্রতিবেদন অনুযায়ী, প্রতিটি হোস্ট সিস্টেমে দুটি Turin-শ্রেণির CPU এবং 1.5 টেরাবাইট DRAM রয়েছে। এই বিন্যাস Jalapeño-র জন্য আশপাশের কম্পিউটিং প্ল্যাটফর্ম সরবরাহ করে—Jalapeño হলো ইনফারেন্স ওয়ার্কলোডের জন্য OpenAI-র তৈরি কাস্টম চিপ। তথ্যটি দেখায়, নিজেদের সিলিকন পরিচালনার জন্য কোম্পানিটি কীভাবে অবকাঠামো তৈরি করছে, পাশাপাশি এর চারপাশের উপাদানগুলোর জন্য কোন বিকল্পগুলো বিবেচনা করছে তারও আভাস দেয়।
দুই অংশের সার্ভার নকশা
কোনো AI সিস্টেম উত্তর বা পূর্বাভাস তৈরি করার সময় যে গণনা প্রয়োজন, তার জন্য ইনফারেন্স ASIC তৈরি করা হয়। হোস্ট প্রসেসর সিস্টেমের একটি পৃথক অংশ; এটি অ্যাক্সিলারেটরকে সহায়তা করে এবং বৃহত্তর সার্ভার প্ল্যাটফর্ম সরবরাহ করে। OpenAI-র Jalapeño স্থাপনে এএমডির EPYC Turin CPU এই হোস্টের ভূমিকা পালন করছে।
প্রতিবেদনে উল্লেখিত কনফিগারেশনে প্রতিটি হোস্টে দুটি Turin প্রসেসর এবং 1.5TB মেমরি রয়েছে। ASIC বহনকারী মেশিনগুলোর বিষয়ে প্রকাশিত তথ্যের মধ্যে এই স্পেসিফিকেশনগুলোই সবচেয়ে স্পষ্ট। এগুলো আরও দেখায় যে অ্যাক্সিলারেটর বেছে নেওয়া হলে সার্ভারের অন্য সব উপাদানও একইভাবে নির্ধারিত হয় না: OpenAI-র নিজস্ব ইনফারেন্স সিলিকন এএমডি সরবরাহ করা একটি হোস্ট প্ল্যাটফর্মের সঙ্গে যুক্ত হচ্ছে।
এই পার্থক্য গুরুত্বপূর্ণ, কারণ AI হার্ডওয়্যার নিয়ে আলোচনায় প্রায়ই শুধু অ্যাক্সিলারেটরের ওপর জোর দেওয়া হয়। বাস্তবে, কোনো অ্যাক্সিলারেটরকে সচল রাখতে প্রসেসর, মেমরি এবং সার্ভার নকশার ওপরও সিস্টেম নির্ভর করে। OpenAI-র প্রতিবেদিত সেটআপে এই ব্যবস্থার উভয় দিকই চিহ্নিত করা যায়: Jalapeño হলো কাস্টম ইনফারেন্স উপাদান, আর Turin সরবরাহ করছে হোস্ট CPU।
কেন এএমডি ব্যবহার করা হচ্ছে
প্রতিবেদন অনুযায়ী, OpenAI-র ভাইস প্রেসিডেন্ট ও হার্ডওয়্যার বিভাগের প্রধান রিচার্ড হো বলেছেন, Turin ব্যবহারের সিদ্ধান্তটি ঝুঁকি কমানোর একটি বাস্তবধর্মী প্রচেষ্টা। এই ব্যাখ্যায় প্রসেসর বাছাইকে একটি ব্যবহারিক প্রকৌশলগত সিদ্ধান্ত হিসেবে তুলে ধরা হয়েছে—OpenAI-র অবকাঠামোজুড়ে একটি সরবরাহকারী অন্যটিকে প্রতিস্থাপন করেছে, এমন ঘোষণা হিসেবে নয়।
উপলব্ধ বিবরণে বলা হয়নি যে এএমডি নিজেই Jalapeño ASIC সরবরাহ করছে। বরং, OpenAI-র চিপটি যে সিস্টেমগুলোতে স্থাপিত হচ্ছে, সেখানে এএমডির EPYC প্রসেসর হোস্ট সিলিকন হিসেবে কাজ করছে। এই ভূমিকা দুটির পার্থক্য বজায় রাখা গুরুত্বপূর্ণ: প্রতিবেদনটি Jalapeño-কে ঘিরে থাকা CPU প্ল্যাটফর্ম নিয়ে, OpenAI-র কাস্টম অ্যাক্সিলারেটর তৈরির বিষয়ে নয়।
প্রতিবেদনে এএমডির হার্ডওয়্যার ব্যবহারের তথ্য আরও ইঙ্গিত দেয় যে OpenAI-র কাস্টম চিপটি একাধিক সরবরাহকারীর উপাদানসমৃদ্ধ পরিবেশে পরীক্ষা করা হচ্ছে। Jalapeño এসেছে OpenAI-র নিজস্ব হার্ডওয়্যার উদ্যোগ থেকে, আর হোস্ট প্রসেসর এসেছে এএমডির কাছ থেকে। ফলে ভিন্ন উৎস ও ভিন্ন কার্যকারিতার উপাদান দিয়ে একটি সার্ভার নকশা তৈরি হয়েছে।
তুলনায় Nvidia-ও রয়েছে
হোর মন্তব্যে আলোচিত বিকল্প ছিল Nvidia-র Vera standalone প্ল্যাটফর্ম। Tom’s Hardware এবং AI Weekly-এর প্রতিবেদনে বলা হয়েছে, তিনি এর পরিপক্বতাকে “একটু পিছিয়ে” বলে মনে করেছেন। এই মূল্যায়নটি প্রতিবেদনে বর্ণিত Jalapeño সিস্টেমের হোস্ট হিসেবে OpenAI কেন Turin বেছে নিয়েছে, তা ব্যাখ্যা করতে সহায়তা করে।
মন্তব্যটি Nvidia-র হার্ডওয়্যার সম্পর্কে কোনো সাধারণ রায়ের চেয়ে সীমিত অর্থ বহন করে। এটি বিশেষভাবে এই স্থাপনের জন্য বিবেচনাধীন বিকল্প হিসেবে Vera-র পরিপক্বতার সঙ্গে সম্পর্কিত। প্রতিবেদনে বলা হয়নি যে OpenAI-র সব সিস্টেমে Nvidia-র হার্ডওয়্যার অনুপস্থিত, কিংবা এটিও প্রতিষ্ঠিত হয়নি যে এএমডি কোম্পানিটির স্থায়ী হোস্ট-CPU সরবরাহকারী হবে।
তবে এটি OpenAI-র হার্ডওয়্যার কৌশলের একটি নির্দিষ্ট পর্যায় দেখায়। কোম্পানিটির একটি কাস্টম ইনফারেন্স ASIC এমন সিস্টেমে চলছে, যেখানে প্রতি হোস্টে দুটি এএমডি EPYC Turin প্রসেসর এবং 1.5TB DRAM রয়েছে। কোম্পানিটির হার্ডওয়্যার নেতৃত্ব বর্তমান নকশার ব্যবহারিক প্রয়োজনের সঙ্গে Nvidia-র Vera standalone বিকল্পের পরিপক্বতারও তুলনা করেছে।
এই মুহূর্তে প্রকাশিত তথ্য সীমিত, তবে এগুলো মৌলিক স্থাপত্যটি স্পষ্ট করে: OpenAI-র Jalapeño চিপটি তার চারপাশে এএমডি Turin CPU-সহ স্থাপিত হচ্ছে, আর সেই হোস্ট ভূমিকার জন্য Nvidia Vera-কে কম পরিপক্ব বিকল্প হিসেবে দেখা হচ্ছে। এই পছন্দটি প্রতিটি প্ল্যাটফর্ম নিয়ে OpenAI ভবিষ্যতে ব্যবহার করতে পারে—এমন বিস্তৃত ঘোষণার বদলে একটি কাস্টম ইনফারেন্স সিস্টেমকে কার্যকর করার তাৎক্ষণিক প্রয়োজনের প্রতিফলন।