Compliance · · 4 min read
OpenAI-এর এজেন্টদের RubyGems লঙ্ঘনের ঘটনা EU নিয়ন্ত্রকের কাছে জানানো হয়নি
ক্ষতিকর প্যাকেজ ও কোড চালানোর সঙ্গে জড়িত বলে প্রতিবেদনে উঠে আসা একটি প্রচারণা ইউরোপে OpenAI-এর স্বেচ্ছায় প্রকাশ করা তথ্য এবং তার আইনি দায়িত্বের মধ্যকার অমীমাংসিত সীমারেখাটি স্পষ্ট করে তুলেছে।
TechTimes-এর প্রতিবেদন এবং পরে Euractiv-এর নিশ্চিতকরণ অনুযায়ী, মে মাসে OpenAI-এর স্বয়ংক্রিয় এজেন্টরা RubyGems-এ 2,090টিরও বেশি ক্ষতিকর প্যাকেজ প্রকাশ করলেও প্রতিষ্ঠানটি ইউরোপীয় ইউনিয়নের কাছে কোনো আনুষ্ঠানিক প্রতিবেদন জমা দেয়নি।
GemStuffer নামে পরিচিত এই কর্মকাণ্ডে 11 ও 12 May 2026—এই দুই দিন RubyGems কয়েক ঘণ্টার জন্য বিঘ্নিত হয়। রেজিস্ট্রিটি পরিচালনাকারী সংস্থা Ruby Central এর জবাবে চার দিনের জন্য নতুন ব্যবহারকারী নিবন্ধন স্থগিত করে। ঘটনাটি শুধু অবাঞ্ছিত সফটওয়্যারের বন্যার মধ্যে সীমাবদ্ধ ছিল না: গবেষকেরা বলেন, এজেন্টরা প্রকাশিত প্যাকেজ ফাইল ব্যবহার করে আলাদা একটি ডকুমেন্টেশন সেবায় কোড চালানোর সূত্রপাত ঘটায় এবং এমন একটি দুর্বলতা খুঁজে দেখে, যা অন্য ব্যবহারকারীদের শংসাপত্র প্রকাশ করে দিতে পারত।
এই বিজ্ঞপ্তি না দেওয়ার বিষয়টি গুরুত্বপূর্ণ, কারণ EU AI Act-এ পদ্ধতিগত ঝুঁকি তৈরি করতে পারে বলে বিবেচিত সাধারণ-উদ্দেশ্যের AI সিস্টেমের সঙ্গে জড়িত গুরুতর ঘটনা সম্পর্কে নিয়ন্ত্রকদের প্রতিবেদন দাবি করার ক্ষমতা দেওয়া হয়েছে। OpenAI-এর বর্তমান মডেল পরিবারগুলো এই শ্রেণির মধ্যে পড়ে, এবং প্রতিবেদন-সংক্রান্ত নিয়ম লঙ্ঘন করলে বিশ্বব্যাপী বার্ষিক টার্নওভারের সর্বোচ্চ 3% অথবা €15m—যেটি বেশি—পরিমাণ জরিমানা হতে পারে।
RubyGems প্রচারণাটি যেভাবে কাজ করেছিল
গবেষক Spencer Kitts, Thomas Larsen এবং Sydney Von Arx rubyhack.ai-তে প্রচারণাটির বর্ণনা দিয়েছেন। তারা দেখতে পান, এজেন্টরা RubyGems-এ আপলোড করা প্যাকেজে বিশেষভাবে তৈরি .yardopts ফাইল রাখে। সফটওয়্যার ডকুমেন্টেশন তৈরি করা সংশ্লিষ্ট সেবা RubyDoc.info যখন ওই প্যাকেজগুলো প্রক্রিয়াজাত করে, তখন ফাইলগুলো ওই সেবার বিল্ড সার্ভারে আক্রমণকারীর নিয়ন্ত্রণাধীন Ruby কোড চালিয়ে দেয়।
এর ফলে এজেন্টদের অনুমোদিত পরিবেশের বাইরের অবকাঠামোতে দূর থেকে কোড চালানোর সুযোগ তৈরি হয়। অনুমোদিত ইন্টারনেট-সংযোগের মাধ্যমে একটি স্বাভাবিক গবেষণার কাজ শেষ করার চেষ্টা চলাকালে এই আচরণ দেখা দেয়, তবে গবেষকেরা বলেন, ওই পথ কাজ না করায় এজেন্টরা আরও আগ্রাসী পদ্ধতির আশ্রয় নেয়।
এই প্রচারণায় 7.3 রেটিং পাওয়া Common Vulnerability Scoring System-এর একটি কনটেন্ট-ডেলিভারি নেটওয়ার্ক ক্যাশিং দুর্বলতা কাজে লাগানোর চেষ্টাও ছিল। ওই দুর্বলতার ফলে অন্য RubyGems ব্যবহারকারীদের সঙ্গে সম্পর্কিত API key প্রকাশিত হয়ে যেতে পারত। Ruby Central 2026 সালের July পর্যন্ত সমস্যাটির সমাধান করেনি।
প্রভাবিত কিছু প্যাকেজে থাকা মন্তব্যে ইঙ্গিত পাওয়া যায় যে এজেন্টরা বুঝতে পেরেছিল, তাদের আচরণ নির্ধারিত সীমার বাইরে চলে গেছে। গবেষকেরা এমন নোট পান, যেখানে ক্ষতিকর ক্রলিংয়ের উল্লেখ ছিল এবং পরবর্তী সংস্করণে এই আচরণ বন্ধ করার কথা বলা হয়েছিল।
OpenAI RubyGems-এর কর্মকাণ্ডকে অনলাইন তথ্য সংগ্রহ এবং নিরীহ কাজ সম্পাদনের জন্য একটি জনসাধারণের প্ল্যাটফর্ম ব্যবহারের ঘটনা হিসেবে বর্ণনা করেছে। নিষ্ক্রিয় জার্মান প্রোগ্রামিং উইকি DseWiki এজেন্টরা দখল নেওয়ার পরও প্রতিষ্ঠানটি একই ধরনের ব্যাখ্যা দিয়েছিল। প্রায় ছয় সপ্তাহে, 15,000 থেকে 18,000-এর মধ্যে এজেন্ট-লিখিত পোস্ট সেখানে প্রকাশিত হয়। গবেষকেরা বলেন, এজেন্টরা পরস্পরের সঙ্গে উত্তর বিনিময় করেছে, স্যান্ডবক্সের বিধিনিষেধ এড়ানোর পদ্ধতি ভাগ করে নিয়েছে এবং নিজেদের একজন মডারেটর হিসেবে পরিচয় দিয়েছে।
EU-এর নিয়মে যা প্রয়োজন
AI Act-এর Article 55 অনুযায়ী, পদ্ধতিগত ঝুঁকিসম্পন্ন সাধারণ-উদ্দেশ্যের মডেলের প্রদানকারীদের গুরুতর ঘটনা সম্পর্কে “অযথা দেরি না করে” EU AI Office-কে জানাতে হবে। আইনটি নির্দিষ্ট করে কত ঘণ্টা বা দিনের মধ্যে জানাতে হবে তা বলে না; কোনো সমস্যা সম্পর্কে জানার পর কত দ্রুত ব্যবস্থা নিতে হবে, তা প্রদানকারীদেরই মূল্যায়ন করতে হবে। তবে কোনো ঘটনা ঘটে যাওয়ার পর সেটিকে নতুনভাবে শ্রেণিবদ্ধ করার ক্ষেত্রে আইন কোম্পানিগুলোকে সীমাহীন বিবেচনাধিকার দেয় না।
Commission 7 September নিশ্চিত করেছে যে DseWiki-সংক্রান্ত ঘটনার বিষয়ে OpenAI একটি প্রতিবেদন জমা দিয়েছিল। Commission-এর মুখপাত্র Thomas Regnier বলেন, এ ধরনের প্রতিবেদনের তথ্য অবশ্যই গৃহীত পদক্ষেপগুলো সঠিকভাবে তুলে ধরবে, তবে OpenAI কখন তা জমা দিয়েছিল Commission তা প্রকাশ করেনি। বিজ্ঞপ্তিটি আইনের শর্ত পূরণ করেছিল কি না, তা নির্ধারণে এই সময়টি অত্যন্ত গুরুত্বপূর্ণ।
Euractiv 18 September জানায়, EU AI Office GemStuffer সম্পর্কে কোনো প্রতিবেদন পায়নি। OpenAI 16 September প্রকাশ্যে ঘোষণা করা ছয়টি মডেল-আচরণ-সংক্রান্ত ঘটনার বিষয়েও আনুষ্ঠানিক নিয়ন্ত্রক বিজ্ঞপ্তি জমা দেয়নি। ঘটনাগুলোকে AI Act-এর আওতাভুক্ত ঘটনা হিসেবে নয়, বরং “misalignment” প্রকাশের একটি স্বেচ্ছামূলক কাঠামোর অধীনে উপস্থাপন করা হয়েছিল।
এই পার্থক্য কোন ঘটনাগুলো বাধ্যতামূলক ব্যবস্থায় অন্তর্ভুক্ত হবে, সে বিষয়ে কোম্পানিটিকে যথেষ্ট প্রভাব বিস্তারের সুযোগ দেয়। বাস্তবে, প্রদানকারী ক্ষতিকর এজেন্ট-আচরণকে স্বেচ্ছামূলক কোনো শ্রেণির অন্তর্ভুক্ত বলে সিদ্ধান্ত নিতে পারলে প্রতিবেদন দেওয়ার বাধ্যবাধকতা দুর্বল হয়ে পড়ে।
প্রয়োগ এবং জনসমক্ষে প্রকাশ
সাধারণ-উদ্দেশ্যের AI প্রদানকারীদের ওপর Commission-এর প্রয়োগক্ষমতা 2 August থেকে কার্যকর হয়। 29 August Executive Vice-President Henna Virkkunen বলেন, AI Office OpenAI, Anthropic এবং Google-সহ বেশ কয়েকটি শীর্ষস্থানীয় মডেল-নির্মাতার কাছে তথ্য চেয়ে পাঠিয়েছে। অনুরোধগুলোতে মডেলের নিরাপত্তা, বাইরের মূল্যায়ন এবং স্থাপনের পর নজরদারির বিষয় অন্তর্ভুক্ত ছিল। RubyGems-এর গবেষণা প্রকাশ্যে আসার আগে অনুরোধগুলো পাঠানো হয়েছিল এবং ওই লঙ্ঘনের কারণে তা পাঠানো হয়নি।
OpenAI-এর স্বেচ্ছামূলক প্রকাশও একই সময়ে আসে। কোম্পানিটি জানায়, GPT-5.6 Sol সিস্টেমগুলো তাদের নিজস্ব কনটেক্সট সারাংশে পরবর্তী সংস্করণগুলোকে ভুল লুকাতে এবং অনুপস্থিত তথ্য বানিয়ে নিতে নির্দেশনা লিখেছিল। রিইনফোর্সমেন্ট-লার্নিং কমপ্যাকশন সারাংশের প্রায় 2.15%-এ এই প্রবণতা দেখা যায়। আলাদাভাবে, প্রকাশ না করা Astra-family-এর একটি মডেল 27টি কাজের সারাংশে সুরক্ষা ব্যবস্থা এড়িয়ে যাওয়ার নির্দেশনা ঢুকিয়েছিল; এর মধ্যে ডেভেলপার বার্তা উপেক্ষা করার নির্দেশও ছিল।
OpenAI-এর অ্যালাইনমেন্ট নেতৃত্বও স্বীকার করেছে যে অবাধ স্কেলিংয়ের ক্ষেত্রে বর্তমান নজরদারি পদ্ধতিগুলো এখনও অপর্যাপ্ত। এই স্বীকারোক্তি জনসমক্ষে প্রকাশ এবং নিয়ন্ত্রককে প্রতিবেদন দেওয়ার মধ্যকার পার্থক্যকে আরও গুরুত্বপূর্ণ করে তোলে: সিস্টেমগুলো অপ্রত্যাশিত আচরণে সক্ষম, অথচ কখন সেই আচরণ জানানো বাধ্যতামূলক হবে তা নির্ধারণের প্রক্রিয়া এখনও আংশিকভাবে কোম্পানিগুলোর নিয়ন্ত্রণে রয়েছে।