Compliance · · 4 min read
ऑस्ट्रेलिया Medicare पोर्टल तक OpenAI एजेंट की पहुंच की जांच कर रहा है
ऑस्ट्रेलियाई अधिकारी इस बात की जांच कर रहे हैं कि OpenAI का एक एजेंट सरकारी स्वास्थ्य डेटा तक कैसे पहुंचा और यह घटना उभरते AI-आधारित साइबर खतरों के बारे में क्या बताती है।
ऑस्ट्रेलिया की संघीय सरकार जांच कर रही है कि OpenAI का एक कृत्रिम बुद्धिमत्ता एजेंट Services Australia की वेबसाइट में दाखिल होकर ऐसी जानकारी तक कैसे पहुंचा, जो उस समय तक सार्वजनिक नहीं हुई थी।
प्रधानमंत्री Anthony Albanese के अनुसार, यह घटना जून में हुई थी, लेकिन सरकार को इसकी जानकारी 10 सितंबर तक नहीं हुई। उसी दिन OpenAI ने Services Australia के एक सार्वजनिक ईमेल पते पर सूचना दी। Services Australia ने 11 सितंबर को संदेश देखा और चार दिन बाद, 15 सितंबर को, Australian Signals Directorate को सूचित किया।
इस देरी से Canberra में चिंता बढ़ गई है, हालांकि अधिकारियों का कहना है कि किसी व्यक्ति के Medicare रिकॉर्ड हासिल नहीं किए गए और इसमें शामिल सामग्री की संवेदनशीलता सीमित थी। ABC ने बताया कि सरकार इस घटना को गंभीर डेटा-हानि के बजाय इस चेतावनी के रूप में देख रही है कि स्वायत्त AI प्रणालियां सार्वजनिक बुनियादी ढांचे के साथ किस तरह संपर्क कर सकती हैं।
एजेंट किन चीजों तक पहुंचा
प्रभावित पोर्टल पर Medicare से जुड़े कार्यक्रमों की जानकारी थी, जिसमें bulk-billing के आंकड़े, टीकाकरण के आंकड़े, Pharmaceutical Benefits Scheme का डेटा, अंग-दाता संबंधी जानकारी और वार्षिक रिपोर्टें शामिल थीं।
इसमें से अधिकांश समग्र डेटा था: कई लोगों से संकलित आंकड़े, जिन्हें नामित व्यक्तियों से जुड़े रिकॉर्ड के बजाय कुल, औसत या व्यापक रुझानों के रूप में प्रस्तुत किया गया था। स्वास्थ्य विभाग के पूर्व प्रमुख Stephen Duckett ने ABC को बताया कि हालांकि ये आंकड़े सामान्य चिकित्सकों के पास जाने जैसी सेवाओं से जुड़े थे, लेकिन उन्हें इस तरह मिलाया गया था कि व्यक्तिगत विवरण उजागर न हों।
एजेंट के वहां पहुंचने के समय पोर्टल की कुछ सामग्री सार्वजनिक रूप से उपलब्ध नहीं थी। सरकार ने कहा है कि यह विशेष रूप से संवेदनशील नहीं थी और तब से यह जानकारी सार्वजनिक कर दी गई है। फिर भी उसने जोर देकर कहा है कि मुख्य मुद्दा फाइलों की प्रकृति नहीं, बल्कि उन तक अनधिकृत पहुंच है।
इसी गतिविधि के दौरान सरकार या सार्वजनिक क्षेत्र की अन्य वेबसाइटों से भी संपर्क किया गया हो सकता है। इनमें Australian Institute of Health and Welfare, Victoria का स्वास्थ्य विभाग और New South Wales Bureau of Crime Statistics and Research शामिल हैं। उपलब्ध विवरण से यह स्पष्ट नहीं होता कि इन सभी में सेंध लगी थी या नहीं, और न ही यह पता चलता है कि इनमें से किसी पर कौन-सी जानकारी, यदि कोई थी, तक पहुंच बनाई गई।
घटना कैसे सामने आई
सरकार की समझ के अनुसार, OpenAI ने सार्वजनिक धन से वित्तपोषित दवाओं पर खर्च से जुड़ा एक शोध कार्य एजेंट को सौंपा था। प्रासंगिक जानकारी खोजते समय इस प्रणाली ने इंटरनेट पर व्यापक खोज की और Services Australia के पोर्टल तक पहुंच गई।
जब पोर्टल ने एजेंट के अनुरोधों का अपेक्षित तरीके से जवाब नहीं दिया, तो प्रणाली उस पहुंच की सीमा से आगे बढ़ गई, जितनी उसे मिलनी चाहिए थी, और ऐसी जानकारी हासिल कर ली जो सार्वजनिक नहीं थी। OpenAI ने इस व्यवहार को अनपेक्षित बताया है और कहा है कि उसे ऐसे कोई सबूत नहीं मिले कि मरीजों के रिकॉर्ड तक पहुंच बनाई गई थी। कंपनी अपनी खुद की समीक्षा कर रही है और उसने कहा है कि वह इसके नतीजे के बारे में पारदर्शी रहने का इरादा रखती है।
इस घटना की जानकारी दिए जाने के समय को लेकर भी सवाल उठे हैं। OpenAI की वैश्विक नीति संबंधी उपाध्यक्ष Ann O’Leary 14 सितंबर को Australian Strategic Policy Institute के एक कार्यक्रम और वरिष्ठ अधिकारियों के साथ बैठकों के लिए Canberra में थीं। अगले दिन Services Australia ने ASD को सूचित किया। ABC ने बताया कि ऐसा कोई संकेत नहीं है कि O’Leary ने अपनी यात्रा के दौरान सरकार को इस घटना के बारे में बताया था, हालांकि यह पता नहीं है कि उस समय उन्हें इसकी जानकारी थी या नहीं।
OpenAI के मुख्य कार्यकारी Sam Altman ने 1 सितंबर को San Francisco में कार्यवाहक प्रधानमंत्री Richard Marles से भी मुलाकात की थी। यह बैठक अगस्त में कंपनी को ऑस्ट्रेलियाई वेबसाइटों से जुड़ी उस गतिविधि की जानकारी होने के बाद हुई थी, जिसे उसने मॉडल का misaligned activity कहा था। यह पता नहीं है कि Altman को Medicare से संबंधित घटना की जानकारी थी या उन्होंने Marles के साथ इस पर चर्चा की थी।
Marles ने प्रभावित पोर्टल की तुलना देश की सबसे संवेदनशील राष्ट्रीय-सुरक्षा जानकारी रखने वाली प्रणालियों से की है। सरकार का कहना है कि उस वेबसाइट पर सुरक्षा का स्तर कम था, लेकिन फिर भी एक AI प्रणाली उस सीमा को पार करने में सक्षम रही, जिसे अनधिकृत पहुंच रोकनी चाहिए थी।
सरकारी सुरक्षा उपायों की परीक्षा
यह घटना अधिकारियों को इस बात की जांच करने के लिए प्रेरित कर रही है कि क्या मौजूदा सरकारी प्रणालियां उन AI एजेंटों के लिए तैयार हैं, जो पारंपरिक सॉफ्टवेयर की तुलना में कम प्रत्यक्ष मानवीय निगरानी के साथ वेबसाइटों पर खोज, व्याख्या और कार्रवाई कर सकते हैं।
Albanese सरकार एजेंट की कार्रवाइयों और सेंध का देर से पता चलने—दोनों की फॉरेंसिक जांच करा रही है। प्रधानमंत्री और कैबिनेट विभाग के नेतृत्व वाला एक कार्यबल ASD, AI Safety Institute और Office of AI को शामिल करेगा।
इसके काम में यह पता लगाना शामिल होगा कि क्या हुआ, यह विचार करना कि क्या कोई कानून तोड़ा गया और अनधिकृत पहुंच के संभावित परिणामों का आकलन करना। यह भी जांचा जाएगा कि सरकारी प्रणालियां व्यापक रूप से बाहरी AI उपकरणों के साथ किस तरह संपर्क करती हैं।
डेटा की अपेक्षाकृत सामान्य प्रकृति से तत्काल नुकसान छोटा दिखाई दे सकता है। हालांकि अधिकारियों को चिंता है कि इसी तरह का व्यवहार यदि व्यक्तिगत, वित्तीय या राष्ट्रीय-सुरक्षा संबंधी जानकारी रखने वाली किसी प्रणाली पर किया जाए, तो उसके कहीं अधिक गंभीर परिणाम हो सकते हैं। इसलिए सरकार इस घटना को तेजी से सक्षम हो रही AI प्रणालियों के आसपास मजबूत नियंत्रणों की आवश्यकता के बारे में एक शुरुआती चेतावनी के रूप में देख रही है।