एआई-सक्षम जैविक हथियार शोधकर्ताओं में क्यों बढ़ा रहे हैं चिंता

एंथ्रोपिक की एक रिपोर्ट में स्वीकार किया गया है कि लोगों ने उसके कृत्रिम-बुद्धिमत्ता मॉडलों का इस्तेमाल चिकनगुनिया को अधिक संक्रामक बनाने के तरीकों की जांच करने, बर्ड फ्लू से पैदा होने वाले खतरे को बढ़ाने और विष से जुड़े टॉक्सिन का मानचित्रण करने के लिए किया है। इस खुलासे से यह चिंता फिर बढ़ गई है कि एआई प्रणालियां लोगों को जैविक हथियार विकसित करने में मदद कर सकती हैं, हालांकि वैज्ञानिक इस बात पर तीखे रूप से बंटे हुए हैं कि आज यह तकनीक कितनी सक्षम है।

MIT Technology Review के अनुसार, एआई उद्योग के भीतर से आने वाली चेतावनियां लगातार अधिक स्पष्ट होती जा रही हैं। एंथ्रोपिक के मुख्य कार्यकारी अधिकारी डारियो अमोदेई ने हाल में कहा कि इस तकनीक में गंभीर जोखिम हैं और तर्क दिया कि इसके विकास की गति धीमी की जानी चाहिए। ओपनएआई के मुख्य कार्यकारी अधिकारी सैम ऑल्टमैन ने जवाब दिया कि अत्याधुनिक एआई को संतुलित गति से आगे बढ़ाया जाना चाहिए।

एंथ्रोपिक से एआई शोधकर्ता जैकब कॉक्सन के अलग होने की घोषणा के बाद बहस और तेज हो गई। कॉक्सन, जो ओपनएआई में भी काम कर चुके थे, ने कहा कि संभावित परिणामों के सामने दोनों में से कोई भी कंपनी जिम्मेदारी से व्यवहार नहीं कर रही थी। एंथ्रोपिक के कर्मचारी इवान ह्यूबिंगर ने सार्वजनिक रूप से इस विचार का समर्थन किया और कहा कि व्यक्तिगत रूप से वे अगले दशक में एआई द्वारा सभी मनुष्यों के मारे जाने की संभावना को 10 प्रतिशत से अधिक मानते हैं।

एआई बाधाएं कैसे कम कर सकता है

चिंता केवल स्वायत्त मशीनों या विज्ञान-कथा जैसे परिदृश्यों तक सीमित नहीं है। शोधकर्ताओं को डर है कि एआई जैविक और रासायनिक एजेंटों की खोज, डिजाइन या प्रसार में सहायता कर सकता है। संभावित खतरों में ऐसा वायरस शामिल हो सकता है जो विशेष आनुवंशिक गुणों वाले लोगों को नुकसान पहुंचाए, ऐसी फफूंद जो फसलों को नष्ट करने में सक्षम हो, या जलापूर्ति में मिलाया गया ऐसा जहर जिसका पता न लगाया जा सके।

2022 के एक प्रयोग ने इस तरह के दुरुपयोग का एक रास्ता दिखाया। कोलैबोरेशंस फार्मास्युटिकल्स के वैज्ञानिकों ने ऐसा एआई सिस्टम बनाया था जो उन अणुओं की खोज करता था, जो दवाएं बन सकते थे। जब उन्होंने इसका उद्देश्य बदल दिया, तो सिस्टम ने छह घंटे से भी कम समय में 40,000 ऐसे अणु तैयार किए, जिनका इस्तेमाल संभावित रूप से रासायनिक युद्ध एजेंटों के रूप में किया जा सकता था। इनमें से कुछ के बारे में अनुमान था कि वे ज्ञात नर्व एजेंटों से अधिक विषैले हैं।

इस नतीजे से स्टैनफोर्ड के प्रोफेसर डेविड मैग्नस चिंतित हो गए। उन्होंने 1990 के दशक के अंतिम वर्षों से चिकित्सा अनुसंधान और जैव-प्रौद्योगिकी के दुरुपयोग का अध्ययन किया है। उन्होंने MIT Technology Review से कहा कि यह प्रयोग बेहद चिंताजनक था, खासकर इसलिए कि उसके बाद से एआई की क्षमताओं का विस्तार हुआ है।

आधुनिक भाषा मॉडल वैज्ञानिक क्षेत्रों की एक विस्तृत शृंखला से जुड़े सवालों के जवाब दे सकते हैं। हैम्बर्ग विश्वविद्यालय की जैव-सुरक्षा शोधकर्ता दुन्या साबरा ने कहा कि ये प्रणालियां संचित वैज्ञानिक ज्ञान के एक विशाल भंडार पर आधारित हैं। वे प्रयोग संबंधी मार्गदर्शन और निर्देशात्मक वीडियो भी उपलब्ध करा सकती हैं, जिससे उपयोगकर्ताओं को सामान्य जानकारी से व्यावहारिक प्रयोगशाला कार्य तक पहुंचने में संभावित रूप से मदद मिल सकती है।

इसी समय, जीन संपादन और सिंथेटिक बायोलॉजी अधिक सुलभ हो गए हैं। खुद से जीवविज्ञान करने की प्रवृत्ति के बढ़ने से कुछ लोगों के लिए पारंपरिक शोध संस्थानों के बाहर प्रयोगशालाएं स्थापित करना संभव हुआ है। साबरा की चिंता यह है कि कोई दृढ़संकल्प व्यक्ति अंततः एआई की सहायता को इन उपकरणों के साथ जोड़कर कुछ खतरनाक बनाने में सफल हो सकता है।

मौजूदा सुरक्षा उपायों की सीमाएं हैं

जोखिम कम करने के लिए पहले से ही कई सुरक्षा उपाय अपनाए जाते हैं। डीएनए की आपूर्ति करने वाली कंपनियां आम तौर पर खतरनाक जीवों से जुड़े अनुक्रमों के लिए ऑर्डर की जांच करती हैं। शोधकर्ता प्रस्तावित काम की प्रतिकूल समीक्षा भी करा सकते हैं, जिसमें स्वतंत्र विशेषज्ञों से उन तरीकों की पहचान करने को कहा जाता है जिनसे उसका दुरुपयोग हो सकता है, और फिर उन जोखिमों को कम करने के उपायों पर विचार किया जाता है। एआई डेवलपर्स ने अपने सिस्टम में ऐसे बदलाव किए हैं, जो ऐसी जानकारी के अनुरोधों को रोकते हैं, जिनसे हानिकारक प्रयोग संभव हो सकते हैं।

इनमें से कोई भी उपाय कारगर होने की गारंटी नहीं देता। मैग्नस ने इसे जारी एक ऐसी होड़ बताया जिसमें बचाव करने वाले निगरानी और स्क्रीनिंग में सुधार करते हैं, जबकि दुर्भावनापूर्ण उपयोगकर्ता उनसे बच निकलने के रास्ते तलाशते हैं। उनका मानना है कि अंततः एआई की जरूरत खुद एआई के हानिकारक इस्तेमाल का पता लगाने और उसे सीमित करने में पड़ सकती है।

जीन-ड्राइव तकनीक और उसे नियंत्रित करने के तरीकों पर अपने काम के लिए पहचाने जाने वाले एमआईटी के जीवविज्ञानी केविन एसवेल्ट ने X पर एक पोस्ट में चिंता को और बढ़ा दिया। उन्होंने कहा कि एक बड़े भाषा मॉडल ने जैविक हथियार के ऐसे प्रकार का खुलासा किया, जिसकी संभावना को उन्होंने पहले नहीं पहचाना था, और लोगों से सतर्क दृष्टिकोण अपनाने का आग्रह किया।

एंथ्रोपिक की रिपोर्ट दिखाती है कि खतरनाक जैविक क्षमताओं का पता लगाने के प्रयास महज काल्पनिक नहीं हैं। हालांकि, यह स्थापित नहीं करती कि मौजूदा एआई प्रणालियां स्वतंत्र रूप से एक सफल रोगजनक का डिजाइन और प्रसार कर सकती हैं। विशेषज्ञों के बीच असहमति के केंद्र में यही अंतर है।

खतरे के पैमाने पर वैज्ञानिक असहमत

एक मीडिया ब्रीफिंग में इम्पीरियल कॉलेज लंदन के जीवविज्ञानियों ने कहा कि मौजूदा एआई उपकरण अभी इतने सीमित हैं कि जैविक हथियार का विकास पूरा नहीं कर सकते। उन्होंने कहा कि किसी नए रोगजनक को बनाना और उसका परीक्षण करना अभी भी प्रयोगशालाओं में लोगों द्वारा किए जाने वाले कठिन और लंबे काम की मांग करता है। कुछ शोधकर्ताओं का मानना है कि आज वास्तविक रूप से प्रबंधित किए जा सकने वाले जोखिमों के लिए मौजूदा सुरक्षा उपाय पर्याप्त हैं।

इम्पीरियल की संक्रामक-रोग विशेषज्ञ प्रोफेसर वेंडी बार्कले ने महामारी के एक अधिक तात्कालिक स्रोत की ओर भी इशारा किया: प्राकृतिक दुनिया में पहले से फैल रहे रोगजनक। H5N1 बर्ड फ्लू ने लाखों पक्षियों को मार डाला है और संयुक्त राज्य अमेरिका में डेयरी मवेशियों के बीच फैल चुका है। यह वायरस पिछले महीने यूटा के एक फार्म में पाले जा रहे मिंक में भी पाया गया था।

साबरा वर्तमान क्षमताओं तक सीमित रहने के बजाय पांच से 10 साल आगे का नजरिया अपनाती हैं। उनका तर्क है कि सरकारों को स्वास्थ्य प्रणालियों को मजबूत करना चाहिए, ज्ञात टॉक्सिनों के उपचार की तैयारी करनी चाहिए और दवाओं का भंडार बनाए रखना चाहिए। उनका संदेश सरल है: “हमें तैयार रहना होगा।”