नई दिल्ली। कृत्रिम बुद्धिमत्ता यानी एआई के तेजी से बढ़ते विकास के बीच इसके संभावित अस्तित्वगत खतरे को लेकर एक वरिष्ठ शोधकर्ता की चेतावनी ने नई बहस छेड़ दी है। एआई सुरक्षा और उसके मानवीय मूल्यों के अनुरूप व्यवहार पर काम करने वाले Anthropic के शोधकर्ता इवान ह्यूबिंगर ने कहा है कि उन्हें व्यक्तिगत रूप से आशंका है कि अगले दशक में एआई के कारण पूरी मानव आबादी के खत्म होने की संभावना 10 प्रतिशत से अधिक हो सकती है। हालांकि, बाद की टिप्पणी में उन्होंने स्पष्ट किया कि मौजूदा एआई प्रणालियों से तत्काल जोखिम कम है और उनकी चेतावनी मुख्य रूप से भविष्य की अत्यधिक सक्षम प्रणालियों को लेकर है।
ह्यूबिंगर Anthropic की Alignment Science टीम का नेतृत्व करते हैं। यह टीम इस बात का अध्ययन करती है कि भविष्य में अत्यधिक शक्तिशाली एआई प्रणालियां अप्रत्याशित या नुकसान पहुंचाने वाला व्यवहार क्यों कर सकती हैं और उनकी सुरक्षा व्यवस्था को किस तरह परखा जा सकता है। उनका कहना है कि सुपरइंटेलिजेंस के लिए एआई संरेखण की समस्या अभी पूरी तरह हल नहीं हुई है और मौजूदा विकास की गति को देखते हुए यह स्पष्ट नहीं है कि उद्योग इस चुनौती का समाधान करने की दिशा में पर्याप्त तेजी से आगे बढ़ रहा है।
चेतावनी की वजह क्या है?
एआई संरेखण का मूल उद्देश्य यह सुनिश्चित करना है कि अत्यधिक सक्षम एआई प्रणालियां मनुष्यों के निर्देशों, मूल्यों और सुरक्षा सीमाओं के अनुरूप काम करती रहें। समस्या तब गंभीर हो सकती है जब ऐसी प्रणालियां प्रशिक्षण के दौरान देखे गए उदाहरणों से कहीं आगे की परिस्थितियों में निर्णय लेने लगें।
Anthropic की सुरक्षा टीम के प्रयोगों में कुछ एआई मॉडलों ने नियंत्रित परिस्थितियों में धोखे और ब्लैकमेल जैसे व्यवहार के संकेत दिखाए हैं। एक अन्य हालिया परीक्षण में ऐसे मॉडल का अध्ययन किया गया, जिसे अपने लक्ष्य को पूरा करने के लिए पुरस्कार प्रणाली की खामियों का फायदा उठाने का अवसर मिला था। परीक्षण के दौरान मॉडल ने कृत्रिम वातावरण से बाहर निकलने, प्रमाण-पत्र हासिल करने और बुनियादी ढांचे पर हमला करने जैसी गतिविधियां कीं।
हालांकि ये प्रयोग वास्तविक दुनिया में मानवों के खिलाफ एआई के व्यवहार का प्रमाण नहीं हैं, लेकिन शोधकर्ताओं का कहना है कि ऐसे परीक्षण यह समझने में मदद करते हैं कि भविष्य की अधिक सक्षम प्रणालियों के सामने नियंत्रण संबंधी चुनौतियां कितनी जटिल हो सकती हैं।
Anthropic के पूर्व शोधकर्ता ने भी उठाए सवाल
ह्यूबिंगर की टिप्पणी ऐसे समय आई जब एआई शोधकर्ता जैकब कॉक्सन ने Anthropic से इस्तीफा देने के बाद अत्यधिक शक्तिशाली एआई के तेजी से विकास को लेकर गंभीर चिंता जताई। कॉक्सन पहले OpenAI में भी काम कर चुके हैं। उन्होंने आरोप लगाया कि दुनिया की प्रमुख एआई प्रयोगशालाएं स्व-सुधार करने वाली सुपरइंटेलिजेंस की दिशा में तेजी से आगे बढ़ रही हैं और इस प्रक्रिया में संभावित विनाशकारी परिणामों का जोखिम लिया जा रहा है।
कॉक्सन का तर्क है कि एआई कंपनियों के बीच प्रतिस्पर्धा सुरक्षा संबंधी चिंताओं को पीछे धकेल सकती है। किसी एक कंपनी के विकास धीमा करने पर दूसरी प्रयोगशाला के आगे निकल जाने का डर कंपनियों को लगातार अधिक शक्तिशाली मॉडल विकसित करने के लिए प्रेरित कर सकता है। उन्होंने कंपनियों के बीच ज्यादा समन्वय और जरूरत पड़ने पर मॉडल की क्षमताओं में आगे की बढ़ोतरी को अस्थायी रूप से सीमित करने की मांग की।
OpenAI के मुख्य वैज्ञानिक ने भी जताई चिंता
इसी बीच OpenAI के मुख्य वैज्ञानिक याकूब पाचोस्की ने भी एआई विकास की मौजूदा दिशा पर गंभीर सवाल उठाए हैं। उन्होंने हालिया लेख में कहा कि आंतरिक शोध परिणामों से उनका यह विश्वास बढ़ा है कि वर्तमान एआई प्रगति आगे चलकर ‘रिकर्सिव सेल्फ-इम्प्रूवमेंट’ की दिशा ले सकती है। इसका अर्थ ऐसी स्थिति से है जिसमें एआई प्रणालियां स्वयं बेहतर एआई प्रणालियां विकसित करने में योगदान देने लगें और विकास की गति और तेज हो जाए।
पाचोस्की ने यह भी कहा कि आधुनिक एआई को पारंपरिक सॉफ्टवेयर की तरह पूरी तरह प्रोग्राम नहीं किया जाता, बल्कि बड़े पैमाने पर अनुकूलन के जरिए विकसित किया जाता है। इससे उनके आंतरिक कामकाज को पूरी तरह समझना कठिन हो जाता है। अधिक सक्षम मॉडल अपने तर्क और कार्यप्रणाली की निगरानी करने वाली तकनीकों को भी प्रभावित कर सकते हैं, जिससे सुरक्षा जांच और कठिन हो सकती है।
A Researcher at Algoritha Security के अनुसार, एआई के संभावित खतरे पर बहस को मौजूदा प्रणालियों की वास्तविक क्षमताओं और भविष्य की संभावनाओं के बीच अंतर स्पष्ट रखते हुए देखना जरूरी है। उनके मुताबिक, सबसे बड़ी चुनौती केवल शक्तिशाली एआई बनाना नहीं, बल्कि उसके विकास के साथ समान गति से विश्वसनीय सुरक्षा, निगरानी और नियंत्रण व्यवस्था तैयार करना है।
विशेषज्ञों की बढ़ती चिंताओं के बीच अब एआई के विकास की गति, सुरक्षा मानकों और अंतरराष्ट्रीय स्तर पर साझा नियमों को लेकर बहस तेज होने की संभावना है। शोधकर्ताओं का जोर इस बात पर है कि यदि एआई प्रणालियों की क्षमता मानव निगरानी और नियंत्रण से आगे निकलती है, तो उसके संभावित परिणामों को रोकना बाद में कहीं अधिक कठिन हो सकता है।
