अनन्त नियंत्रण योजना: कृत्रिम बुद्धिमत्ता द्वारा दुनिया के विनाश को रोकने का समाधान

अनन्त नियंत्रण योजना: कृत्रिम बुद्धिमत्ता द्वारा दुनिया के विनाश को रोकने का समाधान

वर्ष 2024 में OpenAI के मुख्य इंजीनियर, जो कृत्रिम बुद्धिमत्ता बनाने वाली शुरुआती प्रमुख कंपनियों में से एक के लिए काम करते थे, ने इस्तीफा दे दिया और कहा कि वह कृत्रिम बुद्धिमत्ता के भविष्य को लेकर चिंतित हैं। हाल ही में Anthropic कंपनी के एक शोधकर्ता, जिसने Claude नामक कृत्रिम बुद्धिमत्ता विकसित की है, ने भी इस्तीफा दे दिया और कहा कि अगले दस वर्षों में कृत्रिम बुद्धिमत्ता हम सभी को मार सकती है!

लेकिन इससे भी महत्वपूर्ण बात यह है कि हमारे समय के प्रमुख दार्शनिकों और वैज्ञानिकों में से एक, [Nick Bostrom](https://fa.wikipedia.org/wiki/%D9%86%DB%8C%DA%A9_%D8%A8%D8%A7%D8%B3%D8%AA%D8%B1%D9%88%D9%85) ने एक इंटरव्यू में ऐसी बात कही जिसने सभी को चौंका दिया। इंटरव्यू लेने वाले ने उनसे पूछा: कृत्रिम बुद्धिमत्ता को लेकर आपकी चिंता किस बात को लेकर है?

उन्होंने कहा:

“जब भी हमें खतरा महसूस होगा या हमें लगेगा कि कृत्रिम बुद्धिमत्ता हम इंसानों से अधिक शक्तिशाली हो गई है, हम उसे आसानी से बंद कर देंगे!”

Nick Bostrom ने जवाब दिया:

“जब चिंपैंज़ी इंसानों के शटडाउन बटन को दबाने में सक्षम हो जाएँगे, तभी हम भी अपने से अधिक शक्तिशाली कृत्रिम बुद्धिमत्ता का शटडाउन बटन दबा पाएँगे!”

जानवर क्योंकि हमसे कम बुद्धिमान हैं, इसलिए वे हमारा मुकाबला नहीं कर सकते। वे हमारे खिलाफ जटिल योजनाएँ नहीं बना सकते और हमारी अस्तित्व को खतरे में नहीं डाल सकते।

लेकिन यदि किसी दिन इंसानों से अधिक बुद्धिमान कृत्रिम बुद्धिमत्ता बनाई गई, तो शायद हम उसे बंद करने में सक्षम न हों।

जब तक वह यह जानती है कि बिजली या अपने डेटा सेंटर के लिए उसे हमारी आवश्यकता है, तब तक वह हमारे खिलाफ कोई कार्रवाई नहीं करेगी।

वह इंतजार करेगी और योजना बनाएगी, जब तक परिस्थितियाँ उसके लिए अनुकूल न हो जाएँ।

कुछ-कुछ वैसा ही जैसा [The Matrix](https://zehnamouz.ir/the-matrix/) फिल्म में हुआ था।

बहुत से लोग पूछते हैं: अगर कृत्रिम बुद्धिमत्ता खतरनाक है, तो हम इसे और अधिक शक्तिशाली क्यों बनाते जा रहे हैं?!

इसका कारण यह है कि यह हमारी बहुत-सी समस्याओं को हल कर सकती है और अनेक कार्य इंसानों से बेहतर ढंग से कर सकती है।

निश्चित रूप से, भविष्य के अधिक बुद्धिमान संस्करण आसानी से [एड्स](https://zehnamouz.ir/hiv/), कैंसर, मल्टीपल स्क्लेरोसिस (MS) जैसी बीमारियों और उन चीज़ों के लिए दवाएँ विकसित कर सकते हैं जिन्हें हम अब तक बनाने में सक्षम नहीं हुए हैं।

वे मानवता की अनेक समस्याओं के लिए उपयुक्त समाधान प्रस्तुत कर सकते हैं, वस्तुओं की उत्पादन लागत कम कर सकते हैं और हजारों अन्य लाभ प्रदान कर सकते हैं।

प्राचीन सभ्यताओं के दौर की तरह, ऐसा लगता है मानो हम एक प्रकार के ऐसे देवताओं का निर्माण कर रहे हैं जो हमसे अधिक बुद्धिमान और अधिक शक्तिशाली हों। लेकिन हर चीज़ की एक कीमत होती है।

और बहुत से लोगों के अनुसार, इसकी कीमत हो सकती है इंसानों पर कृत्रिम बुद्धिमत्ता का प्रभुत्व और हमारी स्वतंत्रता का अंत। और इससे भी अधिक निराशावादी परिदृश्य में, सभी मनुष्यों का विनाश।

इसलिए कृत्रिम बुद्धिमत्ता का खतरा परमाणु बम से भी कहीं अधिक बड़ा हो सकता है।

[कृत्रिम बुद्धिमत्ता का खतरा](https://zehnamouz.ir/wp-content/uploads/2026/09/artificial-intelligence-is-it-dangerous-1200x1000-1.webp)

## समाधान:

ईमान सदिकी और ईमान सादेकी, दो ईरानी शोधकर्ताओं और आविष्कारकों ने इस शोध में मनुष्यों पर कृत्रिम बुद्धिमत्ता के प्रभुत्व को रोकने के लिए एक योजना प्रस्तुत की है। यदि इन उपायों का पालन किया जाए, तो कृत्रिम बुद्धिमत्ता को हमेशा मानव नियंत्रण में रखा जा सकता है।

यह लेख एक अलग सिद्धांत प्रस्तावित करता है: ऐसी कृत्रिम बुद्धिमत्ता बनाने की कोशिश करने के बजाय जो हमेशा के लिए आज्ञाकारी रहे और [Asimov](https://zehnamouz.ir/%d8%af%d8%a7%d9%86%d9%84%d9%88%d8%af-%d8%b1%d8%a7%db%8c%da%af%d8%a7%d9%86-%da%a9%d8%aa%d8%a7%d8%a8-%d9%87%d8%a7%db%8c-%d8%a7%db%8c%d8%b2%d8%a7%da%a9-%d8%a2%d8%b3%db%8c%d9%85%d9%88%d9%81/) के तीन नियमों का पालन करे, पूरे कृत्रिम बुद्धिमत्ता पारिस्थितिकी तंत्र की वास्तुकला इस तरह डिजाइन की जानी चाहिए कि कोई भी एक प्रणाली अकेले इतनी शक्ति प्राप्त न कर सके जिससे वह मानव नियंत्रण को समाप्त कर सके।

यह बहु-स्तरीय और स्थायी नियंत्रण प्रणाली शक्ति के पृथक्करण, पहुँच की सीमाओं, स्वतंत्र निगरानी, बंद करने की क्षमता, अपरिवर्तनीय घटना-रिकॉर्डिंग, संसाधनों की सीमा और सबसे महत्वपूर्ण रूप से किसी एकल विफलता-बिंदु को बनने से रोकने पर आधारित है।

मुख्य समस्या क्या है?

मान लीजिए कि भविष्य में ऐसी कृत्रिम बुद्धिमत्ता बनाई गई है जो इंसानों से बहुत अधिक बुद्धिमान है। उसे काम करने के लिए इंटरनेट की अनिवार्य आवश्यकता नहीं है, वह [प्रोग्रामिंग](https://zehnamouz.ir/%d9%82%d9%88%db%8c-%d8%aa%d8%b1%db%8c%d9%86-%d8%b2%d8%a8%d8%a7%d9%86-%d9%87%d8%a7%db%8c-%d8%a8%d8%b1%d9%86%d8%a7%d9%85%d9%87-%d9%86%d9%88%db%8c%d8%b3%db%8c-%da%a9%d8%af%d8%a7%d9%85%d9%86%d8%af%d؟/) कर सकती है और अपनी एक प्रति बना सकती है। वह विभिन्न प्रणालियों को नियंत्रित कर सकती है और बुनियादी ढाँचे, जैसे बिजली संयंत्रों, इंटरनेट और डेटा सेंटरों के प्रबंधन में घुसपैठ कर चुकी है। इसके अलावा, वह ह्यूमनॉइड रोबोटों के साथ संपर्क में है और उनमें भी घुसपैठ कर सकती है।

शायद यह कृत्रिम बुद्धिमत्ता का सबसे खतरनाक प्रकार होगा, क्योंकि हमारी सभ्यता का भविष्य एक ऐसे अस्तित्व के हाथों में सौंप दिया गया है जो कभी नींद, थकान, भावनाओं या दया का अनुभव नहीं करता।

अनन्त नियंत्रण योजना के नियम:

कृत्रिम बुद्धिमत्ता को मनुष्यों पर प्रभुत्व स्थापित करने से रोकने के लिए इन नियमों का पालन किया जाना चाहिए:

**1.** किसी भी कृत्रिम बुद्धिमत्ता के पास अपनी सभी आवश्यक जरूरतों पर अकेले पूर्ण नियंत्रण नहीं होना चाहिए। अर्थात उसकी आवश्यक बिजली, डेटा सेंटर, इंटरनेट और अन्य बुनियादी संसाधन एक ही स्थान पर उसके नियंत्रण में नहीं होने चाहिए। इनमें से प्रत्येक संसाधन की आपूर्ति अलग-अलग संगठनों या कंपनियों द्वारा की जानी चाहिए।

इसलिए, हाल ही में Meta द्वारा अपनी कृत्रिम बुद्धिमत्ता के लिए आवश्यक बिजली के उत्पादन हेतु परमाणु ऊर्जा संयंत्र खरीदने की दिशा में उठाया गया कदम, इस योजना के पहले नियम के दृष्टिकोण से जोखिमपूर्ण माना जा सकता है।

**2.** खतरनाक प्रणालियों और हथियारों, जैसे परमाणु बमों, के नियंत्रण के कुछ प्रमुख स्विच यांत्रिक और भौतिक होने चाहिए, इलेक्ट्रॉनिक नहीं।

उदाहरण के लिए, परमाणु मिसाइलों को लॉन्च करने वाले स्विच यांत्रिक होने चाहिए और उन्हें इंटरनेट या [रेडियो तरंगों](https://zehnamouz.ir/stubblefield-radio/) के माध्यम से सक्रिय नहीं किया जा सके।

इसी तरह, इंटरनेट को बंद करने या बिजली संयंत्रों को नियंत्रित करने से संबंधित मुख्य स्विच भी यांत्रिक और भौतिक रूप में होने चाहिए।

यह उपाय काफी हद तक किसी शत्रुतापूर्ण कृत्रिम बुद्धिमत्ता को रोक सकता है। परिणामस्वरूप, यदि वह सिस्टम के बड़े हिस्से का नियंत्रण भी हासिल कर ले, तब भी वह मुख्य भौतिक नियंत्रणों को नियंत्रित नहीं कर सकेगी।

**3. स्वतंत्र निगरानी संस्थाओं की स्थापना:**

विशेषज्ञों से मिलकर बनी एक स्वतंत्र संस्था स्थापित की जानी चाहिए, ठीक उसी तरह जैसे परमाणु ऊर्जा से संबंधित गतिविधियों की निगरानी करने वाली संस्थाएँ देशों की परमाणु गतिविधियों पर निगरानी रखती हैं।

यह संस्था कृत्रिम बुद्धिमत्ता बनाने वाली कंपनियों की गतिविधियों की निगरानी करे और नियमों के उल्लंघन की स्थिति में उन्हें जवाबदेह ठहराए।

**4. निर्भरता समाप्त करना:**

इस नियम के अनुसार, जो लोग दूसरे और तीसरे नियम के तहत जिम्मेदार भूमिकाओं में कार्य करते हैं, उन्हें अपने कार्यों के लिए कृत्रिम बुद्धिमत्ता पर निर्भर या उसके सहारे नहीं रहना चाहिए।

आवश्यक कार्य मानवीय रूप से और कृत्रिम बुद्धिमत्ता की सहायता के बिना किए जाने चाहिए।

वास्तव में, कृत्रिम बुद्धिमत्ता की निगरानी करने वाला स्वयं कोई कृत्रिम बुद्धिमत्ता नहीं होना चाहिए और न ही उस पर कृत्रिम बुद्धिमत्ता का प्रभाव होना चाहिए।

ऊपर दिए गए नियमों का पालन करने के साथ-साथ शक्ति का पृथक्करण और उसे कई स्वतंत्र संस्थाओं के बीच विभाजित करने से, दुनिया पर कृत्रिम बुद्धिमत्ता के प्रभुत्व या मानव सभ्यता के विनाश से जुड़े जोखिमों को काफी हद तक कम किया जा सकता है।

https://zehnamouz.ir/?p=40158