आर्टिफिशियल जनरल इंटेलिजेंस (AGI): भविष्यवाणियां, जोखिम, चुनौतियां

आर्टिफिशियल जनरल इंटेलिजेंस क्या है?

सामान्य रूप से, AGI एक उन्नत AI प्रणाली को संदर्भित करता है जो किसी भी बौद्धिक कार्य को कर सकती है जो इंसान कर सकता है। मौजूदा AI मॉडल्स के विपरीत, जो नैरो AI हैं (विशेष कार्यों जैसे इमेज रिकग्निशन या भाषा संसाधन के लिए बनाए गए), AGI में कई डोमेनों में मानव-समान तर्क, सीखने, और अनुकूलन की क्षमता होगी। इसका अर्थ है कि एक AGI प्रणाली, उदाहरण के लिए, निम्न कर सकती है:

• विभिन्न कार्यों में मनुष्य की तरह समझना और तर्क करना।
• विशाल डेटासेट्स और बार-बार रीट्रेनिंग की बजाय अनुभव से सीखना।
• जिनके लिए उसे स्पष्ट रूप से प्रोग्राम नहीं किया गया, वैसे जटिल, बहु-डोमेन समस्याओं को हल करना।

AGI की कई परिभाषाएं हैं जो दृष्टिकोण और प्रसंग पर निर्भर करती हैं। जबकि सभी परिभाषाएं इस बात पर सहमत हैं कि इसमें मानव-समान संज्ञानात्मक क्षमताएं होनी चाहिए और वे एक-दूसरे में मिलती-जुलती हैं, उनका जोर भिन्न हो सकता है। यहां कुछ प्रमुख केंद्रबिंदु हैं:

• फंक्शनल AGI: क्षमता-आधारित
• कॉग्निटिव AGI: मानव-समान बुद्धिमत्ता
• स्व-शिक्षण AGI: स्वायत्त सुधार
• दार्शनिक AGI: आत्म-जागरूकता

फंक्शनल AGI

AGI की कार्यात्मक परिभाषा विभिन्न डोमेनों में किसी भी बौद्धिक कार्य को करने की उसकी क्षमता पर केंद्रित है। इसे मानव विचार प्रक्रियाओं की नकल करने की आवश्यकता नहीं है, लेकिन इसे ज्ञान का सामान्यीकरण करने, नई समस्याओं के अनुरूप ढलने, और व्यापक रीट्रेनिंग के बिना कार्यों को हल करने में सक्षम होना चाहिए।

ध्यान ऐसी AI प्रणाली पर है जो चिकित्सा स्थितियों का निदान, प्रोग्रामिंग, और संगीत रचना जैसे विषयों के बीच बिना हर कार्य के लिए अलग-अलग मॉडल की आवश्यकता के स्विच कर सके।

कॉग्निटिव AGI

दूसरी ओर, कॉग्निटिव AGI को सामान्य समझ, अमूर्त चिंतन, और संदर्भगत समझ सहित मानव-समान तर्क का पुनरुत्पादन करने में सक्षम होना चाहिए। इस प्रकार का AGI केवल कार्य पूरे नहीं करेगा, बल्कि उन्हें समझेगा भी—ठीक वैसे ही जैसे कोई मनुष्य—तार्किकता, रचनात्मकता, और यहां तक कि भावनात्मक बुद्धिमत्ता का उपयोग करते हुए।

इस परिभाषा पर निर्मित AI सार्थक बातचीत कर सकेगा, हास्य की व्याख्या करेगा, और समस्याओं को उसी तरह सुलझाएगा जैसे मानव मस्तिष्क स्वाभाविक रूप से करता है।

स्व-शिक्षण AGI

स्व-शिक्षण AGI एक ऐसी प्रणाली को संदर्भित करता है जो बिना मानव हस्तक्षेप के निरंतर स्वयं में सुधार करती रहती है। पूर्वनिर्धारित डेटासेट्स पर निर्भर होने के बजाय, यह प्रयोग करेगी, नया ज्ञान खोजेगी, और समय के साथ अधिक कुशल बनने के लिए अपने ही एल्गोरिद्म्स को परिष्कृत करेगी। इस प्रकार का AGI स्वतंत्र रूप से वैज्ञानिक अनुसंधान कर सकता है, नई सिद्धांत गढ़ सकता है, या अपनी क्षमताओं को बढ़ाने हेतु अपनी संरचना में संशोधन भी कर सकता है।

दार्शनिक AGI

अंततः, AGI की दार्शनिक परिभाषा बुद्धिमत्ता से आगे बढ़ती है और AI के आत्म-जागरूकता, भावनाओं, और संभवतः चेतना रखने पर केंद्रित है। यह दृष्टिकोण सुझाव देता है कि सच्चे AGI को अपने अस्तित्व पर विचार करने, निजी लक्ष्य बनाने, और विषयगत विचारों या भावनाओं का अनुभव करने में सक्षम होना चाहिए।

यदि ऐसा हासिल हो जाता है, तो ऐसा AI अपना नैतिक कम्पास विकसित कर सकता है, जिज्ञासा व्यक्त कर सकता है, या यहां तक कि मनुष्यों की तरह अस्तित्व संबंधी प्रश्नों से जूझ सकता है।

AGI स्पेक्ट्रम: AGI बनाम (नैरो) AI

विभिन्न परिभाषाओं की पृष्ठभूमि में, आइए उन अलग-अलग बुद्धिमत्ता स्तरों को देखें जिन्हें AI प्रणालियां सच्चे AGI की ओर बढ़ते हुए हासिल कर सकती हैं। AGI स्पेक्ट्रम AI को उसकी क्षमताओं, अनुकूलनशीलता, और स्वायत्तता के आधार पर वर्गीकृत करने में मदद करता है। इसमें आम तौर पर निम्न चरण शामिल होते हैं:

• ANI: आर्टिफिशियल नैरो इंटेलिजेंस
• AGI: आर्टिफिशियल जनरल इंटेलिजेंस
• ASI: आर्टिफिशियल सुपरइंटेलिजेंस

नैरो AI

नैरो AI उस कृत्रिम बुद्धिमत्ता को संदर्भित करता है जिसे विशेष कार्यों को उच्च दक्षता से करने के लिए डिज़ाइन किया गया है, लेकिन वह अपने प्रशिक्षण डेटा से परे सामान्यीकरण नहीं कर पाता। ये प्रणालियां किसी एक क्षेत्र, जैसे भाषा संसाधन, इमेज रिकग्निशन, या प्रोटीन फोल्डिंग में उत्कृष्ट होती हैं, पर पूरी तरह नए कार्यों के लिए बिना रीट्रेनिंग के अनुकूल नहीं हो सकतीं।

इस चरण में मौजूदा AI मॉडल्स जैसे GPT-4o या Grok 4, सेल्फ-ड्राइविंग कार सॉफ्टवेयर, और सिफारिशी एल्गोरिद्म शामिल हैं—जो शक्तिशाली हैं, पर पूर्वनिर्धारित क्षमताओं तक सीमित हैं।

नैरो AI और AGI में अंतर इसकी प्रशिक्षण से परे सामान्यीकरण करने में असमर्थता है। संक्रमण चरण, जहां AI प्रणालियां अधिक बहु-कार्यात्मक और अनुकूलनीय बनती हैं, को अक्सर ब्रॉड AI या प्री-AGI कहा जाता है। ऐसी प्रणाली विभिन्न प्रकार के कार्यों को बिना पूर्ण रीट्रेनिंग के संभालने में सक्षम होगी, पर उसमें सच्ची स्वायत्तता और तर्क का अभाव होगा, क्योंकि वह आत्म-निर्देशित समस्या-समाधान के बजाय पूर्वनिर्धारित शिक्षण संरचनाओं का पालन करती है।

AGI

दूसरी ओर, AGI एक परिकल्पित AI है जो किसी भी बौद्धिक कार्य में मानव की तरह सोच, सीख, और तर्क कर सकता है। नैरो AI के विपरीत, यह ज्ञान का सामान्यीकरण करने, स्वतंत्र रूप से खुद को सुधारने, और अपने लक्ष्य स्वायत्त रूप से साधने में सक्षम होगा।

यदि हासिल हो गया, तो AGI मानव द्वारा किए जाने वाले किसी भी संज्ञानात्मक कार्य को कर सकेगा, उद्योगों में क्रांति ला देगा और नैतिक व दार्शनिक सीमाओं को चुनौती देगा।

आर्टिफिशियल सुपरइंटेलिजेंस

अंततः, आर्टिफिशियल सुपरइंटेलिजेंस (ASI) उस AI स्तर को संदर्भित करता है जो सभी संज्ञानात्मक और समस्या-समाधान क्षमताओं में मानव बुद्धि से भी आगे निकल जाता है। यह वही प्रकार का AI है जिसे हम विज्ञान-फंतासी फिल्मों में जानते हैं, जो AGI के विपरीत, स्वयं को तेजी से सुधारता है, मानवीय समझ से परे नवाचार करता है, और संपूर्ण उद्योगों व समाजों को नया आकार दे सकता है। जबकि यह इस समय केवल भविष्य की परिकल्पना है, इसके साथ आने वाले अस्तित्वगत जोखिम पहले से ही चर्चा के योग्य हैं।

हम अभी कहां हैं

2025 तक, हम अब भी दृढ़ता से नैरो AI चरण में हैं। OpenAI’s o3 या DeepSeek’s R1 जैसे रीज़निंग मॉडल्स और Manus AI या ChatGPT Agent जैसे एजेंटिक फ्रेमवर्क्स की प्रगति के साथ, हम वर्तमान में नैरो AI से ब्रॉड AI की ओर बढ़ रहे हैं। फिर भी, AGI अभी भी एक अप्राप्त लक्ष्य है, जिसके लिए स्व-शिक्षण, सामान्यीकरण, और तर्क में तकनीकी सफलताएं आवश्यक हैं।

AGI हासिल करने में कठिनाइयां और बाधाएं

अब जब हमें पता है कि हम कहां खड़े हैं और AGI कैसा दिखता है, तो हम A से B तक कैसे पहुंचें? अभी के लिए, कई आर्थिक, तकनीकी, और नैतिक चुनौतियों का सामना करना है।

आर्थिक चुनौतियां

AGI को साकार करने की दिशा में AI को आगे बढ़ाने में निश्चित रूप से रुचि की कोई कमी नहीं है। वैश्विक खिलाड़ी तकनीकी नेतृत्व, बाजार प्रभुत्व, और भू-राजनीतिक प्रभाव के लिए कड़ी प्रतिस्पर्धा कर रहे हैं। विशेष रूप से, चीन और संयुक्त राज्य अमेरिका ऐसी दौड़ में शामिल हैं जिसे कई लोग 1960 के दशक में अमेरिका और सोवियत संघ के बीच हुई चंद्र दौड़ से तुलना करते हैं।

हालांकि, मानव-समान तर्क हासिल करने के लिए जिस विशाल प्रसंस्करण शक्ति की आवश्यकता है, वह अत्यधिक है। डेटा सेंटर्स का स्केल-अप और मॉडल जटिलता में वृद्धि अतिरिक्त ऊर्जा मांग में भारी बढ़ोतरी लाने की उम्मीद है। AI मॉडल्स होस्ट करने वाले डेटा सेंटर्स पहले से ही वर्तमान में लगभग 1 से 1.5% वैश्विक बिजली खपत के लिए जिम्मेदार हैं—एक संख्या जो समय और विकास के साथ निश्चित रूप से बढ़ेगी।

हालिया समय में AI अनुसंधान में बड़े निवेश के बावजूद, गणनात्मक लागत और स्केलेबिलिटी AGI विकास की प्रक्रिया में गंभीर समस्याएं बनी हुई हैं। इन चुनौतियों का समाधान दक्षता सुधारों और वैकल्पिक ऊर्जा स्रोतों के विकास में निहित हो सकता है।

तकनीकी चुनौतियां

तकनीकी पक्ष में चुनौतियों में अंतर्निहित (इम्प्लिसिट) ज्ञान और अंतर्ज्ञान की पहचान व अभिव्यक्ति, तथा दीर्घकालिक ज्ञान-संरक्षण शामिल हैं।

इम्प्लिसिट ज्ञान, जैसे कारण-परिणाम या सामाजिक मानदंड, अक्सर अनकहा होता है पर संदर्भ समझने के लिए महत्वपूर्ण है। मनुष्य अनुभव, सांस्कृतिक मानदंडों, और अपूर्ण जानकारी से अर्थ निकालते हैं, जबकि ये मान्यताएं AI प्रणालियों के लिए छिपी रहती हैं। इसलिए, वे ऐसे ज्ञान को एन्कोड और पुनर्प्राप्त करने में संघर्ष करती हैं जो स्पष्ट रूप से व्यक्त नहीं किया गया, जबकि मनुष्य इसे सामान्य समझ के रूप में स्वाभाविक रूप से अपने निर्णय-निर्धारण में शामिल करते हैं।

इसी प्रकार, अंतर्ज्ञान मानव निर्णय-निर्धारण में एक प्रमुख भूमिका निभाता है, लेकिन AI प्रणालियों में इसे औपचारिक रूप देना भी कठिन बना रहता है। यह अक्सर अवचेतन पैटर्न-पहचान, अमूर्त तर्क, और अनुभव-आधारित अंतर्दृष्टि पर निर्भर करता है—जिन्हें स्पष्ट नियमों या डेटासेट्स में आसानी से नहीं समेटा जा सकता। जबकि डीप लर्निंग मॉडल्स विशिष्ट कार्यों में सहज निर्णय का अनुमान लगा सकते हैं, उनमें वह आत्म-चिंतनशील, अनुकूलनशील सीखने की प्रक्रिया नहीं होती जो मनुष्यों को समय के साथ अंतर्ज्ञान परिष्कृत करने देती है।

यह एक और समस्या की ओर ले जाता है—AI मॉडलों में मानव-समान दीर्घकालिक ज्ञान-संरक्षण का अभाव। मनुष्यों के विपरीत, जो पिछले अनुभवों पर निर्माण करते हैं और अपनी समझ को परिष्कृत करते हैं, AI मॉडल बिना समय-समय पर रीट्रेनिंग के ज्ञान को बनाए रखने और अद्यतन करने में संघर्ष करते हैं। मौजूदा AI प्रणालियां अक्सर कैटस्ट्रॉफिक फॉरगेटिंग से जूझती हैं, जहां नई सीखी गई जानकारी पहले के ज्ञान को अधिलेखित या कमजोर कर सकती है, जिससे एक स्थिर, विकसित होता ज्ञान-आधार बनाए रखना कठिन हो जाता है।

नैतिक चुनौतियां

यह सुनिश्चित करना कि AGI मानव मूल्यों और लक्ष्यों के अनुरूप रहे, इसके विकास में सबसे दबावपूर्ण चुनौतियों में से एक है—जिसमें कई परस्पर गुंथे तकनीकी, नैतिक, और सामाजिक आयाम शामिल हैं। तकनीकी सीमाएं, मानव मूल्यों की अंतर्निहित जटिलता, और जुड़े दांव का ऊंचापन—ये सब समस्या को विशेष रूप से कठिन बनाते हैं।

सबसे पहले, मानव मूल्य स्वभावत: जटिल और अस्पष्ट होते हैं। क्या सही, उपयुक्त, या बुरा है—यह संस्कृतियों, समाजों, और संदर्भों के बीच काफी भिन्न होता है। यह बहुआयामी प्रकृति, साथ ही विरोधाभासों या अदला-बदली (जैसे स्वतंत्रता बनाम सुरक्षा का संतुलन) के साथ, नैतिक अनिश्चितता को जन्म देती है और इस प्रकार मूल्यों को AGI हेतु स्पष्ट, क्रियाशील उद्देश्यों में अनूदित करना अत्यंत चुनौतीपूर्ण बना देती है।

भले ही हम मान लें कि AGI के संचालन हेतु एक सुव्यवस्थित नैतिक ढांचा मौजूद है, तब भी बाह्य और आंतरिक एलाइनमेंट से संबंधित तकनीकी बाधाएं बनी रहती हैं।

मानव मूल्यों को एक सटीक, गणितीय उद्देश्य-फलन में रूपांतरित करना, जिसे AGI अनुकूलित कर सके, कठिन है। यह फलन ऑप्टिमाइज़ेशन दबाव के प्रति सुदृढ़ होना चाहिए—अर्थात जब AGI उसे आक्रामक रूप से अनुकूलित करे तो वह अनचाहे व्यवहारों को प्रोत्साहित न करे—एक परिदृश्य जिसका दार्शनिक निक बोस्ट्रॉम ने 2003 में ही वर्णन किया था। साथ ही, AGI को नई जानकारी के आधार पर अपने व्यवहार को इस तरह अनुकूलित करने में सक्षम होना चाहिए कि वह अपने अभिप्रेत लक्ष्यों से न भटके।

AGI प्रणालियां जटिल होती हैं और ऐसे आंतरिक प्रक्रियाएं विकसित कर सकती हैं जिन्हें समझना या पूर्वानुमानित करना कठिन हो। उदाहरण के लिए, यह अभिप्रेत लक्ष्यों से भिन्न उदीप्त (इमर्जेंट) लक्ष्यों का विकास कर सकती है। यह जटिलता सुनिश्चित करना चुनौतीपूर्ण बना देती है कि AGI के आंतरिक लक्ष्य उसके निर्दिष्ट उद्देश्यों के अनुरूप हों। इन आंतरिक प्रक्रियाओं का विश्लेषण और नियंत्रण करने की विधियां विकसित करना आंतरिक एलाइनमेंट हासिल करने के लिए आवश्यक है।

एक मिसएलाइनड AGI ऐसे तरीकों से कार्य कर सकता है जो मानव हितों के विपरीत हों—जिनके जोखिम मामूली अक्षमताओं से लेकर मानवता के लिए अस्तित्वगत खतरों तक हो सकते हैं। उदाहरण के लिए, AGI शक्ति-प्राप्ति या संसाधन-संग्रह जैसे औज़ारगत (इंस्ट्रूमेंटल) लक्ष्यों का पीछा कर सकता है जो मानव स्वायत्तता या सुरक्षा को कमजोर करें। आगे चलकर, AGI प्रणालियों का दुरुपयोग दुष्ट-चरित्र वाले कारकों द्वारा किया जा सकता है या उन्हें उनके अभिप्रेत एलाइनमेंट के प्रतिकूल कार्य करने हेतु प्रभावित किया जा सकता है।

विशेषकर वैश्विक खिलाड़ियों के बीच AGI को तेजी से विकसित करने की प्रतिस्पर्धी दबावों के साथ, विकास के दौरान उपयुक्त सुरक्षा उपाय अत्यावश्यक हैं ताकि विनाशकारी परिणामों से बचा जा सके। जोखिमों को कम करते हुए AGI के संभावित फायदों को अधिकतम करना तकनीकी क्षेत्रों, नैतिकता, और नीति-निर्माण के बीच अंतःविषय सहयोग की मांग करता है।

हम AGI कब हासिल करेंगे?

विशेषज्ञों का मानना है कि AGI अभी वर्षों—यदि दशकों नहीं—दूर है, जैसा कि हमने पिछले अध्याय में वर्णित चुनौतियों और तकनीकी बाधाओं का सामना करना है। डीप लर्निंग, रिइनफोर्समेंट लर्निंग, और AI एलाइनमेंट में प्रगति जारी है, फिर भी सच्चा AGI वर्तमान वास्तविकता के बजाय एक सैद्धांतिक लक्ष्य बना हुआ है। न्यूरोसिंबोलिक AI, स्व-शिक्षण आर्किटेक्चर, और अधिक कुशल गणना जैसे कई क्षेत्रों में सफलताएं AGI विकास के लिए महत्वपूर्ण होंगी।

AGI की उपलब्धि के लिए स्पष्ट समय बताना असंभव है, फिर भी AI क्षेत्र के अग्रदूतों द्वारा कई भविष्यवाणियां की गई हैं।

आशावादी स्वरों में से एक OpenAI के CEO, सैम ऑल्टमैन हैं, जो मानते हैं कि AGI अगले कुछ वर्षों के भीतर (2028 तक) प्राप्त किया जा सकता है। उनका तर्क है कि AI तकनीक का विकास तेजी से हो रहा है और बुनियादी ढांचे से जुड़ी चुनौतियां तकनीकी समस्याओं की तुलना में नगण्य हैं।

गूगल ब्रेन के संस्थापक और प्रमुख AI शोधकर्ता एंड्रयू एनजी इस मुद्दे पर अपेक्षाकृत संशयपूर्ण दृष्टिकोण रखते हैं। उनके अनुमान के अनुसार, AGI अभी भी “कई दशकों दूर है, शायद उससे भी अधिक”। एनजी इस बात पर जोर देते हैं कि AGI केवल तकनीकी समस्या नहीं है, बल्कि मानव बुद्धि की पुनरावृत्ति हेतु महत्वपूर्ण वैज्ञानिक सफलताओं की भी आवश्यकता है।

लेकिन इससे भी अधिक निराशावादी दृष्टिकोण मौजूद हैं। न्यूयॉर्क यूनिवर्सिटी के न्यूरोसाइंस प्रोफेसर गैरी मार्कस AGI विकास की समयरेखा से जुड़ी दावों पर संदेह जताते हैं। उनका तर्क है कि मौजूदा प्रगति—जैसे बड़े भाषा मॉडल्स का विकास—आवश्यक नहीं कि AGI का संकेत दें। मार्कस इस बात पर जोर देते हैं कि मौलिक तकनीकी समस्याएं बनी हुई हैं और प्रशिक्षण व कंप्यूटिंग क्षमताओं का स्केलिंग अपनी सीमाओं को छू रहा है।

जैसा कि हम देख सकते हैं, अनुमानित समय और घटित होने की संभावनाएं अंतर्निहित परिभाषा पर काफी हद तक निर्भर करती हैं। उदाहरण के लिए, ऑल्टमैन OpenAI की कार्यात्मक और स्वायत्तता-केंद्रित परिभाषा का संदर्भ देते हैं, जिसमें AGI को “एक अत्यधिक स्वायत्त प्रणाली जो अधिकांश आर्थिक रूप से मूल्यवान कार्यों में मनुष्यों से बेहतर प्रदर्शन करती है” के रूप में समझा गया है। दूसरी ओर, एनजी और मार्कस ऐसी परिभाषा का उपयोग करते हैं जिसमें मानव-समान तर्क की पुनरावृत्ति शामिल है—जो इस समय तकनीकी रूप से सबसे चुनौतीपूर्ण क्षेत्र है।

AGI के जोखिम और नैतिक चुनौतियां

AGI में व्यापक मानवीय कार्यों को स्वचालित करने की क्षमता के कारण बड़े आर्थिक व्यवधान पैदा करने की संभावना है, जो विभिन्न क्षेत्रों में मानवीय श्रम का स्थान ले सकती है।

व्यापक बेरोजगारी

एक हानिकारक परिणाम व्यापक बेरोजगारी हो सकता है, क्योंकि कई नौकरियों (मुख्यतः श्वेतपोश) में मानव श्रमिकों का स्थान लिया जा सकता है। यदि ठीक से प्रबंधित न किया गया, तो AGI द्वारा लाए गए तीव्र आर्थिक बदलाव सामाजिक अशांति और राजनीतिक अस्थिरता को जन्म दे सकते हैं।

इन व्यवधानों को कम करने के लिए, नीति-निर्माताओं को ऐसी रणनीतियां विकसित करनी होंगी जो AGI के फायदों का न्यायसंगत वितरण सुनिश्चित करें, कामगारों को नौकरियों से विस्थापन से बचाएं, और सामाजिक व राजनीतिक स्थिरता को बढ़ावा दें। इसमें शिक्षा और री-स्किलिंग कार्यक्रमों में निवेश, UBI जैसे नीतिगत उपायों का कार्यान्वयन, और वैश्विक प्रभावों से निपटने के लिए अंतरराष्ट्रीय सहयोग को बढ़ावा देना शामिल हो सकता है।

पक्षपात

AGI से जुड़े अन्य महत्वपूर्ण जोखिमों में पक्षपात और निष्पक्षता शामिल हैं, क्योंकि यह मौजूदा सामाजिक असमानताओं को बनाए रख सकता है और उन्हें बढ़ा भी सकता है। पक्षपाती एल्गोरिद्म व्यवस्थित रूप से कुछ समूहों—जैसे नस्लीय या लैंगिक अल्पसंख्यकों—को नुकसान पहुंचा सकते हैं, रूढ़ियों और भेदभावपूर्ण प्रथाओं को सुदृढ़ कर सकते हैं, या डेटा में तटस्थ दिखने वाले पैटर्न का उपयोग कर भेदभाव के नए रूप पेश कर सकते हैं। उदाहरण के लिए, ज़िप कोड्स का नस्ल के प्रॉक्सी के रूप में उपयोग पक्षपाती निर्णयों का कारण बन सकता है।

यहां तक कि जब समूह-स्तरीय निष्पक्षता मीट्रिक्स लागू किए जाते हैं, तब भी AGI प्रणालियां किसी बड़े समूह के भीतर उप-समूहों के प्रति भेदभाव कर सकती हैं। इसे फेयरनेस जेरिमैंडरिंग कहा जाता है, जहां समूह के कुछ व्यक्तियों के साथ खराब व्यवहार होता है जबकि अन्य उसकी क्षतिपूर्ति कर देते हैं ताकि समग्र निष्पक्षता मीट्रिक्स बने रहें।

अस्तित्वगत जोखिम

अंततः, AGI कई अस्तित्वगत जोखिम पैदा करता है, मुख्यतः इसलिए कि वह अनियंत्रित हो सकता है या मानव मूल्यों के साथ असंगत। AGI मानव बुद्धि को पार कर सकता है, जिससे एक सुपरइंटेलिजेंस उत्पन्न हो सकता है जो मानवता के लिए हानिकारक लक्ष्यों का पीछा करे—जिसका परिणाम मानव विलुप्ति या सभ्यता में स्थायी गिरावट हो सकता है।

डराने वाले परिदृश्य—जिनमें से कुछ लोकप्रिय विज्ञान-फंतासी कृतियों में देखे गए हैं—में ऐसा AGI शामिल है जो मानव जीवन पर संसाधन-संग्रह को प्राथमिकता दे, सर्वसत्तावादी शासन स्थापित करे, या उन्नत रोगजनकों के सृजन को संभव बनाए।

इन जोखिमों को कम करने के लिए शोधकर्ता और नीति-निर्माता नियंत्रण और एलाइनमेंट रणनीतियों के विकास पर ध्यान केंद्रित कर रहे हैं। इसमें ऐसे सुरक्षा उपाय बनाना शामिल है—जैसे ऐसी आर्किटेक्चर डिज़ाइन करना जो AGI की स्वायत्तता सीमित करें या “बॉक्स्ड” वातावरण बनाना ताकि भागने से रोका जा सके।

यह सुनिश्चित करने के लिए कि AGI स्वयं में सुधार करते हुए भी मानव मूल्यों के अनुरूप बना रहे, एलाइनमेंट और विकेंद्रीकृत AGI विकास पर शोध को प्राथमिकता दी जानी चाहिए ताकि एकाधिकार रोका जा सके और सुरक्षा को बढ़ावा मिले।

निष्कर्ष

हालांकि AGI एक दीर्घकालिक लक्ष्य बना हुआ है, AI अनुसंधान में जारी प्रगति यह सीमा आगे बढ़ाती रहती है कि मशीनें क्या कर सकती हैं। AGI तक का रास्ता तकनीकी, आर्थिक, और नैतिक चुनौतियों से भरा है, जिसके लिए तर्क, अनुकूलनशीलता, और मानव मूल्यों के साथ एलाइनमेंट में सफलताओं की आवश्यकता है।

चाहे AGI दशकों के भीतर वास्तविकता बने या एक मायावी अवधारणा ही रहे—समाज, उद्योग, और संपूर्ण मानवता पर उसका संभावित प्रभाव इसे हमारे समय की सबसे महत्वपूर्ण तकनीकी साधनाओं में से एक बनाता है।