जिम्मेदार AI क्या है? एक तुलनात्मक दृष्टिकोण

जिम्मेदार AI क्या है?

हमें अभी तक "जिम्मेदार AI" की सार्वभौमिक रूप से साझा परिभाषा नहीं मिली है। कुछ संदर्भों में इसे विश्वसनीय, नैतिक, सुरक्षित, या सेफ AI कहा जाता है। अन्य संदर्भों में, इन्हें RAI की व्यापक अवधारणा के भीतर समाहित सिद्धांतों के रूप में या पूरी तरह अलग श्रेणियों के रूप में देखा जाता है।

जिम्मेदार, नैतिक, विश्वसनीय, सुरक्षित, और सेफ AI पर बढ़ता ध्यान इसके संभावित नकारात्मक प्रभावों—चाहे वे अभिप्रेत हों या अनपेक्षित—को लेकर व्यापक चिंता से उपजा है।

इंस्टीट्यूट ऑफ इलेक्ट्रिकल एंड इलेक्ट्रॉनिक्स इंजीनियर्स (IEEE) इस चिंता का कारण इंजीनियरिंग प्रैक्टिस से नैतिक विश्लेषण के परंपरागत बहिष्करण को मानता है, जहां सुरक्षा, संरक्षा, कार्यक्षमता, न्याय, पक्षपात, व्यसन, और अप्रत्यक्ष सामाजिक हानियों से जुड़े बुनियादी नैतिक मानकों को अक्सर दायरे से बाहर समझा जाता था।

हालांकि, समाज और हमारी दैनिक ज़िंदगी के हर पहलू में AI की विस्तार क्षमता और व्यापक प्रभाव को देखते हुए, नैतिक जोखिमों का पूर्वानुमान लगाना और उन्हें कम करना मानक प्रथा बनना आवश्यक है। अब वह तरीका स्वीकार्य नहीं है जिसमें तकनीक को बिना पर्याप्त निगरानी के दुनिया में जारी कर दिया जाए और परिणामों से निपटने के लिए दूसरों पर छोड़ दिया जाए।

फिर भी, नैतिक सिद्धांतों और सैद्धांतिक ढांचे से संदर्भ-विशिष्ट, क्रियाशील व्यवहार में बदलाव लाना सॉफ्टवेयर इंजीनियरिंग में व्यवस्थित नैतिक प्रभाव विश्लेषण को व्यापक रूप से अपनाने में एक बड़ा अवरोध बना हुआ है।

जिम्मेदार AI के सिद्धांत

साहित्य का अवलोकन करने पर, हम देखते हैं कि RAI के सिद्धांतों पर पर्याप्त विकास और चर्चा हुई है। आइए प्रत्येक पर संक्षेप में बात करें।

नैतिक ढांचे

जिम्मेदार AI, AI प्रणालियों में जवाबदेही, उत्तरदायित्व और पारदर्शिता सुनिश्चित करने के लिए नैतिक ढांचों के उपयोग पर जोर देता है। इसमें गोपनीयता, स्वायत्तता और पक्षपात जैसे मुद्दों को संबोधित करना शामिल है।

पारदर्शिता और व्याख्यात्मकता

AI एल्गोरिदम और निर्णय लेने की प्रक्रियाओं में पारदर्शिता, हितधारकों के बीच भरोसा बनाने के लिए अत्यंत महत्वपूर्ण है। Explainable AI (XAI) का उद्देश्य ऐसे मॉडल बनाना है जिन्हें समझा और व्याख्यायित किया जा सके, जिससे पारदर्शिता और विश्वास बढ़े।

पक्षपात और निष्पक्षता

जिम्मेदार AI, समानता-आधारित निर्णयों को बढ़ावा देने के लिए AI एल्गोरिदम में पक्षपात की पहचान करने और उन्हें सुधारने का प्रयास करता है। इसके लिए भेदभावपूर्ण परिणामों को रोकने हेतु विविध और समावेशी डेटासेट का उपयोग शामिल है।

AI में पक्षपात के बारे में और जानने के लिए, इस पॉडकास्ट को देखें: Fighting for Algorithmic Justice with Dr. Joy Buolamwini.

शासन और विनियमन

AI गवर्नेंस के लिए मानकों और ढांचों का विकास, AI के जिम्मेदार उपयोग का मार्गदर्शन करने के लिए आवश्यक है। इसमें जोखिमों को कम करने के लिए संरचित दृष्टिकोण बनाना शामिल है—व्यक्तिगत शोधकर्ताओं से लेकर सरकारी विनियमन तक।

सामाजिक और पर्यावरणीय प्रभाव

जिम्मेदार AI, AI के व्यापक सामाजिक-आर्थिक और पर्यावरणीय प्रभावों पर विचार करता है, जैसे रोजगार, असमानता, और संसाधन खपत पर पड़े प्रभाव—और अनुचित डिजिटल बाज़ारों को जन्म देने या संसाधन उपयोग के कारण पर्यावरणीय क्षति की संभावनाएं।

निष्पक्षता, सुरक्षा, और गोपनीयता

यूरोपीय आयोग के प्रयास AI को विनियमित करने के लिए, निष्पक्षता, सुरक्षा, गोपनीयता, व्याख्यात्मकता, सेफ्टी, और पुनरुत्पादनीयता को जिम्मेदार AI के घटकों के रूप में रेखांकित करते हैं।

नैतिक और कानूनी उत्तरदायित्व

जिम्मेदार AI पर चर्चाएं अक्सर नैतिक उत्तरदायित्व को शामिल करती हैं, जिसमें कारणात्मक और ज्ञान-संबंधी शर्तें आती हैं। इसका अर्थ है कि AI की क्रियाएं परिणाम उत्पन्न करें, और एजेंट्स को नैतिक परिणतियों का बोध हो। कानूनी ढांचे भी AI प्रणालियों के लिए जवाबदेही, दायित्व, और दोषारोपण की जांच करते हैं।

हितधारक सहभागिता

एक जिम्मेदार AI ढांचा अक्सर सभी हितधारकों—डेवलपर, उपयोगकर्ता, और संभावित रूप से स्वयं AI प्रणालियों—को जवाबदेह ठहराने को शामिल करता है।

शैक्षणिक जगत में जिम्मेदार AI सिद्धांतों की वैकल्पिक वर्गीकरण-प्रणालियां

शैक्षणिक जगत के भीतर, AI नैतिकता के सिद्धांतों की कुछ सबसे पद्धतिगत समीक्षाओं ने कुछ अलग-अलग वर्गीकरण प्रस्तुत किए हैं। उदाहरण के लिए, Jobin et al. ने 84 नैतिक दिशानिर्देशों की समीक्षा की और 11 सिद्धांत प्रस्तावित किए:

• पारदर्शिता
• न्याय और निष्पक्षता
• अहानिकरता (Nonmaleficence)
• उत्तरदायित्व
• गोपनीयता
• परोपकार (Beneficence)
• स्वतंत्रता और स्वायत्तता
• विश्वास
• गरिमा
• स्थिरता
• एकजुटता

स्वाभाविक रूप से, उन्हें इन सिद्धांतों की व्याख्या और अनुशंसाओं के अनुप्रयोग में व्यापक अंतर मिले। फिर भी, उन्होंने पाँच मूल सिद्धांतों के आसपास कुछ अभिसरण के प्रमाण नोट किए:

• पारदर्शिता
• न्याय और निष्पक्षता
• अहानिकरता (Nonmaleficence)
• उत्तरदायित्व
• गोपनीयता

हालांकि, अन्य प्रस्तावक सुझाव देते हैं कि नैतिक AI ढांचों की बहुलता को सिर्फ पाँच मेटा-सिद्धांतों में समेकित किया जा सकता है:

• स्वायत्तता का सम्मान
• परोपकार (Beneficence)
• अहानिकरता (Nonmaleficence)
• न्याय
• व्याख्यात्मकता (Explicability)

OECD के जिम्मेदार AI सिद्धांत

अंतरराष्ट्रीय संगठन भी नीतिगत और सामंजस्य के उद्देश्यों के लिए इन परिभाषाओं को आकार देने पर वैश्विक चर्चाओं को सक्रिय रूप से पोषित कर रहे हैं।

ऑर्गनाइज़ेशन फॉर इकोनॉमिक को-ऑपरेशन एंड डेवलपमेंट (OECD)—जहां मैं AI विशेषज्ञ के रूप में—जोखिम और जवाबदेही, तथा घटना निगरानी के लिए—कार्य करता/करती हूं—ने विश्वसनीय AI के लिए व्यापक सिद्धांतों की सूची प्रस्तुत की है।

ये सिद्धांत ऐसे AI के उपयोग को बढ़ावा देते हैं जो नवाचारी, विश्वसनीय हो, और मानवाधिकारों तथा लोकतांत्रिक मूल्यों का सम्मान करे। प्रारंभ में 2019 में अपनाए गए, इन्हें मई 2024 में अद्यतन किया गया ताकि नई तकनीकी और नीतिगत प्रगतियों के आलोक में ये सुदृढ़ और उद्देश्य-उपयुक्त बने रहें।

आज यूरोपीय संघ, यूरोप की परिषद, संयुक्त राज्य, संयुक्त राष्ट्र और अन्य न्याय क्षेत्रों ने अपने विधायी एवं नियामकीय ढांचों और मार्गदर्शन में नीचे दी गई OECD की AI प्रणाली और उसके जीवनचक्र की परिभाषा का उपयोग किया है।

संक्षेप में, ये सभी मूल्य-आधारित सिद्धांत हैं और निम्न श्रेणियों में समूहीकृत हैं:

समावेशी विकास, सतत विकास, और कल्याण

AI हितधारकों को लोगों और पृथ्वी के लिए लाभकारी परिणामों की खोज में विश्वसनीय AI के जिम्मेदार संरक्षकत्व में सक्रिय रूप से संलग्न होना चाहिए—जैसे मानवीय क्षमताओं को बढ़ाना और रचनात्मकता को प्रोत्साहित करना, कम प्रतिनिधित्व वाले समूहों का समावेश बढ़ाना, आर्थिक, सामाजिक, लैंगिक और अन्य असमानताओं को कम करना, और प्राकृतिक पर्यावरण की रक्षा करना—ताकि समावेशी विकास, कल्याण, सतत विकास और पर्यावरणीय स्थिरता को बल मिले।

मानवाधिकार और लोकतांत्रिक मूल्य, जिनमें निष्पक्षता और गोपनीयता शामिल हैं

AI के अभिनेता संपूर्ण AI प्रणाली जीवनचक्र के दौरान विधि के शासन, मानवाधिकारों, और लोकतांत्रिक, मानव-केंद्रित मूल्यों का सम्मान करें। इनमें भेदभाव-रहितता और समानता, स्वतंत्रता, गरिमा, व्यक्तियों की स्वायत्तता, गोपनीयता और डेटा संरक्षण, विविधता, निष्पक्षता, सामाजिक न्याय, और अंतरराष्ट्रीय स्तर पर मान्यता प्राप्त श्रम अधिकार शामिल हैं।

पारदर्शिता और व्याख्यात्मकता

AI के अभिनेता अपनी प्रणालियों के संबंध में पारदर्शिता और जिम्मेदार प्रकटीकरण के प्रति प्रतिबद्ध हों। इस उद्देश्य से, उन्हें संदर्भ के अनुरूप और अत्याधुनिक स्थिति के सुसंगत सार्थक जानकारी प्रदान करनी चाहिए, ताकि AI प्रणालियों—उनकी क्षमताओं और सीमाओं सहित—की सामान्य समझ को बढ़ावा दिया जा सके।

मजबूती, संरक्षा, और सुरक्षा

AI प्रणालियां अपने पूरे जीवनचक्र में मजबूत, सुरक्षित और सेफ होनी चाहिए, ताकि सामान्य उपयोग, संभावित उपयोग या दुरुपयोग, या अन्य प्रतिकूल परिस्थितियों में वे उपयुक्त रूप से कार्य करें और अनुचित सुरक्षा और/या संरक्षा जोखिम प्रस्तुत न करें।

जवाबदेही

AI अभिनेता, अपनी भूमिकाओं, संदर्भ और अत्याधुनिक स्थिति के अनुरूप, AI प्रणालियों के सुचारू कार्य और उपर्युक्त सिद्धांतों के पालन के लिए जवाबदेह हों। इस उद्देश्य से, AI अभिनेता, डेटासेट, प्रक्रियाओं और AI प्रणाली जीवनचक्र में लिए गए निर्णयों से संबंधित, अनुरेखणीयता सुनिश्चित करें। यह अनुरेखणीयता, संदर्भ के अनुरूप और अत्याधुनिक स्थिति के सुसंगत, AI प्रणाली के आउटपुट का विश्लेषण और पूछताछों के उत्तर देना संभव बनाए।

ISO के जिम्मेदार AI सिद्धांत 

दूसरी ओर, इंटरनेशनल स्टैंडर्ड्स ऑर्गनाइज़ेशन (ISO) के लिए, किसी AI प्रणाली के विश्वसनीय होने हेतु तीन प्रमुख क्षेत्रों पर विचार करना आवश्यक है:

1. उसे अच्छी, विविध डेटा से पोषित करना
2. यह सुनिश्चित करना कि एल्गोरिदम उस विविधता को संभाल सकें
3. और प्राप्त सॉफ्टवेयर में किसी भी गलत लेबलिंग या कमजोर सहसंबंध के लिए परीक्षण करना

संगठन इसे प्राप्त करने के लिए निम्नलिखित दिशानिर्देश प्रदान करता है:

1. विविध उपयोगकर्ताओं और उपयोग-परिदृश्यों के साथ मानव-केंद्रित डिज़ाइन करें और यह फीडबैक AI के जीवनचक्र से पहले और उसके दौरान सम्मिलित करें।
2. प्रशिक्षण और निगरानी के लिए बहुविध मेट्रिक्स का उपयोग करें—जैसे उपयोगकर्ता सर्वेक्षण, समग्र सिस्टम प्रदर्शन संकेतक, और विभिन्न उपसमूहों में विभाजित फॉल्स पॉज़िटिव व फॉल्स नेगेटिव दरें।
3. कच्चे डेटा में त्रुटियों (जैसे, गायब या असंगत मान, गलत लेबल, सैम्पलिंग), प्रशिक्षण-पूर्वाग्रह (जैसे, डेटा संग्रह विधियां या निहित सामाजिक पक्षपात) और पुनरावृत्तियों की जांच करें—जो AI प्रणालियों में निष्पक्षता, समानता और शुद्धता जैसे RAI सिद्धांतों को सुनिश्चित करने के लिए अत्यावश्यक हैं।
4. किसी भी दिए गए मॉडल की सीमाओं को समझें ताकि पक्षपात को कम किया जा सके, सामान्यीकरण में सुधार हो, गतिशील परिदृश्यों में विश्वसनीय प्रदर्शन सुनिश्चित हो, और इन्हें डेवलपर्स व उपयोगकर्ताओं तक संप्रेषित करें।
5. अपने मॉडल का लगातार जिम्मेदार AI सिद्धांतों के विरुद्ध परीक्षण करें ताकि वास्तविक दुनिया के प्रदर्शन और उपयोगकर्ता फीडबैक का समुचित रूप से ध्यान रखा जा सके, और अल्पकालिक व दीर्घकालिक दोनों प्रकार के समाधानों में सुधार हो।

उद्योग नेताओं की नजर में जिम्मेदार AI

उद्योग के अग्रणियों के ठोस उदाहरणों के संबंध में, हम नामकरण और वर्गीकरण में स्पष्ट अंतरों को देखते हैं, जहां RAI, विश्वसनीय AI, नैतिक AI, और उनके संचालन या अनुप्रयोगों के लिए गढ़ी गई अन्य व्याख्याओं के प्रति भिन्न समझें मौजूद हैं।

Microsoft

Microsoft, उदाहरण के लिए, निम्न जिम्मेदार AI सिद्धांतों पर कायम है:

• निष्पक्षता
• विश्वसनीयता और सेफ्टी
• गोपनीयता और संरक्षा
• समावेशिता
• पारदर्शिता और जवाबदेही

Apple

दूसरी ओर, Apple का कहना है कि उनका AI उनके मूल्यों के साथ डिज़ाइन किया गया है और गोपनीयता में क्रांतिकारी नवाचारों की नींव पर निर्मित है, और उन्होंने AI उपकरणों तथा उन्हें आधार देने वाले मॉडलों के विकास का मार्गदर्शन करने हेतु जिम्मेदार AI सिद्धांतों का एक सेट बनाया है:

• उपयोगकर्ताओं को बुद्धिमान उपकरणों से सशक्त करें: ऐसे क्षेत्रों की पहचान करना जहां AI का जिम्मेदारी से उपयोग करके विशिष्ट उपयोगकर्ता आवश्यकताओं को संबोधित करने वाले उपकरण बनाए जा सकें, और उपयोगकर्ता इन उपकरणों का अपने लक्ष्यों को पूरा करने के लिए कैसे उपयोग करना चुनते हैं, इसका सम्मान करना।
• उपयोगकर्ताओं का प्रतिनिधित्व करें: गहराई से व्यक्तिगत उत्पादों का निर्माण, जिसका उद्देश्य दुनिया भर के उपयोगकर्ताओं का प्रामाणिक रूप से प्रतिनिधित्व करना है, ताकि AI उपकरणों और मॉडलों में रूढ़ियों और तंत्रगत पक्षपात को बनाए रखने से बचा जा सके।
• सावधानी से डिज़ाइन करें: हमारी प्रक्रिया के हर चरण—डिज़ाइन, मॉडल प्रशिक्षण, फीचर विकास, और गुणवत्ता मूल्यांकन—में सावधानियां बरतना, ताकि पहचाना जा सके कि हमारे AI उपकरणों का दुरुपयोग कैसे हो सकता है या वे संभावित हानि की ओर कैसे ले जा सकते हैं।
• गोपनीयता की रक्षा करें: शक्तिशाली ऑन-डिवाइस प्रोसेसिंग और क्रांतिकारी इन्फ्रास्ट्रक्चर के माध्यम से इसे हासिल करना, यह सुनिश्चित करते हुए कि वे अपने उपयोगकर्ताओं के निजी व्यक्तिगत डेटा या उपयोगकर्ता इंटरैक्शन का उपयोग अपने फाउंडेशन मॉडलों के प्रशिक्षण में न करें।

Nvidia

Nvidia इसे विश्वसनीय AI कहता है, और उनका मानना है कि AI को गोपनीयता और डेटा संरक्षण विनियमों का सम्मान करना चाहिए, सुरक्षित और संरक्षित रूप से काम करना चाहिए, पारदर्शी और जवाबदेह तरीके से कार्य करना चाहिए, अवांछित पक्षपात और भेदभाव से बचना चाहिए, और वे अपने चार मूल सिद्धांत बताते हैं:

• गोपनीयता
• सेफ्टी और संरक्षा
• पारदर्शिता 
• भेदभाव-रहितता

Google

कुछ हद तक भिन्न रूप में, Google "AI अनुप्रयोगों के उद्देश्य" इस प्रकार बताता है:

• सामाजिक रूप से लाभकारी होना।
• अनुचित पक्षपात पैदा करने या उसे सुदृढ़ करने से बचना।
• सेफ्टी के लिए निर्मित और परीक्षणित होना।
• लोगों के प्रति जवाबदेह होना।
• गोपनीयता डिज़ाइन सिद्धांतों को शामिल करना।
• वैज्ञानिक उत्कृष्टता के उच्च मानकों का पालन करना।
• संभावित रूप से हानिकारक या अपमानजनक अनुप्रयोगों को सीमित करने के लिए, इन सिद्धांतों के अनुरूप उपयोग हेतु उपलब्ध कराना।

निष्कर्ष

अभी तक इस बात पर सहमति नहीं है कि जिम्मेदार AI, विश्वसनीय AI, नैतिक AI, सेफ और सुरक्षित AI में ठीक-ठीक क्या शामिल है, और न ही इस पर कि क्या ये स्वायत्त शब्दावली हैं या इनमें अभिसरण संभव है। हालांकि, यह उत्साहजनक है कि—कम से कम सैद्धांतिक रूप से—इन शब्दों के तत्व शैक्षणिक जगत, अंतरराष्ट्रीय संगठनों और उद्योग में समान मूल सिद्धांतों के इर्द-गिर्द साझा किए जाते हैं।

विस्तृत रूप से कहें तो, RAI एक उभरता हुआ अनुशासन है जिसका उद्देश्य यह सुनिश्चित करना है कि कृत्रिम बुद्धिमत्ता का विकास, परिनियोजन और उपयोग—व्यावहारिक रूप में—मानव-केंद्रित ढंग से हो और नैतिक व कानूनी, दोनों ही रूपों में बुनियादी मानवाधिकारों के अनुरूप रहे।