जेनरेटिव AI में नैतिकता

कुछ साल पहले तक, क्या आप ऐसी मशीन की कल्पना कर सकते थे जो कला रच सके, कहानियाँ गढ़ सके, या मेडिकल और कानूनी दस्तावेज़ों जैसे जटिल डेटा को समझ सके?

शायद नहीं। हममें से अधिकांश के लिए, यह विज्ञान-कथा तक सीमित था, जो एक दूर की कौड़ी जैसा लगता था।

लेकिन जेनरेटिव AI युग के आगमन ने मशीनें क्या कर सकती हैं, इसकी हमारी समझ को फिर से परिभाषित कर दिया है।

जेनरेटिव AI क्या है?

जेनरेटिव AI AI की एक उन्नत शाखा है, जिसने मशीनों को पाठ, ऑडियो, वीडियो, और यहाँ तक कि कोड के रूप में उपलब्ध मौजूदा सामग्री का उपयोग करके नई सामग्री उत्पन्न करने में सक्षम बनाया है।

Gartner इसे “सबसे प्रभावशाली और तेजी से विकसित होने वाली तकनीकों में से एक बताता है जो उत्पादकता में क्रांति ला सकती है”।

यह तेजी से वास्तविकता बनती तकनीक है, जिसने कई नवोन्मेषी अनुप्रयोगों को जन्म दिया है जो उद्योगों को रूपांतरित कर रहे हैं—जैसे मीडिया में सामग्री रचनात्मकता को तेज और विस्तृत करना, रिटेल में मार्केटिंग, बेहतर और व्यक्तिगत स्वास्थ्य-सेवा उपचार प्रदान करना, और अनुकूलनशील शैली में सीखना और शिक्षा उपलब्ध कराना।

जेनरेटिव AI की नैतिक चिंताएँ

जिस गति से ऐसे अनुप्रयोग बाजार तक पहुँच रहे हैं, वह प्रभावशाली है।

परंतु जब OpenAI के CEO सैम ऑल्टमैन हमें चेतावनी देते हैं भाषा मॉडल्स के खतरों के बारे में—जोखिम वास्तविक है—तो उनके लाभों को सावधानी के साथ संतुलित करना और इस शक्तिशाली तकनीक का जिम्मेदारी से उपयोग करना अनिवार्य हो जाता है।

छवि स्रोत: बिज़नेस इनसाइडर

आइए, जेनरेटिव AI के उपयोग से जुड़ी कुछ प्रमुख नैतिक चिंताओं को समझें।

हानिकारक सामग्री का प्रसार

जहाँ जेनरेटिव AI सिस्टम्स की मानव-समान सामग्री बनाने की क्षमता व्यवसायिक उत्पादकता को बढ़ा सकती है, वहीं यह हानिकारक या आपत्तिजनक सामग्री उत्पन्न करने का कारण भी बन सकती है। सबसे चिंताजनक हानि डीपफेक जैसे औज़ारों से आती है, जो मनगढ़ंत छवियाँ, वीडियो, पाठ, या भाषण बना सकते हैं—जो किसी एजेंडा से प्रेरित हों या घृणा भाषण फैलाने के लिए उकसाए गए हों।

हाल ही में, एक ठग ने एक नाबालिग लड़की की आवाज़ की नकल कर उसकी माँ से फिरौती मांगने के लिए फर्जी अपहरण रचा। ये औज़ार इतने परिष्कृत हो गए हैं कि असली और नकली आवाज़ों में फर्क करना चुनौतीपूर्ण हो गया है।

इसके अलावा, स्वचालित रूप से उत्पन्न सामग्री प्रशिक्षण डेटा से सीखे पूर्वाग्रहों को बनाए रख सकती है या बढ़ा सकती है, जिसके परिणामस्वरूप पक्षपाती, अश्लील, या हिंसक भाषा हो सकती है। ऐसी हानिकारक सामग्री को इस तकनीक का उपयोग करने वाले संगठनों की व्यावसायिक नैतिकता के अनुरूप लाने के लिए मानवीय हस्तक्षेप आवश्यक हो जाता है​​।

कॉपीराइट और कानूनी जोखिम

अधिकांश AI मॉडलों की तरह, जेनरेटिव AI मॉडल डेटा—बहुत बड़े पैमाने के डेटा—पर प्रशिक्षित होते हैं। अपनी प्रकृति के कारण, वे अन्य कंपनियों के कॉपीराइट और बौद्धिक संपदा अधिकारों का उल्लंघन कर सकते हैं। यह प्री-ट्रेंड मॉडल का उपयोग करने वाली कंपनियों के लिए कानूनी, प्रतिष्ठात्मक, और वित्तीय जोखिम बन सकता है और रचनाकारों व कॉपीराइट धारकों पर नकारात्मक प्रभाव डाल सकता है।

डेटा गोपनीयता का उल्लंघन

आधारभूत प्रशिक्षण डेटा में संवेदनशील जानकारी, जिसमें व्यक्तिगत पहचान योग्य जानकारी (PII) शामिल है, मौजूद हो सकती है। अमेरिकी श्रम विभाग के अनुसार, PII वह डेटा है “जो सीधे किसी व्यक्ति की पहचान करता है; जैसे नाम, पता, सोशल सिक्योरिटी नंबर या अन्य पहचान संख्या/कोड, टेलीफोन नंबर, और ईमेल पता।”

उपयोगकर्ताओं की गोपनीयता का उल्लंघन पहचान की चोरी का कारण बन सकता है और भेदभाव या हेरफेर के लिए दुरुपयोग हो सकता है।

अतः, प्री-ट्रेंड मॉडल के डेवलपर्स और वे कंपनियाँ जो इन मॉडलों को विशिष्ट कार्यों के लिए फाइन-ट्यून करती हैं—दोनों के लिए—डेटा गोपनीयता दिशानिर्देशों का पालन करना और यह सुनिश्चित करना अनिवार्य है कि मॉडल प्रशिक्षण से PII डेटा हटाया गया हो।

हमारे पास एक वेबिनार है जो डेटा गोपनीयता विनियमों, खासकर GDPR, को समझाता है, ताकि डेटा का नैतिक उपयोग सुनिश्चित हो सके।

संवेदनशील जानकारी का प्रकटीकरण

उपयोगकर्ता डेटा के सतर्क उपयोग के महत्त्व का विस्तार करते हुए, संवेदनशील जानकारी के अनजाने प्रकटीकरण से उत्पन्न जोखिमों पर विचार करना आवश्यक है—एक ऐसी चिंता जो AI क्षमताओं के तेज़ी से लोकतंत्रीकरण के साथ और बढ़ गई है​​। जेनरेटिव AI औज़ारों—विशेषकर ChatGPT—की जिज्ञासा और सुविधा कभी-कभी उपयोगकर्ताओं को ऐसे नए प्लेटफ़ॉर्म का अन्वेषण करते समय डेटा सुरक्षा की अनदेखी करने के लिए उकसा सकती है।

जोखिम काफी बढ़ जाते हैं यदि कोई कर्मचारी कानूनी अनुबंध, किसी सॉफ़्टवेयर उत्पाद का सोर्स कोड, या स्वामित्व वाली जानकारी आदि जैसे संवेदनशील विवरण अपलोड कर देता है।

नुकसान गंभीर हो सकते हैं—चाहे वित्तीय, प्रतिष्ठात्मक, या कानूनी—और इसलिए स्पष्ट डेटा सुरक्षा नीति की माँग स्पष्ट और आवश्यक हो जाती है।

मौजूदा पूर्वाग्रहों का बढ़ना

AI मॉडल उतने ही अच्छे (या बुरे) होते हैं जितना अच्छा वह डेटा होता है जिस पर उन्हें प्रशिक्षित किया गया है। यदि प्रशिक्षण डेटा समाज में विद्यमान पूर्वाग्रहों को दर्शाता है, तो मॉडल भी वैसा ही व्यवहार करेगा—या हम ऐसा ही मानते थे। Bloomberg पर प्रकाशित एक हालिया अध्ययन बताता है कि ये मॉडल उस वास्तविक दुनिया के डेटा से भी अधिक पक्षपाती हैं जिन पर इन्हें प्रशिक्षित किया गया है।

अध्ययन एक सख्त सच्चाई उजागर करता है जब यह कहता है—“Stable Diffusion के अनुसार दुनिया श्वेत पुरुष CEOs द्वारा चलाई जाती है। महिलाएँ शायद ही कभी डॉक्टर, वकील, या जज होती हैं। गहरी त्वचा वाले पुरुष अपराध करते हैं, जबकि गहरी त्वचा वाली महिलाएँ बर्गर पलटती हैं।”

एक समानतामूलक दुनिया बनाने के लिए, डेटा में विविध टीमों और दृष्टिकोणों का समावेश पूरे मॉडल विकास जीवनचक्र में झलकना चाहिए।

कार्यबल की भूमिकाएँ और मनोबल

एक ओर, जेनरेटिव AI को उत्पादकता को मुक्त करने वाली अगली लहर के रूप में देखा जाता है; वहीं दूसरी ओर इसका अर्थ नौकरियों का नुकसान भी हो सकता है, क्योंकि समान मात्रा का काम करने के लिए कम लोगों की आवश्यकता होगी।

ताज़ा McKinsey रिपोर्ट भी वर्तमान कौशलों के विस्थापन से जुड़ी चिंताओं को प्रतिध्वनित करती है—“वर्तमान जेनरेटिव AI और अन्य तकनीकों में आज कर्मचारियों के समय के 60 से 70 प्रतिशत हिस्से को घेरने वाली कार्यगत गतिविधियों का स्वचालन करने की क्षमता है।”

यद्यपि आज अधिकांश नौकरियों के जोखिम में होने का अर्थ यह नहीं है कि जेनरेटिव AI के साथ आने वाले परिवर्तन को रोका जाए, यह निश्चित रूप से श्रमिकों को नए भूमिकाओं के लिए अपस्किल या रिस्किल करने के उपायों की माँग करता है, जो उन्नत AI युग के आगाज़ के साथ पैदा होंगी।

डेटा प्रोवेनेन्स

AI औज़ारों के उपयोग के इर्द-गिर्द अधिकांश चिंताएँ डेटा से जुड़ी होती हैं, जिनमें उपयोगकर्ता गोपनीयता और पाठ, छवियाँ, वीडियो या ऑडियो जैसी सिंथेटिक मल्टीमॉडल सामग्री का निर्माण शामिल है।

ऐसी प्रणालियों को पक्षपाती या संदिग्ध स्रोत वाले डेटा के उपयोग से बचने के लिए डेटा आश्वासन और अखंडता बनाए रखने की आवश्यकता होती है​।

पारदर्शिता का अभाव

AI प्रणालियाँ स्वभावतः ब्लैक-बॉक्स होती हैं, जिसका अर्थ है कि यह समझना कठिन होता है कि वे किसी विशेष उत्तर तक कैसे पहुँचीं या किन कारकों ने उनके निर्णय-निर्माण को प्रभावित किया।

बड़े मॉडलों की उदीयमान क्षमताएँ इस खाई को और गहरा कर देती हैं, क्योंकि स्वयं डेवलपर्स भी इसकी कार्यक्षमता पर आश्चर्यचकित रह जाते हैं, जो इंगित करता है—“शोधकर्ता न केवल अतिरिक्त उदीयमान क्षमताओं की पहचान करने की दौड़ में हैं, बल्कि यह भी समझने की कोशिश कर रहे हैं कि वे क्यों और कैसे उत्पन्न होती हैं, ताकि अप्रत्याशितता का पूर्वानुमान लगाया जा सके।”

AI-उत्पन्न मिथ्या सूचना के उदाहरण

हाल ही में, एक अध्ययन किया गया ताकि यह परखा जा सके कि प्रतिभागी AI-उत्पन्न सामग्री और मनुष्यों द्वारा लिखी सामग्री में अंतर कर पाते हैं या नहीं। आश्चर्य की बात नहीं, परिणामों से पता चला कि लोगों को भाषा मॉडलों की सामग्री को अलग पहचानने में कठिनाई हुई—जो इन मॉडलों की बड़े पैमाने पर मिथ्या सूचना फैलाने की क्षमता को उजागर करता है।

ऐसी मिथ्या सूचना का एक अभूतपूर्व उदाहरण हाल ही में अमेरिकी अदालत में सामने आया, जब एक वकील ने ChatGPT-जनित उत्तर पर भरोसा करते हुए एक अस्तित्वहीन कानूनी मामले का हवाला दे दिया।

संयुक्त राष्ट्र ने भी AI-जनित भ्रामक सामग्री पर चिंता जताई है, जो संघर्षों और अपराधों का कारण बन सकती है।

जेनरेटिव AI के लिए नैतिक सर्वोत्तम प्रथाएँ

जेनरेटिव AI मॉडलों के विकास से आई तकनीकी प्रगति, यदि नियंत्रित और विनियमित तरीके से उपयोग की जाए, तो समाज को अधिक लाभ पहुँचा सकती है। इसके लिए आवश्यक है कि इसके फायदों के साथ आने वाले संभावित नुकसानों को न्यूनतम करने हेतु नैतिक सर्वोत्तम प्रथाएँ अपनाई जाएँ।

जानकारी में रहें और कार्रवाई करें

डेटा नैतिकता के वर्तमान और भविष्य के परिदृश्य में खुद को डुबो दें। इन्हें लागू करने के दिशानिर्देश समझें—चाहे आप व्यक्तिगत योगदानकर्ता हों या संगठनात्मक नेता।

आप एक अलग लेख में डेटा नैतिकता के वर्तमान और भविष्य के परिदृश्य और उन्हें लागू करने के दिशानिर्देशों के बारे में अधिक पढ़ सकते हैं।

वैश्विक मानकों के अनुरूप रहें

यह भी उपयोगी है कि आप UNESCO की AI नैतिकता दिशानिर्देशों से परिचित हों, जिन्हें नवंबर 2021 में सभी 193 सदस्य देशों ने अपनाया था।

ये दिशानिर्देश चार मूल्यों पर ज़ोर देते हैं:

• मानवाधिकार और गरिमा
• शांतिपूर्ण और न्यायपूर्ण समाज
• विविधता और समावेशिता
• पर्यावरणीय समृद्धि

ये आनुपातिकता, सुरक्षा, गोपनीयता, बहु-हितधारक शासन, जवाबदेही, पारदर्शिता, मानवीय निरीक्षण, स्थिरता, जागरूकता, और निष्पक्षता सहित दस सिद्धांतों की रूपरेखा भी प्रस्तुत करते हैं।

दिशानिर्देश डेटा गवर्नेंस, पर्यावरण, जेंडर, शिक्षा, अनुसंधान, स्वास्थ्य, और सामाजिक कल्याण के लिए नीतिगत कार्रवाई क्षेत्रों का सुझाव भी देते हैं।

एथिकल AI समुदायों से जुड़ें

कई अन्य संगठन, जैसे AI Ethics Lab और Montreal AI Ethics Institute, नैतिक साक्षरता को संबोधित करते हैं। आम नैतिक सिद्धांतों में पारदर्शिता, जवाबदेही, डेटा गोपनीयता, और मज़बूती शामिल हैं, जो तकनीकी प्रदाताओं पर केंद्रित होते हैं।

इन क्षेत्रों में हो रहे विकास से अवगत रहना और AI नैतिकता पर विमर्श में सहभागी होना यह सुनिश्चित करने का एक आवश्यक हिस्सा है कि जेनरेटिव AI सभी उपयोगकर्ताओं के लिए सुरक्षित बना रहे।

जागरूकता विकसित करें और सीखें

उपयोगकर्ताओं के रूप में, हम पर यह दायित्व है कि हम इस धारणा को त्यागें कि डिजिटल दुनिया में उपलब्ध हर चीज़ को सतही तौर पर भरोसेमंद माना जा सकता है।

इसके बजाय, अधिकांश समस्याएँ तब हल होंगी जब हम उपलब्ध जानकारी को चुनौती देना और उस पर संदेह करना शुरू करेंगे—तथ्य-जांच करके, उसकी प्रामाणिकता और स्रोत की जाँच करके—और तभी उस ज्ञान का उपयोग करेंगे।

जागरूकता जेनरेटिव AI का सही उपयोग करने की कुंजी है—और यही इस पोस्ट को लिखने के पीछे का उद्देश्य है।

अंतिम विचार

जेनरेटिव AI में स्वास्थ्य-सेवा से लेकर शिक्षा तक, विभिन्न क्षेत्रों में नई सामग्री रचकर और उत्पादकता बढ़ाकर क्रांतिकारी बदलाव लाने की अपार क्षमता है।

हालाँकि, इस शक्तिशाली तकनीक के साथ महत्वपूर्ण नैतिक चिंताएँ भी आती हैं—जिनमें हानिकारक सामग्री का प्रसार, कॉपीराइट उल्लंघन, डेटा गोपनीयता का हनन, और मौजूदा पूर्वाग्रहों का विस्तार शामिल है।

जैसे-जैसे हम जेनरेटिव AI की क्षमताओं का दोहन करते जा रहे हैं, नैतिक सर्वोत्तम प्रथाओं को अपनाना अत्यंत महत्वपूर्ण है

आप आज ही हमारे Generative AI Concepts पाठ्यक्रम के साथ अपनी यात्रा शुरू कर सकते हैं, और जेनरेटिव AI प्रोजेक्ट्स का अन्वेषण शुरू करें जिन्हें आप आज ही आरंभ कर सकते हैं।