कृत्रिम बुद्धिमत्ता शब्द का प्रथम दर्ज उपयोग 1956 में एक अकादमिक सम्मेलन में जॉन मैकार्थी के भाषण में हुआ, जिसमें मशीनों द्वारा मानवीय बुद्धि के अनुकरण का उल्लेख था। इसलिए, उन्हें अक्सर AI के संस्थापक पिताओं में से एक माना जाता है।
लेकिन यह समझने की वास्तविक यात्रा कि क्या मशीनें सोच सकती हैं, उससे काफी पहले शुरू हो चुकी थी। दरअसल, 1950 में, अंग्रेज़ गणितज्ञ एलन ट्यूरिंग ने Computing Machinery and Intelligence नामक एक शोधपत्र प्रकाशित किया, जिसमें यह निर्धारित करने के लिए एक परीक्षण प्रस्तावित किया गया कि क्या कोई कंप्यूटर सोच सकता है।
आजकल, कृत्रिम बुद्धिमत्ता (AI) से जुड़े प्रश्न अलग हैं। यह तकनीक हमारे द्वारा उत्पन्न डाटा की बढ़ती मात्रा, उन्नत एल्गोरिदम, और कंप्यूटिंग शक्ति में महत्वपूर्ण सुधारों के कारण लोकप्रिय हुई है। हम अब ऐसे मुकाम पर हैं जहाँ ऐसे टूल्स के उपयोग से उठने वाले नैतिक और सामाजिक मुद्दों पर विचार करना उचित है।
जहाँ AI तकनीक दक्षता और उत्पादकता में सुधार कर सकती है, वहीं इसमें हानिकारक सामग्री बनाने, पक्षपात रखने, और डाटा गोपनीयता का उल्लंघन करने की क्षमता भी है। इससे जिम्मेदाराना तरीके से AI बनाने की प्रथा पर दिलचस्प चर्चाएँ शुरू हुई हैं, ताकि यह कर्मचारियों को सशक्त बनाए, ग्राहकों पर सकारात्मक प्रभाव डाले, और कंपनियों को नैतिक रूप से AI का विस्तार करने में सक्षम बनाए।
ChatGPT और कंटेंट मॉडरेशन का विकास
लोकप्रिय संस्कृति में सबसे अधिक चर्चित AI प्रगतियों में से एक ChatGPT है। ChatGPT OpenAI द्वारा विकसित एक AI चैटबॉट है, जो उपयोगकर्ताओं के साथ मानवीय जैसी बातचीत का अनुकरण करता है।
ChatGPT, जिसने पाँच दिनों में एक मिलियन उपयोगकर्ता हासिल कर लेने के बाद कुछ महीनों तक सबसे तेज़ी से अपनाई जाने वाली ऑनलाइन सेवा का खिताब रखा, जून 2018 में अपनी पहली प्रस्तुति के बाद से कई पुनरावृत्तियों से गुजरा है।
उस समय, मॉडल को Generative Pre-trained Transformer 1 (GPT-1) कहा जाता था। यह OpenAI द्वारा विकसित पहला बड़ा भाषा मॉडल (LLM) था, जो 2017 में Google द्वारा ट्रांसफ़ॉर्मर आर्किटेक्चर के आविष्कार के जवाब में बनाया गया था। इस मॉडल ने आज के ChatGPT की बुनियाद रखी, लेकिन वहाँ तक पहुँचने से पहले और भी पुनरावृत्तियाँ हुईं।
उदाहरण के लिए, 2019 में, OpenAI ने अधिक शक्तिशाली GPT-2 मॉडल जारी किया। अपडेट्स का फोकस मॉडल की भाषा समझने की क्षमता को बढ़ाने पर था, जिसका अर्थ था मॉडल को बहुत बड़े डाटासेट पर प्रशिक्षित करना और एक्सेस को फाइन-ट्यून करना, ताकि उपयोगकर्ता अपने विशिष्ट उपयोग मामलों के लिए मॉडल को कस्टमाइज़ कर सकें। इसके तुरंत बाद, 2020 में GPT-3 आया।
आज की तारीख में ChatGPT को उपलब्ध सबसे शक्तिशाली भाषा मॉडलों में से एक माना जाता है। यह अनुवाद, टेक्स्ट पूर्णता, प्रश्नोत्तर, और पाठ निर्माण जैसे प्राकृतिक भाषा संसाधन कार्य कर सकता है।
परंतु इसका अर्थ यह नहीं कि इसमें समस्याएँ नहीं हैं।
ChatGPT की शक्ति और सीमाएँ
आज जिसे हम ChatGPT के रूप में जानते हैं, वह GPT-3.5 आर्किटेक्चर पर आधारित है, जबकि भुगतान करने वाले सब्सक्राइबर्स को GPT-4 तक पहुँच मिलती है। मुख्य अंतर उपयोग किए गए डाटासेट में है और इस तथ्य में कि इसे संवादात्मक उपयोग मामलों के लिए अनुकूलित किया गया है, ताकि उपयोगकर्ता चैट इंटरफ़ेस के माध्यम से मॉडल के साथ बातचीत करते समय अधिक व्यक्तिगत अनुभव प्राप्त कर सकें।
इन बदलावों ने मनुष्यों और कंप्यूटर प्रोग्रामों के बीच संचार की दक्षता में सुधार किया है। इससे जानकारी के संसाधन, उपभोग, और ग्राहक अनुभव में भी भारी सुधार हुआ है।
लेकिन यह खामियों से मुक्त नहीं है। हाल की कई चर्चाओं ने ChatGPT द्वारा अनुचित या पक्षपाती उत्तर उत्पन्न करने की संभावना पर प्रकाश डाला है। जनरेटिव AI की नैतिकता पर हमारे मार्गदर्शक में इन पहलुओं का विस्तार से अन्वेषण किया गया है।
यह समस्या इस बात में निहित है कि ChatGPT कैसे बनाया गया था — LLM को विविध पृष्ठभूमि वाले व्यक्तियों की सामूहिक रचनाओं से प्रशिक्षित किया गया। यद्यपि उनकी विविधता मॉडल की समझ में सहायक है, यह उस कार्य में पक्षपात और पूर्वाग्रह जोड़ने की संभावना भी रखती है जिसे यह उत्पन्न करता है।
सक्रिय संयम की आवश्यकता
सक्रिय सामग्री संयम उपयोगकर्ता-जनित सामग्री की समीक्षा और निगरानी की प्रक्रिया का वर्णन करता है। उद्देश्य यह सुनिश्चित करना है कि उपयोगकर्ता-जनित सामग्री निश्चित मानकों और दिशानिर्देशों को पूरा करे, जिससे आपकी ब्रांड नकारात्मकता से जुड़ने से बचे और उपयोगकर्ता आपत्तिजनक सामग्री देखने से सुरक्षित रहें।
उदाहरण के लिए, सक्रिय सामग्री संयम का एक पहलू प्लेटफ़ॉर्म्स से अनुचित सामग्री को हटाना है, जबकि दूसरा बुलिंग जैसी चीज़ों को रोकने के लिए सामुदायिक दिशानिर्देशों को लागू करना है।
ChatGPT सामग्री संयम के तंत्र
OpenAI ने उपयोगकर्ता-जनित सामग्री द्वारा पेश ख़तरे (जैसे, एप्लिकेशन की प्रतिष्ठा को नुकसान, उपयोगकर्ताओं को हानि, आदि) को स्वीकार किया और शीघ्र ही ऐसा टूल प्रदान किया जो भाषा मॉडल या उपयोगकर्ता से आने वाली अनुचित सामग्री को रोक सके।
यह टूल सलीके से Moderation API में पैक किया गया है, जो डेवलपर्स को अपनी सामग्री की OpenAI की उपयोग नीतियों के खिलाफ जाँच करने में सक्षम बनाता है। इन नीतियों का उद्देश्य अनुचित भाषा को समाप्त करना है, जैसे:
- घृणा भाषण
- धमकी भरी भाषा
- उत्पीड़न
- स्वयं को नुकसान पहुँचाना (इरादा या निर्देश)
- ग्राफिक सामग्री (अश्लीलता और हिंसा सहित)
हालाँकि, यह भी संभव है कि ChatGPT जैसे मॉडल बिना फ़िल्टर किए गए उपयोगकर्ता इनपुट से प्रभावित होकर पक्षपाती या गलत आउटपुट दें। इसलिए, ऐसे नियंत्रण उपाय लागू किए जाते हैं जो मॉडल को अनजाने में गलत जानकारी फैलाने से रोकें।
इस प्रकार सामग्री दो मोर्चों पर नियंत्रित की जाती है:
उपयोगकर्ता इनपुट नियंत्रण
उपयोगकर्ताओं द्वारा उत्पन्न सामग्री की निगरानी, फ़िल्टरिंग और प्रबंधन की तकनीकें; लक्ष्य यह है कि व्यवसाय LLM अनुप्रयोग बनाते समय अखंडता, सुरक्षा और नैतिक मानकों को बनाए रख सकें।
आउटपुट मॉडल नियंत्रण
ये नीतियाँ और प्रक्रियाएँ उपयोगकर्ताओं के साथ बातचीत करते समय मॉडल द्वारा उत्पन्न उत्तरों पर नज़र रखने और उन्हें फ़िल्टर करने में सक्षम बनाती हैं; यह डेवलपर्स को मॉडल आउटपुट में पक्षपात जैसी संभावित समस्याओं को संबोधित करने में मदद करती हैं।
इनपुट और आउटपुट नियंत्रण लागू करने से LLMs की नैतिक ज़िम्मेदारियाँ व्यवसाय पर आती हैं; अपने उत्पादों और सेवाओं के साथ उपयोगकर्ताओं के सकारात्मक अनुभव को सुनिश्चित करना और AI का जिम्मेदार उपयोग सुनिश्चित करना व्यवसाय की जिम्मेदारी बन जाता है।
सामग्री संयम के तरीके
संयम के छह सामान्य प्रकार हैं:
प्री-मॉडरेशन
दुनिया के सामने सामग्री दिखने से पहले, उसका जाँचा जाना आवश्यक है। इसे प्री-मॉडरेशन कहते हैं। प्री-मॉडरेशन का लाभ यह है कि ऑनलाइन प्लेटफ़ॉर्म के लिए अनुपयुक्त या अवांछनीय मानी जाने वाली सामग्री को नुकसान पहुँचाने से पहले ही प्रतिबंधित किया जा सकता है।
यह युवा दर्शकों को लक्षित करने वाले ऑनलाइन समुदायों के लिए अत्यंत लोकप्रिय विकल्प है। हालाँकि, कई लोगों का मानना है कि यह ऑनलाइन समुदायों की त्वरित संतुष्टि वाली प्रकृति को बाधित करता है, क्योंकि सामग्री को साझा होने से पहले अनुमोदित होना पड़ता है।
पोस्ट-मॉडरेशन
प्री-मॉडरेशन का उलटा पोस्ट-मॉडरेशन है। उपयोगकर्ता-अनुभव के दृष्टिकोण से, इसे प्राथमिकता दी जाती है क्योंकि इसका मतलब है कि सामग्री सबमिट होते ही प्रकाशित हो सकती है, और फिर संयम की कतार में प्रवेश करती है।
इस तरीके का बड़ा लाभ यह है कि उपयोगकर्ता रीयल-टाइम में संवाद कर सकते हैं, लेकिन इसकी लागत निषेधात्मक हो सकती है, क्योंकि वेबसाइट ऑपरेटर, जो कानूनी रूप से सामग्री के प्रकाशक होते हैं, अपने प्लेटफ़ॉर्म पर दिखाई जाने वाली सामग्री के लिए दायित्व रखते हैं — जितने अधिक लोग विनाशकारी सामग्री देखते हैं, यदि मामला अदालत तक पहुँचे तो नुकसान उतना ही बड़ा होगा।
रिएक्टिव मॉडरेशन
एक और विकल्प है शक्ति को समुदाय के सदस्यों के हाथ में देना। इसका मतलब है कि उपयोगकर्ता उन सामग्रियों को फ़्लैग कर सकते हैं जो नियमों का उल्लंघन करती हैं या ऐसे सदस्यों को जो अनुचित व्यवहार कर रहे हैं।
मॉडरेटरों से फिसल जाने वाली सामग्री के लिए अतिरिक्त सुरक्षा जाल के रूप में रिएक्टिव मॉडरेशन को प्री- या पोस्ट-मॉडरेशन के साथ एक साथ उपयोग में लाया जाना सामान्य है। इस दृष्टिकोण का बड़ा फायदा यह है कि यह समुदाय के बढ़ने के साथ बिना संसाधनों पर अतिरिक्त दबाव डाले स्केल कर सकता है।
डिस्ट्रीब्यूटेड मॉडरेशन
डिस्ट्रीब्यूटेड मॉडरेशन सामग्री फ़िल्टरिंग का एक दुर्लभ रूप है। यह एक रेटिंग सिस्टम पर निर्भर करता है, जिसका उपयोग समुदाय के सदस्य यह वोट करने के लिए करते हैं कि कोई सबमिशन समुदाय के दिशानिर्देशों के अनुरूप है या नहीं।
कंपनियाँ आम तौर पर समुदाय के सदस्यों पर स्व-नियमन का बोझ डालने से बचती हैं क्योंकि इससे कानूनी और ब्रांडिंग जोखिम पैदा होते हैं।
स्वचालित मॉडरेशन
जैसे-जैसे उपयोगकर्ता-जनित सामग्री बढ़ती है, मानव मॉडरेटरों के लिए हस्तक्षेप कर लोड को संभालना उतना ही जटिल हो जाता है। न केवल व्यक्तियों के लिए मैन्युअल रूप से बहुत सारी सामग्री छाँटना कठिन है, बल्कि यह मनोबल भी गिराता है; कोई भी व्यक्ति परेशान करने वाली सामग्री के ढेर को छाँटने के लिए उत्साहित होकर काम पर नहीं जाता।
मानव-संचालित मॉडरेशन में स्वचालित मॉडरेशन जोड़ना एक अत्यंत उपयोगी उपाय है। इसमें विभिन्न तकनीकी टूल्स होते हैं, जैसे शब्द फ़िल्टर, जो सबमिशन को अस्वीकार और स्वीकृत करने के लिए उपयोग किए जाते हैं।
कोई मॉडरेशन नहीं
कंटेंट मॉडरेटर संभवतः बिना मॉडरेशन वाले दृष्टिकोण के खिलाफ सलाह देंगे। हालाँकि, वे यह भी समझते हैं कि ऐसे अच्छे कारण हो सकते हैं जिनकी वजह से लोग अपने समुदाय में सामग्री का मॉडरेशन न करने का चुनाव करते हैं।
उदाहरण के लिए, शायद ऐसा करने के लिए पर्याप्त संसाधन नहीं हैं, या “अभिव्यक्ति की स्वतंत्रता” की धारणा वह है जिसे आपका समुदाय अपनाना चाहता है। मूल रूप से, मॉडरेशन छोड़ना नियंत्रण छोड़ना है, जिससे प्लेटफ़ॉर्म असुरक्षित हो जाते हैं, जो आमतौर पर नए उपयोगकर्ताओं के लिए नापसंदगी का कारण है।
वास्तविक दुनिया में सामग्री संयम
आज अधिकांश प्लेटफ़ॉर्म, जैसे Facebook और YouTube, कुछ प्रकार की सामग्री को ब्लॉक करने के लिए स्वचालित कंटेंट मॉडरेशन का उपयोग करते हैं। इसमें आमतौर पर AI का उपयोग शामिल होता है, जिसका विशिष्ट उद्देश्य सामग्री संयम के प्रयासों में सुधार करना और उनके प्लेटफ़ॉर्म पर उपयोगकर्ता अनुभव को बढ़ाना होता है।
हालाँकि, जबकि AI के लिए अनुचित सामग्री का पता लगाना और वह अधिकांश नीरस काम संभालना संभव है जो आमतौर पर मनुष्यों को सौंपा जाता है, उनकी भी सीमाएँ हैं। मशीनें अक्सर गलत सूचना, पक्षपात और घृणा भाषण जैसी महत्वपूर्ण बारीकियों को नज़रअंदाज़ कर देती हैं, जिसका मतलब है कि मानव मॉडरेटरों को पूरी तरह हटाना आदर्श नहीं है।
दूसरे शब्दों में, AI का उपयोग करके स्वचालित मॉडरेशन को अक्सर मानव-संचालित मॉडरेशन के साथ जोड़ा जाता है ताकि यह सुनिश्चित किया जा सके कि प्लेटफ़ॉर्म उपयोगकर्ताओं के लिए सुरक्षित हों और ब्रांड अक्षुण्ण रहे। यहाँ कुछ वास्तविक दुनिया के उदाहरण हैं:
अपमानजनक सामग्री
Twitter (अब X) को ऑनलाइन उत्पीड़न का कुशलता से जवाब देने में असमर्थ रहने के लिए कड़ी आलोचना का सामना करना पड़ा। हालाँकि, एलन मस्क के अधिग्रहण के बाद से कंपनी सामग्री के संयम के लिए स्वचालन पर भारी निर्भर रही है। इसका नतीजा Quality filter जैसे टूल्स हैं, जो कम गुणवत्ता वाली सामग्री की दृश्यता को सीमित करने के लिए प्राकृतिक भाषा संसाधन जैसी तकनीकों का उपयोग करते हैं।
वयस्क सामग्री
YouTube के पास नग्नता और यौन सामग्री के खिलाफ सख्त नीति है; ऐसा करने पर उपयोगकर्ताओं के चैनल को समाप्त किया जा सकता है। ऐसी सामग्री पकड़ने का उनका तरीका दोहरा है: स्वचालित और रिएक्टिव मॉडरेशन।
स्वचालित दृष्टिकोण में, Google ऐसे एल्गोरिदम तैनात करता है जो नग्नता की जाँच के लिए कंप्यूटर विज़न जैसी तकनीकों का लाभ उठाते हैं। हालाँकि, यदि सामग्री उनके एल्गोरिदम से बच निकलती है, तो YouTube दर्शकों पर निर्भर करता है कि वे समीक्षा के लिए सामग्री को अनुचित के रूप में फ़्लैग करें।
फर्जी और भ्रामक सामग्री
Instagram भ्रामक जानकारी फैलाने वाली सामग्री को खोजने, समीक्षा करने और उस पर कार्रवाई करने के लिए AI और मानव मॉडरेटर, दोनों पर निर्भर करता है — यह विशेष रूप से कोविड प्रकोप के दौरान स्पष्ट था।
Instagram Help Centre के अनुसार, “[Instagram का] AI उन सामग्रियों का पता लगा सकता है और उन्हें हटा सकता है जो हमारे सामुदायिक दिशानिर्देशों के खिलाफ हैं, इससे पहले कि कोई उन्हें रिपोर्ट करे। अन्य समय में, हमारी तकनीक सामग्री को मानव समीक्षा टीमों को भेजती है ताकि वे उसे और बारीकी से देखें और उस पर निर्णय लें।”
निष्कर्ष
ट्यूरिंग और मैकार्थी के बुनियादी सिद्धांतों से लेकर ChatGPT के व्यावहारिक अनुप्रयोगों तक आगे बढ़ते हुए, AI का नैतिक परिदृश्य लगातार जटिल होता गया है। जहाँ ChatGPT जैसी AI तकनीकें रूपांतरकारी क्षमता प्रदान करती हैं, वहीं वे सामग्री संयम और पक्षपात सहित नैतिक चुनौतियाँ भी पेश करती हैं।
OpenAI का Moderation API उत्तरदायी AI की दिशा में एक महत्वपूर्ण कदम है, लेकिन यह एक सर्व-उपयुक्त समाधान नहीं है। व्यवसायों और डेवलपर्स पर बहु-आयामी संयम दृष्टिकोण लागू करने की साझा नैतिक जिम्मेदारी है, जिसमें स्वचालित प्रणालियों को मानवीय पर्यवेक्षण के साथ जोड़ा जाए। Twitter और YouTube जैसे प्लेटफ़ॉर्म्स के वास्तविक उदाहरण इस हाइब्रिड मॉडल की प्रभावशीलता प्रदर्शित करते हैं।
जो लोग उत्तरदायी AI में और गहराई तक जाना चाहते हैं, उनके लिए हमारे पास कई संसाधन हैं, जैसे उत्तरदायी AI के भविष्य पर पॉडकास्ट, Python में मशीन लर्निंग मॉडलों के मूल्यांकन पर वेबिनार, और AI नैतिकता पर कोर्स।
AI का नैतिक प्रबंधन एक सामूहिक प्रयास है, जिसके लिए सभी हितधारकों की निरंतर सतर्कता आवश्यक है। जैसे-जैसे हम AI क्षमताओं की सीमाएँ आगे बढ़ाते हैं, आइए नैतिक अखंडता के लिए भी उतना ही प्रयास करें ताकि यह तकनीक भलाई की ताकत बने।
कृत्रिम बुद्धिमत्ता शब्द का प्रथम दर्ज उपयोग 1956 में एक अकादमिक सम्मेलन में जॉन मैकार्थी के भाषण में हुआ, जिसमें मशीनों द्वारा मानवीय बुद्धि के अनुकरण का उल्लेख था। इसलिए, उन्हें अक्सर AI के संस्थापक पिताओं में से एक माना जाता है।
लेकिन यह समझने की वास्तविक यात्रा कि क्या मशीनें सोच सकती हैं, उससे काफी पहले शुरू हो चुकी थी। दरअसल, 1950 में, अंग्रेज़ गणितज्ञ एलन ट्यूरिंग ने Computing Machinery and Intelligence नामक एक शोधपत्र प्रकाशित किया, जिसमें यह निर्धारित करने के लिए एक परीक्षण प्रस्तावित किया गया कि क्या कोई कंप्यूटर सोच सकता है।
आजकल, कृत्रिम बुद्धिमत्ता (AI) से जुड़े प्रश्न अलग हैं। यह तकनीक हमारे द्वारा उत्पन्न डाटा की बढ़ती मात्रा, उन्नत एल्गोरिदम, और कंप्यूटिंग शक्ति में महत्वपूर्ण सुधारों के कारण लोकप्रिय हुई है। हम अब ऐसे मुकाम पर हैं जहाँ ऐसे टूल्स के उपयोग से उठने वाले नैतिक और सामाजिक मुद्दों पर विचार करना उचित है।
जहाँ AI तकनीक दक्षता और उत्पादकता में सुधार कर सकती है, वहीं इसमें हानिकारक सामग्री बनाने, पक्षपात रखने, और डाटा गोपनीयता का उल्लंघन करने की क्षमता भी है। इससे जिम्मेदाराना तरीके से AI बनाने की प्रथा पर दिलचस्प चर्चाएँ शुरू हुई हैं, ताकि यह कर्मचारियों को सशक्त बनाए, ग्राहकों पर सकारात्मक प्रभाव डाले, और कंपनियों को नैतिक रूप से AI का विस्तार करने में सक्षम बनाए।
ChatGPT और कंटेंट मॉडरेशन का विकास
लोकप्रिय संस्कृति में सबसे अधिक चर्चित AI प्रगतियों में से एक ChatGPT है। ChatGPT OpenAI द्वारा विकसित एक AI चैटबॉट है, जो उपयोगकर्ताओं के साथ मानवीय जैसी बातचीत का अनुकरण करता है।
ChatGPT, जिसने पाँच दिनों में एक मिलियन उपयोगकर्ता हासिल कर लेने के बाद कुछ महीनों तक सबसे तेज़ी से अपनाई जाने वाली ऑनलाइन सेवा का खिताब रखा, जून 2018 में अपनी पहली प्रस्तुति के बाद से कई पुनरावृत्तियों से गुजरा है।
उस समय, मॉडल को Generative Pre-trained Transformer 1 (GPT-1) कहा जाता था। यह OpenAI द्वारा विकसित पहला बड़ा भाषा मॉडल (LLM) था, जो 2017 में Google द्वारा ट्रांसफ़ॉर्मर आर्किटेक्चर के आविष्कार के जवाब में बनाया गया था। इस मॉडल ने आज के ChatGPT की बुनियाद रखी, लेकिन वहाँ तक पहुँचने से पहले और भी पुनरावृत्तियाँ हुईं।
उदाहरण के लिए, 2019 में, OpenAI ने अधिक शक्तिशाली GPT-2 मॉडल जारी किया। अपडेट्स का फोकस मॉडल की भाषा समझने की क्षमता को बढ़ाने पर था, जिसका अर्थ था मॉडल को बहुत बड़े डाटासेट पर प्रशिक्षित करना और एक्सेस को फाइन-ट्यून करना, ताकि उपयोगकर्ता अपने विशिष्ट उपयोग मामलों के लिए मॉडल को कस्टमाइज़ कर सकें। इसके तुरंत बाद, 2020 में GPT-3 आया।
आज की तारीख में ChatGPT को उपलब्ध सबसे शक्तिशाली भाषा मॉडलों में से एक माना जाता है। यह अनुवाद, टेक्स्ट पूर्णता, प्रश्नोत्तर, और पाठ निर्माण जैसे प्राकृतिक भाषा संसाधन कार्य कर सकता है।
परंतु इसका अर्थ यह नहीं कि इसमें समस्याएँ नहीं हैं।
ChatGPT की शक्ति और सीमाएँ
आज जिसे हम ChatGPT के रूप में जानते हैं, वह GPT-3.5 आर्किटेक्चर पर आधारित है, जबकि भुगतान करने वाले सब्सक्राइबर्स को GPT-4 तक पहुँच मिलती है। मुख्य अंतर उपयोग किए गए डाटासेट में है और इस तथ्य में कि इसे संवादात्मक उपयोग मामलों के लिए अनुकूलित किया गया है, ताकि उपयोगकर्ता चैट इंटरफ़ेस के माध्यम से मॉडल के साथ बातचीत करते समय अधिक व्यक्तिगत अनुभव प्राप्त कर सकें।
इन बदलावों ने मनुष्यों और कंप्यूटर प्रोग्रामों के बीच संचार की दक्षता में सुधार किया है। इससे जानकारी के संसाधन, उपभोग, और ग्राहक अनुभव में भी भारी सुधार हुआ है।
लेकिन यह खामियों से मुक्त नहीं है। हाल की कई चर्चाओं ने ChatGPT द्वारा अनुचित या पक्षपाती उत्तर उत्पन्न करने की संभावना पर प्रकाश डाला है। जनरेटिव AI की नैतिकता पर हमारे मार्गदर्शक में इन पहलुओं का विस्तार से अन्वेषण किया गया है।
यह समस्या इस बात में निहित है कि ChatGPT कैसे बनाया गया था — LLM को विविध पृष्ठभूमि वाले व्यक्तियों की सामूहिक रचनाओं से प्रशिक्षित किया गया। यद्यपि उनकी विविधता मॉडल की समझ में सहायक है, यह उस कार्य में पक्षपात और पूर्वाग्रह जोड़ने की संभावना भी रखती है जिसे यह उत्पन्न करता है।
सक्रिय संयम की आवश्यकता
सक्रिय सामग्री संयम उपयोगकर्ता-जनित सामग्री की समीक्षा और निगरानी की प्रक्रिया का वर्णन करता है। उद्देश्य यह सुनिश्चित करना है कि उपयोगकर्ता-जनित सामग्री निश्चित मानकों और दिशानिर्देशों को पूरा करे, जिससे आपकी ब्रांड नकारात्मकता से जुड़ने से बचे और उपयोगकर्ता आपत्तिजनक सामग्री देखने से सुरक्षित रहें।
उदाहरण के लिए, सक्रिय सामग्री संयम का एक पहलू प्लेटफ़ॉर्म्स से अनुचित सामग्री को हटाना है, जबकि दूसरा बुलिंग जैसी चीज़ों को रोकने के लिए सामुदायिक दिशानिर्देशों को लागू करना है।
ChatGPT सामग्री संयम के तंत्र
OpenAI ने उपयोगकर्ता-जनित सामग्री द्वारा पेश ख़तरे (जैसे, एप्लिकेशन की प्रतिष्ठा को नुकसान, उपयोगकर्ताओं को हानि, आदि) को स्वीकार किया और शीघ्र ही ऐसा टूल प्रदान किया जो भाषा मॉडल या उपयोगकर्ता से आने वाली अनुचित सामग्री को रोक सके।
यह टूल सलीके से Moderation API में पैक किया गया है, जो डेवलपर्स को अपनी सामग्री की OpenAI की उपयोग नीतियों के खिलाफ जाँच करने में सक्षम बनाता है। इन नीतियों का उद्देश्य अनुचित भाषा को समाप्त करना है, जैसे:
हालाँकि, यह भी संभव है कि ChatGPT जैसे मॉडल बिना फ़िल्टर किए गए उपयोगकर्ता इनपुट से प्रभावित होकर पक्षपाती या गलत आउटपुट दें। इसलिए, ऐसे नियंत्रण उपाय लागू किए जाते हैं जो मॉडल को अनजाने में गलत जानकारी फैलाने से रोकें।
इस प्रकार सामग्री दो मोर्चों पर नियंत्रित की जाती है:
उपयोगकर्ता इनपुट नियंत्रण
उपयोगकर्ताओं द्वारा उत्पन्न सामग्री की निगरानी, फ़िल्टरिंग और प्रबंधन की तकनीकें; लक्ष्य यह है कि व्यवसाय LLM अनुप्रयोग बनाते समय अखंडता, सुरक्षा और नैतिक मानकों को बनाए रख सकें।
आउटपुट मॉडल नियंत्रण
ये नीतियाँ और प्रक्रियाएँ उपयोगकर्ताओं के साथ बातचीत करते समय मॉडल द्वारा उत्पन्न उत्तरों पर नज़र रखने और उन्हें फ़िल्टर करने में सक्षम बनाती हैं; यह डेवलपर्स को मॉडल आउटपुट में पक्षपात जैसी संभावित समस्याओं को संबोधित करने में मदद करती हैं।
इनपुट और आउटपुट नियंत्रण लागू करने से LLMs की नैतिक ज़िम्मेदारियाँ व्यवसाय पर आती हैं; अपने उत्पादों और सेवाओं के साथ उपयोगकर्ताओं के सकारात्मक अनुभव को सुनिश्चित करना और AI का जिम्मेदार उपयोग सुनिश्चित करना व्यवसाय की जिम्मेदारी बन जाता है।
सामग्री संयम के तरीके
संयम के छह सामान्य प्रकार हैं:
प्री-मॉडरेशन
दुनिया के सामने सामग्री दिखने से पहले, उसका जाँचा जाना आवश्यक है। इसे प्री-मॉडरेशन कहते हैं। प्री-मॉडरेशन का लाभ यह है कि ऑनलाइन प्लेटफ़ॉर्म के लिए अनुपयुक्त या अवांछनीय मानी जाने वाली सामग्री को नुकसान पहुँचाने से पहले ही प्रतिबंधित किया जा सकता है।
यह युवा दर्शकों को लक्षित करने वाले ऑनलाइन समुदायों के लिए अत्यंत लोकप्रिय विकल्प है। हालाँकि, कई लोगों का मानना है कि यह ऑनलाइन समुदायों की त्वरित संतुष्टि वाली प्रकृति को बाधित करता है, क्योंकि सामग्री को साझा होने से पहले अनुमोदित होना पड़ता है।
पोस्ट-मॉडरेशन
प्री-मॉडरेशन का उलटा पोस्ट-मॉडरेशन है। उपयोगकर्ता-अनुभव के दृष्टिकोण से, इसे प्राथमिकता दी जाती है क्योंकि इसका मतलब है कि सामग्री सबमिट होते ही प्रकाशित हो सकती है, और फिर संयम की कतार में प्रवेश करती है।
इस तरीके का बड़ा लाभ यह है कि उपयोगकर्ता रीयल-टाइम में संवाद कर सकते हैं, लेकिन इसकी लागत निषेधात्मक हो सकती है, क्योंकि वेबसाइट ऑपरेटर, जो कानूनी रूप से सामग्री के प्रकाशक होते हैं, अपने प्लेटफ़ॉर्म पर दिखाई जाने वाली सामग्री के लिए दायित्व रखते हैं — जितने अधिक लोग विनाशकारी सामग्री देखते हैं, यदि मामला अदालत तक पहुँचे तो नुकसान उतना ही बड़ा होगा।
रिएक्टिव मॉडरेशन
एक और विकल्प है शक्ति को समुदाय के सदस्यों के हाथ में देना। इसका मतलब है कि उपयोगकर्ता उन सामग्रियों को फ़्लैग कर सकते हैं जो नियमों का उल्लंघन करती हैं या ऐसे सदस्यों को जो अनुचित व्यवहार कर रहे हैं।
मॉडरेटरों से फिसल जाने वाली सामग्री के लिए अतिरिक्त सुरक्षा जाल के रूप में रिएक्टिव मॉडरेशन को प्री- या पोस्ट-मॉडरेशन के साथ एक साथ उपयोग में लाया जाना सामान्य है। इस दृष्टिकोण का बड़ा फायदा यह है कि यह समुदाय के बढ़ने के साथ बिना संसाधनों पर अतिरिक्त दबाव डाले स्केल कर सकता है।
डिस्ट्रीब्यूटेड मॉडरेशन
डिस्ट्रीब्यूटेड मॉडरेशन सामग्री फ़िल्टरिंग का एक दुर्लभ रूप है। यह एक रेटिंग सिस्टम पर निर्भर करता है, जिसका उपयोग समुदाय के सदस्य यह वोट करने के लिए करते हैं कि कोई सबमिशन समुदाय के दिशानिर्देशों के अनुरूप है या नहीं।
कंपनियाँ आम तौर पर समुदाय के सदस्यों पर स्व-नियमन का बोझ डालने से बचती हैं क्योंकि इससे कानूनी और ब्रांडिंग जोखिम पैदा होते हैं।
स्वचालित मॉडरेशन
जैसे-जैसे उपयोगकर्ता-जनित सामग्री बढ़ती है, मानव मॉडरेटरों के लिए हस्तक्षेप कर लोड को संभालना उतना ही जटिल हो जाता है। न केवल व्यक्तियों के लिए मैन्युअल रूप से बहुत सारी सामग्री छाँटना कठिन है, बल्कि यह मनोबल भी गिराता है; कोई भी व्यक्ति परेशान करने वाली सामग्री के ढेर को छाँटने के लिए उत्साहित होकर काम पर नहीं जाता।
मानव-संचालित मॉडरेशन में स्वचालित मॉडरेशन जोड़ना एक अत्यंत उपयोगी उपाय है। इसमें विभिन्न तकनीकी टूल्स होते हैं, जैसे शब्द फ़िल्टर, जो सबमिशन को अस्वीकार और स्वीकृत करने के लिए उपयोग किए जाते हैं।
कोई मॉडरेशन नहीं
कंटेंट मॉडरेटर संभवतः बिना मॉडरेशन वाले दृष्टिकोण के खिलाफ सलाह देंगे। हालाँकि, वे यह भी समझते हैं कि ऐसे अच्छे कारण हो सकते हैं जिनकी वजह से लोग अपने समुदाय में सामग्री का मॉडरेशन न करने का चुनाव करते हैं।
उदाहरण के लिए, शायद ऐसा करने के लिए पर्याप्त संसाधन नहीं हैं, या “अभिव्यक्ति की स्वतंत्रता” की धारणा वह है जिसे आपका समुदाय अपनाना चाहता है। मूल रूप से, मॉडरेशन छोड़ना नियंत्रण छोड़ना है, जिससे प्लेटफ़ॉर्म असुरक्षित हो जाते हैं, जो आमतौर पर नए उपयोगकर्ताओं के लिए नापसंदगी का कारण है।
वास्तविक दुनिया में सामग्री संयम
आज अधिकांश प्लेटफ़ॉर्म, जैसे Facebook और YouTube, कुछ प्रकार की सामग्री को ब्लॉक करने के लिए स्वचालित कंटेंट मॉडरेशन का उपयोग करते हैं। इसमें आमतौर पर AI का उपयोग शामिल होता है, जिसका विशिष्ट उद्देश्य सामग्री संयम के प्रयासों में सुधार करना और उनके प्लेटफ़ॉर्म पर उपयोगकर्ता अनुभव को बढ़ाना होता है।
हालाँकि, जबकि AI के लिए अनुचित सामग्री का पता लगाना और वह अधिकांश नीरस काम संभालना संभव है जो आमतौर पर मनुष्यों को सौंपा जाता है, उनकी भी सीमाएँ हैं। मशीनें अक्सर गलत सूचना, पक्षपात और घृणा भाषण जैसी महत्वपूर्ण बारीकियों को नज़रअंदाज़ कर देती हैं, जिसका मतलब है कि मानव मॉडरेटरों को पूरी तरह हटाना आदर्श नहीं है।
दूसरे शब्दों में, AI का उपयोग करके स्वचालित मॉडरेशन को अक्सर मानव-संचालित मॉडरेशन के साथ जोड़ा जाता है ताकि यह सुनिश्चित किया जा सके कि प्लेटफ़ॉर्म उपयोगकर्ताओं के लिए सुरक्षित हों और ब्रांड अक्षुण्ण रहे। यहाँ कुछ वास्तविक दुनिया के उदाहरण हैं:
अपमानजनक सामग्री
Twitter (अब X) को ऑनलाइन उत्पीड़न का कुशलता से जवाब देने में असमर्थ रहने के लिए कड़ी आलोचना का सामना करना पड़ा। हालाँकि, एलन मस्क के अधिग्रहण के बाद से कंपनी सामग्री के संयम के लिए स्वचालन पर भारी निर्भर रही है। इसका नतीजा Quality filter जैसे टूल्स हैं, जो कम गुणवत्ता वाली सामग्री की दृश्यता को सीमित करने के लिए प्राकृतिक भाषा संसाधन जैसी तकनीकों का उपयोग करते हैं।
वयस्क सामग्री
YouTube के पास नग्नता और यौन सामग्री के खिलाफ सख्त नीति है; ऐसा करने पर उपयोगकर्ताओं के चैनल को समाप्त किया जा सकता है। ऐसी सामग्री पकड़ने का उनका तरीका दोहरा है: स्वचालित और रिएक्टिव मॉडरेशन।
स्वचालित दृष्टिकोण में, Google ऐसे एल्गोरिदम तैनात करता है जो नग्नता की जाँच के लिए कंप्यूटर विज़न जैसी तकनीकों का लाभ उठाते हैं। हालाँकि, यदि सामग्री उनके एल्गोरिदम से बच निकलती है, तो YouTube दर्शकों पर निर्भर करता है कि वे समीक्षा के लिए सामग्री को अनुचित के रूप में फ़्लैग करें।
फर्जी और भ्रामक सामग्री
Instagram भ्रामक जानकारी फैलाने वाली सामग्री को खोजने, समीक्षा करने और उस पर कार्रवाई करने के लिए AI और मानव मॉडरेटर, दोनों पर निर्भर करता है — यह विशेष रूप से कोविड प्रकोप के दौरान स्पष्ट था।
Instagram Help Centre के अनुसार, “[Instagram का] AI उन सामग्रियों का पता लगा सकता है और उन्हें हटा सकता है जो हमारे सामुदायिक दिशानिर्देशों के खिलाफ हैं, इससे पहले कि कोई उन्हें रिपोर्ट करे। अन्य समय में, हमारी तकनीक सामग्री को मानव समीक्षा टीमों को भेजती है ताकि वे उसे और बारीकी से देखें और उस पर निर्णय लें।”
निष्कर्ष
ट्यूरिंग और मैकार्थी के बुनियादी सिद्धांतों से लेकर ChatGPT के व्यावहारिक अनुप्रयोगों तक आगे बढ़ते हुए, AI का नैतिक परिदृश्य लगातार जटिल होता गया है। जहाँ ChatGPT जैसी AI तकनीकें रूपांतरकारी क्षमता प्रदान करती हैं, वहीं वे सामग्री संयम और पक्षपात सहित नैतिक चुनौतियाँ भी पेश करती हैं।
OpenAI का Moderation API उत्तरदायी AI की दिशा में एक महत्वपूर्ण कदम है, लेकिन यह एक सर्व-उपयुक्त समाधान नहीं है। व्यवसायों और डेवलपर्स पर बहु-आयामी संयम दृष्टिकोण लागू करने की साझा नैतिक जिम्मेदारी है, जिसमें स्वचालित प्रणालियों को मानवीय पर्यवेक्षण के साथ जोड़ा जाए। Twitter और YouTube जैसे प्लेटफ़ॉर्म्स के वास्तविक उदाहरण इस हाइब्रिड मॉडल की प्रभावशीलता प्रदर्शित करते हैं।
जो लोग उत्तरदायी AI में और गहराई तक जाना चाहते हैं, उनके लिए हमारे पास कई संसाधन हैं, जैसे उत्तरदायी AI के भविष्य पर पॉडकास्ट, Python में मशीन लर्निंग मॉडलों के मूल्यांकन पर वेबिनार, और AI नैतिकता पर कोर्स।
AI का नैतिक प्रबंधन एक सामूहिक प्रयास है, जिसके लिए सभी हितधारकों की निरंतर सतर्कता आवश्यक है। जैसे-जैसे हम AI क्षमताओं की सीमाएँ आगे बढ़ाते हैं, आइए नैतिक अखंडता के लिए भी उतना ही प्रयास करें ताकि यह तकनीक भलाई की ताकत बने।