पिछले कुछ महीनों में, डेटा साइंस और AI समुदायों में OpenAI के नए भाषा मॉडल GPT-3 के आगमन को लेकर काफ़ी चर्चा रही है। कई लोगों के लिए, यह मॉडल विभिन्न कार्यों में मानव भाषा के साथ तर्क करने की एकल अल्गोरिद्म की क्षमता में महत्वपूर्ण छलांग का प्रतिनिधित्व करता है।
GPT-3 का परीक्षण करने वाले डेवलपर्स ने कई दिलचस्प उपयोग मामलों को साझा किया है। साधारण अंग्रेज़ी प्रॉम्प्ट के आधार पर स्वचालित कोड जनरेशन, चिकित्सीय सवालों के उत्तर, और कानूनी भाषा का अनुवाद जैसे उदाहरणों ने अगली पीढ़ी के AI-संचालित सॉफ्टवेयर के बारे में सोचने वाले डेटा वैज्ञानिकों की कल्पना को प्रज्ज्वलित किया है।
यद्यपि संगठनात्मक स्तर पर मशीन लर्निंग का बहुत-सा मूल्य चर्न की भविष्यवाणी, सरल बिक्री पूर्वानुमान, और ग्राहक विभेदन जैसे आसान कार्यों में है—फिर भी यह सोचना उपयोगी है कि GPT-3 के व्यावसायीकरण का भविष्य के लिए क्या अर्थ है। इसमें यह क्षमता है कि हम कृत्रिम बुद्धिमत्ता के बारे में कैसे सोचते हैं और उसे संचालन में कैसे उतारते हैं, यह बदल जाए।
कृत्रिम बुद्धिमत्ता, मशीन लर्निंग, और डीप लर्निंग की परिभाषा
व्यापार जगत और मीडिया में कृत्रिम बुद्धिमत्ता (AI), मशीन लर्निंग (ML), और डीप लर्निंग (DL) जैसे चर्चित शब्दों की भरमार है। GPT-3 कैसे काम करता है, इस पर जाने से पहले इन शब्दों को संक्षेप में समझ लेते हैं।
Google Brain के सह-संस्थापक और Baidu के पूर्व मुख्य वैज्ञानिक Andrew Ng, कृत्रिम बुद्धिमत्ता को “कंप्यूटरों को बुद्धिमानी से व्यवहार कराने के लिए उपकरणों का एक विशाल समूह” बताते हैं। इसमें कैलकुलेटर जैसे स्पष्ट रूप से प्रोग्राम किए गए सॉफ्टवेयर के साथ-साथ सिफारिश प्रणालियाँ और स्वचालित वाहन जैसी ML एप्लिकेशन भी शामिल हैं।
कृत्रिम बुद्धिमत्ता और कंप्यूटर गेमिंग के अग्रदूत Arthur Samuel के अनुसार, मशीन लर्निंग वह “अध्ययन का क्षेत्र है जो कंप्यूटरों को बिना स्पष्ट रूप से प्रोग्राम किए सीखने की क्षमता देता है।” सामान्यतः मशीन लर्निंग अल्गोरिद्म के दो प्रकार होते हैं। पहला है सुपरवाइज़्ड लर्निंग, जिसमें अल्गोरिद्म मौजूदा डेटा (इनपुट) और लेबल (आउटपुट) के बीच पैटर्न सीखते हैं और अनदेखे डेटा पर आउटपुट की भविष्यवाणी करते हैं—जैसे ऐतिहासिक चर्न डेटा के आधार पर यह अनुमान लगाना कि कोई नया ग्राहक चर्न करेगा या नहीं। दूसरा है अनसुपरवाइज़्ड लर्निंग, जिसमें अल्गोरिद्म डेटा में सामान्य पैटर्न खोजते हैं और समान डेटा बिंदुओं को एक साथ समूहित करते हैं—जैसे ग्राहकों को सामान्य व्यवहार पैटर्न के आधार पर सेगमेंट करना।
डीप लर्निंग, बहु-स्तरीय कृत्रिम न्यूरल नेटवर्क पर आधारित मशीन लर्निंग का एक रूप है, जो मस्तिष्क के जैविक न्यूरल नेटवर्क से मोटे तौर पर प्रेरित है। ये सुपरवाइज़्ड और अनसुपरवाइज़्ड दोनों हो सकते हैं और पिछली एक दशक की हाई-प्रोफाइल ML उपयोगिताओं—जैसे इमेज रिकॉग्निशन और सेंटिमेंट एनालिसिस—के लिए मुख्यतः ज़िम्मेदार रहे हैं। डीप लर्निंग मॉडल अपनी संरचना में भिन्न होते हैं, जो न्यूरल नेटवर्क में लेयरों और नोड्स की संख्या के आधार पर सरल से जटिल तक हो सकते हैं। मॉडल जितना जटिल होगा, उसमें उतने अधिक पैरामीटर्स होंगे। यदि आप जानना चाहते हैं कि डीप लर्निंग मॉडल कैसे बनाए जाते हैं, तो DataCamp का डीप लर्निंग स्किल ट्रैक देखें।
इन विषयों की अधिक गहन पड़ताल के लिए हमारा ई-पुस्तक The Definitive Guide to Machine Learning for Business Leaders पढ़ें।
GPT-3 कैसे काम करता है
तो GPT-3 का कृत्रिम बुद्धिमत्ता, मशीन लर्निंग, और डीप लर्निंग से क्या संबंध है? GPT का संक्षिप्त रूप “जनरेटिव प्री-ट्रेन्ड ट्रांसफॉर्मर” है—एक अनसुपरवाइज़्ड डीप लर्निंग अल्गोरिद्म जिसे आमतौर पर बड़े पैमाने पर अनलेबल्ड टेक्स्ट पर प्री-ट्रेन किया जाता है। इसके बाद इसे बड़े, कार्य-विशिष्ट लेबल्ड डेटासेट (उदा., अंग्रेज़ी से फ़्रेंच अनुवाद) पर फाइन-ट्यून और प्रशिक्षित किया जाता है, और फिर इसे दिए गए इनपुट (अंग्रेज़ी शब्द) के आधार पर सबसे संभावित आउटपुट (फ़्रेंच अनुवाद) का अनुमान लगाने का कार्य सौंपा जाता है। आप इसे विभिन्न भाषा कार्यों के लिए अत्यंत उन्नत ऑटोकम्प्लीट के रूप में समझ सकते हैं।
GPT-3 इस मॉडल का तीसरा संस्करण है, और यद्यपि यह अपने पूर्ववर्तियों की आर्किटेक्चर में नवाचार नहीं करता, इसे इंटरनेट के बड़े हिस्से सहित अत्यंत बड़े डेटासेट्स—जैसे Common Crawl डेटासेट—पर प्री-ट्रेन किया गया है, और इसकी नेटवर्क संरचना में कहीं अधिक लेयरें शामिल हैं। इससे GPT-3 अब तक का सबसे जटिल भाषा मॉडल बन जाता है, जिसकी नेटवर्क संरचना में 175 अरब पैरामीटर्स हैं। यह GPT-3 से पहले के सबसे जटिल मॉडल, Microsoft के Turing-NLG, से दस गुना अधिक पैरामीटर्स हैं, और GPT-2 की तुलना में 117 गुना अधिक जटिल है।
सबसे महत्वपूर्ण बात, GPT-3 कुछ-उदाहरण (few-shot) लर्निंग से लाभ उठाता है, जिसमें प्री-ट्रेन्ड मॉडल को किसी विशिष्ट भाषा कार्य के लिए बड़े लेबल्ड ट्रेनिंग डेटा से फाइन-ट्यून करने की आवश्यकता नहीं होती। इसके बजाय इसे बस कार्य का विवरण—अंग्रेज़ी शब्दों का फ़्रेंच में अनुवाद—और इनपुट-आउटपुट के कुछ उदाहरण दिए जाते हैं। उपयोग में आसान प्लग-एंड-प्ले इंटरफेस के साथ मिलकर, GPT-3 प्रवेश अवरोधों को काफी हद तक हटा देता है और गैर-विशेषज्ञों को विभिन्न भाषा कार्यों पर सार्थक परिणाम उत्पन्न करने देता है।
GPT-3 क्यों महत्वपूर्ण है
केवल कुछ उदाहरणों और कार्य विवरणों के साथ, GPT-3 विभिन्न भाषा कार्यों पर कार्य-विशिष्ट ट्रेनिंग डेटा पर फाइन-ट्यून किए गए भाषा मॉडलों की बराबरी करता है। GPT-3 उन कार्यों पर भी कुछ सफलता दर्शाता है जिनमें तर्क की आवश्यकता होती है, जैसे अंकगणित, जो आवश्यक रूप से भाषा कार्य नहीं हैं। उदाहरण के लिए, जोड़ और घटाव के कुछ उदाहरण दिए जाने के बाद GPT-3 ने दो-अंकीय जोड़ और घटाव पर 100% सटीकता दिखाई। कम पैरामीटर्स वाले कम जटिल मॉडलों ने इन कार्यों पर 60% सटीकता की सीमा नहीं तोड़ी है। यद्यपि GPT-3 अधिक जटिल प्रकार के अंकगणित पर चूकता है, यह संकेत देता है कि अधिक जटिल मॉडल अपने प्रशिक्षण डोमेन के बाहर भी सामान्यीकरण करने की क्षमता रख सकते हैं।
दिलचस्प रूप से, यह संकेत देता है कि केवल डेटासेट और मॉडल आकार बढ़ाने से और लाभ प्राप्त किए जा सकते हैं। वर्तमान में ऐसा प्रतीत नहीं होता कि विभिन्न कार्यों में मॉडल का समग्र प्रदर्शन 175 अरब पैरामीटर्स पर ठहर रहा है। GPT-2 से GPT-3 तक पैरामीटर स्केलिंग में समान वृद्धि मानते हुए, केवल कल्पना की जा सकती है कि यदि GPT-4 में GPT-3 से 117 गुना अधिक पैरामीटर्स हों तो मॉडल का प्रदर्शन कैसे स्केल करेगा।
वर्तमान में इसे निजी बीटा रिलीज़ में कॅलिब्रेट किया जा रहा है, लेकिन GPT-3 को प्लग-एंड-प्ले API में पैकेज करना यह दर्शाता है कि यह निजी बीटा से बाहर आते ही बड़े पैमाने पर उपयोग में लाया जा सकता है। जैसा कि AI शोधकर्ता श्रेया शंकर ने इंगित किया, एक महत्वपूर्ण चुनौती इस API को संगठनों द्वारा कुशलतापूर्वक और आसानी से उपयोग के लिए सर्व करना होगा।
भविष्य के लिए इसका क्या अर्थ है
नई तकनीकें अक्सर Gartner के हाइप साइकिल का अनुसरण करती हैं—वास्तव में, OpenAI के CEO सैम ऑल्टमैन पहले ही GPT-3 के इर्द-गिर्द हाइप पर चेतावनी दे चुके हैं।
फिर भी, GPT-3 डेवलपर्स से सामने आए उपयोग मामलों से यह स्पष्ट होता है कि मध्यम से दीर्घावधि में हम किस प्रकार के AI-संचालित अनुप्रयोगों की अपेक्षा कर सकते हैं। संभावित उपयोगों में ऐसे टूल शामिल हैं जो डिज़ाइनरों को आसानी से प्रोटोटाइप बनाने में मदद करेंगे, डेटा विश्लेषण को सुव्यवस्थित करेंगे, अधिक सुदृढ़ शोध में सक्षम बनाएंगे, कंटेंट मार्केटर्स के लिए सामग्री निर्माण को स्वचालित करेंगे, और भी बहुत कुछ।
साथ ही, मॉडल को आसान प्लग-एंड-प्ले इंटरफेस में पैकेज करना संगठन भर में AI के औज़ारीकरण की गतिशीलता को बदल सकता है। उदाहरण के लिए, यह संगठनों को अपने इन-हाउस मॉडल विकसित करने से हतोत्साहित कर सकता है और कम तकनीकी विशेषज्ञों को GPT-3 का उपयोग करके समाधान बनाने में सक्षम कर सकता है।
अंततः, जब आप बड़े पैमाने पर AI प्रणालियों की परिनियोजन के बारे में सोचते हैं, तो पक्षपात के ज़रिये हानि के प्रसार की संभावना के प्रति सचेत रहना आवश्यक है। जैसा कि कई शोधकर्ताओं ने GPT-3 का परीक्षण करते समय नोट किया, तटस्थ इनपुट के आधार पर ऐसे हानिकारक आउटपुट उत्पन्न करना अपेक्षाकृत आसान है जो रूढ़ियों और पक्षपात को सुदृढ़ करते हैं।
किसी भी मशीन लर्निंग अल्गोरिद्म की तरह जो बड़े पैमाने पर परिनियोजित किया जा रहा हो, GPT-3 को संभावित क्षति के संदर्भ में गंभीर जांच-पड़ताल और निगरानी की आवश्यकता है।
