डीप लर्निंग क्या है? शुरुआती लोगों के लिए एक ट्यूटोरियल

डीप लर्निंग क्या है?

डीप लर्निंग मशीन लर्निंग का एक प्रकार है जो कंप्यूटरों को उदाहरणों से सीखकर कार्य करना सिखाता है, ठीक वैसे ही जैसे मनुष्य सीखते हैं। मान लीजिए आप कंप्यूटर को बिल्लियों को पहचानना सिखा रहे हैं: मूंछें, कान और पूंछ बताने के बजाय, आप उसे बिल्लियों की हजारों तस्वीरें दिखाते हैं। कंप्यूटर खुद ही सामान्य पैटर्न ढूंढता है और बिल्ली की पहचान करना सीख लेता है। यही डीप लर्निंग का सार है।

तकनीकी रूप से, डीप लर्निंग "न्यूरल नेटवर्क" नामक संरचनाओं का उपयोग करता है, जो मानव मस्तिष्क से प्रेरित हैं। ये नेटवर्क परस्पर जुड़े नोड्स की परतों से बने होते हैं जो जानकारी संसाधित करते हैं। जितनी अधिक परतें होती हैं, नेटवर्क उतना ही "डीप" होता है, जिससे वह अधिक जटिल विशेषताएँ सीख सकता है और अधिक परिष्कृत कार्य कर सकता है।

न्यूरॉन्स और न्यूरल नेटवर्क की समानता

मशीन लर्निंग से डीप लर्निंग तक का विकास

मशीन लर्निंग क्या है?

मशीन लर्निंग स्वयं आर्टिफिशियल इंटेलिजेंस (AI) का एक उपसमुच्चय है, जो कंप्यूटरों को डेटा से सीखने और बिना स्पष्ट प्रोग्रामिंग के निर्णय लेने में सक्षम बनाता है। इसमें विभिन्न तकनीकें और एल्गोरिदम शामिल हैं, जो प्रणालियों को पैटर्न पहचानने, पूर्वानुमान लगाने और समय के साथ प्रदर्शन सुधारने में मदद करते हैं। आप एक अलग लेख में मशीन लर्निंग और AI के बीच अंतर की पड़ताल कर सकते हैं। 

डीप लर्निंग पारंपरिक मशीन लर्निंग से कैसे भिन्न है

जहां मशीन लर्निंग अपने आप में परिवर्तनकारी तकनीक रही है, वहीं डीप लर्निंग इसे एक कदम आगे ले जाती है और कई ऐसे कार्यों को स्वचालित कर देती है जिनके लिए आमतौर पर मानवीय विशेषज्ञता की आवश्यकता होती है।

डीप लर्निंग मूल रूप से मशीन लर्निंग का एक विशिष्ट उपसमुच्चय है, जिसकी पहचान तीन या अधिक परतों वाले न्यूरल नेटवर्क के उपयोग से होती है। ये न्यूरल नेटवर्क मानव मस्तिष्क के व्यवहार का अनुकरण करने का प्रयास करते हैं—हालांकि उसकी क्षमता के बराबर नहीं—ताकि बड़े पैमाने पर डेटा से "सीख" सकें। आप एक अलग पोस्ट में मशीन लर्निंग बनाम डीप लर्निंग को विस्तार से देख सकते हैं। 

फीचर इंजीनियरिंग का महत्व

फीचर इंजीनियरिंग वह प्रक्रिया है जिसमें कच्चे डेटा से सबसे प्रासंगिक चर, जिन्हें "फीचर्स" कहा जाता है, का चयन, रूपांतरण या निर्माण किया जाता है ताकि उन्हें मशीन लर्निंग मॉडलों में उपयोग किया जा सके।

उदाहरण के लिए, यदि आप मौसम का पूर्वानुमान लगाने का मॉडल बना रहे हैं, तो कच्चे डेटा में तापमान, आर्द्रता, पवन गति और वायुदाब शामिल हो सकते हैं। फीचर इंजीनियरिंग में यह तय करना शामिल होगा कि इनमें से कौन-से चर मौसम की भविष्यवाणी के लिए सबसे महत्वपूर्ण हैं और संभवतः उन्हें रूपांतरित करना (जैसे तापमान को फ़ारेनहाइट से सेल्सियस में बदलना) ताकि वे मॉडल के लिए अधिक उपयोगी हो जाएं।

पारंपरिक मशीन लर्निंग में, फीचर इंजीनियरिंग अक्सर एक मैन्युअल और समय-साध्य प्रक्रिया होती है, जिसके लिए डोमेन विशेषज्ञता की आवश्यकता होती है। हालांकि, डीप लर्निंग का एक लाभ यह है कि यह कच्चे डेटा से स्वतः ही प्रासंगिक फीचर्स सीख सकती है, जिससे मैन्युअल हस्तक्षेप की आवश्यकता कम हो जाती है।

डीप लर्निंग क्यों महत्वपूर्ण है?

वे कारण जिनसे डीप लर्निंग उद्योग मानक बन गई है:

• असंरचित डेटा का प्रबंधन: संरचित डेटा पर प्रशिक्षित मॉडल असंरचित डेटा से भी आसानी से सीख सकते हैं, जिससे डेटा सेट्स को मानकीकृत करने में समय और संसाधन कम लगते हैं।
• बड़े डेटा का प्रबंधन: ग्राफिक्स प्रोसेसिंग यूनिट्स (GPUs) के आगमन से डीप लर्निंग मॉडल बहुत बड़ी मात्रा में डेटा को बेहद तेज गति से प्रोसेस कर सकते हैं।
• उच्च सटीकता: कंप्यूटर विज़न, नेचुरल लैंग्वेज प्रोसेसिंग (NLP) और ऑडियो प्रोसेसिंग में डीप लर्निंग मॉडल सबसे सटीक परिणाम देते हैं।
• पैटर्न रिकग्निशन: अधिकांश मॉडलों में मशीन लर्निंग इंजीनियर के हस्तक्षेप की आवश्यकता होती है, लेकिन डीप लर्निंग मॉडल सभी प्रकार के पैटर्न स्वतः पहचान सकते हैं।

इस ट्यूटोरियल में, हम डीप लर्निंग की दुनिया में उतरेंगे और वे सभी प्रमुख अवधारणाएँ समझेंगे, जो आपको आर्टिफिशियल इंटेलिजेंस (AI) में करियर शुरू करने के लिए चाहिए। यदि आप प्रायोगिक अभ्यासों के जरिए सीखना चाहते हैं, तो हमारा कोर्स An Introduction to Deep Learning in Python देखें।

डीप लर्निंग के मूलभूत सिद्धांत

डीप लर्निंग एल्गोरिदम और उनके अनुप्रयोगों की बारीकियों में जाने से पहले, उन बुनियादी अवधारणाओं को समझना आवश्यक है जो इस तकनीक को इतना क्रांतिकारी बनाती हैं। इस खंड में आप डीप लर्निंग के निर्माण खंडों—न्यूरल नेटवर्क, डीप न्यूरल नेटवर्क और एक्टिवेशन फंक्शन—से परिचित होंगे।

न्यूरल नेटवर्क

डीप लर्निंग के केंद्र में न्यूरल नेटवर्क होते हैं, जो मानव मस्तिष्क से प्रेरित संगणकीय मॉडल हैं। ये नेटवर्क परस्पर जुड़े नोड्स या "न्यूरॉन्स" से बने होते हैं, जो मिलकर जानकारी संसाधित करते हैं और निर्णय लेते हैं। जैसे हमारे मस्तिष्क में अलग-अलग कार्यों के लिए अलग क्षेत्र होते हैं, वैसे ही एक न्यूरल नेटवर्क में विशिष्ट कार्यों के लिए समर्पित परतें होती हैं।

हमारे पास एक संपूर्ण मार्गदर्शिका What are Neural Networks है, जो मूल बातों को अधिक विस्तार से कवर करती है।

डीप न्यूरल नेटवर्क

किसी न्यूरल नेटवर्क के "डीप" होने का कारण इनपुट और आउटपुट के बीच मौजूद परतों की संख्या है। डीप न्यूरल नेटवर्क में कई परतें होती हैं, जिससे वह अधिक जटिल विशेषताएँ सीख सकता है और अधिक सटीक भविष्यवाणियाँ कर सकता है। इन नेटवर्क्स की यही "गहराई" डीप लर्निंग को उसका नाम और जटिल समस्याएँ हल करने की शक्ति देती है।

हमारे introduction to deep neural networks ट्यूटोरियल में DNNs के महत्व को डीप लर्निंग और आर्टिफिशियल इंटेलिजेंस में समझाया गया है।

एक्टिवेशन फंक्शन्स

न्यूरल नेटवर्क में एक्टिवेशन फंक्शन निर्णयकर्ता की तरह काम करते हैं। वे तय करते हैं कि कौन-सी जानकारी अगली परत तक पहुंचनी चाहिए। ये फंक्शन नेटवर्क में जटिलता जोड़ते हैं, जिससे वह डेटा से सीख सके और सूक्ष्म निर्णय ले सके।

डीप लर्निंग कैसे काम करती है

डीप लर्निंग समान लेबल की समान विशेषताओं को पहचानने के लिए फीचर एक्सट्रैक्शन का उपयोग करती है और फिर डिसीजन बाउंड्रीज़ की मदद से तय करती है कि कौन-सी विशेषताएँ प्रत्येक लेबल का सटीक प्रतिनिधित्व करती हैं। बिल्लियों और कुत्तों के वर्गीकरण में, डीप लर्निंग मॉडल आँखें, चेहरा और शरीर की आकृति जैसी सूचनाएँ निकालते हैं और उन्हें दो वर्गों में विभाजित कर देते हैं।

डीप लर्निंग मॉडल डीप न्यूरल नेटवर्क से बनते हैं। साधारण न्यूरल नेटवर्क में एक इनपुट लेयर, एक हिडन लेयर और एक आउटपुट लेयर होती है। डीप लर्निंग मॉडल्स में कई हिडन लेयर्स होती हैं; अतिरिक्त परतों से मॉडल की सटीकता में सुधार होता है।

सरल न्यूरल नेटवर्क

इनपुट लेयर्स में कच्चा डेटा होता है, जिसे वे हिडन लेयर्स के नोड्स तक पहुँचाते हैं। हिडन लेयर्स के नोड्स व्यापक लक्ष्य जानकारी के आधार पर डेटा बिंदुओं को वर्गीकृत करते हैं, और हर अगली परत के साथ लक्ष्य मान का दायरा सिमटता जाता है ताकि सटीक अनुमान बन सकें। आउटपुट लेयर हिडन लेयर की जानकारी का उपयोग करके सबसे संभावित लेबल चुनती है—जैसे हमारे मामले में बिल्ली के बजाय कुत्ते की छवि का सही अनुमान।

आर्टिफिशियल इंटेलिजेंस बनाम डीप लर्निंग

आइए इंटरनेट पर सबसे अधिक पूछे जाने वाले सवाल का जवाब दें: "क्या डीप लर्निंग आर्टिफिशियल इंटेलिजेंस है?" छोटा जवाब—हाँ। डीप लर्निंग, मशीन लर्निंग का उपसमुच्चय है और मशीन लर्निंग, AI का उपसमुच्चय है।

AI बनाम ML बनाम DL

आर्टिफिशियल इंटेलिजेंस वह अवधारणा है कि बुद्धिमान मशीनें बनाई जा सकती हैं जो मानव व्यवहार की नकल कर सकें या मानव बुद्धिमत्ता से आगे निकल सकें। AI, मानवीय कार्य पूरे करने के लिए मशीन लर्निंग और डीप लर्निंग दोनों तरीकों का उपयोग करता है। संक्षेप में, AI में डीप लर्निंग शामिल है, क्योंकि यह ऐसा उन्नत एल्गोरिदम है जो बुद्धिमान निर्णय लेने में सक्षम है।

डीप लर्निंग का उपयोग किन कामों में होता है?

हाल ही में तकनीकी दुनिया में आर्टिफिशियल इंटेलिजेंस अनुप्रयोगों में जबरदस्त वृद्धि हुई है, और ये सभी डीप लर्निंग मॉडलों द्वारा संचालित हैं। इन अनुप्रयोगों की रेंज Netflix पर फिल्में सुझाने से लेकर Amazon के वेयरहाउस प्रबंधन सिस्टम तक फैली है।

इस खंड में, हम डीप लर्निंग से बनाए गए कुछ सबसे प्रसिद्ध अनुप्रयोगों के बारे में जानेंगे। इससे आप डीप न्यूरल नेटवर्क्स की पूरी क्षमता समझ पाएंगे।

कंप्यूटर विज़न

कंप्यूटर विज़न (CV) का उपयोग सेल्फ-ड्राइविंग कारों में वस्तुओं का पता लगाने और टक्कर से बचने के लिए किया जाता है। इसका उपयोग फेस रिकग्निशन, पोज़ एस्टीमेशन, इमेज क्लासिफिकेशन और एनोमली डिटेक्शन में भी होता है।

फेस रिकग्निशन

ऑटोमैटिक स्पीच रिकग्निशन

ऑटोमैटिक स्पीच रिकग्निशन (ASR) का उपयोग दुनिया भर में अरबों लोग करते हैं। यह हमारे फोन में मौजूद है और आमतौर पर "Hey, Google" या "Hi, Siri" कहकर सक्रिय किया जाता है। ऐसे ऑडियो अनुप्रयोगों का उपयोग टेक्स्ट-टू-स्पीच, ऑडियो क्लासिफिकेशन और वॉइस एक्टिविटी डिटेक्शन में भी होता है।

स्पीच पैटर्न रिकग्निशन

जेनरेटिव AI

जेनरेटिव AI की मांग में उछाल आया है क्योंकि CryptoPunk NFT $1 मिलियन में बिका। CryptoPunk एक जेनरेटिव आर्ट कलेक्शन है, जो डीप लर्निंग मॉडलों का उपयोग करके बनाया गया है। GPT-4 मॉडल का OpenAI द्वारा परिचय, शक्तिशाली ChatGPT टूल के साथ टेक्स्ट जेनरेशन क्षेत्र में क्रांति लेकर आया; अब आप मॉडलों को पूरा उपन्यास लिखने या अपने डेटा साइंस प्रोजेक्ट्स के लिए कोड लिखने तक सिखा सकते हैं। 

जेनरेटिव आर्ट

अनुवाद

डीप लर्निंग आधारित अनुवाद केवल भाषाई अनुवाद तक सीमित नहीं है, क्योंकि अब हम OCR का उपयोग करके फोटो को टेक्स्ट में बदल सकते हैं, या NVIDIA के GauGAN2 से टेक्स्ट को इमेज में।

भाषा अनुवाद

टाइम सीरीज़ पूर्वानुमान

टाइम सीरीज़ फोरकास्टिंग का उपयोग बाजार में गिरावट, शेयर कीमतों और मौसम में बदलाव की भविष्यवाणी के लिए किया जाता है। वित्तीय क्षेत्र अटकलों और भविष्य के आकलनों पर टिका है। डीप लर्निंग और टाइम सीरीज़ मॉडल पैटर्न पहचानने में मनुष्यों से बेहतर हैं और इसलिए इस तथा ऐसे कई उद्योगों में अहम उपकरण हैं।

टाइम सीरीज़ पूर्वानुमान

स्वचालन

डीप लर्निंग का उपयोग कार्यों को स्वचालित करने के लिए किया जाता है, जैसे वेयरहाउस प्रबंधन के लिए रोबोट्स को प्रशिक्षित करना। सबसे लोकप्रिय अनुप्रयोग वीडियो गेम खेलना और पहेलियाँ हल करने में बेहतर होना है। हाल ही में, OpenAI के Dota AI ने प्रो टीम OG को हरा दिया, जिसने दुनिया को चौंका दिया क्योंकि लोगों को उम्मीद नहीं थी कि पाँचों बॉट्स विश्व चैंपियनों को मात दे देंगे।

रीइन्फोर्समेंट लर्निंग से संचालित रोबोटिक आर्म

ग्राहक प्रतिक्रिया

डीप लर्निंग का उपयोग ग्राहकों की प्रतिक्रिया और शिकायतों को संभालने के लिए किया जाता है। हर चैटबॉट एप्लिकेशन में इसे निर्बाध ग्राहक सेवा देने के लिए अपनाया जाता है।

ग्राहक प्रतिक्रिया

बायोमेडिकल

डीप लर्निंग के आगमन से सबसे अधिक लाभ पाने वाले क्षेत्रों में यह प्रमुख है। DL का उपयोग बायोमेडिसिन में कैंसर का पता लगाने, स्थिर दवाएँ विकसित करने, छाती के एक्स-रे में असामान्यताओं का पता लगाने और चिकित्सा उपकरणों की सहायता के लिए किया जाता है।

DNA अनुक्रमों का विश्लेषण

डीप लर्निंग मॉडल्स

आइए डीप लर्निंग के विभिन्न प्रकार के मॉडलों और उनके काम करने के तरीके के बारे में जानें।

सुपरवाइज़्ड लर्निंग

सुपरवाइज़्ड लर्निंग लेबल्ड डेटा सेट का उपयोग करके मॉडलों को डेटा वर्गीकृत करने या मानों की भविष्यवाणी करने के लिए प्रशिक्षित करती है। डेटा सेट में फीचर्स और लक्ष्य लेबल शामिल होते हैं, जिनके आधार पर एल्गोरिदम भविष्यवाणी और वास्तविक लेबल के बीच हानि को घटाकर समय के साथ सीखता है। सुपरवाइज़्ड लर्निंग को क्लासिफिकेशन और रिग्रेशन समस्याओं में बाँटा जा सकता है।

क्लासिफिकेशन

क्लासिफिकेशन एल्गोरिदम फीचर एक्सट्रैक्शन के आधार पर डेटा सेट को विभिन्न श्रेणियों में विभाजित करता है। लोकप्रिय डीप लर्निंग मॉडल्स में इमेज क्लासिफिकेशन के लिए ResNet50 और टेक्स्ट क्लासिफिकेशन के लिए BERT (language model)) शामिल हैं।

क्लासिफिकेशन

रिग्रेशन

डेटा सेट को श्रेणियों में बाँटने के बजाय, रिग्रेशन मॉडल इनपुट और आउटपुट वेरिएबल्स के बीच संबंध सीखकर परिणाम का अनुमान लगाता है। रिग्रेशन मॉडल्स का उपयोग आमतौर पर प्रीडिक्टिव एनालिसिस, मौसम पूर्वानुमान और शेयर बाजार के प्रदर्शन की भविष्यवाणी में होता है। LSTM और RNN लोकप्रिय डीप लर्निंग रिग्रेशन मॉडल्स हैं।

लिनियर रिग्रेशन

अनसुपरवाइज़्ड लर्निंग

अनसुपरवाइज़्ड लर्निंग एल्गोरिदम बिना लेबल वाले डेटा सेट के भीतर पैटर्न सीखते हैं और क्लस्टर बनाते हैं। डीप लर्निंग मॉडल्स मानव हस्तक्षेप के बिना छिपे पैटर्न सीख सकते हैं और इन्हें अक्सर रिकमेंडेशन इंजन में उपयोग किया जाता है।

अनसुपरवाइज़्ड लर्निंग का उपयोग प्रजातियों के समूह बनाने, चिकित्सीय इमेजिंग और मार्केट रिसर्च में किया जाता है। क्लस्टरिंग के लिए सबसे आम डीप लर्निंग मॉडल डीप एम्बेडेड क्लस्टरिंग एल्गोरिदम है।

डेटा का क्लस्टरिंग

रीइन्फोर्समेंट लर्निंग

रीइन्फोर्समेंट लर्निंग (RL) एक मशीन लर्निंग विधि है जिसमें एजेंट्स परिवेश से अलग-अलग व्यवहार सीखते हैं। यह एजेंट यादृच्छिक क्रियाएँ करता है और पुरस्कार प्राप्त करता है। एजेंट जटिल परिवेश में बिना मानवीय हस्तक्षेप के ट्रायल-एंड-एरर से लक्ष्य हासिल करना सीखता है।

जैसे एक शिशु माता-पिता के प्रोत्साहन से चलना सीखता है, वैसे ही AI पुरस्कार अधिकतम करके कुछ कार्य करना सीखता है, और डिजाइनर पुरस्कार नीति निर्धारित करता है। हाल में, रोबोटिक्स, सेल्फ-ड्राइविंग कारें, खेलों में प्रो खिलाड़ियों को हराना और रॉकेट्स को धरती पर वापस उतारना जैसे क्षेत्रों में प्रगति के कारण स्वचालन में RL की मांग बढ़ी है।

रीइन्फोर्समेंट लर्निंग फ्रेमवर्क

आइए Mario वीडियो गेम को उदाहरण के रूप में लें:

• शुरुआत में, एजेंट (Mario कैरेक्टर) को परिवेश से स्टेट शून्य प्राप्त होता है।
• स्टेट के आधार पर एजेंट एक एक्शन लेता है; हमारे मामले में Mario दाईं ओर बढ़ा।
• अब स्टेट बदल गया है और कैरेक्टर नए फ़्रेम में है।
• एजेंट को रिवार्ड मिलता है, क्योंकि दाईं ओर बढ़ने से कैरेक्टर मरा नहीं। हमारा मुख्य उद्देश्य रिवार्ड्स को अधिकतम करना है।

एजेंट क्रिया लेने और रिवार्ड अधिकतम करने का यह लूप तब तक जारी रखेगा जब तक वह स्टेज के अंत तक नहीं पहुँच जाता या मर नहीं जाता।

जेनरेटिव एडवर्सेरियल नेटवर्क्स

जेनरेटिव एडवर्सेरियल नेटवर्क्स (GANs) दो न्यूरल नेटवर्क का उपयोग करते हैं और मिलकर मूल डेटा के सिंथेटिक उदाहरण उत्पन्न करते हैं। हाल के वर्षों में GANs ने काफी लोकप्रियता हासिल की है क्योंकि वे महान कलाकारों की शैली की नकल कर उत्कृष्ट कृतियाँ बना सकते हैं। इनका व्यापक उपयोग सिंथेटिक आर्ट, वीडियो, संगीत और टेक्स्ट बनाने में होता है। वास्तविक दुनिया के अनुप्रयोगों के बारे में अधिक जानें: Generative Adversarial Networks Tutorial।

जेनरेटिव एडवर्सेरियल नेटवर्क फ्रेमवर्क 

सिंथेटिक इमेज जेनरेशन में GANs कैसे काम करते हैं:

• पहले, जेनरेटर नेटवर्क्स रैंडम नॉइज़ को इनपुट के रूप में लेते हैं और नकली छवियाँ बनाते हैं।
• बनाई गई और वास्तविक छवियों—दोनों—को डिस्क्रिमिनेटर में भेजा जाता है।
• डिस्क्रिमिनेटर तय करता है कि जनरेट की गई छवि वास्तविक है या नहीं। यह शून्य से एक के बीच प्रायिकता लौटाता है, जहाँ शून्य नकली और एक प्रामाणिक छवि को दर्शाता है।
GANs की आर्किटेक्चर में दो फीडबैक लूप होते हैं। डिस्क्रिमिनेटर वास्तविक छवियों के साथ एक फीडबैक लूप में होता है, जबकि जेनरेटर डिस्क्रिमिनेटर के साथ फीडबैक लूप में होता है। वे अधिक प्रामाणिक छवियाँ उत्पन्न करने के लिए तालमेल में काम करते हैं।

ग्राफ न्यूरल नेटवर्क

ग्राफ एक डेटा स्ट्रक्चर है जो एजेज़ और वर्टिसिज़ से बना होता है। यदि वर्टिसिज़ (नोड्स) के बीच दिशात्मक निर्भरताएँ हों, तो एजेज़ निर्देशित हो सकते हैं, जिन्हें डायरेक्टेड ग्राफ भी कहा जाता है। नीचे दिए आरेख में हरे घेरे नोड्स हैं और तीर एजेज़ का प्रतिनिधित्व करते हैं।

एक डायरेक्टेड ग्राफ

ग्राफ न्यूरल नेटवर्क (GNN) डीप लर्निंग की वह आर्किटेक्चर है जो सीधे ग्राफ संरचनाओं पर कार्य करती है। GNNs का उपयोग बड़े डेटा सेट विश्लेषण, रिकमेंडेशन सिस्टम्स और कंप्यूटर विज़न में किया जाता है।

एक ग्राफ नेटवर्क

इनका उपयोग नोड क्लासिफिकेशन, लिंक प्रिडिक्शन और क्लस्टरिंग में भी होता है। कुछ मामलों में, ग्राफ न्यूरल नेटवर्क्स ने कॉन्वोल्यूशनल न्यूरल नेटवर्क्स से बेहतर प्रदर्शन किया है, जैसे वस्तुओं की पहचान करना और सैमांटिक संबंधों का पूर्वानुमान।

नेचुरल लैंग्वेज प्रोसेसिंग

NLP मानव भाषा को पढ़ने, समझने और व्याख्यायित करने के लिए डीप लर्निंग का उपयोग करता है। इसका व्यापक उपयोग स्पीच, टेक्स्ट और इमेज प्रोसेसिंग में होता है। ट्रांसफर लर्निंग के आगमन ने NLP को अगले स्तर पर पहुंचा दिया है क्योंकि अब हम कुछ नमूनों के साथ मॉडल को फाइन-ट्यून कर अत्याधुनिक प्रदर्शन पा सकते हैं।

NLP की उप-श्रेणियाँ

NLP को कई क्षेत्रों में बाँटा जा सकता है:

• अनुवाद: भाषाओं, आणविक संरचनाओं और गणितीय समीकरणों का अनुवाद
• सार-संक्षेप: बड़े टेक्स्ट को कुछ पंक्तियों में समेटना, जबकि मुख्य जानकारी बरकरार रहे।
• वर्गीकरण: टेक्स्ट को विभिन्न श्रेणियों में बाँटना।
• जनरेशन: टेक्स्ट-टू-टेक्स्ट जेनरेशन; एक ही पंक्ति के आधार पर पूरा निबंध तैयार किया जा सकता है।
• संवादात्मक: वर्चुअल असिस्टेंट, बातचीत के पूर्व ज्ञान को सँजोना और मानवीय संवाद की नकल करना।
• प्रश्नोत्तरी: AI, Q&A डेटा का उपयोग करके प्रश्नों के उत्तर देता है।
• फीचर एक्सट्रैक्शन: टेक्स्ट में पैटर्न का पता लगाना या "नेम्ड एंटिटी रिकग्निशन" और "पार्ट ऑफ स्पीच" जैसी सूचनाएँ निकालना।
• वाक्य समानता: विभिन्न टेक्स्ट्स के बीच समानता का आकलन।
• टेक्स्ट-टू-स्पीच: टेक्स्ट को श्रव्य भाषण में बदलना।
• ऑटोमैटिक स्पीच रिकग्निशन: विभिन्न ध्वनियों को समझना और उन्हें टेक्स्ट में बदलना।
• ऑप्टिकल कैरेक्टर रिकग्निशन: छवियों से टेक्स्ट डेटा निकालना।

यदि आप NLP के विभिन्न अनुप्रयोगों को आज़माना चाहते हैं, तो Hugging Face Spaces देखें। Spaces पर सभी प्रकार के वेब अनुप्रयोग उपलब्ध हैं, जिनसे आप खेल-खेल में अपने NLP प्रोजेक्ट के लिए प्रेरणा ले सकते हैं।

डीप लर्निंग की अवधारणाओं पर गहन दृष्टि

एक्टिवेशन फंक्शन्स

न्यूरल नेटवर्क्स में, एक्टिवेशन फंक्शन आउटपुट डिसीजन बाउंड्रीज़ बनाते हैं और मॉडल के प्रदर्शन में सुधार के लिए उपयोग किए जाते हैं। एक्टिवेशन फंक्शन एक गणितीय अभिव्यक्ति है जो इनपुट के महत्व के आधार पर तय करता है कि उसे न्यूरॉन से गुजरने देना है या नहीं। यह नेटवर्क्स में नॉन-लाइनियरिटी भी जोड़ता है। एक्टिवेशन फंक्शन के बिना, न्यूरल नेटवर्क एक साधारण लिनियर रिग्रेशन मॉडल बनकर रह जाता है।

एक्टिवेशन फंक्शन्स के कई प्रकार हैं:

• Tanh
• ReLU
• Sigmoid
• Linear
• Softmax
• Swish

एक्टिवेशन फंक्शन

ये फंक्शन्स ऊपर दी गई छवि के अनुसार विभिन्न आउटपुट बाउंड्रीज़ बनाते हैं। कई परतों और एक्टिवेशन फंक्शन्स के साथ, आप किसी भी जटिल समस्या को सुलझा सकते हैं। और जानें: डीप लर्निंग में एक्टिवेशन फंक्शन्स क्या हैं?

लॉस फंक्शन

लॉस फंक्शन वास्तविक और पूर्वानुमानित मानों के बीच का अंतर है। यह न्यूरल नेटवर्क्स को मॉडल के समग्र प्रदर्शन पर नज़र रखने देता है। विशिष्ट समस्याओं के आधार पर हम निश्चित प्रकार का फंक्शन चुनते हैं, जैसे कि मीन स्क्वेयर्ड एरर।

Loss = Sum (Predicted - Actual)²

डीप लर्निंग में सबसे अधिक उपयोग किए जाने वाले लॉस फंक्शन्स:

• बाइनरी क्रॉस-एंट्रॉपी
• कैटेगॉरिकल हिंग
• मीन स्क्वेयर्ड एरर
• ह्यूबर
• स्पार्स कैटेगॉरिकल क्रॉस-एंट्रॉपी

बैकप्रोपेगेशन

फॉरवर्ड प्रोपेगेशन में, हम अपने न्यूरल नेटवर्क को रैंडम इनपुट्स से प्रारंभ करते हैं ताकि आउटपुट भी रैंडम हो। अपने मॉडल का प्रदर्शन बेहतर बनाने के लिए, हम बैकप्रोपेगेशन का उपयोग करके वेट्स को समायोजित करते हैं। मॉडल के प्रदर्शन को ट्रैक करने के लिए हमें एक लॉस फंक्शन चाहिए, जो ग्लोबल मिनिमा ढूँढे ताकि मॉडल की सटीकता अधिकतम हो सके।

स्टोकेस्टिक ग्रेडिएंट डिसेंट

ग्रेडिएंट डिसेंट का उपयोग लॉस फंक्शन को अनुकूलित करने के लिए किया जाता है—वेट्स को नियंत्रित तरीके से बदलकर न्यूनतम लॉस हासिल करने हेतु। अब हमारे पास उद्देश्य है, लेकिन दिशा चाहिए कि बेहतर प्रदर्शन के लिए वेट्स बढ़ाने हैं या घटाने हैं। लॉस फंक्शन का डेरिवेटिव हमें दिशा देता है और हम इसका उपयोग नेटवर्क के वेट्स अपडेट करने में कर सकते हैं।

ग्रेडिएंट डिसेंट

नीचे का समीकरण दिखाता है कि ग्रेडिएंट डिसेंट के माध्यम से वेट्स कैसे अपडेट होते हैं।

w = w -Jw

स्टोकेस्टिक ग्रेडिएंट डिसेंट में सैंपल्स को पूरे डेटा सेट के बजाय बैचों में बाँटा जाता है ताकि ग्रेडिएंट डिसेंट को अनुकूलित किया जा सके। यदि आप कम समय में न्यूनतम लॉस पाना चाहते हैं और संगणनात्मक शक्ति का बेहतर उपयोग करना चाहते हैं, तो यह उपयोगी है।

हाइपरपैरामीटर

हाइपरपैरामीटर वे ट्यून करने योग्य पैरामीटर हैं जिन्हें प्रशिक्षण प्रक्रिया चलाने से पहले समायोजित किया जाता है। ये पैरामीटर सीधे मॉडल के प्रदर्शन को प्रभावित करते हैं और आपको तेज़ी से ग्लोबल मिनिमा तक पहुँचने में मदद करते हैं।

सबसे अधिक उपयोग किए जाने वाले हाइपरपैरामीटर:

• लर्निंग रेट: प्रत्येक इटरेशन का स्टेप साइज, जिसे 0.1 से 0.0001 तक सेट किया जा सकता है। संक्षेप में, यह तय करता है कि मॉडल किस गति से सीखता है।
• बैच साइज: एक समय में न्यूरल नेटवर्क से गुजरने वाले सैंपल्स की संख्या।
• एपॉक्स की संख्या: यह दर्शाता है कि मॉडल कितनी बार वेट्स बदलता है। बहुत अधिक एपॉक्स ओवरफिटिंग और बहुत कम एपॉक्स अंडरफिटिंग का कारण बन सकते हैं, इसलिए हमें एक मध्यम संख्या चुननी चाहिए।

ये घटक मिलकर कैसे काम करते हैं, यह जानने के लिए Keras Tutorial: Deep Learning in Python का अनुसरण करें।

लोकप्रिय एल्गोरिदम

कॉन्वोल्यूशनल न्यूरल नेटवर्क्स

कॉन्वोल्यूशनल न्यूरल नेटवर्क (CNN) एक फीड-फॉरवर्ड न्यूरल नेटवर्क है, जो डेटा की संरचित एरे को प्रोसेस करने में सक्षम है। इसका व्यापक उपयोग कंप्यूटर विज़न अनुप्रयोगों, जैसे इमेज क्लासिफिकेशन, में होता है।

कॉन्वोल्यूशनल न्यूरल नेटवर्क आर्किटेक्चर

CNNs पैटर्न, रेखाएँ और आकृतियाँ पहचानने में अच्छे होते हैं। CNN में कॉन्वोल्यूशनल लेयर, पूलिंग लेयर और आउटपुट लेयर (फुली कनेक्टेड लेयर्स) शामिल होते हैं। इमेज क्लासिफिकेशन मॉडल्स में आमतौर पर कई कॉन्वोल्यूशन लेयर्स होती हैं, जिनके बाद पूलिंग लेयर्स आती हैं, क्योंकि अतिरिक्त परतें मॉडल की सटीकता बढ़ाती हैं। कॉन्वोल्यूशनल लेयर्स के बारे में अधिक जानें: Convolutional Neural Networks in Python।

रिकरेंट न्यूरल नेटवर्क्स

रिकरेंट न्यूरल नेटवर्क्स (RNN) फीड-फॉरवर्ड नेटवर्क्स से अलग होते हैं क्योंकि किसी लेयर का आउटपुट उसी लेयर के इनपुट में वापस फीड होता है ताकि अगला आउटपुट अनुमानित किया जा सके। यह उन्हें अनुक्रमिक डेटा के साथ बेहतर प्रदर्शन करने में मदद करता है, क्योंकि वे भविष्य के सैंपल्स का अनुमान लगाने के लिए पिछले सैंपल्स की सूचना संजो सकते हैं। अधिक जानें: Recurrent Neural Network (RNN) Tutorial: Types & Examples।

रिकरेंट न्यूरल नेटवर्क आर्किटेक्चर

पारंपरिक न्यूरल नेटवर्क्स में लेयर्स का आउटपुट वर्तमान इनपुट मानों पर आधारित होता है, लेकिन RNN में आउटपुट पिछले इनपुट्स पर भी आधारित होता है। इससे यह अगले शब्द की भविष्यवाणी, शेयर कीमतों का पूर्वानुमान, AI चैटबॉट्स और एनोमली डिटेक्शन में काफी सक्षम होता है।

लॉन्ग शॉर्ट-टर्म मेमोरी नेटवर्क्स

लॉन्ग शॉर्ट-टर्म मेमोरी नेटवर्क्स (LSTM) रिकारेंट न्यूरल नेटवर्क्स का उन्नत रूप हैं, जो पिछले मानों की अधिक जानकारी संजो सकते हैं। यह साधारण RNN में मौजूद वैनिशिंग ग्रेडिएंट समस्या को हल करता है।

LSTM आर्किटेक्चर

परंपरागत RNN में एकल tanh लेयर के साथ दोहराए जाने वाले न्यूरल नेटवर्क्स होते हैं, जबकि LSTM में चार इंटरेक्टिव लेयर्स होती हैं, जो बड़े अनुक्रमों के डेटा को प्रोसेस करने के लिए परस्पर संवाद करती हैं।

आप व्यावहारिक अनुभव के लिए यह ट्यूटोरियल: स्टॉक प्रिडिक्शन के लिए LSTM या यदि आप डीप लर्निंग मॉडल्स के बारे में और सीखना चाहते हैं तो advanced deep learning with Keras कोर्स आजमा सकते हैं।

डीप लर्निंग फ्रेमवर्क्स

MxNet, CNTK और Caffe2 जैसे कई डीप लर्निंग फ्रेमवर्क्स हैं, लेकिन हम सबसे लोकप्रिय फ्रेमवर्क्स के बारे में सीखेंगे।

Tensorflow

Tensorflow (TF) एक ओपन-सोर्स लाइब्रेरी है, जिसका उपयोग डीप लर्निंग अनुप्रयोग बनाने के लिए किया जाता है। इसमें आपके लिए प्रयोग करने और कमर्शियल AI प्रोडक्ट्स विकसित करने हेतु सभी आवश्यक टूल्स शामिल हैं। यह जटिल मॉडलों को प्रशिक्षित करने के लिए CPU, GPU और TPU—तीनों—का समर्थन करता है। TF मूल रूप से Google AI टीम द्वारा आंतरिक उपयोग के लिए विकसित किया गया था और अब सार्वजनिक रूप से उपलब्ध है।

Tensorflow API ब्राउज़र-आधारित अनुप्रयोगों, मोबाइल डिवाइसेज़ के लिए उपलब्ध है, और TensorFlow Extended प्रोडक्शन के लिए उपयुक्त है। TF अब उद्योग मानक बन चुका है, और इसे शैक्षणिक अनुसंधान और प्रोडक्शन में डीप लर्निंग मॉडल्स को तैनात करने—दोनों—के लिए उपयोग किया जाता है।

TF के साथ Tensorboard भी आता है, जो आपके मशीन लर्निंग प्रयोगों का विश्लेषण करने में सक्षम एक डैशबोर्ड है। हाल ही में, Tensorflow डेवलपर्स ने Keras को अपने फ्रेमवर्क में एकीकृत कर दिया है, जो डीप न्यूरल नेटवर्क्स विकसित करने के लिए लोकप्रिय है। अधिक जानें: Introduction to TensorFlow in Python Course।

Keras

Keras एक न्यूरल नेटवर्क फ्रेमवर्क है जो Python में लिखा गया है और Tensorflow तथा Theano जैसे कई फ्रेमवर्क्स पर चलने में सक्षम है। Keras एक ओपन-सोर्स लाइब्रेरी है, जिसे डीप लर्निंग में तेज़ प्रयोग-संधान सक्षम करने के लिए विकसित किया गया है, ताकि आप अपने विचारों को आसानी से काम करने वाले AI अनुप्रयोगों में बदल सकें।

इसका दस्तावेज़ीकरण समझने में आसान है, और API Numpy के समान है, जिससे इसे किसी भी डेटा साइंस प्रोजेक्ट के साथ आसानी से एकीकृत किया जा सकता है। TF की तरह, उपलब्ध हार्डवेयर के अनुसार Keras भी CPU, GPU और TPU—पर चल सकता है। अधिक जानें: Introduction to Deep Learning with Keras।

PyTorch

PyTorch सबसे लोकप्रिय और सबसे आसान डीप लर्निंग फ्रेमवर्क है। यह GPU द्वारा संचालित तेज़ संख्यात्मक गणना करने के लिए Numpy एरे के बजाय टेन्सर का उपयोग करता है। PyTorch का उपयोग मुख्य रूप से डीप लर्निंग और जटिल मशीन लर्निंग मॉडलों के विकास में किया जाता है।

शैक्षणिक शोधकर्ता इसकी लचीलापन और सरलता के कारण PyTorch को प्राथमिकता देते हैं। यह C++ और Python में लिखा गया है, और GPU तथा TPU एक्सेलेरेशन के साथ आता है। यह सभी डीप लर्निंग समस्याओं के लिए एक वन-स्टॉप समाधान बन गया है। यदि आप PyTorch के बारे में और सीखना चाहते हैं, तो Introduction to Deep Learning with PyTorch कोर्स आज़माएँ।

निष्कर्ष

इस ट्यूटोरियल में, हमने देखा कि डीप लर्निंग क्या है, इसके कुछ मूल सिद्धांत, यह कैसे काम करती है, और इसके अनुप्रयोग क्या हैं। हमने यह भी समझा कि डीप न्यूरल नेटवर्क कैसे काम करते हैं और डीप लर्निंग मॉडलों के विभिन्न प्रकार कौन-से हैं। अंत में, आपको कुछ लोकप्रिय डीप लर्निंग फ्रेमवर्क्स से परिचित कराया गया।

यह ट्यूटोरियल आपको डीप लर्निंग के क्षेत्र में शुरुआत करने के लिए आवश्यक सभी प्रमुख जानकारी प्रदान करता है। आगे सीखने के लिए, Deep Learning in Python Track आपको वास्तविक दुनिया की परियोजनाओं पर काम करने के लिए तैयार करेगा। यदि आप R प्रोग्रामिंग भाषा में सहज हैं, तो deep learning with Keras in R भी देख सकते हैं।