Auto-Keras के साथ स्वचालित मशीन लर्निंग

आजकल मशीन लर्निंग कोई अनसुना शब्द नहीं रह गया है, क्योंकि DataCamp, Coursera, Udacity जैसी कई संस्थाएँ लगातार इस कोशिश में हैं कि मशीन लर्निंग की शिक्षा को आम लोगों तक कितनी कुशलता और लचीलेपन के साथ पहुँचाया जा सके। उनके प्लेटफ़ॉर्म्स की बदौलत, लगभग बिना किसी पूर्व-आवश्यकता के इस क्षेत्र में शुरुआत करना अब काफ़ी आसान हो गया है। फिर भी, स्वचालित मशीन लर्निंग शब्द इन दिनों लोकप्रिय डेटा साइंस शिक्षा मंचों पर सुर्खियाँ बटोर रहा है। Google, H2O.ai जैसी कई संस्थाएँ इस क्षेत्र में उल्लेखनीय काम कर रही हैं। यह विषय, मशीन लर्निंग की तुलना में, बहुत सामान्य नहीं है। क्योंकि मशीन लर्निंग स्वयं ही स्वचालन से जुड़ी होती है; तो स्वाभाविक रूप से मन में पहला सवाल आता है - "क्या मशीन लर्निंग को भी स्वचालित किया जा सकता है?"

इस ट्यूटोरियल में आपको ऐसे कई सवालों के जवाब मिलेंगे।

आइए शुरू करते हैं।

मानक मशीन लर्निंग पाइपलाइन को समझना

जब आप एक डेटा साइंटिस्ट के रूप में कोई समस्या हल कर रहे होते हैं, तो आपका मानक वर्कफ़्लो कुछ इस प्रकार दिखता है:

1. डेटा संग्रह
2. डेटा प्रीप्रोसेसिंग
3. समस्या के लिए उपयुक्त कोई मशीन लर्निंग मॉडल इनिशियलाइज़ करना
4. मॉडल को प्रशिक्षित करना
5. मॉडल का परीक्षण करना
6. मॉडल के पैरामीटर में बदलाव (ट्यूनिंग)
7. फिर से मॉडल का परीक्षण
8. परिणामों का संप्रेषण

दूसरा चरण, डेटा प्रीप्रोसेसिंग, अपने आप में बहुत व्यापक है क्योंकि यह उपर्युक्त पाइपलाइन का सबसे समय लेने वाला काम होता है, और इसमें डेटा क्लीनिंग, डेटा ट्रांसफ़ॉर्मेशन, फीचर सेलेक्शन आदि जैसे कई उप-कार्य शामिल होते हैं। चरण 3 से 7 तक की प्रक्रिया सिर्फ़ एक मशीन लर्निंग मॉडल के लिए है। एक अच्छा प्रैक्टिशनर निश्चित रूप से सिर्फ़ एक मॉडल पर नहीं रुकेगा। वह अलग-अलग मॉडलों पर प्रयोग करेगा, उनके परिणामों की तुलना करेगा और अंत में समस्या के लिए सर्वश्रेष्ठ मॉडल चुनेगा। यहाँ एक और समय लेने वाला काम सामने आता है - कौन सा मॉडल चुना जाए?

मशीन लर्निंग कार्यों में डिबगिंग प्रक्रिया के बारे में निम्नलिखित उद्धरण बेहद सटीक है और इसे ध्यान में रखना ज़रूरी है:

तो, अब तक आपको एक मानक मशीन लर्निंग इंजीनियरिंग कार्य का संक्षिप्त अंदाज़ा हो गया होगा। अंततः आपको यह तय करना होगा कि आपके हाथ में मौजूद समस्या के लिए कौन सा मॉडल सबसे बेहतर है, और यह भी समझाना होगा कि वह सबसे बेहतर क्यों है। कई बार आप ऐसी स्थिति में होंगे जहाँ आज़माने के लिए संभावनाएँ बहुत ज़्यादा होंगी, लेकिन समय-सीमा काफ़ी कड़ी। - समस्या का सार पकड़ पा रहे हैं? चलिए आगे जानते हैं।

मशीन लर्निंग पाइपलाइन को कैसे स्वचालित किया जा सकता है?

इस खंड में आप उस परिप्रेक्ष्य के साथ आगे बढ़ेंगे जिसमें किसी समस्या के लिए सर्वश्रेष्ठ मॉडल चुनना है, और जहाँ संभावनाओं की संख्या और डेडलाइन एक-दूसरे के व्युत्क्रम अनुपाती हैं।

ट्यूटोरियल की शुरुआत में आपने एक सवाल देखा था: "क्या मशीन लर्निंग को भी स्वचालित किया जा सकता है?" यह सवाल बिल्कुल भी मामूली नहीं है। Sebastian Raschka ने अपने एक इंटरव्यू में Automated Machine Learning को "स्वचालन को स्वचालित करने के स्वचालन" के रूप में वर्णित किया है।

डेटा साइंस के मानक वर्कफ़्लो के चरण संख्या 5 पर फिर से नज़र डालिए - मॉडल के हाइपरपैरामीटर्स को ट्यून करना। मान लीजिए, आपने आगे के चरणों के लिए डेटा तैयार कर लिया है और आपने एक क्लासिफ़ायर $X$ इनिशियलाइज़ किया है। अब मान लें, $X$ में 5 अलग-अलग हाइपरपैरामीटर्स हैं। तो आपको उसी क्लासिफ़ायर $X$ को हाइपरपैरामीटर्स के अलग-अलग संयोजनों के साथ आज़माना होगा, जो करना आसान नहीं है। अब आता है और मुश्किल हिस्सा। विभिन्न संयोजन आज़माने के बाद आपने पाया कि परिणाम पर्याप्त अच्छे नहीं हैं। तो आपने चार और क्लासिफ़ायर्स को टेस्ट करने का फ़ैसला किया (प्रत्येक में 6 अलग-अलग हाइपरपैरामीटर्स)। कल्पना कीजिए, यह कितना समय लेने वाला हो सकता है? और उसके बाद भी यदि अच्छे परिणाम न मिलें तो? उसकी जाँच अपने आप में एक और बेहद समय लेने वाली प्रक्रिया होगी।

यही समस्या स्वचालित मशीन लर्निंग की मूल अवधारणा को जन्म देती है।

"यदि अनेक मशीन लर्निंग मॉडल्स को विभिन्न एल्गोरिद्म और अनेक भिन्न हाइपरपैरामीटर कॉन्फ़िगरेशन के साथ बनाना पड़े, तो इस मॉडल-निर्माण को, और साथ ही मॉडल के प्रदर्शन व शुद्धता की तुलना को, स्वचालित किया जा सकता है।" - KDNuggets

अब आपके पास यह वजह है कि क्यों स्वचालित मशीन लर्निंग शब्द इन दिनों लोकप्रिय डेटा साइंस शिक्षा मंचों पर सुर्खियाँ बटोर रहा है। अगले खंड में आप स्वचालित मशीन लर्निंग के बारे में और जानेंगे।

स्वचालित मशीन लर्निंग का परिचय

विभिन्न मशीन लर्निंग मॉडलों के लिए हाइपरपैरामीटर्स को ट्यून करना भी अत्यधिक समय लेने वाला कार्य हो सकता है। कंप्यूटर विज्ञान की भाषा में, हाइपरपैरामीटर ट्यूनिंग एक खोज प्रक्रिया है, जो इस मामले में अत्यंत विस्तृत हो सकती है। तो क्या हो अगर यह प्रक्रिया स्वयं ही स्वचालित हो सके? मूलतः, स्वचालित मशीन लर्निंग यही करती है। "डेटा साइंटिस्ट्स की कमी का सीधा समाधान स्वचालित मशीन लर्निंग है, क्योंकि यह कार्य-चक्रों को तेज़ करके, मॉडल की सटीकता में सुधार करके, और अंततः संभवतः डेटा साइंटिस्ट्स की ज़रूरत को भी प्रतिस्थापित करके, डेटा साइंटिस्ट्स के प्रदर्शन और उत्पादकता को नाटकीय रूप से बढ़ा सकती है।" -Automated Machine Learning for Internet of Things

अब आपके पास स्वचालित मशीन लर्निंग के बारे में पर्याप्त जानकारी है, और आप इसे व्यवहार में देखने के लिए तैयार हैं। पर पहले, देखते हैं कि स्वचालित मशीन लर्निंग करने के लिए व्यापक रूप से उपयोग की जाने वाली Python लाइब्रेरीज़ कौन-सी हैं।

स्वचालित मशीन लर्निंग के लिए Python लाइब्रेरीज़

स्वचालित मशीन लर्निंग करने के लिए कई Python लाइब्रेरीज़ उपलब्ध हैं। इन सभी का लक्ष्य कमोबेश एक-सा है: मशीन लर्निंग प्रक्रिया का स्वचालन। निम्नलिखित कुछ व्यापक रूप से उपयोग की जाने वाली लाइब्रेरीज़ हैं:

• Auto-Sklearn
• TPOT
• Auto-Keras
• H2O.ai
• Google's AutoML

इनमें से प्रत्येक लाइब्रेरी "स्वचालन के स्वचालन का स्वचालन" प्रक्रिया को अलग-अलग तरीके से संभालती है। लेकिन इस ट्यूटोरियल के लिए आप Auto-Keras का उपयोग करेंगे। फिर इंतज़ार कैसा? चलिए शुरू करते हैं।

Auto-keras का परिचय

"Auto-Keras स्वचालित मशीन लर्निंग के लिए एक ओपन सोर्स सॉफ़्टवेयर लाइब्रेरी है।"(स्रोत) इसे Texas A&M University के DATA Lab और समुदाय के योगदानकर्ताओं द्वारा विकसित किया जा रहा है। आधिकारिक साइट के अनुसार auto-keras का उद्देश्य है- "इस स्वचालित मशीन लर्निंग का अंतिम लक्ष्य है कि सीमित डेटा साइंस या मशीन लर्निंग पृष्ठभूमि वाले डोमेन विशेषज्ञों को आसानी से सुलभ डीप लर्निंग टूल्स उपलब्ध कराना। Auto-Keras डीप लर्निंग मॉडलों की आर्किटेक्चर और हाइपरपैरामीटर्स के लिए स्वचालित खोज करने की सुविधाएँ प्रदान करता है।"

स्रोत: Auto-Keras

auto-keras इंस्टॉल करने के लिए बस निम्न कमांड चलाएँ।

नोट: वर्तमान में, Auto-Keras केवल Python 3.6 के साथ संगत है।

!pip install autokeras
संचालित द्वारा

अब जब आपने Auto-Keras सफलतापूर्वक इंस्टॉल कर लिया है, तो कुछ त्वरित इम्प्लीमेंटेशन का समय है।

Auto-keras का उपयोग करके AutoML का एक केस स्टडी

इस केस स्टडी के लिए आप अत्यंत लोकप्रिय MNIST डेटासेट का उपयोग करेंगे। keras में यह डेटासेट बिल्ट-इन आता है। इसलिए आपको इसे अलग से डाउनलोड करने की आवश्यकता नहीं है। आप auto-keras के ImageClassifier मॉड्यूल को लोड करके शुरुआत करेंगे। आप keras मॉड्यूल से MNIST डेटासेट भी लोड करेंगे।

from keras.datasets import mnist
from autokeras import ImageClassifier
संचालित द्वारा

आपने keras.datasets मॉड्यूल से MNIST डेटासेट लोड किया और auto-keras से ImageClassifier इम्पोर्ट किया। अब आप डेटासेट को ट्रेन और टेस्ट स्प्लिट्स में विभाजित करेंगे।

(x_train, y_train), (x_test, y_test) = mnist.load_data()
x_train = x_train.reshape(x_train.shape + (1,)) # (1,) denotes the channles which is 1 in this case
x_test = x_test.reshape(x_test.shape + (1,)) # (1,) denotes the channles which is 1 in this case
संचालित द्वारा

Downloading data from https://s3.amazonaws.com/img-datasets/mnist.npz
11493376/11490434 [==============================] - 1s 0us/step
संचालित द्वारा

आपने ट्रेन और टेस्ट स्प्लिट्स बना लिए हैं, और अब आप x_train तथा y_train के साथ ImageClassifier को फिट करेंगे। आप इसका प्रदर्शन x_test और y_test पर जाँचेंगे।

# Instantiate the ImageClassifier class
clf = ImageClassifier(verbose=True, augment=False)
# Fit the train set to the image classifier
clf.fit(x_train, y_train, time_limit=12 * 60 * 60)
clf.final_fit(x_train, y_train, x_test, y_test, retrain=True)
# Summarize the results
y = clf.evaluate(x_test, y_test)
print(y * 100)
संचालित द्वारा

जैसा ऊपर है, उतना ही सरल। सिर्फ़ 4 - 5 पंक्तियों के कोड में आप एक त्वरित प्रयोग कर सकते हैं। हालाँकि, यह वास्तव में इतना त्वरित नहीं है। उपर्युक्त कोड को चलने में काफ़ी समय लगता है। डीप लर्निंग प्रयोगों के लिए एक उचित कॉन्फ़िगरेशन निस्संदेह मदद करेगा। Google Colab भी इसकी अच्छी शुरुआत है।

अब आइए उन पैरामीटर्स के बारे में और जानें जिनका उपयोग आपने उपर्युक्त कोड में किया। इसके लिए आप auto-keras के दस्तावेज़ का संदर्भ लेंगे और नीचे दस्तावेज़ से संबंधित अंश दिए गए हैं:

• ImageClassifier() में:
  • verbose: यह बूलियन बताता है कि सर्च प्रक्रिया आउटपुट पर प्रिंट होगी या नहीं।
  • augment: यह बूलियन बताता है कि डेटा ऑग्मेंटेशन की आवश्यकता है या नहीं। यदि निर्दिष्ट नहीं किया गया, तो यह Constant.DATA_AUGMENTATION के मान का उपयोग करेगा जो डिफ़ॉल्ट रूप से True होता है।
• fit() मेथड में:
  • time_limit: सर्च के लिए समय सीमा (सेकंड में)।
• final_fit(): सर्वश्रेष्ठ आर्किटेक्चर मिलने के बाद अंतिम प्रशिक्षण।
  • retrain: यह बूलियन बताता है कि मॉडल के वेट्स को पुनः-इनिशियलाइज़ करना है या नहीं।

Auto-keras एक विकसित होती लाइब्रेरी है और अभी प्री-रिलीज़ संस्करण में है। आधिकारिक साइट के अनुसार, यह निम्न प्रमुख मॉड्यूल्स को सपोर्ट करती है:

• supervised: सभी सुपरवाइज़्ड कार्यों के लिए बेस क्लास।
• bayesian: बेयेज़ियन ऑप्टिमाइज़ेशन के लिए GaussianProcessRegressor।
• search: सभी सर्चर क्लासेज़ का बेस क्लास। हर सर्चर क्लास अपनी रणनीति लागू करने के लिए अपनी सर्च फ़ंक्शन को ओवरराइड कर सकती है।
• graph: Keras मॉडल के न्यूरल आर्किटेक्चर ग्राफ़ का प्रतिनिधित्व करने वाला क्लास। Graph, Keras मॉडल से न्यूरल आर्किटेक्चर ग्राफ़ निकालता है। ग्राफ़ का प्रत्येक नोड लेयर्स के बीच का एक इंटरमीडिएट टेन्सर होता है। प्रत्येक लेयर ग्राफ़ में एक एज होती है। उल्लेखनीय है कि एक ही लेयर को कई एज संदर्भित कर सकती हैं। (उदा., Add लेयर दो टेन्सर्स को जोड़कर एक टेन्सर बनाती है, इसलिए यह दो एज से संबंधित है।)
• preprocessor: डेटा को फ़ॉर्मैट करने वाला क्लास। यह क्लास डेटा के वर्गीकरण लेबल को वेक्टर में बदलने के तरीक़े प्रदान करता है।
• model_trainer: मॉडल को प्रशिक्षित करने के लिए प्रयुक्त क्लास। यह क्लास दिए गए डेटा लोडर्स के साथ एक Pytorch मॉडल को प्रशिक्षित कर सकती है। metric, loss_function और model एक-दूसरे के साथ संगत होने चाहिए। कृपया Attributes में विवरण देखें।

समापन टिप्पणियाँ

आप अंत तक पहुँच गए हैं। इस ट्यूटोरियल में आपने सामान्य रूप से मशीन लर्निंग की प्रक्रिया का अध्ययन किया और जाना कि इसे कैसे स्वचालित किया जा सकता है। आपने AutoML करने के लिए उपलब्ध लाइब्रेरीज़ पर एक त्वरित नज़र डाली। आपने auto-keras का उपयोग किया और देखा कि यह किस प्रकार का उच्च-स्तरीय एब्स्ट्रैक्शन प्रदान करता है और auto-keras का उपयोग करना कितना आसान है।

यह ट्यूटोरियल आपको यह नकारात्मक धारणा दे सकता है कि AutoML, पूर्णत: परिपक्व होने पर, कई डेटा साइंटिस्ट्स की जगह ले सकता है। सच में? एक बार फिर सोचिए। AutoML वास्तव में डेटा साइंटिस्ट्स को किसी समस्या के लिए सर्वश्रेष्ठ मॉडल चुनने की दोहरावदार प्रक्रिया के बोझ से मुक्त करता है। इस दौरान, डेटा साइंटिस्ट डेटा पर अधिक ध्यान केंद्रित कर सकता है, जो अधिक आवश्यक है। Randy Olson का यह इंटरव्यू इस विषय पर कुछ बेहतरीन अंतर्दृष्टियाँ समेटे है। इसे ज़रूर पढ़ें, और आप फिर से निरुत्साहित महसूस नहीं करेंगे। यदि कभी आपको मशीन लर्निंग प्रैक्टिशनर के काम को लेकर संदेह हो, तो यह पोस्ट देख लें।

स्वचालित मशीन लर्निंग का क्षेत्र वास्तव में प्रगति कर रहा है। उदाहरण के लिए, NAS यानी Neural Architecture Search, जो सर्वश्रेष्ठ न्यूरल नेटवर्क आर्किटेक्चर खोजने वाला एल्गोरिद्म है। नीचे कुछ संसाधनों के लिंक दिए गए हैं जो AutoML के अत्याधुनिक उपयोग मामलों को दर्शाते हैं:

• डिज़ाइन बाय इवोल्यूशन: AutoML से अपना न्यूरल नेटवर्क कैसे विकसित करें
• AutoML Challenge: मशीन लर्निंग प्रतियोगिताओं के लिए एक बड़ी छलाँग
• Google की AI शोधकर्ताओं से बेहतर मशीन-लर्निंग कोड बना सकती है
• Auto-Keras, या सिर्फ़ 4 लाइनों के कोड में डीप लर्निंग मॉडल कैसे बनाएँ

कुछ संदर्भ:

• Auto-Keras, या सिर्फ़ 4 लाइनों के कोड में डीप लर्निंग मॉडल कैसे बनाएँ
• AutoKeras: Google के AutoML का किलर

यदि आप डीप लर्निंग के बारे में और सीखने में रुचि रखते हैं, तो DataCamp का "Deep Learning in Python" कोर्स लें और हमारा Introduction to Deep Learning in Python कोर्स देखें।