Normalization बनाम Standardization: फर्क कैसे पहचानें

Feature Scaling को समझना

Normalization और standardization दोनों फीचर स्केलिंग की अवधारणा/श्रेणी में आते हैं। फीचर स्केलिंग मशीन लर्निंग मॉडलों के लिए डेटा तैयार करने का एक महत्वपूर्ण चरण है। इसमें डेटासेट में मौजूद फीचर्स के मानों को समान पैमाने पर रूपांतरित करना शामिल है ताकि सभी फीचर्स मॉडल की लर्निंग प्रक्रिया में समान रूप से योगदान दें।

Feature scaling इसलिए महत्वपूर्ण है क्योंकि जब फीचर्स बहुत अलग-अलग स्केल पर हों—जैसे एक फीचर 1 से 10 के बीच और दूसरा 1,000 से 10,000 के बीच—तो मॉडल बड़े मानों को प्राथमिकता दे सकते हैं, जिससे प्रेडिक्शन में पक्षपात आ सकता है। इसका परिणाम कमजोर प्रदर्शन और प्रशिक्षण के दौरान धीमी convergence हो सकता है।

Feature scaling इन समस्याओं को डेटा की रेंज समायोजित करके दूर करता है, बिना मानों के बीच के अंतर को बिगाड़े। कई स्केलिंग तकनीकें उपलब्ध हैं, जिनमें normalization और standardization सबसे आम हैं। दोनों तरीकों से मशीन लर्निंग मॉडल बेहतर तरीके से काम करते हैं क्योंकि ये फीचर्स के प्रभाव को संतुलित करते हैं, outliers के प्रभाव को घटाते हैं और कुछ मामलों में convergence दरों में सुधार भी करते हैं।

Normalization क्या है?

Normalization एक व्यापक धारणा है और डेटा को normalize करने के कई तरीके हैं। सामान्यतः, normalization का मतलब अलग-अलग स्केल पर मापे गए मानों को एक सामान्य स्केल पर लाना होता है। कभी-कभी उदाहरण से समझना बेहतर होता है। नीचे दी गई प्रत्येक normalization प्रकार के लिए, हम घर की कीमत और उसके आकार के बीच संबंध समझने के लिए एक मॉडल पर विचार करेंगे।

Normalization के प्रकार

आइए मुख्य प्रकारों पर नज़र डालते हैं। ध्यान रहे, यह एक संपूर्ण सूची नहीं है: 

Min-max normalization

Min-max normalization के साथ, हम घरों के आकारों को 0 से 1 की रेंज में rescale कर सकते हैं। इसका मतलब है कि सबसे छोटे घर का आकार 0 और सबसे बड़े घर का आकार 1 दर्शाया जाएगा।

Log normalization

Log normalization एक और normalization तकनीक है। इसमें हम घर की कीमतों पर लघुगणकीय रूपांतरण लागू करते हैं। यह तकनीक बड़े दामों के प्रभाव को कम करने में मदद करती है, खासकर तब जब उनके बीच बहुत बड़ा अंतर हो।

Decimal scaling

Decimal scaling भी एक normalization तकनीक है। इस उदाहरण में, हम मानों को छोटा करने के लिए दशमलव बिंदु को शिफ्ट करके घरों के आकारों को समायोजित कर सकते हैं। इसका अर्थ है कि घरों के आकार एक अधिक प्रबंधनीय स्केल में बदल जाते हैं, जबकि उनके आपसी अंतर जस के तस रहते हैं।

Mean normalization (mean-centering)

इस संदर्भ में mean normalization में प्रत्येक घर की कीमत से औसत कीमत घटाना शामिल होगा। यह प्रक्रिया कीमतों को शून्य के आसपास केंद्रित करती है, जिससे पता चलता है कि प्रत्येक घर का आकार औसत की तुलना में कैसा है। ऐसा करने से हम आसानी से देख सकते हैं कि कौन-से घरों के आकार औसत से बड़े या छोटे हैं और उनकी सापेक्ष कीमतों की व्याख्या करना सरल हो जाता है।

आपको डेटा कब normalize करना चाहिए?

जैसा कि आप ऊपर के उदाहरणों से समझ सकते हैं, जब डेटा का वितरण अज्ञात हो या Gaussian वितरण का पालन न करता हो, तब normalization विशेष रूप से उपयोगी है। घर की कीमतें इसका अच्छा उदाहरण हैं क्योंकि कुछ घर अत्यंत महंगे होते हैं, और मॉडल अक्सर outliers को अच्छे से संभाल नहीं पाते।

अतः normalization का उद्देश्य बेहतर मॉडल बनाना है। हम dependent variable को normalize कर सकते हैं ताकि त्रुटियाँ अधिक समान रूप से वितरित हों, या फिर input variables को normalize कर सकते हैं ताकि बड़े स्केल वाले फीचर्स छोटे स्केल वाले फीचर्स पर हावी न हों।

Normalization निम्न स्थितियों में सबसे प्रभावी होता है:

• अज्ञात या Non-Gaussian वितरण: जब डेटा का वितरण ज्ञात न हो या सामान्य (Gaussian) पैटर्न का अनुपालन न करता हो। उदाहरण के लिए linear regression में, हम dependent variable को normalize करना चाह सकते हैं ताकि वह घंटी के आकार जैसी वक्रता ले, जिससे हमारे अनुमानों पर भरोसा बढ़ता है।
• Distance-आधारित एल्गोरिदम: जब आप k-Nearest Neighbors (k-NN) जैसे एल्गोरिदम का उपयोग करते हैं जो डेटा बिंदुओं के बीच दूरी पर निर्भर करते हैं, तो normalization आवश्यक है, ताकि बड़े स्केल वाले फीचर्स दूरी गणनाओं पर हावी न हों।

Standardization क्या है?

जहाँ normalization फीचर्स को एक निश्चित रेंज में स्केल करता है, वहीं standardization, जिसे z-score scaling भी कहते हैं, डेटा को 0 औसत और 1 मानक विचलन पर रूपांतरित करता है। इस प्रक्रिया में औसत घटाकर और मानक विचलन से भाग देकर फीचर मानों को समायोजित किया जाता है। आपने ‘centering and scaling’ डेटा के बारे में सुना होगा। दरअसल standardization उसी को संदर्भित करता है: पहले centering, फिर scaling।

Standardization का सूत्र है:

जहाँ:

• X मूल मान है,
• mu फीचर का औसत है, और
• sigma फीचर का मानक विचलन है।

यह सूत्र डेटा को इस तरह rescale करता है कि उसके वितरण का औसत 0 और मानक विचलन 1 हो।

आपको डेटा कब standardize करना चाहिए?

Standardization निम्नलिखित मामलों में सबसे उपयुक्त है:

• Gradient-आधारित एल्गोरिदम: Support Vector Machine (SVM) के लिए इष्टतम प्रदर्शन हेतु standardized डेटा आवश्यक होता है। जबकि linear regression और logistic regression जैसे मॉडल इसे नहीं मानते, फिर भी जब फीचर्स के परिमाण में बड़ा अंतर होता है, तो standardization से लाभ मिलता है—हर फीचर का योगदान संतुलित रहता है और optimization बेहतर होता है।
• Dimensionality Reduction: PCA जैसी आयाम-ह्रास तकनीकों में standardization का उपयोग होता है क्योंकि PCA उन दिशाओं की पहचान करता है जहाँ डेटा में variance अधिकतम हो। केवल mean normalization पर्याप्त नहीं है क्योंकि PCA औसत और variance—दोनों पर विचार करता है, और अलग-अलग फीचर स्केल विश्लेषण को विकृत कर देंगे।

Normalization बनाम Standardization: मुख्य अंतर

कभी-कभी normalization और standardization के बीच फर्क करना मुश्किल हो जाता है। एक कारण यह भी है कि normalization को कभी-कभी एक अधिक सामान्य शब्द के रूप में इस्तेमाल किया जाता है, जबकि standardization का अर्थ अधिक विशिष्ट या तकनीकी होता है। साथ ही, जो डेटा विश्लेषक और डेटा वैज्ञानिक इन शब्दों से परिचित हैं, वे भी कई बार उपयोग-परिस्थितियों में अंतर करने में संघर्ष करते हैं।

हालाँकि दोनों फीचर स्केलिंग तकनीकें हैं, लेकिन इनके तरीके और अनुप्रयोग अलग हैं। इन अंतरों को समझना आपके मशीन लर्निंग मॉडल के लिए सही तकनीक चुनने की कुंजी है।

Rescaling विधियाँ

Normalization फीचर मानों को पूर्व-परिभाषित रेंज, प्रायः 0 से 1, में rescale करता है, जो विशेष रूप से तब उपयोगी है जब फीचर्स के स्केल में बहुत अंतर हो। इसके विपरीत, standardization डेटा को औसत (0) के आसपास केंद्रित करता है और मानक विचलन (1) के अनुसार स्केल करता है।

Outliers के प्रति संवेदनशीलता

विभिन्न normalization तकनीकें outliers को संभालने में अलग-अलग प्रभावी होती हैं। Mean normalization कुछ परिदृश्यों में outliers के लिए सफल समायोजन कर सकती है, पर अन्य तकनीकें उतनी प्रभावी नहीं हो सकतीं। सामान्यतः, normalization तकनीकें outlier समस्या को standardization जितनी प्रभावी तरह से नहीं संभालतीं, क्योंकि standardization स्पष्ट रूप से औसत और मानक विचलन—दोनों पर निर्भर करती है।

उपयोग-परिदृश्य

Normalization का व्यापक उपयोग k-Nearest Neighbors (k-NN) जैसे distance-आधारित एल्गोरिदम में होता है, जहाँ सटीक दूरी गणनाओं के लिए फीचर्स का एक ही स्केल पर होना जरूरी है। दूसरी ओर, standardization, Support Vector Machines (SVM) जैसे gradient-आधारित एल्गोरिदम के लिए अहम है, और PCA जैसी dimensionality reduction तकनीकों में भी अक्सर लागू की जाती है, जहाँ सही फीचर variance बनाए रखना महत्वपूर्ण होता है।

अंतर का सारांश तालिका

Normalization और standardization की तुलना आसान बनाने के लिए इन प्रमुख अंतरों को एक सारांश तालिका में देखते हैं:

अंतर को दृश्य रूप में समझना

Normalization और standardization के बीच के फर्क को समझने के लिए उनके प्रभावों को दृश्य रूप से और मॉडल प्रदर्शन के संदर्भ में देखना उपयोगी होता है। यहाँ मैंने विभिन्न फीचर स्केलिंग तकनीकों को दिखाने के लिए बॉक्सप्लॉट शामिल किए हैं। यहाँ, मैंने अपने डेटासेट के प्रत्येक चर पर min-max normalization का उपयोग किया है। हम देख सकते हैं कि कोई भी मान 0 से कम या 1 से अधिक नहीं है।

Normalized डेटा। छवि: लेखक द्वारा

दूसरे दृश्य में, मैंने प्रत्येक चर पर standardization का उपयोग किया है। हम देख सकते हैं कि डेटा शून्य पर केंद्रित है। 

Standardized डेटा। छवि: लेखक द्वारा

फायदे और सीमाएँ

फायदों में बेहतर मॉडल प्रदर्शन और फीचर्स का संतुलित योगदान शामिल हैं। हालाँकि, normalization निश्चित स्केल के कारण व्याख्यात्मकता को सीमित कर सकता है, जबकि standardization भी व्याख्या को कठिन बना सकता है क्योंकि मान अब अपनी मूल इकाइयों को नहीं दर्शाते। मॉडल जटिलता और शुद्धता के बीच हमेशा एक समझौता रहता है।

Linear Regression में Normalization और Standardization

देखते हैं कि normalization (यहाँ mean normalization) और standardization कैसे simple linear regression मॉडल की व्याख्या को बदल सकते हैं। R-squared या adjusted R-squared प्रत्येक मॉडल के लिए समान रहेगा, इसलिए यहाँ फीचर स्केलिंग केवल हमारी व्याख्या पर प्रभाव डालती है।  

एक और महत्वपूर्ण बात: linear regression में यदि आप स्वतंत्र और निर्भर—दोनों चरों को standardize करते हैं, तो r-squared समान रहेगा। ऐसा इसलिए क्योंकि r-squared y में उस variance के अनुपात को मापता है जिसे x द्वारा समझाया गया है, और यह अनुपात इस बात से नहीं बदलता कि चर standardize हैं या नहीं। हालाँकि, निर्भर चर को standardize करने से RMSE बदल जाएगा, क्योंकि RMSE निर्भर चर की ही इकाइयों में मापा जाता है। चूँकि अब y standardize हो चुका है, standardization के बाद RMSE कम होगा। विशेष रूप से, यह त्रुटि को standardized चर के मानक विचलन की शर्तों में दर्शाएगा, न कि मूल इकाइयों में। यदि regression आपको विशेष रूप से रुचिकर लगता है, तो विशेषज्ञ बनने के लिए हमारा Introduction to Regression with statsmodels in Python कोर्स करें। 

निष्कर्ष

Feature scaling—जिसमें normalization और standardization शामिल हैं—मशीन लर्निंग में डेटा प्रीप्रोसेसिंग का एक अहम हिस्सा है। किस तकनीक को किस संदर्भ में लागू करना है—यह समझना आपके मॉडलों के प्रदर्शन और शुद्धता को उल्लेखनीय रूप से बढ़ा सकता है। 

यदि आप feature scaling और मशीन लर्निंग में इसकी भूमिका की समझ को विस्तृत और गहन करना चाहते हैं, तो DataCamp पर हमारे पास कई उत्कृष्ट संसाधन हैं। आधारभूत अवधारणाओं के लिए हमारा Normalization in Machine Learning लेख देखें, या वास्तविक अनुप्रयोगों को कवर करने वाले हमारे End-to-End Machine Learning कोर्स पर विचार करें।