मुख्य सामग्री पर जाएँ

बहुविश्लेषी रैखिक प्रतिगमन: एकाधिक परिणामों का मॉडलिंग करने की मार्गदर्शिका

कब बहुविश्लेषी रैखिक प्रतिगमन उपयोग करना है, इसके गणितीय आधार समझें, और व्यावहारिक उदाहरणों के साथ Python में इसे लागू करें।
· 11 मि॰ पढ़ें

AI के साथ खोजें

कभी-कभी आपको एक ही समय में एक से अधिक चीज़ों का पूर्वानुमान लगाना होता है, जैसे एक ही डेटा से बिक्री और ग्राहक छंटनी—दोनों का पूर्वानुमान।

इस लेख में, मैं आपको यही मल्टी-टास्किंग करना सिखाऊँगा। मैं आपको बहुविश्लेषी रैखिक प्रतिगमन के बारे में बताऊँगा। आप जानेंगे कि यह क्या है, कैसे काम करता है, कब उपयोग करना चाहिए, और व्यवहार में इसे कैसे लागू करना है। अंत तक, आप इसे वास्तविक दुनिया की समस्याओं पर लागू करने के लिए तैयार होंगे। 

यदि आप प्रतिगमन में नए हैं, तो पहले हमारा Introduction to Regression in R या Introduction to Regression with statsmodels in Python देखना चाहेंगे।

बहुविश्लेषी रैखिक प्रतिगमन क्या है?

बहुविश्लेषी रैखिक प्रतिगमन एक सांख्यिकीय तकनीक है जो एकाधिक स्वतंत्र चर और एकाधिक आश्रित चर के बीच संबंध का मॉडल बनाती है। यह कभी-कभी मल्टिपल लीनियर रिग्रेशन से भ्रमित हो जाता है क्योंकि नाम समान लगता है—और मैं भी पहले इन्हें गड़बड़ कर चुका हूँ। लेकिन मल्टिपल लीनियर रिग्रेशन कई भविष्यवक्ताओं से एक ही परिणाम का अनुमान लगाता है, जबकि बहुविश्लेषी रैखिक प्रतिगमन उन स्थितियों के लिए बनाया गया है जहाँ आपको एक साथ एक से अधिक परिणामों का पूर्वानुमान करना होता है।

सैद्धांतिक आधार और मॉडल सेटअप

मैंने अभी आपको बताया कि बहुविश्लेषी प्रतिगमन क्या है और इसे कब उपयोग करना चाहिए। अब आइए देखें कि मॉडल कैसे संरचित है और यह किन मान्यताओं पर निर्भर करता है।

मैट्रिक्स निरूपण

बहुविश्लेषी प्रतिगमन एक साथ कई परिणामों का मॉडल बनाने के लिए मैट्रिक्स-आधारित सेटअप का उपयोग करता है:

multivariate linear regression equation in matrix form

जहाँ:

  • Y एक n×p मैट्रिक्स है, आश्रित चर का (n प्रेक्षण, p प्रत्युत्तर चर)
  • X एक n×(k+1) मैट्रिक्स है, स्वतंत्र चर का (इंटरसेप्ट सहित)
  • B एक (k+1)×p मैट्रिक्स है, प्रतिगमन गुणांक का
  • E एक n×p मैट्रिक्स है, त्रुटि पदों का

यह दृष्टिकोण मानता है कि अलग-अलग प्रत्युत्तर चरों के त्रुटि पद सहसंबद्ध हो सकते हैं, जिससे अलग-अलग यूनिवेरिएट मॉडलों की तुलना में पैरामीटर आकलन अधिक सक्षम हो जाता है। 

मान्यताएँ

मॉडल का उपयोग करने से पहले, यह समझना महत्वपूर्ण है कि किन मान्यताओं का पूरा होना आवश्यक है—और यदि वे न हों तो क्या करना चाहिए।

  • रैखिकता: प्रत्येक भविष्यवक्ता का प्रत्येक परिणाम से रैखिक संबंध होना चाहिए। गैर-रैखिक संबंध आपके परिणामों में पक्षपात लाते हैं। 
  • स्वतंत्रता: आपके प्रेक्षण स्वतंत्र होने चाहिए। यदि नहीं हैं (मैं समय-श्रृंखला या समूहित डेटा के बारे में सोच रहा हूँ), तो मानक त्रुटियाँ अविश्वसनीय हो जाती हैं।
  • बहुविश्लेषी सामान्यता: त्रुटि पदों को बहुविश्लेषी सामान्य वितरण का पालन करना चाहिए। भले ही यह सच न हो, आपके गुणांक आकलन अप्रभावित रहते हैं, लेकिन विश्वसनीयता अंतराल और परिकल्पना परीक्षणों की सटीकता प्रभावित हो सकती है। जहाँ Shapiro-Wilk परीक्षण प्रत्येक परिणाम के लिए सामान्यता का आकलन कर सकता है, बहुविश्लेषी सामान्यता का सबसे अच्छा मूल्यांकन Mardia's test जैसे समर्पित परीक्षणों से होता है, जो अवशेषों के सहसम्बंधों को ध्यान में रखते हैं।
  • समरूप विचलनता (Homoscedasticity): त्रुटियों का विचलन सभी भविष्यवक्ताओं और परिणामों में स्थिर होना चाहिए। यदि नहीं, तो मॉडल कम सक्षम हो जाता है। 
  • पूर्ण बहुसहसम्बद्धता नहीं: आपके भविष्यवक्ता पूर्णतः सहसम्बद्ध नहीं होने चाहिए। 

यदि ये मान्यताएँ पूरी नहीं होतीं, तो आपको अनुकूलन करना होगा। उदाहरण के लिए, गैर-रैखिकता या सामान्यता की समस्याओं के लिए चर रूपांतरण करें, हेटेरोस्केडैस्टिसिटी से निपटने के लिए वेटेड लीस्ट स्क्वेयर्स अपनाएँ, या बहुसहसम्बद्धता की समस्याओं के लिए रिज रिग्रेशन का उपयोग करें।

श्रेणीबद्ध चर को संभालना

यदि आप श्रेणीबद्ध चरों के साथ काम कर रहे हैं, तो पहले उन्हें डमी चरों में बदलना होगा। 

k श्रेणियों वाले किसी श्रेणीबद्ध चर के लिए, k-1 डमी चर बनाएँ। यह अनावश्यकता को रोकता है, जिसे डमी वैरिएबल ट्रैप कहा जाता है। जो श्रेणी छोड़ी जाती है वह सन्दर्भ स्तर बन जाती है। आपके गुणांक तब उसी आधार रेखा के सापेक्ष अंतर को दर्शाएँगे। इसलिए, ऐसी श्रेणी चुनना उपयोगी है जो व्याख्या को सीधा बनाए।

आकलन तकनीकें और दक्षता

जब मॉडल की संरचना और मान्यताएँ स्पष्ट हों, तो देखें कि गुणांकों का आकलन कैसे होता है और विभिन्न विधियाँ दक्षता और सटीकता के लिहाज से कैसे तुलना करती हैं।

ऑर्डिनरी लीस्ट स्क्वेयर्स (OLS)

OLS डिफ़ॉल्ट शुरुआती बिंदु है और स्वाभाविक रूप से बहुविश्लेषी परिदृश्यों तक विस्तारित होता है। यह मान्यताएँ पूरी होने पर निष्पक्ष (unbiased) गुणांक आकलन देता है। जबकि व्यक्तिगत आकलन अलग-अलग प्रतिगमन चलाने जैसे ही होते हैं, लाभ यह है कि यहाँ अवशेष साझा होते हैं, इसलिए आप सभी परिणामों पर संयुक्त परिकल्पनाएँ जाँच सकते हैं।

जहाँ परिणाम आपस में सहसम्बद्ध होते हैं, वहाँ बहुविश्लेषी OLS उन संबंधों को पकड़ता है, जो अक्सर (पर हमेशा नहीं) समग्र भविष्यवाणी गुणवत्ता में सुधार करता है। 

गाउस-मार्कोव प्रमेय

आप सोच सकते हैं कि OLS इतना व्यापक रूप से क्यों उपयोग होता है। गाउस-मार्कोव प्रमेय बताता है: कुछ मान्यताओं के अंतर्गत, OLS सर्वश्रेष्ठ रैखिक निष्पक्ष आकलक (BLUE) है। इसका अर्थ है कि यह सभी निष्पक्ष रैखिक आकलकों में सबसे कम संभव विचलन देता है, बशर्ते सामान्य शर्तें, जैसे कोई बहुसहसम्बद्धता नहीं, रैखिक संबंध, और स्थिर विचलन, पूरी हों।

वेटेड लीस्ट स्क्वेयर्स (WLS)

पर यदि वे शर्तें पूरी नहीं होतीं, खासकर स्थिर विचलन वाली? ऐसे में, मैं WLS पर विचार करता हूँ। यह कम त्रुटि-विचलन वाले प्रेक्षणों को अधिक भार देता है और अधिक शोर वाले प्रेक्षणों को कम।

WLS, OLS प्रक्रिया में भार मैट्रिक्स जोड़कर संशोधन करता है। आप भारों का अनुमान OLS मॉडल के अवशेषों से या अपने डेटा की त्रुटि संरचना के सैद्धांतिक ज्ञान के आधार पर लगा सकते हैं।

श्रिंकेंज विधियाँ

अब उच्च-आयामी डेटा या बहुसहसम्बद्धता वाले परिदृश्यों की ओर मुड़ते हैं। यहाँ श्रिंकेंज विधियाँ उपयोगी हैं। ये कम विचलन के बदले कुछ पक्षपात की अनुमति देती हैं, जो अक्सर भविष्यवाणी में मदद करती हैं।

रिज रिग्रेशन L2 दंड (λ||B||²) जोड़ता है, जिससे सभी गुणांक शून्य की ओर सिमटते हैं। यह तब उपयोगी है जब हर भविष्यवक्ता कुछ योगदान दे सकता है। LASSO L1 दंड लागू करता है जो कुछ गुणांकों को पूरी तरह शून्य कर सकता है—चर चयन के लिए सहायक। एलास्टिक नेट दोनों का मिश्रण है, जो सहसम्बद्ध भविष्यवक्ताओं के साथ मदद करता है और फिर भी चयन करता है।

मॉडल मूल्यांकन और अनुमिति

अब जब आकलन कवर हो चुका है, तो देखें कि आपका मॉडल कितना अच्छा प्रदर्शन करता है और उससे सार्थक निष्कर्ष कैसे निकाले जाएँ।

गुडनेस-ऑफ-फिट

बहुविश्लेषी R-squared आपको बताता है कि आपका मॉडल कुल मिलाकर सभी परिणामों में कितनी विविधता समझाता है। हालाँकि, यूनिवेरिएट रूप से अलग, यहाँ अक्सर अवशिष्ट सहप्रसरण मैट्रिक्स के डिटर्मिनेंट का उपयोग होता है और यह हमेशा 0 से 1 के भीतर नहीं रह सकता।

समायोजित R-squared बहुविश्लेषी सेटिंग में विशेष रूप से महत्वपूर्ण है क्योंकि एकाधिक परिणामों के साथ आपके पैरामीटरों की संख्या तेजी से बढ़ती है। यह जटिलता को दंडित करके ओवरफिटिंग से बचने में मदद करता है।

विश्वास एलिप्स जैसी दृश्य तकनीकें भी सहायक हो सकती हैं। ये एलिप्स अनिश्चितता और यह दिखाती हैं कि परिणाम चर एक-दूसरे से कैसे संबंधित हैं। वृत्ताकार एलिप्स स्वतंत्रता का संकेत देती हैं; लंबी खिंची हुई एलिप्स मजबूत सहसम्बंधों की ओर इशारा करती हैं।

परिकल्पना परीक्षण

जब आप जानना चाहें कि आपका मॉडल महज शोर को फिट करने से बढ़कर कुछ कर रहा है या नहीं, तो परिकल्पना परीक्षण महत्वपूर्ण है।

Wilks' Lambda जाँचता है कि क्या विशिष्ट भविष्यवक्ताओं का परिणामों के सेट पर महत्वपूर्ण प्रभाव है। यह पूर्ण मॉडल और एक घटाए गए मॉडल की त्रुटि सहप्रसरण मैट्रिक्स की तुलना करता है ताकि यह निर्धारित किया जा सके कि कुछ भविष्यवक्ताओं को हटाने से क्या अनव्याख्यित विचलन में महत्वपूर्ण वृद्धि होगी। 

Hotelling का T² एक बहुविश्लेषी t-परीक्षण की तरह काम करता है। यह आकलन करता है कि कोई विशिष्ट भविष्यवक्ता, परिणामों के सहसम्बंधों को ध्यान में रखते हुए, कम-से-कम एक परिणाम को प्रभावित करता है या नहीं।

संयुक्त परीक्षण एक साथ कई परिकल्पनाएँ जाँचते समय झूठे सकारात्मकों के जोखिम को प्रबंधित करने में मदद करता है। यह बहुविश्लेषी प्रतिगमन में उपयोगी है, जहाँ कई तुलनाएँ जल्दी ही नियंत्रण से बाहर हो सकती हैं।

मॉडल तुलना

मॉडलों के बीच निर्णय लेने के लिए, AIC और BIC जैसे मानदंड काम आते हैं। दोनों जटिलता को समायोजित करते हैं, जो विशेषकर कई परिणामों का मॉडल बनाते समय महत्वपूर्ण है। AIC अधिक पूर्वानुमान शक्ति पर केंद्रित है, जबकि BIC सरल मॉडलों को प्राथमिकता देता है।

आप नेस्टेड मॉडलों की तुलना के लिए लैikelihud रेशियो परीक्षणों का भी उपयोग कर सकते हैं। ये जाँचते हैं कि भविष्यवक्ताओं को जोड़ने से मॉडल फिट में महत्वपूर्ण सुधार होता है या नहीं।

उन्नत विषय और उपयोग मामले

मानक बहुविश्लेषी प्रतिगमन कई समस्याओं के लिए अच्छा काम करता है, लेकिन कभी-कभी आपको ऐसी स्थितियाँ मिलेंगी जिन्हें विशेष दृष्टिकोण चाहिए। हो सकता है कि आप सैकड़ों भविष्यवक्ताओं से निपट रहे हों, या आपके चर एक-दूसरे को ऐसे प्रभावित कर रहे हों जो मानक मान्यताओं का उल्लंघन करते हैं। इन पेचीदा परिदृश्यों (में से कुछ) को ऐसे संभालें।

फ़ीचर चयन

जब आप कई भविष्यवक्ताओं के साथ काम करते हैं, तो प्रदर्शन और व्याख्येयता—दोनों के लिए फ़ीचर चयन आवश्यक हो जाता है। LASSO (जिसका अर्थ है ‘Least Absolute Shrinkage and Selection Operator’) यहाँ अलग नज़र आता है क्योंकि यह मॉडल फिट करते हुए स्वतः ही अप्रासंगिक भविष्यवक्ताओं को शून्य कर सकता है।

रिज रिग्रेशन के विपरीत, जो सभी गुणांकों को शून्य की ओर सिकोड़ता है लेकिन उन्हें रखता है, LASSO L1 दंड का उपयोग करता है जो स्पार्स (छितरे) समाधान बनाता है। जब आपको संदेह हो कि वास्तव में केवल कुछ उपसमुच्चय भविष्यवक्ताओं का महत्व है, तब यह बहुत उपयोगी होता है।

एंडोजेनेयिटी से निपटना

कभी-कभी आपके भविष्यवक्ता आपके परिणामों को प्रभावित करते हैं और साथ ही उनसे प्रभावित भी होते हैं। उदाहरण के तौर पर शिक्षा आय को प्रभावित करती है, पर आय भी शिक्षा तक पहुँच को प्रभावित करती है। यह एंडोजेनेयिटी कहलाती है, जो मानक प्रतिगमन आकलनों को अविश्वसनीय बना देती है।

इंस्ट्रुमेंटल वेरिएबल्स इसे दो-चरणीय प्रक्रिया से हल करती हैं। पहले, आप एक "इंस्ट्रुमेंट" खोजते हैं—ऐसा चर जो आपके समस्याग्रस्त भविष्यवक्ता को प्रभावित करता है पर सीधे परिणाम को नहीं। फिर आप इस इंस्ट्रुमेंट से अपने भविष्यवक्ता के स्वच्छ हिस्से का पूर्वानुमान लगाते हैं और उन्हीं पूर्वानुमानों को अंतिम प्रतिगमन में उपयोग करते हैं। इससे चक्रीय संबंध टूटता है या कमजोर होता है और आपको विश्वसनीय या अधिक विश्वसनीय आकलन मिलते हैं।

सॉफ़्टवेयर में कार्यान्वयन

अधिकांश सांख्यिकीय पैकेज बहुविश्लेषी प्रतिगमन संभाल लेते हैं, भले ही उनकी ताकतें अलग हों। Python में sklearn.linear_model.LinearRegression सच्चे बहुविश्लेषी प्रतिगमन के लिए स्वाभाविक रूप से बहु-परिणामों को समर्थन देता है। मेरी दृष्टि में, statsmodels अधिक विस्तृत सांख्यिकीय आउटपुट देता है, जिनमें परिकल्पना परीक्षण भी शामिल हैं। यदि आप उन प्रोग्रामरों में से हैं जो R भाषा पसंद करते हैं, तो आप बुनियादी बहुविश्लेषी मॉडलों के लिए अंतर्निहित lm() फंक्शन के साथ रह सकते हैं, या अधिक उन्नत डायग्नोस्टिक्स के लिए car पैकेज का उपयोग कर सकते हैं।

PLS जैसी वैकल्पिक विधियाँ

पार्शियल लीस्ट स्क्वेयर्स (PLS) तब काम आता है जब आपके पास प्रेक्षणों से अधिक भविष्यवक्ता हों, या जब बहुसहसम्बद्धता समस्याएँ पैदा कर रही हो। सभी भविष्यवक्ताओं का सीधे उपयोग करने की बजाय, PLS छिपे हुए (latent) चरों का निर्माण करता है जो आपके परिणामों की भविष्यवाणी के लिए सबसे प्रासंगिक जानकारी को कैप्चर करते हैं। यह दृष्टिकोण खासकर केमियोमेट्रिक्स और बायोइन्फॉरमैटिक्स जैसे क्षेत्रों में अच्छा काम करता है, जहाँ आपके पास सैकड़ों या हज़ारों भविष्यवक्ता हो सकते हैं पर प्रेक्षण अपेक्षाकृत कम।

PLS आपके प्रेडिक्टर स्पेस में ऐसे दिशा-निर्देश (directions) ढूँढता है जो प्रेडिक्टर विचलन और परिणाम covariance—दोनों को समझाते हैं। यह तब विशेष रूप से उपयोगी है जब व्याख्या की तुलना में भविष्यवाणी की सटीकता अधिक महत्वपूर्ण हो। मानक MLR कई सहसम्बद्ध भविष्यवक्ताओं के साथ अस्थिर हो सकता है, लेकिन PLS चुनौतीपूर्ण स्थितियों में भी संतुलित रहता है।

विश्वास एलिप्स

सरल विश्वास अंतराल बहुविश्लेषी भविष्यवाणियों के लिए अच्छा काम नहीं करते क्योंकि वे परिणामों के बीच सहसम्बंधों की अनदेखी करते हैं। विश्वास एलिप्स परिणामों की जोडि़यों के लिए संयुक्त अनिश्चितता दिखाती हैं, यह उजागर करते हुए कि अलग-अलग प्रत्युत्तर चरों में भविष्यवाणी त्रुटियाँ कैसे सहसम्बद्ध हैं। ये एलिप्स आपकी भविष्यवाणियों की संबंध संरचना के बारे में बताती हैं। वृत्ताकार एलिप्स का मतलब है कि आपके परिणाम स्वतंत्र रूप से भविष्यवाणी किए गए हैं, जबकि लंबी खिंची एलिप्स मजबूत सहसम्बंध का संकेत देती हैं।

लंबी खिंची एलिप्स का उन्मुखीकरण दिखाता है कि किन रैखिक संयोजनों में अनिश्चितता सबसे अधिक और सबसे कम है। आप इन्हें व्यक्तिगत भविष्यवाणियों या पैरामीटर आकलनों के लिए प्लॉट कर सकते हैं, और परिणाम प्रस्तुत करते समय ये उपयोगी होती हैं क्योंकि ये आपकी भविष्यवाणियों के अलग-अलग पहलुओं में आपके विश्वास का सहज दृश्य प्रतिनिधित्व देती हैं।

व्यावहारिक पहलू और Python में उदाहरण

सिद्धांत से व्यवहार में आना मतलब बिखरे हुए डेटा से निपटना और यह सुनिश्चित करना कि आपका मॉडल वाकई काम करता है। बहुविश्लेषी प्रतिगमन के व्यावहारिक पक्ष को ऐसे संभालें।

पूर्वप्रक्रिया (Preprocessing)

किसी भी बहुविश्लेषी मॉडल को फिट करने से पहले, आपको अपने डेटा को दुरुस्त करना होगा। जब आपके भविष्यवक्ताओं की इकाइयाँ अलग-अलग हों, तो स्केलिंग और सेंट्रिंग विशेष रूप से महत्वपूर्ण हैं। कल्पना कीजिए कि मानकीकरण के बिना आय (हज़ारों में) की तुलना उम्र (वर्षों में) से करने की कोशिश करें। अधिकांश एल्गोरिद्म तब बेहतर काम करते हैं जब फ़ीचर समान स्केल पर हों।

लुप्त मान एक और चुनौती हैं। आप लुप्त डेटा वाली पंक्तियाँ हटा सकते हैं, पर इससे सूचना नष्ट होती है और पक्षपात आ सकता है। बेहतर उपायों में संख्यात्मक चरों के लिए औसत इम्प्यूटेशन या अधिक उन्नत विधियाँ, जैसे मल्टीपल इम्प्यूटेशन शामिल हैं, जो कई संभावित डेटासेट बनाती हैं और उनके पार परिणामों को मिलाती हैं।

मॉडल सत्यापन

क्रॉस-वैलिडेशन आपको समझने में मदद करता है कि आपका मॉडल प्रशिक्षण डेटा से परे कितना अच्छी तरह सामान्यीकृत होता है। बहुविश्लेषी प्रतिगमन के लिए, k-fold क्रॉस-वैलिडेशन आपके डेटा को k समूहों में बाँटता है, k-1 समूहों पर प्रशिक्षण करता है और बचे हुए समूह पर परीक्षण। इसे k बार दोहराएँ और प्रदर्शन का एक ठोस अनुमान पाने के लिए परिणामों का औसत लें।

बूटस्ट्रैपिंग एक और सत्यापन दृष्टिकोण देता है जो पैरामीटर अनिश्चितता समझने के लिए विशेष रूप से उपयोगी है। यह आपके मूल डेटा से प्रतिस्थापन सहित सैंपलिंग कर नए डेटासेट बनाता है, प्रत्येक बूटस्ट्रैप नमूने पर मॉडल फिट करता है, और पैरामीटर आकलनों के वितरण की जाँच करता है। यह बताता है कि आपके गुणांक कितने स्थिर हैं और विश्वास अंतराल बनाने में मदद करता है।

केस स्टडी

आइए एक ठोस उदाहरण देखें—मटेरियल टेस्टिंग डेटासेट का उपयोग करके। इंजीनियरों को अक्सर कंक्रीट की कई विशेषताओं—जैसे संपीड्य शक्ति और वर्कएबिलिटी—का मिश्रण घटकों (सीमेंट सामग्री, पानी अनुपात, एग्रीगेट प्रकार) के आधार पर पूर्वानुमान करना होता है। यह बहुविश्लेषी प्रतिगमन के लिए एकदम उपयुक्त है क्योंकि ये परिणाम संबंधित हैं पर भिन्न।

विश्लेषण की शुरुआत मिश्रण घटकों और परिणामों के बीच सहसम्बंधों की जाँच से होती है, भविष्यवक्ताओं में बहुसहसम्बद्धता की जाँच, और यह देखने से कि संबंध रैखिक दिखते हैं या नहीं। पूर्वप्रक्रिया (मिश्रण अनुपातों का स्केलिंग और किसी भी लुप्त माप का उपचार) के बाद, आप बहुविश्लेषी मॉडल फिट करेंगे और नई कंक्रीट मिक्सचर पर भविष्यवाणियों की वैधता सुनिश्चित करने के लिए क्रॉस-वैलिडेशन से उसे जाँचेंगे।

कोड उदाहरण

यहाँ Python में मुख्य चरणों को दिखाने वाला एक बुनियादी वर्कफ़्लो है। पहले, डेटा सेटअप करते हैं और पूर्वप्रक्रिया संभालते हैं:

import numpy as np
import pandas as pd
from sklearn.preprocessing import StandardScaler
from sklearn.linear_model import LinearRegression
from sklearn.model_selection import cross_val_score
from sklearn.metrics import mean_squared_error

# Load and prepare data (assuming concrete dataset)
# X: mixture components (cement, water, aggregate, etc.)
# y: multiple outcomes (strength, workability, durability)
scaler = StandardScaler()
X_scaled = scaler.fit_transform(X)

यह पूर्वप्रक्रिया चरण सभी भविष्यवक्ताओं को शून्य माध्य और इकाई विचलन पर मानकीकृत करता है, जो संख्यात्मक स्थिरता और व्याख्या में मदद करता है।

अब, हम बहुविश्लेषी मॉडल फिट करेंगे और परिणामों की जाँच करेंगे:

# Fit multivariate regression
mlr_model = LinearRegression()
mlr_model.fit(X_scaled, y)

# Get coefficients for each outcome
for i, outcome in enumerate(['strength', 'workability', 'durability']):
   coeffs = mlr_model.coef_[:, i]
   print(f"{outcome} coefficients: {coeffs}”)

 LinearRegression मॉडल सभी परिणामों के सहसम्बंधों पर एक साथ विचार करते हुए एक ही बहुविश्लेषी प्रतिगमन फिट करता है। गुणांक बताते हैं कि प्रत्येक मिश्रण घटक कंक्रीट की प्रत्येक विशेषता को कैसे प्रभावित करता है।

अंत में, मॉडल की विश्वसनीयता जाँचते हैं:

# Cross-validation for each outcome
cv_scores = cross_val_score(mlr_model, X_scaled, y, 
                           cv=5, scoring='neg_mean_squared_error')
print(f"Average CV score: {-cv_scores.mean():.3f}")

# Make predictions on new data
y_pred = mlr_model.predict(X_scaled)
mse_per_outcome = [mean_squared_error(y[:, i], y_pred[:, i]) 
                   for i in range(y.shape[1])]
print(f"MSE per outcome: {mse_per_outcome}")

क्रॉस-वैलिडेशन आपको अनदेखे डेटा पर मॉडल के प्रदर्शन का निष्पक्ष अनुमान देता है। प्रति-परिणाम MSE स्कोर यह समझने में मदद करते हैं कि किन कंक्रीट गुणों का सटीक पूर्वानुमान आसान है और किनका कठिन।

सीमाएँ और विकल्प

बहुविश्लेषी रैखिक प्रतिगमन कई समस्याओं में अच्छा काम करता है, पर इसकी सीमाएँ स्पष्ट हैं। सबसे बड़ी सीमा नाम में ही है—यह भविष्यवक्ताओं और परिणामों के बीच रैखिक संबंध मानता है। जब संबंध वक्राकार, इंटरैक्शन-प्रधान, या अन्यथा गैर-रैखिक हों, तो MLR पक्षपाती परिणाम देगा। उच्च-आयाम एक और समस्या है: प्रेक्षणों की तुलना में अधिक भविष्यवक्ताओं के साथ, मॉडल अस्थिर और ओवरफिटिंग-प्रवण हो जाता है।

कई विकल्प इन सीमाओं को बेहतर संभाल सकते हैं। जनरलाइज़्ड लीनियर मॉडल (GLMs) फ्रेमवर्क को गैर-सामान्य परिणामों तक बढ़ाते हैं और अलग लिंक फ़ंक्शन की अनुमति देते हैं। ANCOVA तब अच्छा काम करता है जब आपके पास निरंतर और श्रेणीबद्ध—दोनों प्रकार के भविष्यवक्ता हों और उनके इंटरैक्शन इफेक्ट्स हों। ओवरफिटिंग के लिए, रिज और LASSO जैसी नियमितीकरण विधियाँ मदद करती हैं, या आप रैंडम फ़ॉरेस्ट जैसे एन्सेंबल तरीकों को आज़मा सकते हैं जो गैर-रैखिकता और उच्च-आयाम को अधिक स्वाभाविक रूप से सँभालते हैं।

निष्कर्ष

बहुविश्लेषी रैखिक प्रतिगमन आपको एक साथ कई संबंधित परिणामों का मॉडल बनाने का ठोस तरीका देता है, वे संबंध कैप्चर करता है जिन्हें अलग-अलग यूनिवेरिएट मॉडल छोड़ देंगे। इसकी मुख्य ताकतें व्याख्येयता, सांख्यिकीय परीक्षण की क्षमता, और सहसम्बद्ध परिणामों को दक्षता से सँभालने में हैं। 

आप मानक MLR पर टिके रहें या नियमितीकृत प्रतिगमन, पार्शियल लीस्ट स्क्वेयर्स, और एन्सेंबल तरीकों पर जाएँ—यह आपके डेटा की प्रकृति, सैंपल आकार, और आपके समस्या-विशेष में भविष्यवाणी बनाम व्याख्या की प्राथमिकता पर निर्भर करता है।

यदि आप अपने कौशल को आगे बढ़ाना चाहते हैं, हमारा Intermediate Regression with statsmodels in Python कोर्स अनेक व्याख्यात्मक चरों और इंटरैक्शन इफेक्ट्स को कवर करता है, जबकि Generalized Linear Models in R आपका टूलकिट बढ़ाता है ताकि आप बाइनोमियल वितरण और काउंट डेटा के लिए पॉइसॉन वितरण जैसी गैर-सामान्य वितरितियों को सँभाल सकें।

Vinod Chugani

लेखक

Vinod Chugani

विनोद चुगानी ने टोक्यो में जेपीमॉर्गन के सबसे कम उम्र के हेज फंड सेल्स डेस्क हेड के रूप में अपना करियर शुरू किया और बाद में लेहमन ब्रदर्स में व्यक्तिगत बिक्री का रिकॉर्ड बनाया, फिर 30 देशों में फैला एक इलेक्ट्रॉनिक्स डिस्ट्रीब्यूशन व्यवसाय बनाया, जिसकी आय SG$100 मिलियन से आगे बढ़ी, इसके बाद उन्होंने डेटा की ओर रुख किया। ड्यूक में अर्थशास्त्र के स्नातक और NYC डेटा साइंस अकादमी के पूर्व छात्र, वे मेवन पर ह्यूगो बोव्न-एंडरसन के Building AI Applications कोर्स के लिए 100+ आवेदनों में से तीन छात्रवृत्ति प्राप्तकर्ताओं में से एक थे। आज, वे DataCamp, KDnuggets, Machine Learning Mastery, और Statology के लिए सांख्यिकी से लेकर एजेंटिक एआई तक के विषयों पर लिखते हैं, और NYC डेटा साइंस अकादमी में डेटा प्रोफेशनलों को मेंटर करते हैं, उनके नाम पर 1,000 से अधिक एक-से-एक सत्र हैं।

 

FAQs

बहुविश्लेषी रैखिक प्रतिगमन, मल्टिपल लीनियर रिग्रेशन से कैसे भिन्न है?

मल्टिपल लीनियर रिग्रेशन कई भविष्यवक्ताओं से एक परिणाम का पूर्वानुमान करता है, जबकि बहुविश्लेषी रैखिक प्रतिगमन एक ही भविष्यवक्ताओं के सेट से एक साथ कई परिणामों का पूर्वानुमान करता है। बहुविश्लेषी प्रतिगमन अलग-अलग परिणाम चरों के बीच सहसम्बंधों को कैप्चर करता है।

बहुविश्लेषी रैखिक प्रतिगमन की प्रमुख मान्यताएँ क्या हैं?

मुख्य मान्यताएँ हैं: भविष्यवक्ताओं और परिणामों के बीच रैखिकता, प्रेक्षणों की स्वतंत्रता, त्रुटि पदों की बहुविश्लेषी सामान्यता, समरूप विचलनता (स्थिर विचलन), और भविष्यवक्ताओं के बीच पूर्ण बहुसहसम्बद्धता का अभाव। इन मान्यताओं का उल्लंघन पक्षपाती या अविश्वसनीय परिणाम दे सकता है।

मैं बहुविश्लेषी रैखिक प्रतिगमन मॉडल के परिणामों की व्याख्या कैसे कर सकता/सकती हूँ?

प्रत्येक गुणांक दिखाता है कि अन्य भविष्यवक्ताओं को स्थिर रखते हुए, किसी भविष्यवक्ता के एक इकाई बढ़ने पर विशिष्ट परिणाम कितना बदलता है। आप समग्र फिट के लिए बहुविश्लेषी R-squared भी देख सकते हैं और सभी परिणामों में भविष्यवक्ता की महत्ता के लिए Wilks' Lambda जैसे परीक्षण उपयोग कर सकते हैं।

वास्तविक दुनिया के परिदृश्यों में बहुविश्लेषी रैखिक प्रतिगमन के कुछ सामान्य अनुप्रयोग क्या हैं?

सामान्य अनुप्रयोगों में एकाधिक आर्थिक संकेतकों (GDP वृद्धि और बेरोज़गारी दर) का पूर्वानुमान, जेनेटिक्स में जीन अभिव्यक्ति स्तरों का विश्लेषण, इंजीनियरिंग में सामग्री गुणों (मजबूती, स्थायित्व, वर्कएबिलिटी) का मूल्यांकन, और चिकित्सा अनुसंधान में एकाधिक स्वास्थ्य परिणामों का मॉडलिंग शामिल है। जब भी संबंधित परिणाम समान भविष्यवक्ताओं को साझा करते हैं, यह उपयोगी होता है।

मैं बहुविश्लेषी रैखिक प्रतिगमन मॉडल में बहुसहसम्बद्धता से कैसे निपटूँ?

बहुसहसम्बद्धता का पता लगाने के लिए Variance Inflation Factor (VIF) का उपयोग करें—10 से ऊपर के मान समस्या का संकेत देते हैं। समाधान में अत्यधिक सहसम्बद्ध भविष्यवक्ताओं को हटाना, नियमितीकरण के लिए रिज रिग्रेशन या LASSO का उपयोग, या असहसम्बद्ध भविष्यवक्ता बनाने के लिए प्रिंसिपल कंपोनेंट एनालिसिस लागू करना शामिल है।

मुझे अलग-अलग यूनिवेरिएट मॉडलों के बजाय बहुविश्लेषी प्रतिगमन कब उपयोग करना चाहिए?

जब आपके परिणाम सहसम्बद्ध हों और आप इन संबंधों का स्पष्ट रूप से मॉडल बनाना चाहें, तब बहुविश्लेषी प्रतिगमन का उपयोग करें। यह अलग-अलग मॉडलों की तुलना में अधिक सक्षम है और परिणामों के पार संयुक्त परिकल्पना परीक्षण की अनुमति देता है।

मैं कैसे जाँचूँ कि भविष्यवक्ताओं और परिणामों के बीच संबंध बहुविश्लेषी रैखिक प्रतिगमन में रैखिक है?

बहुविश्लेषी रैखिक प्रतिगमन में रैखिकता का अर्थ है कि प्रत्येक भविष्यवक्ता का परिणाम चर के साथ सीधी-रेखा जैसा संबंध हो। आप इसे अवशेष प्लॉट्स या कंपोनेंट-प्लस-रेजिडुअल (पार्शियल रेजिडुअल) प्लॉट्स देखकर परख सकते हैं। यदि अवशेष वक्राकार पैटर्न दिखाएँ, तो यह रैखिकता मान्यता के उल्लंघन का संकेत हो सकता है, जो आपके मॉडल आकलनों में पक्षपात ला सकता है।

बहुविश्लेषी रैखिक प्रतिगमन में समरूप विचलनता जाँचने के लिए मैं कौन-सा परीक्षण उपयोग कर सकता/सकती हूँ?

बहुविश्लेषी रैखिक प्रतिगमन में समरूप विचलनता की मान्यता यह माँगती है कि अवशेषों का विचलन भविष्यवक्ताओं के स्तरों पर स्थिर रहे। Breusch-Pagan परीक्षण हेटेरोस्केडैस्टिसिटी का पता लगाने के लिए व्यापक रूप से उपयोग होता है। महत्वपूर्ण परिणाम यह संकेत देता है कि त्रुटियों का विचलन स्थिर नहीं है, जिससे आकलन अक्षम और मानक त्रुटियाँ अविश्वसनीय हो सकती हैं।

मैं बहुविश्लेषी रैखिक प्रतिगमन में बहुसहसम्बद्धता का पता कैसे लगाऊँ?

बहुविश्लेषी रैखिक प्रतिगमन में बहुसहसम्बद्धता का पता लगाने के लिए आप Variance Inflation Factor (VIF) का उपयोग कर सकते हैं। VIF मापता है कि अन्य भविष्यवक्ताओं से सहसम्बंध के कारण किसी प्रतिगमन गुणांक के विचलन में कितनी वृद्धि हुई है। सामान्यतः 10 से अधिक VIF एक लाल झंडा माना जाता है, जो दर्शाता है कि भविष्यवक्ता अन्य के साथ अत्यधिक सहसम्बद्ध है और मॉडल के आकलनों को विकृत कर सकता है।

विषय