मशीन लर्निंग में परिकल्पना परीक्षण

परिकल्पना परीक्षण की प्रक्रिया में किसी जनसंख्या या डेटा के बारे में कुछ निष्कर्ष निकालने के लिए एक नमूने पर सांख्यिकीय परीक्षण किए जाते हैं। विभिन्न मशीन लर्निंग मॉडलों के लिए भी ऐसे ही निष्कर्ष T-टेस्ट के माध्यम से निकाले जाते हैं, जिन पर मैं इस ट्यूटोरियल में चर्चा करूंगा।

कुछ निष्कर्ष निकालने के लिए, हमें कुछ मान्यताएँ बनानी होती हैं, जिनसे परिकल्पना परीक्षण में प्रयुक्त दो शब्द आते हैं।

• शून्य परिकल्पना (Null hypothesis): यह उस मान्यता से सम्बंधित है कि कोई असामान्य पैटर्न नहीं है, या बनाई गई मान्यता के अनुरूप विश्वास करना।

• वैकल्पिक परिकल्पना (Alternate hypothesis): शून्य परिकल्पना के विपरीत, यह दर्शाती है कि अवलोकन किसी वास्तविक प्रभाव का परिणाम है।

P value

इसे शून्य परिकल्पना के लिए साक्ष्य या महत्व स्तर के रूप में भी कहा जा सकता है, या मशीन लर्निंग एल्गोरिदम में। यह भविष्यवक्ताओं (predictors) का लक्ष्य के प्रति महत्व दर्शाता है।

आम तौर पर हम 5% का महत्व स्तर चुनते हैं, लेकिन कुछ मामलों में यह चर्चा का विषय होता है। यदि आपको अपने डेटा के व्यवहार के बारे में मजबूत पूर्व ज्ञान है, तो आप महत्व स्तर तय कर सकते हैं।

इसके उलट, यदि किसी मशीन लर्निंग मॉडल में किसी स्वतंत्र चर के विरुद्ध p-वैल्यू 0.05 से कम है, तो उस चर को महत्वपूर्ण माना जाता है; यानी लक्ष्य के साथ उसका विविध (heterogeneous) व्यवहार है जो उपयोगी है और जिसे मशीन लर्निंग एल्गोरिदम सीख सकते हैं।

परिकल्पना परीक्षण में शामिल चरण इस प्रकार हैं:

• एक शून्य परिकल्पना मानें; आमतौर पर मशीन लर्निंग एल्गोरिदम में हम मानते हैं कि लक्ष्य और स्वतंत्र चर के बीच कोई असामान्यता नहीं है।

• एक नमूना एकत्र करें

• परीक्षण सांख्यिकी (test statistics) की गणना करें

• निर्णय लें कि शून्य परिकल्पना को स्वीकार करना है या अस्वीकृत

टेस्ट या T सांख्यिकी की गणना

T सांख्यिकी की गणना के लिए, हम एक परिदृश्य बनाते हैं।

मान लीजिए एक शिपिंग कंटेनर बनाने वाली कंपनी दावा करती है कि प्रत्येक कंटेनर का वज़न 1000 किलोग्राम है—न कम, न अधिक। ऐसे दावे संदिग्ध लगते हैं, इसलिए हम डेटा एकत्र कर एक नमूना बनाते हैं।

30 कंटेनरों का नमूना लेने के बाद, पाया गया कि कंटेनर का औसत वज़न 990 किलोग्राम है और मानक विचलन 12.5 किलोग्राम है।

तो परीक्षण सांख्यिकी की गणना:

T = (Mean - Claim)/ (Standard deviation / Sample Size^(1/2))

सभी मान रखने पर यह -4.3818 आता है।

अब हम 0.05 महत्व स्तर और डिग्री ऑफ फ्रीडम के लिए t मान की गणना करते हैं।

नोट: Degree of Freedom = Sample Size - 1

From T table the value will be -1.699.

तुलना के बाद, हम देख सकते हैं कि उत्पन्न सांख्यिकी वांछित महत्व स्तर की सांख्यिकी से कम है। इसलिए हम किए गए दावे को अस्वीकार कर सकते हैं।

आप scipy लाइब्रेरी की stats क्लास के stats.t.ppf() फ़ंक्शन का उपयोग करके t मान की गणना कर सकते हैं।

त्रुटियाँ

परिकल्पना परीक्षण संपूर्ण जनसंख्या पर नहीं, बल्कि डेटा की उपलब्धता जैसी सीमाओं के कारण एक नमूने पर किया जाता है। क्योंकि निष्कर्ष नमूना डेटा पर आधारित होते हैं, परिकल्पना परीक्षण में त्रुटियाँ हो सकती हैं, जिन्हें दो भागों में वर्गीकृत किया जा सकता है:

• प्रकार I त्रुटि: इस त्रुटि में, जब शून्य परिकल्पना सही होती है तब हम उसे अस्वीकार कर देते हैं।

• प्रकार II त्रुटि: इस त्रुटि में, जब शून्य परिकल्पना गलत होती है तब हम उसे स्वीकार कर लेते हैं।

अन्य दृष्टिकोण

दो मॉडलों की परिकल्पना जाँच के लिए कई अलग-अलग तरीके मौजूद हैं, जैसे हमारे पास उपलब्ध फीचर्स पर दो मॉडल बनाना। एक मॉडल में सभी फीचर्स हों और दूसरे में एक कम। इस तरह हम व्यक्तिगत फीचर्स के महत्व का परीक्षण कर सकते हैं। हालांकि फीचर परस्पर-निर्भरता ऐसे सरल तरीकों को प्रभावित करती है।

रिग्रेशन समस्याओं में, हम आमतौर पर P-वैल्यू के नियम का पालन करते हैं; जो फीचर महत्व स्तर का उल्लंघन करते हैं उन्हें हटा दिया जाता है, जिससे मॉडल क्रमिक रूप से बेहतर होता है।

विभिन्न एल्गोरिदम के लिए अलग-अलग तरीके मौजूद हैं, जिनसे अलग-अलग फीचर्स पर परिकल्पना का परीक्षण किया जा सकता है।

यदि आप Bayesian निष्कर्षों की मूल बातें सीखना चाहते हैं, तो DataCamp का Fundamentals of Bayesian Data Analysis in R कोर्स देखें।

हमारा Machine Learning Basics ट्यूटोरियल भी देखें।