मशीन लर्निंग में फ़ीचर इंजीनियरिंग: एक व्यावहारिक मार्गदर्शिका

मशीन लर्निंग में फ़ीचर्स के प्रकार

अलग-अलग फ़ीचर इंजीनियरिंग तकनीकों में जाने से पहले, उपलब्ध फ़ीचर्स के प्रकार समझ लें।

संख्यात्मक फ़ीचर्स 

जैसा कि नाम से स्पष्ट है, संख्यात्मक फ़ीचर्स संख्याओं में डेटा दर्शाते हैं। ये सतत मात्रात्मक चर होते हैं। उदाहरण: ऊंचाई, आयु, और वेतन। 

वर्गीकृत (कैटेगोरिकल) फ़ीचर्स

कैटेगोरिकल कॉलम में केवल विविक्त (डिस्क्रीट) मान होते हैं। उदाहरण के लिए, किसी व्यक्ति का जेंडर एक कैटेगोरिकल कॉलम है, क्योंकि इसमें कुछ ही जेंडर प्रकार हो सकते हैं। जन्म महीना भी एक उदाहरण है क्योंकि मान जनवरी से दिसंबर के बीच ही होंगे। 

कैटेगोरिकल वेरिएबल्स आगे बाइनरी और नॉन-बाइनरी प्रकारों में बाँटे जाते हैं। बाइनरी वेरिएबल्स में दो संभावित श्रेणियाँ होती हैं, जबकि नॉन-बाइनरी फ़ीचर्स में कई श्रेणियाँ हो सकती हैं। 

पाठ्य (टेक्स्ट) और टाइम-सीरीज़ फ़ीचर्स 

टेक्स्टुअल कॉलम में केवल पाठ्य डेटा होता है। उदाहरण के तौर पर, किसी रिटेल डेटासेट में प्रोडक्ट रिव्यू या प्रोडक्ट डिस्क्रिप्शन कॉलम। 

दूसरी ओर, टाइम-सीरीज़ फ़ीचर्स समय-आधारित डेटा दर्शाते हैं, जैसे साप्ताहिक बिक्री या एक वर्ष में स्टॉक कीमतों में उतार-चढ़ाव।

छवि: लेखक द्वारा

फ़ीचर इंजीनियरिंग तकनीकें

कच्चे कॉलम्स को वांछित फ़ीचर्स में बदलने के लिए फ़ीचर इंजीनियरिंग कई प्रभावी तकनीकें प्रदान करती है। यहाँ हम कुछ प्रमुख तरीकों पर चर्चा करते हैं। 

मिसिंग वैल्यूज़ को संभालना

मिसिंग वैल्यूज़ मॉडल के प्रदर्शन को बिगाड़ सकती हैं, इसलिए इन्हें ठीक से संभालना महत्वपूर्ण है। इसके दो मुख्य तरीके हैं:

• इम्प्यूटेशन: उपलब्ध जानकारी का उपयोग करके मिसिंग वैल्यूज़ भरना। उदाहरण के लिए, औसत (mean), बहुलक (mode) या माध्यिका (median) मानों से मिसिंग वैल्यूज़ को बदला जा सकता है। 
• डिलीशन: इस विधि में मिसिंग वैल्यूज़ वाली पंक्तियाँ हटाई जाती हैं, और यह तब उपयुक्त है जब मिसिंग डेटा डेटासेट के आकार का 10% से कम हो। 

मिसिंग डेटा को संभालने की विस्तृत गाइड के लिए यह Techniques to Handle Missing Data Tutorial पढ़ें या यह Dealing with Missing Data in Python Course देखें।

आउटलायर्स को संभालना 

आउटलायर्स ऐसे असामान्य मान होते हैं जो बाकी डेटा पॉइंट्स से काफी अलग हों। उदाहरण के तौर पर, यदि किसी वेतन डेटासेट में अधिकांश मान $90K से $120K के बीच हैं, तो $400K या $10K जैसे मान आउटलायर होंगे। 

• रीप्लेस: आउटलायर्स को कॉलम के अधिकतम या न्यूनतम जैसे सांख्यिकीय मान से बदला जा सकता है।
• ट्रांसफॉर्मेशन: लॉग या स्क्वायर रूट जैसी ट्रांसफॉर्मेशन लागू करें ताकि प्रभाव कम हो। 
• रॉबस्ट मॉडल्स: ऐसे मॉडल का उपयोग करें जो आउटलायर्स के प्रति कम संवेदनशील हों। Decision trees, gradient boosting, और ridge regression पर आउटलायर्स का कम असर पड़ता है। 
• डिलीट: यदि कोई तरीका काम न करे, तो आउटलायर्स को डेटासेट से हटा देना अंतिम विकल्प है।

कैटेगोरिकल वेरिएबल्स को एनकोड करना

मशीन लर्निंग मॉडल सीधे कैटेगोरिकल वेरिएबल्स को प्रोसेस नहीं कर सकते, इसलिए इन्हें संख्यात्मक रूप में बदलना होता है। नीचे हम कुछ लोकप्रिय एनकोडिंग तकनीकों पर चर्चा करते हैं। 

• वन-हॉट एनकोडिंग: कैटेगोरिकल फ़ीचर की हर श्रेणी को एक अलग कॉलम के रूप में दर्शाया जाता है; सैंपल में श्रेणी मौजूद हो तो मान 1 और अन्य सभी कॉलम्स में 0 होता है। नीचे दिया उदाहरण इसे समझाता है।

एक डेटासेट पर विचार करें जिसमें निम्न कैटेगोरिकल फ़ीचर है:

वन-हॉट एनकोडिंग का उपयोग करते हुए, हम Gender फीचर की प्रत्येक संभावित श्रेणी के लिए अलग कॉलम बनाते हैं:

क्योंकि John Male है, इसलिए "Male" कॉलम को 1 मिलता है, जबकि "Female" कॉलम 0 रहता है। इसी तरह, Rachel और Emma Female हैं, तो "Female" कॉलम 1 और "Male" कॉलम 0 है।

Python में वन-हॉट एनकोडिंग पर संपूर्ण ट्यूटोरियल के लिए यह One-Hot Encoding Tutorial देखें।

• लेबल एनकोडिंग: लेबल एनकोडिंग में कैटेगोरिकल फ़ीचर की प्रत्येक श्रेणी को एक अनूठा संख्यात्मक मान सौंपा जाता है। यह तरीका ऑर्डिनल डेटा (जहाँ श्रेणियों का अर्थपूर्ण क्रम होता है) के लिए उपयोगी है, लेकिन नॉन-ऑर्डिनल कैटेगोरिकल वेरिएबल्स में समस्या ला सकता है, क्योंकि मॉडल इन संख्यात्मक मानों को रैंकिंग के रूप में समझ सकता है।

मान लें कि एक डेटासेट में Location कॉलम में कैटेगोरिकल मान हैं:

प्रत्येक अद्वितीय स्थान को एक अलग संख्यात्मक मान दिया गया है। लेकिन चूँकि California (2) स्वाभाविक रूप से New York (1) और Texas (3) के "बीच" नहीं है, इसलिए नॉन-ऑर्डिनल डेटा के लिए लेबल एनकोडिंग भ्रामक अनुमानों की ओर ले जा सकती है। ऐसे मामलों में श्रेणियों के बीच अनपेक्षित संख्यात्मक संबंध दर्शाने से बचने के लिए वन-हॉट एनकोडिंग बेहतर विकल्प है।

• ऑर्डिनल एनकोडिंग: ऑर्डिनल एनकोडिंग लेबल एनकोडिंग के समान है, लेकिन इसे विशेष रूप से तब उपयोग किया जाता है जब कैटेगोरिकल मानों का एक अर्थपूर्ण क्रम हो। मनमाने संख्यात्मक मान देने के बजाय, यह श्रेणियों को उनकी रैंकिंग के आधार पर मैप करता है, जिससे उच्च मान उच्च रैंक को दर्शाते हैं।

एक Education level कॉलम पर विचार करें, जिसमें निम्न श्रेणियाँ हैं:

क्योंकि PhD, PG से उच्च स्तर है और PG, UG से उच्च है, सौंपे गए संख्यात्मक मान इस रैंकिंग को दर्शाते हैं।

• टारगेट एनकोडिंग: प्रत्येक कैटेगोरिकल मान को उसके संबंधित टारगेट वेरिएबल के मानों के औसत से बदलता है। टारगेट वेरिएबल वह आश्रित चर है जिसकी भविष्यवाणी मॉडल करता है। यह तकनीक उच्च-कार्डिनैलिटी वाले कैटेगोरिकल फ़ीचर्स (यानी बहुत अधिक अद्वितीय मान वाली) के लिए विशेष रूप से उपयोगी है, क्योंकि यह आयामिकता घटाते हुए प्रासंगिक जानकारी बनाए रखती है।

मान लें कि एक डेटासेट में Location कैटेगोरिकल फ़ीचर है, और Target variable किसी संख्यात्मक परिणाम का प्रतिनिधित्व करता है:

Location कॉलम को एनकोड करने के लिए, हम प्रत्येक अद्वितीय श्रेणी के लिए Target variable का औसत निकालते हैं:

• California: (3 + 1) / 2 = 2
• Texas: (5 + 4) / 2 = 4.5
• New York: केवल एक मान (2), इसलिए 2 ही रहेगा

यदि आप कैटेगोरिकल डेटा को संभालने पर व्यापक गाइड चाहते हैं, तो यह Categorical Data Handling Tutorial अतिरिक्त जानकारी देता है।

फ़ीचर स्केलिंग 

फ़ीचर स्केलिंग सुनिश्चित करती है कि संख्यात्मक फ़ीचर्स एक मानकीकृत रेंज में हों, ताकि बड़े मानों के कारण कुछ फ़ीचर्स सीखने की प्रक्रिया पर हावी न हो जाएँ।

ऐसे मशीन लर्निंग मॉडल जो दूरी-आधारित गणनाओं पर निर्भर होते हैं (जैसे, लीनियर रिग्रेशन, k-nearest neighbors, और न्यूरल नेटवर्क्स), फ़ीचर्स के पैमाने में बड़े अंतर से प्रभावित हो सकते हैं।

उदाहरण के लिए, एक कर्मचारी डेटासेट में निम्न फ़ीचर्स हों:

• आयु 20 से 60 के बीच
• आय $30,000 से $150,000 के बीच

क्योंकि आय के मान आयु की तुलना में बहुत बड़े हैं, मॉडल केवल पैमाने के कारण आय को अधिक महत्व दे सकता है, न कि इसलिए कि वह वास्तव में अधिक प्रासंगिक है।

यहाँ कुछ आम तकनीकें हैं:

• नॉर्मलाइज़ेशन (मिन-मैक्स स्केलिंग): इस विधि में सभी फ़ीचर मानों को 0 और 1 के बीच स्केल किया जाता है। यह प्रत्येक डेटा पॉइंट से कॉलम का न्यूनतम मान घटाती है और फिर उसे उस कॉलम के रेंज (अधिकतम और न्यूनतम के अंतर) से भाग देती है। फ़ॉर्मूला इस प्रकार है:

Scaled value =( datapoint - min(column))/(max(column) - min(column))

• स्टैंडर्डाइज़ेशन (Z-स्कोर स्केलिंग): इसमें सभी फ़ीचर्स का औसत 0 और मानक विचलन 1 कर दिया जाता है। फ़ॉर्मूला: कॉलम के प्रत्येक डेटा पॉइंट से उस कॉलम का औसत घटाया जाता है और शेष को उस फ़ीचर के मानक विचलन से भाग दिया जाता है। 

Scaled value =( datapoint - mean(column))/(std(column))

नॉर्मलाइज़ेशन बनाम स्टैंडर्डाइज़ेशन की विस्तृत तुलना के लिए यह Normalization vs. Standardization Guide देखें।

नए फ़ीचर्स बनाना

मौजूदा डेटा से नए, सार्थक फ़ीचर्स बनाना मॉडल को अधिक तार्किक अंतर्दृष्टि देता है। 

उदाहरण के लिए, हाउस प्राइस प्रेडिक्शन डेटासेट में यदि आपके पास length और breadth कॉलम अलग-अलग हैं, तो आप नया फ़ीचर निकाल सकते हैं: area = length * breath, जो सीधे टारगेट वेरिएबल price से संबंधित हो सकता है। इस area फ़ीचर को मॉडल में देने से छिपे पैटर्न ढूँढना सरल हो जाता है। 

फ़ीचर चयन

फ़ीचर चयन अनावश्यक कॉलम हटाकर केवल प्रासंगिक फ़ीचर्स रखता है। सबसे सूचनात्मक डेटा पर ध्यान केंद्रित करने से ओवरफिटिंग रोकी जा सकती है, गणनात्मक जटिलता घटती है, और मॉडल का प्रदर्शन बेहतर होता है। कुछ तकनीकें हैं:

• फ़िल्टर मेथड्स: यह विधि सांख्यिकीय गुणों के आधार पर महत्वपूर्ण फ़ीचर्स चुनती है। उदाहरण के लिए, कोरिलेशन हीटमैप का उपयोग करके समान जानकारी वाले फ़ीचर्स हटाए जा सकते हैं। अन्य तकनीकें हैं ची-स्क्वेयर टेस्ट, ANOVA, और इन्फॉर्मेशन गेन मेथड्स।
• रैपर मेथड्स: ये तरीके अलग-अलग फ़ीचर सबसेट्स के संयोजनों के साथ क्रमिक रूप से प्रेडिक्टिव मॉडल ट्रेन करते हैं, और अनुकूलित प्रदर्शन वाले सर्वोत्तम सबसेट का चयन होता है। फॉरवर्ड सिलेक्शन, बैकवर्ड सिलेक्शन, और रिकर्सिव एलिमिनेशन तरीके इसी श्रेणी में आते हैं। 

Python में फ़ीचर इंजीनियरिंग: एक व्यावहारिक उदाहरण

फ़ीचर इंजीनियरिंग को हैंड्स-ऑन इम्प्लीमेंटेशन के जरिए सबसे अच्छी तरह समझा जा सकता है।

“हाउस प्राइस प्रेडिक्शन” एक बड़ा, वास्तविक दुनिया का डेटासेट है जिसमें 81 कॉलम हैं। इसे मैंने इसके विविध फ़ीचर रेंज के कारण चुना है, जो आपको फ़ीचर इंजीनियरिंग तकनीकों को व्यावहारिक रूप से बेहतर समझने में मदद करेगा।

शुरू करें:

1. Kaggle से डेटासेट डाउनलोड करें।
2. इसे विश्लेषण और फ़ीचर इंजीनियरिंग के लिए Pandas DataFrame में लोड करें।

कैटेगोरिकल मिसिंग वैल्यूज़ संभालना

निम्न कोड डेटासेट में कैटेगोरिकल कॉलम्स को पहचानता है और उनकी मिसिंग वैल्यूज़ को सबसे अधिक बार आने वाली श्रेणी से बदल देता है:

import pandas as pd

# Load dataset (replace 'your_file.csv' with the actual file name)
df = pd.read_csv('your_file.csv')

# Select categorical columns
categorical_cols = df.select_dtypes(include=['object']).columns

# Replace missing values with the most frequent category (mode)
for col in categorical_cols:
    mode = df[col].mode()[0]  # Get the most common value
    df[col].fillna(mode, inplace=True)  # Fill missing valuesसंचालित द्वारा

सांख्यिकीय (न्यूमेरिक) मिसिंग वैल्यूज़ संभालना

हम संख्यात्मक मिसिंग वैल्यूज़ को औसत (mean) या माध्यिका (median) से बदलते हैं। सांख्यिकीय रूप से वितरित डेटा के लिए औसत अधिक लोकप्रिय है, जबकि कॉलम में आउटलायर्स हों तो माध्यिका बेहतर काम करती है। इसलिए, हम आउटलायर्स की जाँच करेंगे और फिर तरीका तय करेंगे। 

संभावित आउटलायर्स को विज़ुअलाइज़ करने के लिए हम बॉक्स प्लॉट का उपयोग कर सकते हैं, जो चरम मानों की पहचान में मदद करता है। नीचे चयनित संख्यात्मक कॉलम्स में आउटलायर्स का पता लगाने के लिए Python इम्प्लीमेंटेशन दिया है:

import pandas as pd
import matplotlib.pyplot as plt
import numpy as np

features = ['LotFrontage', 'MasVnrArea', 'GarageYrBlt']  

# Plot box plots
df[features]=np.log(df[features])
df[features].boxplot(figsize=(8, 4))

plt.title('Box Plot for Outlier Detection')
plt.ylabel('Values')
plt.xticks(rotation=45)
plt.show()संचालित द्वारा

आउटपुट:

ऊपर दिए बॉक्सप्लॉट्स में व्हिस्कर्स के बाहर जो पॉइंट्स हैं—उन्हें आउटलायर्स कहते हैं। इसलिए, चलिए मिसिंग वैल्यूज़ को माध्यिका से बदलते हैं।

नल मानों को माध्यिका से बदलने का कोड:

import pandas as pd
# Select numerical columns
numerical_columns = df.select_dtypes(include=['number']).columns
for col in numerical_columns:
    median = df[col].median()  
    df[col].fillna(median, inplace=True)  # Replace nulls with medianसंचालित द्वारा

नए फ़ीचर्स बनाना

YearBuilt, YearRemodAdd, GarageYrBlt, और YrSold जैसे कॉलम वर्षों (जैसे, 2001, 1976) को रखते हैं जो सीधे टारगेट वेरिएबल को प्रभावित नहीं करते। भले ही ये एब्सोल्यूट वर्ष मान सीधे हाउस प्राइस पर असर न डालें, लेकिन बिक्री के समय घर या नवीनीकरण की उम्र निकालकर अधिक उपयोगी अंतर्दृष्टि पाई जा सकती है।

उदाहरण के लिए, YearBuilt का उपयोग करने के बजाय, हम नया फ़ीचर बना सकते हैं: House Age=YrSold−YearBuilt

इन नए फ़ीचर्स को बनाने का कोड:

# Get columns that contain 'Yr' or 'Year'
year_columns = [feature for feature in numerical_columns if 'Yr' in feature or 'Year' in feature]

# Convert year values into age-related features
for col in year_columns:
    df[col] = df['YrSold'] - df[col]संचालित द्वारा

फ़ीचर ट्रांसफॉर्मेशन

मशीन लर्निंग में, स्क्यूड (तिरछे) संख्यात्मक फ़ीचर्स मॉडल के प्रदर्शन पर नकारात्मक प्रभाव डाल सकते हैं, खासकर उन मॉडलों के लिए जो नॉर्मल डिस्ट्रीब्यूशन मानते हैं (जैसे, लीनियर रिग्रेशन)। इसे सुधारने के लिए, हम लॉग ट्रांसफॉर्मेशन लागू करते हैं।

लॉग ट्रांसफॉर्मेशन लागू करने से पहले, हमें स्क्यूड फ़ीचर्स की पहचान करनी होगी। हालाँकि, हम उन कॉलम्स को बाहर रखेंगे जिनमें शून्य हैं क्योंकि शून्य का लॉगरिदम अपरिभाषित है।

स्क्यूड कॉलम पहचानने के लिए Python में यह इम्प्लीमेंटेशन देखें:

import pandas as pd

# Get numerical columns
numerical_columns = df.select_dtypes(include=['number']).columns

# Identify columns containing zeros
numerical_0s = df.loc[:, (df == 0).any()].select_dtypes(include=['number']).columns

# Remove columns that contain zeros from consideration
numerical_columns = numerical_columns.difference(numerical_0s)

# Calculate skewness for the remaining numerical columns
skewness = df[numerical_columns].skew()

# Set threshold for skewness (e.g., absolute value > 1 indicates high skewness)
skewed_columns = skewness[abs(skewness) > 1]

# Display skewed columns
print("Skewed Columns:")
print(skewed_columns)संचालित द्वारा

आउटपुट:

हम इन पाँच स्क्यूड कॉलम्स को एक Gaussian वितरण में बदलने के लिए लॉग-नॉर्मल वितरण का उपयोग करेंगे:

import numpy as np

# The list of highly skewed features identified earlier
skew_features = ['LotFrontage', 'LotArea', '1stFlrSF', 'GrLivArea', 'SalePrice']

# Apply log transformation to each skewed feature
for col in skew_features:
    df[col] = np.log(df[col])संचालित द्वारा

कैटेगोरिकल फ़ीचर्स को संख्यात्मक मानों में बदलें

हमने पहले कई एनकोडिंग तकनीकों पर चर्चा की; इस उदाहरण में, हम टारगेट एनकोडिंग लागू करेंगे।

# Select categorical variables
categorical_columns = df.select_dtypes(include=['object', 'category']).columns

# Apply target encoding
for col in categorical_columns:
    # Compute mean SalePrice for each category
    labels_ordered = df.groupby([col])['SalePrice'].mean().sort_values().index
    
    # Assign numerical values based on target variable mean
    labels_ordered = {x: i for i, x in enumerate(labels_ordered, 0)}
    
    # Map encoded values back to the dataframe
    df[col] = df[col].map(labels_ordered)संचालित द्वारा

ऊपर दिए कोड में टारगेट वेरिएबल SalePrice है, इसलिए हमने प्रत्येक कैटेगोरिकल कॉलम के आधार पर डेटा को ग्रुप किया और प्रत्येक समूह के लिए औसत SalePrice निकाला। फिर इन औसत मानों को उस कॉलम के संबंधित कैटेगोरिकल मानों को सौंप दिया गया।

अब हमारा डेटासेट मशीन लर्निंग के लिए तैयार है! 

यदि आप सुपरवाइज़्ड लर्निंग की अवधारणाओं और मॉडल्स के इंजीनियर किए गए फ़ीचरस का उपयोग करने के तरीके को और मजबूत करना चाहते हैं, तो यह Supervised Learning with Scikit-Learn Course एक उत्कृष्ट संसाधन है।

फ़ीचर इंजीनियरिंग के लिए टूल्स और लाइब्रेरियाँ

इस सेक्शन में, हम फ़ीचर इंजीनियरिंग लागू करने के लिए सबसे अधिक उपयोग की जाने वाली Python लाइब्रेरियों और ऑटोमेशन टूल्स को देखेंगे। 

Pandas

Pandas संरचित डेटा को संभालने के लिए सबसे अधिक उपयोग किया जाने वाला Python फ़्रेमवर्क है। यह ट्रांसफॉर्मेशन, डेटा एग्रीगेशन और फ़ीचर एक्स्ट्रैक्शन जैसे कई फ़ीचर इंजीनियरिंग स्टेप्स करता है। Pandas डेटा क्लीनिंग और मैनिपुलेशन को भी आसान बनाता है।

यदि आप pandas में नए हैं, तो यह Data Manipulation with pandas Course एक बेहतरीन शुरुआत है।

Scikit-Learn

Scikit-learn एक शक्तिशाली मशीन लर्निंग लाइब्रेरी है, जिसमें फ़ीचर इंजीनियरिंग के लिए विभिन्न टूल्स हैं। इसमें OneHotEncoder और LabelEncoder जैसे मेथड्स हैं जो कैटेगोरिकल को न्यूमेरिकल वेरिएबल्स में बदलते हैं। यह StandardScaler और Minmaxscaler जैसे फ़ीचर स्केलिंग मेथड्स भी प्रदान करता है। 

Feature-Engine

Feature-engine एक ओपन-सोर्स Python लाइब्रेरी है जो फ़ीचर इंजीनियरिंग को सरल बनाने के लिए विभिन्न ट्रांसफॉर्मर्स प्रदान करती है। ये ट्रांसफॉर्मर्स विशिष्ट कार्यों के लिए विशेष उपकरण हैं, जैसे मिसिंग डेटा इम्प्यूटेशन, आउटलायर हैंडलिंग, फ़ीचर चयन और डिस्क्रीटाइजेशन। Scikit-learn के साथ पूर्णतः संगत, ये ट्रांसफॉर्मर्स हाइपरपैरामीटर ट्यूनिंग के लिए इनपुट पैरामीटर्स के रूप में पास किए जा सकते हैं।

स्वचालित फ़ीचर इंजीनियरिंग टूल्स

• Featuretools: Featuretools एक ओपन-सोर्स लाइब्रेरी है जो फ़ीचर इंजीनियरिंग को ऑटोमेट करती है। यह फ़्रेमवर्क मुख्य रूप से रिलेशनल डेटाबेस से नए फ़ीचर्स बनाने में उपयोग होता है। यह DFS (डीप फ़ीचर सिंथेसिस) एल्गोरिद्म पर निर्भर करता है, जो ट्रांसफॉर्मेशन और एग्रीगेशन ऑपरेशन्स के आधार पर नए फ़ीचर्स बनाता है। 
• TSFresh: TSFresh, जिसे Time Series Feature Extraction based on Scalable Hypothesis Tests के नाम से जाना जाता है, विशेष रूप से टाइम-सीरीज़ डेटा से सार्थक फ़ीचर्स निकालने के लिए डिज़ाइन किया गया है। यह लाइब्रेरी प्रेडिक्शन के लिए सांख्यिकीय रूप से महत्वपूर्ण फ़ीचर्स चुनने हेतु हाइपोथेसिस टेस्टिंग करती है। 
• Autofeat: यह Autofeat लाइब्रेरी फीचर चयन, निर्माण और ट्रांसफॉर्मेशन को ऑटोमेट कर लीनियर मॉडल की सटीकता सुधारती है। उदाहरण के लिए, fit() के बजाय, यह लाइब्रेरी fit_transform() मेथड देती है जो एक साथ fit और transform ऑपरेशन्स करती है। इसके अलावा, FeatureSelector और AutoFeatLight मॉडल्स फीचर चयन और स्केलिंग के लिए उपलब्ध हैं।

फ़ीचर इंजीनियरिंग के लिए सर्वोत्तम प्रथाएँ

फ़ीचर इंजीनियरिंग को प्रभावी ढंग से लागू करने के लिए, इन सर्वोत्तम प्रथाओं पर ध्यान दें।

अपने डेटा को जानें

प्रत्येक फ़ीचर का अर्थ और महत्व समझना, फ़ीचर चयन या एक्स्ट्रैक्शन जैसी तकनीकें लागू करना आसान बनाता है। प्रभावी फ़ीचर इंजीनियरिंग के लिए मैं सुझाव दूँगा कि आप अपने डेटा और संबंधित डोमेन ज्ञान पर शोध करें।

एक्सप्लोरेटरी डेटा एनालिसिस (EDA) करें

Pandas और Matplotlib जैसी Python लाइब्रेरियों का उपयोग कर व्यापक एक्सप्लोरेटरी डेटा एनालिसिस करें, जिसमें सांख्यिकीय जानकारी, विज़ुअलाइज़ेशन और कोरिलेशन की जाँच कर डेटा के भीतर पैटर्न और संभावित संबंध खोजे जाते हैं।  

इंटरैक्शन फ़ीचर्स बनाएँ

इंटरैक्शन फ़ीचर्स बनाना मौजूदा फ़ीचर्स के बीच संबंधों की पहचान कर नए फ़ीचर्स निकालना है। उदाहरण के लिए, हाउस प्राइस प्रेडिक्शन में, वर्तमान वर्ष से निर्माण वर्ष घटाकर घर की उम्र निकालना उन ट्रेंड्स को उजागर करता है, जैसे समय के साथ घर की कीमतों में कमी। 

मॉडल पहले से चुनें

अलग-अलग मशीन लर्निंग मॉडल्स को फ़ीचर इंजीनियरिंग के अलग स्टेप्स की आवश्यकता होती है। उदाहरण के लिए, लीनियर या मल्टिपल रिग्रेशन, SVM और KNN जैसे मॉडल्स को अक्सर फ़ीचर स्टैंडर्डाइज़ेशन से लाभ होता है, लेकिन यह तकनीक ट्री-आधारित मॉडलों की मदद नहीं करती। 

इसलिए, अपना मॉडल पहले से तय करना आपके उपयोग-प्रकरण के लिए प्रभावी फ़ीचर इंजीनियरिंग पाइपलाइन बनाने में सहायक होता है। 

निष्कर्ष

फ़ीचर इंजीनियरिंग मशीन लर्निंग समाधान बनाने का अभिन्न हिस्सा है, जो आपको फ़ीचर्स का सबसे कुशल तरीके से लाभ उठाने देता है। डेटा साइंटिस्ट या ML इंजीनियर किसी भी डेटासेट पर काम करते समय इस प्रक्रिया को अंजाम देते हैं। यदि आप डेटा प्रोफेशनल हैं या बनने का लक्ष्य रखते हैं, तो इस लेख में बताई सभी तकनीकों में महारत हासिल करना आपके करियर को आगे बढ़ाने में मदद करेगा!

इन तकनीकों को विस्तार से जानने के लिए DataCamp के ये कोर्स देखें: feature engineering for machine learning और feature engineering for NLP। R प्रोग्रामर्स के लिए फीचर इंजीनियरिंग पर भी एक कोर्स उपलब्ध है।