Python में Factor Analysis का परिचय

Factor Analysis (FA) एक अन्वेषणात्मक डेटा विश्लेषण विधि है जिसका उपयोग देखे गए चर (observed variables) के समूह से प्रभावशाली अंतर्निहित कारकों या गुप्त चर (latent variables) की खोज के लिए किया जाता है। यह चर की संख्या घटाकर डेटा का अर्थ निकालने में मदद करता है। यह सभी चरों से अधिकतम साझा वैरिएंस निकालकर उन्हें एक साझा स्कोर में रखता है।

फैक्टर एनालिसिस का व्यापक उपयोग मार्केट रिसर्च, विज्ञापन, मनोविज्ञान, वित्त और ऑपरेशन रिसर्च में होता है। मार्केट शोधकर्ता इसका उपयोग मूल्य-संवेदनशील ग्राहकों की पहचान करने, उन ब्रांड विशेषताओं की पहचान करने के लिए करते हैं जो उपभोक्ता की पसंद को प्रभावित करती हैं, और वितरण चैनल के लिए चैनल चयन मानदंड को समझने में मदद के लिए करते हैं।

Factor Analysis

फैक्टर एनालिसिस एक रैखिक (linear) सांख्यिकीय मॉडल है। इसका उपयोग देखे गए चरों के बीच वैरिएंस को समझाने और उन्हें गुप्त चरों यानी कारकों में संक्षेपित करने के लिए किया जाता है। देखे गए चरों को कारकों और त्रुटि पदों के रैखिक संयोजन के रूप में मॉडल किया जाता है (Source)। फैक्टर या लैटेंट वेरिएबल कई देखे गए चरों से संबद्ध होता है जिनमें प्रतिक्रियाओं के सामान्य पैटर्न होते हैं। प्रत्येक फैक्टर देखे गए चरों में एक निश्चित मात्रा का वैरिएंस समझाता है। यह चर की संख्या घटाकर डेटा की व्याख्या करना आसान बनाता है।

फैक्टर एनालिसिस एक ऐसी विधि है जो यह जाँचती है कि रुचि के कई चर X1, X2,……, Xl, कम संख्या के अप्रेक्षित (unobservable) कारकों F1, F2,……, Fk से रैखिक रूप से संबंधित हैं या नहीं।

स्रोत: यह छवि फैक्टर एनालिसिस के नोट्स में मिली एक छवि से पुनर्निर्मित है। यह छवि फैक्टर एनालिसिस का पूर्ण दृश्य देती है।

अनुमान (Assumptions):

1. डेटा में आउटलायर न हों।
2. सैंपल आकार कारकों की संख्या से अधिक होना चाहिए।
3. परफेक्ट मल्टिकोलीनियरिटी नहीं होनी चाहिए।
4. चरों के बीच समविक्रियता (homoscedasticity) नहीं होनी चाहिए।

Factor Analysis के प्रकार

• Exploratory Factor Analysis: यह सामाजिक और प्रबंधन शोधकर्ताओं के बीच सबसे लोकप्रिय दृष्टिकोण है। इसका मूल अनुमान है कि कोई भी देखा गया चर किसी भी कारक से सीधे संबद्ध हो सकता है।
• Confirmatory Factor Analysis (CFA): इसका मूल अनुमान है कि प्रत्येक कारक विशिष्ट देखे गए चरों के एक समूह से संबद्ध है। CFA यह पुष्ट करता है कि बुनियादी अपेक्षाएँ सही हैं।

Factor Analysis कैसे काम करता है?

फैक्टर एनालिसिस का प्राथमिक उद्देश्य देखे गए चरों की संख्या घटाना और अप्रेक्षित चरों को खोजना है। ये अप्रेक्षित चर मार्केट शोधकर्ता को सर्वे से निष्कर्ष निकालने में मदद करते हैं। देखे गए चरों को अप्रेक्षित चरों में बदलना दो चरणों में किया जा सकता है:

• Factor Extraction: इस चरण में, वैरिएंस पार्टिशनिंग विधियों जैसे principal components analysis और common factor analysis का उपयोग करके कारकों की संख्या और निष्कर्षण का तरीका चुना जाता है।
• Factor Rotation: इस चरण में, रोटेशन कारकों को असहसंबद्ध (uncorrelated) बनाने की कोशिश करता है — इसका मुख्य उद्देश्य समग्र व्याख्यात्मकता (interpretability) में सुधार करना है। कई रोटेशन विधियाँ उपलब्ध हैं, जैसे: Varimax, Quartimax और Promax रोटेशन विधि।

शब्दावली

फैक्टर क्या है?

फैक्टर एक लैटेंट वेरिएबल है जो कई देखे गए चरों के बीच संबंध का वर्णन करता है। कारकों की अधिकतम संख्या देखे गए चरों की संख्या के बराबर होती है। हर फैक्टर देखे गए चरों में कुछ वैरिएंस समझाता है। सबसे कम वैरिएंस वाले कारकों को हटा दिया जाता है। फैक्टर को लैटेंट वेरिएबल, हिडन वेरिएबल, अप्रेक्षित वेरिएबल या परिकल्पित (hypothetical) वेरिएबल भी कहा जाता है।

फैक्टर लोडिंग्स क्या हैं?

फैक्टर लोडिंग्स एक मैट्रिक्स है जो प्रत्येक चर और अंतर्निहित फैक्टर के बीच संबंध दिखाती है। यह देखे गए चर और फैक्टर के लिए सहसंबंध गुणांक दर्शाती है। यह देखे गए चरों द्वारा समझाए गए वैरिएंस को दर्शाती है।

Eigenvalues क्या हैं?

Eigenvalues कुल वैरिएंस में से प्रत्येक फैक्टर द्वारा समझाए गए वैरिएंस का प्रतिनिधित्व करते हैं। इन्हें characteristic roots भी कहा जाता है।

Communalities क्या हैं?

कम्यूनैलिटीज प्रत्येक चर के लिए स्क्वायर्ड लोडिंग्स का योग होती हैं। यह साझा वैरिएंस का प्रतिनिधित्व करती हैं। इनका मान 0 से 1 के बीच होता है और 1 के निकट मान अधिक वैरिएंस को दर्शाता है।

Factor Rotation क्या है?

रोटेशन फैक्टर एनालिसिस की बेहतर व्याख्या के लिए एक औजार है। रोटेशन ऑर्थोगोनल या ओब्लिक हो सकता है। यह स्पष्ट लोडिंग पैटर्न के साथ कम्यूनैलिटीज का पुनर्वितरण करता है।

कारकों की संख्या चुनना

Kaiser मानदंड एक विश्लेषणात्मक दृष्टिकोण है, जिसके अनुसार जिस फैक्टर द्वारा वैरिएंस का अधिक अनुपात समझाया जाता है उसे चुना जाएगा। कारकों की संख्या निर्धारित करने के लिए eigenvalue एक अच्छा मानदंड है। सामान्यतः, 1 से अधिक eigenvalue वाले फैक्टर को चयन के लिए माना जाता है।

ग्राफिकल दृष्टिकोण कारकों की eigenvalues के दृश्य निरूपण पर आधारित है जिसे scree plot कहते हैं। यह स्क्री प्लॉट उस बिंदु पर कारकों की संख्या निर्धारित करने में मदद करता है जहाँ वक्र में कोहनी (elbow) बनती है।

Source

Factor Analysis बनाम Principal Component Analysis

• PCA कॉम्पोनेंट्स अधिकतम वैरिएंस समझाते हैं जबकि फैक्टर एनालिसिस डेटा में सहवैरिएंस (covariance) समझाता है।
• PCA कॉम्पोनेंट्स आपस में पूर्णतः ऑर्थोगोनल होते हैं, जबकि फैक्टर एनालिसिस में कारकों का ऑर्थोगोनल होना आवश्यक नहीं है।
• PCA कॉम्पोनेंट देखे गए चरों का रैखिक संयोजन होता है, जबकि FA में देखे गए चर अप्रेक्षित चर या फैक्टर के रैखिक संयोजन होते हैं।
• PCA कॉम्पोनेंट्स प्रायः व्याख्यायोग्य नहीं होते। FA में अंतर्निहित कारकों को लेबल किया जा सकता है और उनकी व्याख्या की जा सकती है।
• PCA एक प्रकार की डायमेंशनलिटी रिडक्शन विधि है, जबकि फैक्टर एनालिसिस लैटेंट वेरिएबल विधि है।
• PCA फैक्टर एनालिसिस का एक प्रकार है। PCA प्रेक्षणात्मक (observational) है जबकि FA एक मॉडलिंग तकनीक है।

Source

factor_analyzer पैकेज का उपयोग करते हुए Python में Factor Analysis

आवश्यक लाइब्रेरी इम्पोर्ट करें

# Import required libraries
import pandas as pd
from sklearn.datasets import load_iris
from factor_analyzer import FactorAnalyzer
import matplotlib.pyplot as plt
संचालित द्वारा

डेटा लोड करना

आइए BFI (व्यक्तित्व आकलन प्रोजेक्ट पर आधारित डेटासेट) पर फैक्टर एनालिसिस करें, जिसे 6-पॉइंट रिस्पॉन्स स्केल का उपयोग करके एकत्र किया गया था: 1 Very Inaccurate, 2 Moderately Inaccurate, 3 Slightly Inaccurate 4 Slightly Accurate, 5 Moderately Accurate, और 6 Very Accurate। आप इस डेटासेट को निम्न लिंक से डाउनलोड भी कर सकते हैं: https://vincentarelbundock.github.io/Rdatasets/datasets.html

df= pd.read_csv("bfi.csv")
संचालित द्वारा

डेटा प्रीप्रोसेस करें

df.columns
संचालित द्वारा

Index(['A1', 'A2', 'A3', 'A4', 'A5', 'C1', 'C2', 'C3', 'C4', 'C5', 'E1', 'E2',
       'E3', 'E4', 'E5', 'N1', 'N2', 'N3', 'N4', 'N5', 'O1', 'O2', 'O3', 'O4',
       'O5', 'gender', 'education', 'age'],
      dtype='object')
संचालित द्वारा

# Dropping unnecessary columns
df.drop(['gender', 'education', 'age'],axis=1,inplace=True)
संचालित द्वारा

# Dropping missing values rows
df.dropna(inplace=True)
संचालित द्वारा

df.info()
संचालित द्वारा

<class 'pandas.core.frame.DataFrame'>
Int64Index: 2436 entries, 0 to 2799
Data columns (total 25 columns):
A1    2436 non-null float64
A2    2436 non-null float64
A3    2436 non-null float64
A4    2436 non-null float64
A5    2436 non-null float64
C1    2436 non-null float64
C2    2436 non-null float64
C3    2436 non-null float64
C4    2436 non-null float64
C5    2436 non-null float64
E1    2436 non-null float64
E2    2436 non-null float64
E3    2436 non-null float64
E4    2436 non-null float64
E5    2436 non-null float64
N1    2436 non-null float64
N2    2436 non-null float64
N3    2436 non-null float64
N4    2436 non-null float64
N5    2436 non-null float64
O1    2436 non-null float64
O2    2436 non-null int64
O3    2436 non-null float64
O4    2436 non-null float64
O5    2436 non-null float64
dtypes: float64(24), int64(1)
memory usage: 494.8 KB
संचालित द्वारा

df.head()
संचालित द्वारा

पर्याप्तता परीक्षण

फैक्टर एनालिसिस करने से पहले, आपको अपने डेटासेट की “factorability” का आकलन करना होगा। Factorability का अर्थ है "क्या हम डेटासेट में कारक खोज सकते हैं?"। factorability या सैंपलिंग पर्याप्तता जाँचने के दो तरीके हैं:

• Bartlett’s Test
• Kaiser-Meyer-Olkin Test

Bartlett’s test of sphericity यह जाँचता है कि देखे गए चर आपस में सहसंबद्ध हैं या नहीं, इसके लिए observed correlation matrix को identity matrix के विरुद्ध परखा जाता है। यदि परीक्षण सांख्यिकीय रूप से गैर-महत्वपूर्ण निकले, तो आपको फैक्टर एनालिसिस नहीं करना चाहिए।

from factor_analyzer.factor_analyzer import calculate_bartlett_sphericity
chi_square_value,p_value=calculate_bartlett_sphericity(df)
chi_square_value, p_value
संचालित द्वारा

(18146.065577234807, 0.0)
संचालित द्वारा

इस Bartlett’s टेस्ट में p-value 0 है। परीक्षण सांख्यिकीय रूप से महत्वपूर्ण था, जो दर्शाता है कि observed correlation matrix एक identity matrix नहीं है।

Kaiser-Meyer-Olkin (KMO) टेस्ट फैक्टर एनालिसिस के लिए डेटा की उपयुक्तता मापता है। यह प्रत्येक देखे गए चर के लिए और सम्पूर्ण मॉडल के लिए पर्याप्तता निर्धारित करता है। KMO सभी देखे गए चरों में वैरिएंस के उस अनुपात का अनुमान लगाता है जो साझा है। कम अनुपात फैक्टर एनालिसिस के लिए अधिक उपयुक्त है। KMO मान 0 और 1 के बीच होते हैं। 0.6 से कम KMO मान अपर्याप्त माना जाता है।

from factor_analyzer.factor_analyzer import calculate_kmo
kmo_all,kmo_model=calculate_kmo(df)
संचालित द्वारा

kmo_model
संचालित द्वारा

0.8486452309468382
संचालित द्वारा

हमारे डेटा के लिए समग्र KMO 0.84 है, जो उत्कृष्ट है। यह मान इंगित करता है कि आप नियोजित फैक्टर एनालिसिस के साथ आगे बढ़ सकते हैं।

कारकों की संख्या चुनना

कारकों की संख्या चुनने के लिए, आप Kaiser मानदंड और scree plot का उपयोग कर सकते हैं। दोनों eigenvalues पर आधारित हैं।

# Create factor analysis object and perform factor analysis
fa = FactorAnalyzer()
fa.analyze(df, 25, rotation=None)
# Check Eigenvalues
ev, v = fa.get_eigenvalues()
ev
संचालित द्वारा

यहाँ, आप देख सकते हैं कि केवल 6 कारकों के लिए eigenvalues एक से अधिक हैं। इसका अर्थ है कि हमें केवल 6 कारक (या अप्रेक्षित चर) चुनने चाहिए।

# Create scree plot using matplotlib
plt.scatter(range(1,df.shape[1]+1),ev)
plt.plot(range(1,df.shape[1]+1),ev)
plt.title('Scree Plot')
plt.xlabel('Factors')
plt.ylabel('Eigenvalue')
plt.grid()
plt.show()
संचालित द्वारा

स्क्री प्लॉट विधि प्रत्येक फैक्टर और उसकी eigenvalue के लिए एक रेखा बनाती है। एक से अधिक eigenvalues की संख्या को कारकों की संख्या माना जाता है।

यहाँ, आप देख सकते हैं कि केवल 6 कारकों के लिए eigenvalues एक से अधिक हैं। इसका अर्थ है कि हमें केवल 6 कारक (या अप्रेक्षित चर) चुनने चाहिए।

Factor Analysis करना

# Create factor analysis object and perform factor analysis
fa = FactorAnalyzer()
fa.analyze(df, 6, rotation="varimax")
संचालित द्वारा

fa.loadings
संचालित द्वारा

• फैक्टर 1 में E1,E2,E3,E4 और E5 के लिए उच्च फैक्टर लोडिंग्स हैं (Extraversion)
• फैक्टर 2 में N1,N2,N3,N4 और N5 के लिए उच्च फैक्टर लोडिंग्स हैं (Neuroticism)
• फैक्टर 3 में C1,C2,C3,C4 और C5 के लिए उच्च फैक्टर लोडिंग्स हैं (Conscientiousness)
• फैक्टर 4 में O1,O2,O3,O4 और O5 के लिए उच्च फैक्टर लोडिंग्स हैं (Openness)
• फैक्टर 5 में A1,A2,A3,A4 और A5 के लिए उच्च फैक्टर लोडिंग्स हैं (Agreeableness)
• फैक्टर 6 में किसी भी चर के लिए उच्च लोडिंग्स नहीं हैं और इसे सरलता से व्याख्यायित करना कठिन है। बेहतर होगा कि हम केवल पाँच कारक लें।

आइए 5 कारकों के लिए फैक्टर एनालिसिस करें।

# Create factor analysis object and perform factor analysis using 5 factors
fa = FactorAnalyzer()
fa.analyze(df, 5, rotation="varimax")
fa.loadings
संचालित द्वारा

# Get variance of each factors
fa.get_factor_variance()
संचालित द्वारा

कुल 5 कारकों द्वारा 42% संचयी वैरिएंस समझाया गया है।

Factor Analysis के फायदे और सीमाएँ

फैक्टर एनालिसिस बड़े डेटासेट का अन्वेषण करता है और परस्पर जुड़े संबंध ढूँढता है। यह देखे गए चरों को कुछ अप्रेक्षित चरों में घटाता है या परस्पर संबंधित चरों के समूहों की पहचान करता है, जो मार्केट शोधकर्ताओं को बाजार की स्थितियों को संक्षेपित करने और उपभोक्ता के स्वाद, वरीयता और सांस्कृतिक प्रभावों के बीच छिपे संबंध खोजने में मदद करता है। साथ ही, यह भविष्य के सर्वे के लिए प्रश्नावली में सुधार करने में भी सहायक होता है। कारक डेटा की व्याख्या को अधिक स्वाभाविक बनाते हैं।

फैक्टर एनालिसिस के परिणाम कभी-कभी विवादास्पद हो सकते हैं। उसकी व्याख्याएँ बहस-योग्य हो सकती हैं क्योंकि एक ही डेटा कारकों के एक से अधिक अर्थ निकाले जा सकते हैं। कारकों की पहचान और उनके नामकरण के बाद, डोमेन ज्ञान की आवश्यकता होती है।

निष्कर्ष

बधाई हो, आप इस ट्यूटोरियल के अंत तक पहुँच गए हैं!

इस ट्यूटोरियल में, आपने सीखा कि फैक्टर एनालिसिस क्या है; फैक्टर एनालिसिस के विभिन्न प्रकार; फैक्टर एनालिसिस कैसे काम करता है; बुनियादी शब्दावली; कारकों की संख्या का चयन; principal component analysis और फैक्टर एनालिसिस की तुलना; Python में FactorAnalyzer पैकेज का उपयोग करके इसका कार्यान्वयन; और फैक्टर एनालिसिस के फायदे-सीमाएँ।

मैं आपसे किसी भी फीडबैक या प्रश्न का स्वागत करता/करती हूँ। आप टिप्पणी करके प्रश्न पूछ सकते हैं और मैं उसे उत्तर देने की पूरी कोशिश करूँगा/करूँगी।

यदि आप Python में फैक्टर्स के बारे में और सीखना चाहते हैं, तो DataCamp का Unsupervised Learning in Python कोर्स लें।