Python’da Faktör Analizine Giriş

Faktör Analizi (FA), gözlemlenen değişkenler kümesinden etkili temel faktörleri veya örtük değişkenleri aramak için kullanılan keşifsel bir veri analizi yöntemidir. Değişken sayısını azaltarak verilerin yorumlanmasına yardımcı olur. Tüm değişkenlerden maksimum ortak varyansı çıkarır ve bunları ortak bir skora dönüştürür.

Faktör analizi pazar araştırması, reklamcılık, psikoloji, finans ve yöneylem araştırmalarında yaygın olarak kullanılır. Pazar araştırmacıları, fiyat duyarlı müşterileri belirlemek, tüketici tercihini etkileyen marka özelliklerini saptamak ve dağıtım kanalı için kanal seçimi kriterlerini anlamak için faktör analizinden yararlanır.

Faktör Analizi

Faktör analizi doğrusal bir istatistiksel modeldir. Gözlemlenen değişkenler arasındaki varyansı açıklamak ve gözlemlenen değişkenler kümesini faktör adı verilen gözlemlenmeyen değişkenlere yoğunlaştırmak için kullanılır. Gözlemlenen değişkenler, faktörler ve hata terimlerinin doğrusal bir birleşimi olarak modellenir (Kaynak). Faktör veya örtük değişken, ortak yanıt kalıplarına sahip birden çok gözlemlenen değişkenle ilişkilidir. Her faktör, gözlemlenen değişkenlerde belirli bir miktar varyansı açıklar. Değişken sayısını azaltarak verilerin yorumlanmasına yardımcı olur.

Faktör analizi, X1, X2,……, Xl gibi bir dizi ilgi çekici değişkenin, daha küçük sayıda gözlemlenmeyen faktörle F1, F2,……, Fk doğrusal olarak ilişkili olup olmadığını araştırma yöntemidir.

Kaynak: Bu görsel, faktör analizi notlarında bulduğum bir görsel baz alınarak yeniden oluşturulmuştur. Görsel, faktör analizine genel bir bakış sunar.

Varsayımlar:

1. Verilerde aykırı değer bulunmamalıdır.
2. Örneklem büyüklüğü, faktör sayısından büyük olmalıdır.
3. Mükemmel çoklu doğrusal bağlantı olmamalıdır.
4. Değişkenler arasında homoskedastisite olmamalıdır.

Faktör Analizi Türleri

• Keşfedici Faktör Analizi: Sosyal ve yönetim araştırmacıları arasında en popüler faktör analizi yaklaşımıdır. Temel varsayımı, herhangi bir gözlemlenen değişkenin herhangi bir faktörle doğrudan ilişkili olabileceğidir.
• Doğrulayıcı Faktör Analizi (CFA): Temel varsayımı, her faktörün belirli bir gözlemlenen değişkenler kümesiyle ilişkili olduğudur. CFA, temel varsayımlar doğrultusunda bekleneni doğrular.

Faktör Analizi Nasıl Çalışır?

Faktör analizinin birincil amacı, gözlemlenen değişkenlerin sayısını azaltmak ve gözlemlenmeyen değişkenleri bulmaktır. Bu gözlemlenmeyen değişkenler, pazar araştırmacısının anketten sonuç çıkarmasına yardımcı olur. Gözlemlenen değişkenlerin gözlemlenmeyen değişkenlere dönüştürülmesi iki adımda gerçekleştirilebilir:

• Faktör Çıkarımı: Bu adımda, ana bileşenler analizi ve ortak faktör analizi gibi varyans paylaştırma yöntemleri kullanılarak çıkarılacak faktör sayısı ve çıkarım yaklaşımı seçilir.
• Faktör Rotasyonu: Bu adımda, rotasyon faktörleri ilişkisiz (uncorrelated) hale getirmeye çalışır — bu adımın ana hedefi genel yorumlanabilirliği artırmaktır. Varimax rotasyonu, Quartimax rotasyonu ve Promax rotasyonu gibi birçok rotasyon yöntemi mevcuttur.

Terminoloji

Faktör nedir?

Faktör, çok sayıda gözlemlenen değişken arasındaki ilişkiyi tanımlayan bir örtük değişkendir. Maksimum faktör sayısı, gözlemlenen değişken sayısına eşittir. Her faktör, gözlemlenen değişkenlerde belirli bir varyansı açıklar. En düşük varyansa sahip faktörler elenir. Faktörler, örtük değişken, gizli değişken, gözlemlenmeyen değişken veya varsayımsal değişken olarak da bilinir.

Faktör yükleri nedir?

Faktör yükü, her bir değişkenin altta yatan faktörle ilişkisini gösteren bir matristir. Gözlemlenen değişken ile faktör arasındaki korelasyon katsayısını gösterir. Gözlemlenen değişkenlerce açıklanan varyansı ifade eder.

Özdeğer (Eigenvalue) nedir?

Özdeğerler, toplam varyanstan her bir faktörün açıkladığı varyansı temsil eder. Karakteristik kökler olarak da bilinir.

Komünaliteler (Communalities) nedir?

Komünaliteler, her bir değişken için kareler toplamı yükleridir. Ortak varyansı temsil eder. 0 ile 1 arasında değişir ve 1’e yakın değer daha fazla varyansı ifade eder.

Faktör Rotasyonu nedir?

Rotasyon, faktör analizinin daha iyi yorumlanması için bir araçtır. Rotasyon ortogonal veya oblik olabilir. Yüklerde net bir desenle komünaliteleri yeniden dağıtır.

Faktör Sayısını Seçme

Kaiser ölçütü, daha büyük bir varyans oranı açıklayan faktörün seçileceği analitik bir yaklaşımdır. Özdeğer, faktör sayısını belirlemek için iyi bir ölçüttür. Genellikle, 1’den büyük özdeğer bir özelliğin (faktörün) seçim ölçütü olarak kabul edilir.

Grafiksel yaklaşım, faktörlerin özdeğerlerinin görsel gösterimine, yani scree plot’a dayanır. Bu scree grafiği, eğrinin dirsek yaptığı yerdeki faktör sayısını belirlememize yardımcı olur.

Kaynak

Faktör Analizi ve Temel Bileşenler Analizi Karşılaştırması

• PCA bileşenleri maksimum varyansı açıklarken, faktör analizi verideki kovaryansı açıklar.
• PCA bileşenleri tamamen ortogonaldir, oysa faktör analizinde faktörlerin ortogonal olması gerekmez.
• PCA bileşeni, gözlemlenen değişkenlerin doğrusal bir birleşimidir; FA’da ise gözlemlenen değişkenler, gözlemlenmeyen değişkenlerin veya faktörlerin doğrusal birleşimleridir.
• PCA bileşenleri yorumlanamaz. FA’da altta yatan faktörler isimlendirilebilir ve yorumlanabilir.
• PCA bir tür boyut indirgeme yöntemiyken, faktör analizi bir örtük değişken yöntemidir.
• PCA, faktör analizinin bir türüdür. PCA gözlemsel bir yöntemken FA bir modelleme tekniğidir.

Kaynak

factor_analyzer paketiyle Python’da Faktör Analizi

Gerekli Kütüphaneleri İçe Aktarın

# Import required libraries
import pandas as pd
from sklearn.datasets import load_iris
from factor_analyzer import FactorAnalyzer
import matplotlib.pyplot as plt

Veri Yükleme

BFI (kişilik değerlendirme projesine dayalı veri kümesi) üzerinde, 6 puanlık yanıt ölçeği kullanılarak toplanmış verilerle faktör analizi yapalım: 1 Çok Yanlış, 2 Orta Derecede Yanlış, 3 Biraz Yanlış, 4 Biraz Doğru, 5 Orta Derecede Doğru ve 6 Çok Doğru. Bu veri setini şu bağlantıdan da indirebilirsiniz: https://vincentarelbundock.github.io/Rdatasets/datasets.html

df= pd.read_csv("bfi.csv")

Veriyi Ön İşleme

df.columns

Index(['A1', 'A2', 'A3', 'A4', 'A5', 'C1', 'C2', 'C3', 'C4', 'C5', 'E1', 'E2',
       'E3', 'E4', 'E5', 'N1', 'N2', 'N3', 'N4', 'N5', 'O1', 'O2', 'O3', 'O4',
       'O5', 'gender', 'education', 'age'],
      dtype='object')

# Dropping unnecessary columns
df.drop(['gender', 'education', 'age'],axis=1,inplace=True)

# Dropping missing values rows
df.dropna(inplace=True)

df.info()

<class 'pandas.core.frame.DataFrame'>
Int64Index: 2436 entries, 0 to 2799
Data columns (total 25 columns):
A1    2436 non-null float64
A2    2436 non-null float64
A3    2436 non-null float64
A4    2436 non-null float64
A5    2436 non-null float64
C1    2436 non-null float64
C2    2436 non-null float64
C3    2436 non-null float64
C4    2436 non-null float64
C5    2436 non-null float64
E1    2436 non-null float64
E2    2436 non-null float64
E3    2436 non-null float64
E4    2436 non-null float64
E5    2436 non-null float64
N1    2436 non-null float64
N2    2436 non-null float64
N3    2436 non-null float64
N4    2436 non-null float64
N5    2436 non-null float64
O1    2436 non-null float64
O2    2436 non-null int64
O3    2436 non-null float64
O4    2436 non-null float64
O5    2436 non-null float64
dtypes: float64(24), int64(1)
memory usage: 494.8 KB

df.head()

Yeterlilik Testi

Faktör analizi yapmadan önce veri kümenizin “faktörlenebilirliğini” değerlendirmeniz gerekir. Faktörlenebilirlik, "veri kümesinde faktörler bulunabilir mi?" anlamına gelir. Faktörlenebilirliği veya örneklem yeterliliğini kontrol etmek için iki yöntem vardır:

• Bartlett Testi
• Kaiser-Meyer-Olkin Testi

Kürelik için Bartlett testi, gözlenen korelasyon matrisini birim matrisle karşılaştırarak gözlemlenen değişkenlerin birbirleriyle korelasyonlu olup olmadığını kontrol eder. Test istatistiksel olarak anlamsız çıkarsa faktör analizi uygulamamalısınız.

from factor_analyzer.factor_analyzer import calculate_bartlett_sphericity
chi_square_value,p_value=calculate_bartlett_sphericity(df)
chi_square_value, p_value

(18146.065577234807, 0.0)

Bu Bartlett testinde p-değeri 0’dır. Test istatistiksel olarak anlamlı çıkmış, bu da gözlenen korelasyon matrisinin birim matris olmadığını göstermektedir.

Kaiser-Meyer-Olkin (KMO) Testi, verinin faktör analizine uygunluğunu ölçer. Her bir gözlemlenen değişken ve tüm model için yeterliliği belirler. KMO, tüm gözlemlenen değişkenler arasındaki varyansın oranını tahmin eder. Daha düşük oran, faktör analizi için daha uygundur. KMO değerleri 0 ile 1 arasında değişir. 0,6’dan küçük KMO değeri yetersiz kabul edilir.

from factor_analyzer.factor_analyzer import calculate_kmo
kmo_all,kmo_model=calculate_kmo(df)

kmo_model

0.8486452309468382

Verilerimiz için genel KMO 0,84’tür ve bu mükemmeldir. Bu değer, planladığınız faktör analizine devam edebileceğinizi göstermektedir.

Faktör Sayısını Seçme

Faktör sayısını seçmek için Kaiser ölçütünü ve scree grafiğini kullanabilirsiniz. Her ikisi de özdeğerlere dayanır.

# Create factor analysis object and perform factor analysis
fa = FactorAnalyzer()
fa.analyze(df, 25, rotation=None)
# Check Eigenvalues
ev, v = fa.get_eigenvalues()
ev

Burada yalnızca 6 faktör için özdeğerlerin birden büyük olduğunu görebilirsiniz. Bu, yalnızca 6 faktörü (veya gözlemlenmeyen değişkeni) seçmemiz gerektiği anlamına gelir.

# Create scree plot using matplotlib
plt.scatter(range(1,df.shape[1]+1),ev)
plt.plot(range(1,df.shape[1]+1),ev)
plt.title('Scree Plot')
plt.xlabel('Factors')
plt.ylabel('Eigenvalue')
plt.grid()
plt.show()

Scree grafiği yöntemi, her faktör ve özdeğeri için bir doğru çizer. Birden büyük özdeğer sayısı, faktör sayısı olarak kabul edilir.

Burada yalnızca 6 faktör için özdeğerlerin birden büyük olduğunu görebilirsiniz. Bu, yalnızca 6 faktörü (veya gözlemlenmeyen değişkeni) seçmemiz gerektiği anlamına gelir.

Faktör Analizi Uygulama

# Create factor analysis object and perform factor analysis
fa = FactorAnalyzer()
fa.analyze(df, 6, rotation="varimax")

fa.loadings

• Faktör 1, E1,E2,E3,E4 ve E5 için yüksek faktör yüklerine sahiptir (Dışadönüklük)
• Faktör 2, N1,N2,N3,N4 ve N5 için yüksek faktör yüklerine sahiptir (Nevrotiklik)
• Faktör 3, C1,C2,C3,C4 ve C5 için yüksek faktör yüklerine sahiptir (Sorumluluk)
• Faktör 4, O1,O2,O3,O4 ve O5 için yüksek faktör yüklerine sahiptir (Açıklık)
• Faktör 5, A1,A2,A3,A4 ve A5 için yüksek faktör yüklerine sahiptir (Uyumluluk)
• Faktör 6, hiçbir değişkende yüksek yüklemelere sahip değildir ve kolayca yorumlanamaz. Yalnızca beş faktör almak daha iyidir.

Beş faktör için faktör analizi yapalım.

# Create factor analysis object and perform factor analysis using 5 factors
fa = FactorAnalyzer()
fa.analyze(df, 5, rotation="varimax")
fa.loadings

# Get variance of each factors
fa.get_factor_variance()

Toplamda 5 faktör tarafından açıklanan kümülatif varyans %42’dir.

Faktör Analizinin Artıları ve Eksileri

Faktör analizi, büyük veri kümelerini keşfeder ve birbiriyle bağlantılı ilişkileri bulur. Gözlemlenen değişkenleri birkaç gözlemlenmeyen değişkene indirger veya birbiriyle ilişkili değişken gruplarını tanımlar; bu da pazar araştırmacılarının pazar durumlarını sadeleştirmesine ve tüketici zevki, tercihi ve kültürel etki arasındaki gizli ilişkileri bulmasına yardımcı olur. Ayrıca gelecekteki anketler için anket formunun iyileştirilmesine katkı sağlar. Faktörler, verilerin daha doğal biçimde yorumlanmasını sağlar.

Faktör analizi sonuçları tartışmalıdır. Yorumları tartışmaya açıktır çünkü aynı veri faktörlerinden birden fazla yorum yapılabilir. Faktörlerin belirlenmesi ve adlandırılması, alan bilgisi gerektirir.

Sonuç

Tebrikler, bu eğitimin sonuna geldiniz!

Bu eğitimde faktör analizinin ne olduğunu, faktör analizi türlerini, faktör analizinin nasıl çalıştığını, temel faktör analizi terminolojisini, faktör sayısının seçimini, temel bileşenler analizi ile faktör analizinin karşılaştırmasını, Python’da FactorAnalyzer paketiyle uygulamayı ve faktör analizinin artılarını/eksilerini öğrendiniz.

Geri bildirim veya sorularınızı duymayı çok isterim. Yorum bırakarak sorunuzu iletebilirsiniz; yanıtlamak için elimden gelenin en iyisini yapacağım.

Python’da faktörler hakkında daha fazla bilgi edinmek isterseniz DataCamp’in Python’da Denetimsiz Öğrenme kursunu inceleyin.