Introducción al análisis factorial en Python

El análisis factorial (FA) es un método de análisis exploratorio de datos que se utiliza para buscar factores subyacentes o variables latentes influyentes a partir de un conjunto de variables observadas. Ayuda a interpretar los datos al reducir el número de variables. Extrae la varianza común máxima de todas las variables y la condensa en una puntuación común.

El análisis factorial se usa ampliamente en investigación de mercados, publicidad, psicología, finanzas e investigación de operaciones. Quienes investigan el mercado lo emplean para identificar clientes sensibles al precio, detectar rasgos de marca que influyen en la elección del consumidor y comprender los criterios de selección de canales en la distribución.

Análisis factorial

El análisis factorial es un modelo estadístico lineal. Se utiliza para explicar la varianza entre las variables observadas y condensar un conjunto de variables observadas en variables no observadas llamadas factores. Las variables observadas se modelan como una combinación lineal de factores y términos de error (Fuente). Un factor o variable latente se asocia con múltiples variables observadas que comparten patrones de respuesta comunes. Cada factor explica una cantidad concreta de varianza en las variables observadas. Ayuda a interpretar los datos al reducir el número de variables.

El análisis factorial investiga si varias variables de interés X1, X2, …, Xl están linealmente relacionadas con un número menor de factores no observables F1, F2, …, Fk.

Fuente: esta imagen es una recreación de una imagen que encontré en unos apuntes de análisis factorial. Ofrece una visión completa del método.

Supuestos:

1. No hay valores atípicos en los datos.
2. El tamaño muestral debe ser mayor que el número de factores.
3. No debe existir multicolinealidad perfecta.
4. No debe haber homocedasticidad entre las variables.

Tipos de análisis factorial

• Análisis factorial exploratorio (EFA): es el enfoque más popular entre investigadores sociales y de gestión. Su supuesto básico es que cualquier variable observada puede estar directamente asociada con cualquier factor.
• Análisis factorial confirmatorio (CFA): su supuesto básico es que cada factor está asociado con un conjunto concreto de variables observadas. El CFA contrasta si los datos se ajustan a lo esperado teóricamente.

¿Cómo funciona el análisis factorial?

El objetivo principal del análisis factorial es reducir el número de variables observadas y encontrar variables no observadas. Estas variables latentes ayudan a quienes investigan el mercado a sacar conclusiones de una encuesta. Esta conversión de variables observadas a no observadas se logra en dos pasos:

• Extracción de factores: en este paso se seleccionan el número de factores y el método de extracción usando técnicas de partición de varianza como el análisis de componentes principales y el análisis de factores comunes.
• Rotación de factores: en este paso, la rotación intenta transformar los factores para que sean no correlacionados; el objetivo es mejorar la interpretabilidad. Existen varios métodos de rotación, como: Varimax, Quartimax y Promax.

Terminología

¿Qué es un factor?

Un factor es una variable latente que describe la asociación entre varias variables observadas. El número máximo de factores es igual al de variables observadas. Cada factor explica cierta varianza en las variables observadas. Los factores con menor varianza se descartan. A los factores también se les conoce como variables latentes, ocultas, no observadas o hipotéticas.

¿Qué son las cargas factoriales?

La matriz de cargas factoriales muestra la relación de cada variable con el factor subyacente. Indica el coeficiente de correlación entre la variable observada y el factor, y cuánta varianza explican las variables observadas.

¿Qué son los valores propios (eigenvalues)?

Los valores propios representan la varianza que explica cada factor respecto a la varianza total. También se les llama raíces características.

¿Qué son las comunalidades?

Las comunalidades son la suma de los cuadrados de las cargas de cada variable. Representan la varianza común. Oscilan entre 0 y 1; cuanto más cerca de 1, mayor varianza común.

¿Qué es la rotación de factores?

La rotación es una herramienta para mejorar la interpretación del análisis factorial. Puede ser ortogonal u oblicua. Redistribuye las comunalidades con un patrón de cargas más claro.

Elección del número de factores

El criterio de Kaiser es un enfoque analítico basado en seleccionar los factores que explican una mayor proporción de varianza. El valor propio es un buen criterio para determinar cuántos factores retener. Por lo general, se conservan los factores con valores propios mayores que 1.

El enfoque gráfico se basa en la representación visual de los valores propios de los factores, también llamada scree plot o gráfico de sedimentación. Este gráfico ayuda a determinar el número de factores donde la curva hace un “codo”.

Fuente

Análisis factorial vs. análisis de componentes principales

• Los componentes del PCA explican la máxima varianza, mientras que el análisis factorial explica la covarianza en los datos.
• Los componentes del PCA son totalmente ortogonales entre sí, mientras que el análisis factorial no exige ortogonalidad entre factores.
• Un componente del PCA es una combinación lineal de variables observadas; en FA, las variables observadas son combinaciones lineales de variables no observadas (factores).
• Los componentes del PCA suelen ser poco interpretables. En FA, los factores subyacentes pueden etiquetarse e interpretarse.
• El PCA es un método de reducción de dimensionalidad, mientras que el análisis factorial es un enfoque basado en variables latentes.
• El PCA es un tipo de análisis factorial. El PCA es observacional, mientras que el FA es una técnica de modelado.

Fuente

Análisis factorial en Python con el paquete factor_analyzer

Importar las librerías necesarias

# Import required libraries
import pandas as pd
from sklearn.datasets import load_iris
from factor_analyzer import FactorAnalyzer
import matplotlib.pyplot as plt

Cargar los datos

Vamos a realizar análisis factorial sobre BFI (conjunto de datos de un proyecto de evaluación de personalidad), recogido con una escala de respuesta de 6 puntos: 1 Muy inexacto, 2 Moderadamente inexacto, 3 Ligeramente inexacto, 4 Ligeramente exacto, 5 Moderadamente exacto y 6 Muy exacto. También puedes descargar este conjunto de datos desde el siguiente enlace: https://vincentarelbundock.github.io/Rdatasets/datasets.html

df= pd.read_csv("bfi.csv")

Preprocesar los datos

df.columns

Index(['A1', 'A2', 'A3', 'A4', 'A5', 'C1', 'C2', 'C3', 'C4', 'C5', 'E1', 'E2',
       'E3', 'E4', 'E5', 'N1', 'N2', 'N3', 'N4', 'N5', 'O1', 'O2', 'O3', 'O4',
       'O5', 'gender', 'education', 'age'],
      dtype='object')

# Dropping unnecessary columns
df.drop(['gender', 'education', 'age'],axis=1,inplace=True)

# Dropping missing values rows
df.dropna(inplace=True)

df.info()

<class 'pandas.core.frame.DataFrame'>
Int64Index: 2436 entries, 0 to 2799
Data columns (total 25 columns):
A1    2436 non-null float64
A2    2436 non-null float64
A3    2436 non-null float64
A4    2436 non-null float64
A5    2436 non-null float64
C1    2436 non-null float64
C2    2436 non-null float64
C3    2436 non-null float64
C4    2436 non-null float64
C5    2436 non-null float64
E1    2436 non-null float64
E2    2436 non-null float64
E3    2436 non-null float64
E4    2436 non-null float64
E5    2436 non-null float64
N1    2436 non-null float64
N2    2436 non-null float64
N3    2436 non-null float64
N4    2436 non-null float64
N5    2436 non-null float64
O1    2436 non-null float64
O2    2436 non-null int64
O3    2436 non-null float64
O4    2436 non-null float64
O5    2436 non-null float64
dtypes: float64(24), int64(1)
memory usage: 494.8 KB

df.head()

Prueba de adecuación

Antes de realizar el análisis factorial, necesitas evaluar la «factorabilidad» de tu conjunto de datos. Factorabilidad significa: «¿podemos encontrar factores en el conjunto de datos?». Hay dos métodos para comprobar la factorabilidad o la adecuación muestral:

• Prueba de esfericidad de Bartlett
• Prueba de Kaiser-Meyer-Olkin

La prueba de Bartlett de esfericidad comprueba si las variables observadas están intercorrelacionadas comparando la matriz de correlaciones observada con la matriz identidad. Si la prueba no es estadísticamente significativa, no deberías aplicar análisis factorial.

from factor_analyzer.factor_analyzer import calculate_bartlett_sphericity
chi_square_value,p_value=calculate_bartlett_sphericity(df)
chi_square_value, p_value

(18146.065577234807, 0.0)

En esta prueba de Bartlett, el p-valor es 0. La prueba resulta significativa, lo que indica que la matriz de correlaciones observada no es una matriz identidad.

La prueba de Kaiser-Meyer-Olkin (KMO) mide la idoneidad de los datos para el análisis factorial. Determina la adecuación para cada variable observada y para el modelo completo. KMO estima la proporción de varianza entre todas las variables observadas. Una proporción mayor es más adecuada para el análisis factorial. Los valores de KMO oscilan entre 0 y 1. Un KMO inferior a 0,6 se considera inadecuado.

from factor_analyzer.factor_analyzer import calculate_kmo
kmo_all,kmo_model=calculate_kmo(df)

kmo_model

0.8486452309468382

El KMO global de nuestros datos es 0,84, lo cual es excelente. Este valor indica que puedes continuar con el análisis factorial previsto.

Elección del número de factores

Para elegir cuántos factores retener, puedes usar el criterio de Kaiser y el scree plot. Ambos se basan en los valores propios.

# Create factor analysis object and perform factor analysis
fa = FactorAnalyzer()
fa.analyze(df, 25, rotation=None)
# Check Eigenvalues
ev, v = fa.get_eigenvalues()
ev

Aquí se ve que solo para 6 factores los valores propios son mayores que 1. Esto significa que deberíamos elegir 6 factores (variables latentes).

# Create scree plot using matplotlib
plt.scatter(range(1,df.shape[1]+1),ev)
plt.plot(range(1,df.shape[1]+1),ev)
plt.title('Scree Plot')
plt.xlabel('Factors')
plt.ylabel('Eigenvalue')
plt.grid()
plt.show()

El scree plot dibuja un punto y una línea para cada factor y su valor propio. El número de valores propios mayores que 1 se toma como número de factores.

Aquí se ve que solo para 6 factores los valores propios son mayores que 1. Esto significa que deberíamos elegir 6 factores (variables latentes).

Realizar el análisis factorial

# Create factor analysis object and perform factor analysis
fa = FactorAnalyzer()
fa.analyze(df, 6, rotation="varimax")

fa.loadings

• El factor 1 tiene cargas altas para E1, E2, E3, E4 y E5 (Extraversión).
• El factor 2 tiene cargas altas para N1, N2, N3, N4 y N5 (Neuroticismo).
• El factor 3 tiene cargas altas para C1, C2, C3, C4 y C5 (Responsabilidad/Escrupulosidad).
• El factor 4 tiene cargas altas para O1, O2, O3, O4 y O5 (Apertura).
• El factor 5 tiene cargas altas para A1, A2, A3, A4 y A5 (Amabilidad).
• El factor 6 no presenta cargas altas claras en ninguna variable y no es fácil de interpretar. Conviene quedarnos con cinco factores.

Vamos a realizar el análisis factorial con 5 factores.

# Create factor analysis object and perform factor analysis using 5 factors
fa = FactorAnalyzer()
fa.analyze(df, 5, rotation="varimax")
fa.loadings

# Get variance of each factors
fa.get_factor_variance()

En total, el 42% de la varianza acumulada es explicada por los 5 factores.

Ventajas e inconvenientes del análisis factorial

El análisis factorial explora conjuntos de datos grandes y encuentra asociaciones interrelacionadas. Reduce las variables observadas a unas pocas variables latentes o identifica grupos de variables relacionadas, lo que ayuda a quienes investigan el mercado a simplificar situaciones complejas y descubrir relaciones ocultas entre gustos, preferencias e influencias culturales de los consumidores. Además, ayuda a mejorar los cuestionarios para futuras encuestas. Los factores facilitan una interpretación más natural de los datos.

Los resultados del análisis factorial pueden ser controvertidos. Sus interpretaciones son debatibles porque se pueden proponer varias lecturas para los mismos factores. Tras identificar y nombrar los factores, se requiere conocimiento del dominio.

Conclusión

¡Enhorabuena, has llegado al final de este tutorial!

En este tutorial has aprendido qué es el análisis factorial; los diferentes tipos, cómo funciona, la terminología básica, cómo elegir el número de factores, la comparación entre el análisis de componentes principales y el análisis factorial, cómo implementarlo en Python con el paquete FactorAnalyzer y las ventajas e inconvenientes del método.

Estaré encantado de leer tus comentarios o preguntas. Puedes dejar tu duda en los comentarios e intentaré responderla lo mejor posible.

Si quieres profundizar en factores en Python, haz el curso Unsupervised Learning in Python de DataCamp.