L'intrigue Q-Q : Ce que cela signifie et comment l'interpréter

Les modèles de régression linéaire sont largement utilisés dans les statistiques et l'apprentissage automatique pour prédire des valeurs numériques sur la base de caractéristiques d'entrée, ainsi que pour comprendre la relation entre les variables. Cependant, ce n'est pas parce que vous pouvez tracer une ligne sur vos données que vous devez le faire. Nous devons également diagnostiquer la qualité de l'ajustement pour déterminer si le modèle est approprié aux données ou s'il doit être affiné.

Il existe plusieurs façons de tester un modèle, notamment en l'évaluant à l'aide d'un flux de travail train/test et en examinant les statistiques du modèle telles que le r-carré ajusté. Dans cet article, je me concentrerai sur la manière de créer et d'interpréter un graphique de diagnostic spécifique appelé graphique Q-Q, et je vous montrerai quelques méthodes différentes pour créer ce graphique Q-Q dans le langage de programmation R. Pour vraiment continuer à maîtriser les techniques de régression, prenez Introduction à la régression en R ou Régression intermédiaire en R ou, pour Python, prenez Introduction à la régression en Python ou Régression intermédiaire en Python, en fonction de votre niveau d'aisance.

Qu'est-ce qu'un graphe Q-Q ?

Un graphique Q-Q (Quantile-Quantile) est utilisé pour vérifier si un ensemble de données suit une distribution théorique particulière. Le graphique Q-Q compare les quantiles des données observées aux quantiles de notre autre distribution théorique. Je parle de "distribution théorique" pour être exact, mais souvent, lorsque nous créons un graphique Q-Q, nous pensons en fait à la distribution normale ou gaussienne. distribution normale ou gaussienne gaussienne, et nous l'appelons "graphique Q-Q normal". Cependant, les diagrammes Q-Q peuvent également être utilisés pour comparer les données à d'autres distributions, telles que la distribution exponentielle, la distribution uniforme, la distribution chi-carré, la distribution t, distribution de Poissonou d'autres, selon le contexte de l'analyse.

Il est utile de comprendre en montrant un exemple. Ici, j'ai une distribution de nombres. Pour construire un graphique Q-Q normal, je commence par mettre les chiffres dans l'ordre. Je calcule ensuite le rang quantile à l'aide de l'équation suivante : q = (i- 0,5)/n. Ensuite, je pourrais utiliser la fonction de point de pourcentage (PPF) de la distribution normale standard pour trouver la valeur correspondante pour le rang quantile. (Vous êtes peut-être plus familier avec la fonction de distribution cumulative (FDC), qui nous indique la probabilité jusqu'à une valeur x.) Le PPF, c'est un peu le contraire : Il nous donne la valeur x pour une probabilité donnée). Pour créer le graphique, nous tracerons alors les valeurs du rang quantile par rapport aux quantiles théoriques (d'où les deux Q dans le graphique Q-Q).

Pourquoi utiliser un graphique Q-Q ?

Un graphique Q-Q est un bon moyen visuel de vérifier les hypothèses de distribution. Il existe d'autres moyens de vérifier si les données suivent une distribution normale, comme le test de Shapiro-Wilk, par exemple, mais rien, à mon avis, n'est vraiment aussi visuel et ne rend l'histoire aussi évidente que le graphique Q-Q.

Connaître la distribution d'un produit est important à plusieurs égards. D'une part, nous voudrons probablement connaître les meilleures mesures pour le centre et l'étalement. De même, lors de la création d'une régression linéaire, nous voulons savoir si notre variable dépendante, en particulier, suit une distribution normale, et nous voulons également voir si les résidus de notre modèle sont normalement distribués afin d'avoir une meilleure confiance dans nos estimations. En résumé, je pense que les diagrammes Q-Q sont utiles pour deux raisons générales : comparer nos données à des distributions d'échantillons et tester la normalité.

Comment créer un graphique Q-Q dans R

Voyons maintenant comment créer un graphique Q-Q dans R. Pour cette section, je vais passer en revue trois méthodes différentes : R de base, le paquet car et les méthodes tidyverse. Je pense que vous verrez que je préfère les méthodes tidyverse parce qu'elles vous donnent plus de flexibilité pour rendre le graphique plus joli et qu'elles sont plus extensibles avec d'autres paquets.

Pour chaque méthode, je créerai un graphique Q-Q sur les résidus d'une régression linéaire simple, ce qui est l'une des utilisations les plus courantes - si ce n'est la plus courante - de ce graphique. Cependant, vous pouvez également créer un graphique Q-Q pour vérifier la distribution des variables avant de créer une régression linéaire. Tout ce dont vous avez besoin, c'est de la distribution d'une variable et d'une distribution théorique à laquelle la comparer.

Si vous voulez suivre, vous pouvez télécharger l'ensemble de données Kaggle que j'utilise : Prix des voitures en Jordanie en 2023.

Création d'un graphique Q-Q dans la base R

Commençons par créer un graphique Q-Q dans le R de base, ce qui signifie que nous n'installerons aucun paquet supplémentaire et que nous n'utiliserons que les fonctions intégrées. 

# importing data (in my case, saved on my desktop)
car_prices_jordan <- read.csv('~/Desktop/car_prices_jordan.csv')

# Create a linear model
car_linear_model <- lm(Price ~ sqrt(Price), filtered_car_prices)

# Extract the residuals
residuals <- resid(car_linear_model)

# Q-Q plot of residuals
qqnorm(residuals, main = "Q-Q Plot of Residuals from Linear Regression")
qqline(residuals, col = "red")

Graphique Q-Q créé dans la base R. Image de l'auteur

Création d'un graphique Q-Q à l'aide du paquet "voiture

Essayons maintenant de créer un graphique Q-Q à l'aide du logiciel car. À mon avis, la qualité de la visualisation n'est pas très différente, mais ce graphique Q-Q présente l'avantage de montrer une enveloppe de confiance qui définit la zone dans laquelle nos points de données devraient se trouver si l'hypothèse de normalité du modèle se vérifiait. 

# Install the car package if not already installed
# install.packages("car")
library(car)

# Q-Q plot of residuals using car package
car::qqPlot(car_linear_model, main = "Q-Q Plot of Residuals from Linear Regression")

Graphique Q-Q créé à l'aide du package car dans R. Image par l'auteur

Création d'un graphique Q-Q à l'aide de ggplot2

Voyons maintenant comment créer un graphique Q-Q à l'aide des méthodes tidyverse pour plus de flexibilité et pour qu'il soit plus joli. Cette fois-ci, je vais placer le graphique Q-Q dans un panneau à côté de mon nuage de points original.

library(tidyverse)
library(metBrewer)

car_prices_jordan$Power <- as.numeric(gsub("[^0-9]", "", car_prices_jordan$Power))
car_prices_jordan$Price <- as.numeric(gsub("[^0-9]", "", car_prices_jordan$Price))

slope <- (cor(car_prices_jordan$Power, car_prices_jordan$Price) * (sd(car_prices_jordan$Price)) / sd(car_prices_jordan$Power))
intercept <- (mean(car_prices_jordan$Price) - slope * mean(car_prices_jordan$Power))

car_prices_graph <- ggplot(car_prices_jordan, aes(x = Power, y = Price)) +
	geom_point() +
	ggtitle("Car Prices in Jordan") +
	geom_abline(slope = slope, intercept = intercept, color = '#376795', size = 1)

car_linear_model <- lm(Price ~ Price, car_prices_jordan)

qq_plot <- ggplot(data = car_linear_model, aes(sample = .resid)) +
	stat_qq() +
	stat_qq_line(linetype = 'dashed', color = '#ef8a47', size = 1) +
	labs(title = "Car Prices in Jordan") +
	labs(subtitle = "Residual QQ Plot")

library(patchwork)
car_prices_graph + qq_plot

Régression linéaire et graphique Q-Q des résidus créés dans ggplot2. Image par l'auteur

Ce qu'un graphique Q-Q peut nous apprendre

Avec un graphique Q-Q, les quantiles des données observées sont représentés par rapport aux quantiles théoriques. Si les données suivent de près la distribution théorique, les points du graphique Q-Q se déplacent sur une ligne diagonale. Les écarts par rapport à cette ligne indiquent des écarts par rapport à la distribution attendue. Les points situés au-dessus ou au-dessous de la ligne indiquent une asymétrie ou des valeurs aberrantes, et les motifs tels que les courbes ou les écarts en forme de S indiquent des différences systématiques, comme des queues plus lourdes ou plus légères.

Il y a environ trois choses que nous recherchons. 

• Ligne droite: Les données correspondent bien à la distribution théorique.
• Motifs courbes: Indique des données asymétriques ou des distributions non normales.
• Queues lourdes ou légères: Si les points s'écartent aux extrémités, les données peuvent avoir des queues plus lourdes ou plus légères que prévu.

Nous allons vous présenter un exemple pour chacun d'entre eux :

Trois tracés Q-Q : l'un avec une ligne droite, l'autre avec une courbe, l'autre avec une queue épaisse. Image par l'auteur

Dans le premier cas, la ligne Q-Q correspond aux points de données, la distribution est donc bien normale. Dans le second cas, nous observons une courbe, ce qui signifie que les données ne sont pas normales ou qu'elles sont faussées. Dans le dernier cas, on observe une sorte de forme en "s", ce qui signifie que la distribution présente des queues lourdes ou des valeurs plus extrêmes.

Graphiques Q-Q dans la régression linéaire

Il existe plusieurs hypothèses pour les modèles linéaires, notamment la linéarité (la relation entre les variables est linéaire), l'indépendance des erreurs (les erreurs ne sont pas corrélées entre elles), l'homoscédasticité (les résidus doivent avoir une variance constante) et l 'indépendance des erreurs (les erreurs ne sont pas corrélées entre elles). les résidus doivent avoir une variance constante)et la normalité des résidus (les résidus suivent une distribution normale). Le graphique Q-Q permet notamment de vérifier la quatrième hypothèse du modèle linéaire, à savoir la normalité des résidus. 

Voici comment les différents modèles affectent l'interprétation et la fiabilité de notre modèle :

Alignement en ligne droite

• Ce que cela signifie: Les résidus sont approximativement normaux, ce qui indique que le modèle correspond bien aux données en termes d'hypothèse de normalité.
• Implication dans la pratique: Les intervalles de confiance, les valeurs p et les tests d'hypothèse dérivés du modèle sont susceptibles d'être fiables, car ils supposent que les résidus sont normalement distribués.

Modèles courbes

• Ce que cela signifie: Un graphique Q-Q courbe est souvent le signe d'une non-normalité, telle qu'une asymétrie dans les résidus. La courbe peut être ascendante ou descendante. (C'est cette courbe que nous voyons dans l'exemple ci-dessus).
• Implication dans la pratique: Les résidus non normaux peuvent fausser les valeurs p ou les intervalles de confiance, en particulier pour les petits ensembles de données. Nous devrions envisager de transformer la variable dépendante ou de revoir la structure du modèle.

Queues lourdes ou légères

• Ce que cela signifie: S'il y a des queues lourdes, les résidus ont plus de valeurs extrêmes que ce que l'on attend de la normalité, ce qui peut être dû à des valeurs aberrantes, ou à une spécification incorrecte du modèle. Si les queues sont légères, cela signifie qu'il y a moins de résidus extrêmes que prévu, ce qui peut indiquer une troncature des données.
• Implication dans la pratique: Lorsque les queues sont lourdes, les valeurs aberrantes peuvent affecter de manière disproportionnée la ligne de régression, ce qui conduit à des résultats trompeurs. Nous devrions envisager de supprimer ou de réduire la pondération des valeurs aberrantes. Je pense que les queues légères n'ont pas tellement d'impact sur le modèle, mais qu'elles peuvent être un indice que les données sont incomplètes.