Grafici dei residui spiegati: come verificare le assunzioni dei modelli di regressione

Hai adattato un modello di regressione, l'R^² sembra buono e i coefficienti hanno senso intuitivo. Ma una bella tabella di riepilogo può nascondere un modello mal specificato. Un grafico a dispersione spesso coglie ciò che i numeri non vedono: il grafico dei residui.

Questo articolo spiega cosa sono i grafici dei residui, come leggerli, i pattern da conoscere e come crearne uno sia in Python che in R. Molti principianti saltano del tutto la fase diagnostica. Alla fine, tu non lo farai.

Cos'è un grafico dei residui?

Un residuo è la differenza tra quanto il tuo modello ha previsto e quanto è accaduto realmente: residuo = osservato − previsto. Un grafico dei residui mette in mostra questi scarti. L'asse x mostra i valori previsti (fitted) o una variabile esplicativa; l'asse y mostra i residui. Una linea orizzontale di riferimento si trova a zero, a indicare una previsione perfetta.

Dispersione casuale attorno allo zero: un grafico dei residui sano. Immagine dell'autore. 

L'idea centrale: se il tuo modello ha colto bene la relazione, i residui dovrebbero sembrare rumore. Sparsi casualmente attorno allo zero, senza pattern evidenti. Nel momento in cui appare una forma, il tuo modello ti sta dicendo qualcosa che non poteva esprimere solo con i coefficienti.

Come interpretare un grafico dei residui

Cerca pattern. Idealmente, non dovrebbe essercene uno evidente. È tutta qui la regola. Ciò che rivelano posizione, ampiezza e forma dei residui è dove inizia la parte interessante.

Posizione: la nuvola è centrata su zero?

Residui sopra lo zero in alcune regioni dei valori fitted e sotto in altre indicano che il modello è distorto. Sovrastima o sottostima sistematicamente in certe aree. Spesso questo punta a una variabile mancante o a una relazione non lineare che un modello lineare non riesce a catturare.

Ampiezza: la varianza resta più o meno costante?

Scorri da sinistra a destra. Se l'ampiezza dei residui è più o meno la stessa per tutti i valori fitted, è un buon segno. Se i punti si allargano all'aumentare dei fitted, la varianza sta cambiando. Questo si chiama eteroschedasticità. Non invalida le stime dei coefficienti, ma rende inaffidabili gli errori standard, il che conta se fai test d'ipotesi.

Forma: c'è una curva o una tendenza?

Piatto e senza pattern è ciò che vuoi. Una forma a U o ad arco dice che al modello manca un termine non lineare. Cluster o bande suggeriscono sottogruppi che il modello sta trattando come uno solo. Un singolo punto molto distante dagli altri merita un'indagine.

Pattern comuni nei grafici dei residui e cosa significano

Quattro pattern nei grafici dei residui che segnalano problemi di modello. Immagine dell'autore.

Dispersione casuale attorno allo zero

Il buon esito. Punti distribuiti più o meno uniformemente sopra e sotto la linea dello zero, senza tendenze riconoscibili, indicano in generale che il modello sta catturando la relazione in modo ragionevole. Un po' di casualità è attesa.

Pattern curvo

Un pattern curvo o ad arco di solito indica una relazione non lineare non modellata. Il modello sta adattando una retta a dati che si piegano. La soluzione tipica è aggiungere un termine polinomiale (come x^²) o applicare una trasformazione al predittore. Questo è uno dei pattern più comuni nella pratica, soprattutto quando si modellano cose come i prezzi delle case o la crescita biologica.

Forma a imbuto o ventaglio

Residui che si allargano man mano che i fitted aumentano: questa è eteroschedasticità, la varianza non è costante. Comune nei dati finanziari, dove gli errori di previsione crescono naturalmente con la magnitudine dell'esito. Una trasformazione logaritmica della variabile risposta è spesso un primo passo ragionevole; i minimi quadrati pesati sono un'altra opzione.

Cluster o gruppi

Gruppi distinti nel grafico dei residui di solito significano che i dati contengono sottopopolazioni che il modello non sta considerando. Probabilmente c'è una variabile categorica (regione, gruppo di trattamento, tipo di prodotto) che dovrebbe entrare nel modello. Se vedi due o tre bande strette di punti, inizia da lì.

Residui isolati di grande entità

Un singolo punto molto lontano dagli altri merita attenzione. Potrebbe essere un vero outlier, un errore di inserimento dati o un'osservazione con caratteristiche insolite. Non eliminarlo automaticamente. Capiscilo prima. Se tenerlo o rimuoverlo dipende dal contesto, non dalla comodità.

Per ciascuno di questi pattern, il grafico dei residui identifica un sintomo, non una diagnosi. Ti dice che qualcosa non va; sta a te capire il perché.

Quali assunzioni della regressione possono verificare i grafici dei residui?

Tenendo a mente i pattern, vale la pena chiarire quali assunzioni della regressione un grafico dei residui può e non può valutare.

• Linearità: Se la relazione tra predittori ed esito è davvero lineare, i residui non dovrebbero mostrare tendenze quando tracciati contro i fitted. Una curva o un arco è un segno visivo diretto che la linearità non regge.
• Varianza costante: Il pattern a imbuto è esattamente ciò che sembra l'eteroschedasticità. Se l'ampiezza aumenta con i fitted, l'uguaglianza della varianza è violata. Il grafico residui vs fitted è probabilmente lo strumento più comune per coglierla.
• Indipendenza: Se le tue osservazioni hanno un ordine naturale (tempo, spazio, cluster di soggetti) puoi tracciare i residui rispetto a quell'ordine per cercare pattern. Residui con trend in un grafico ordinato nel tempo suggeriscono autocorrelazione. Un semplice grafico residui vs fitted non lo rivelerà sempre; a volte serve un grafico residui vs ordine dedicato.
• Outlier e osservazioni influenti: Residui grandi e isolati segnalano osservazioni che il modello predice male. Per l'influenza in senso stretto, cioè osservazioni che tirano sproporzionatamente la retta di regressione, il grafico Residui vs Leverage è più informativo del semplice grafico dei residui.

Una cosa che i grafici dei residui non possono valutare in modo affidabile è la normalità. Un grafico residui vs fitted piatto non conferma che gli errori siano distribuiti normalmente. Per questo ti serve un Q-Q plot. È una fonte comune di confusione e vale la pena tenerlo a mente.

Come creare un grafico dei residui in Python

Il flusso di lavoro standard usa scikit-learn per adattare il modello e calcolare i residui, poi matplotlib per visualizzarli. Ecco un esempio completo con una regressione lineare semplice su dati immobiliari:

import numpy as np
import matplotlib.pyplot as plt
from sklearn.linear_model import LinearRegression

# Sample data: square footage predicting home price
sqft = np.array([800, 1000, 1200, 1500, 1800, 2000, 2200, 2500, 3000, 3500])
price = np.array([150, 180, 210, 260, 300, 330, 370, 420, 500, 560])

# Reshape for sklearn and fit the model
X = sqft.reshape(-1, 1)
model = LinearRegression()
model.fit(X, price)

# Generate predictions and calculate residuals
predicted = model.predict(X)
residuals = price - predicted

# Plot residuals against fitted values
plt.figure(figsize=(8, 5))
plt.scatter(predicted, residuals, color='steelblue', edgecolors='white', s=80)
plt.axhline(y=0, color='red', linestyle='--', linewidth=1.2)
plt.xlabel('Fitted Values')
plt.ylabel('Residuals')
plt.title('Residual Plot')
plt.tight_layout()
plt.show()

La riga chiave è residuals = price - predicted. La chiamata a axhline() aggiunge la linea di riferimento a zero; senza, il grafico è molto più difficile da leggere. Se l'output sembra grosso modo senza pattern, sei messo abbastanza bene. Nota che i residui crescono ai fitted più alti. Con solo 10 punti è difficile esserne certi, ma suggerisce quel tipo di forma a ventaglio di cui parlavamo prima.

Per approfondire la regressione in Python, il nostro Introduction to Regression with statsmodels in Python guida passo passo a fitting del modello, verifica delle assunzioni e interpretazione.

Come creare un grafico dei residui in R

R lo rende leggermente più semplice di default. Una volta adattato un modello con lm(), la funzione plot() integrata produce automaticamente un pannello diagnostico completo, incluso il grafico residui vs fitted.

# Same housing data in R
sqft <- c(800, 1000, 1200, 1500, 1800, 2000, 2200, 2500, 3000, 3500)
price <- c(150, 180, 210, 260, 300, 330, 370, 420, 500, 560)

# Fit the model and view diagnostics
housing_model <- lm(price ~ sqft)
plot(housing_model, which = 1) # which = 1 gives residuals vs. fitted

L'argomento which = 1 estrae solo il grafico residui vs fitted. Se lo ometti, ottieni tutti e quattro i grafici diagnostici standard: residui vs fitted, Q-Q, scale-location e residui vs leverage. Utile quando vuoi un quadro completo rapidamente. R annota anche i tre punti più estremi per indice, evitandoti di cercare manualmente gli outlier.

Per una guida completa alla regressione in R, il nostro Introduction to Regression in R copre dalla base la costruzione dei modelli e le diagnostiche.

Grafici dei residui vs altri grafici diagnostici di regressione

Il grafico residui vs fitted è il punto di partenza, non l'intero quadro. Alcuni grafici correlati rispondono a domande diverse.

Grafico dei residui vs Q-Q plot

Il grafico residui vs fitted verifica linearità e varianza costante. Il Q-Q plot verifica la normalità, cioè se i residui seguono una distribuzione normale. Sono domande diverse. Un grafico dei residui pulito non garantisce la normalità, e un Q-Q plot non ti dirà nulla sulla varianza. In genere ti servono entrambi.

Due grafici diversi, due domande diverse sul tuo modello. Immagine dell'autore.

Grafico dei residui vs scale-location plot

Lo scale-location plot (chiamato anche spread-location) traccia la radice quadrata dei residui standardizzati assoluti contro i fitted. È pensato per rilevare l'eteroschedasticità e spesso rende più facile individuare il pattern a imbuto rispetto al grafico dei residui grezzi, perché rimuove il segno dei residui e si concentra interamente sull'ampiezza.

Grafico dei residui vs grafico residui vs leverage

La leverage misura quanto sono insoliti i valori dei predittori di un'osservazione, non quanto male il modello la predice. Leverage alta combinata con un residuo grande è potenzialmente un'osservazione influente. Il grafico residui vs leverage identifica queste combinazioni e di solito evidenzia per nome i punti più problematici. Se temi che osservazioni influenti distorcano il tuo modello, controlla questo grafico.

Cosa fare quando un grafico dei residui mostra un problema

Un grafico dei residui è una diagnostica, non un verdetto. Vedere un pattern non significa che il modello sia inutile. Ecco come i pattern comuni si traducono in prossimi passi:

• Pattern curvo: valuta di aggiungere un termine polinomiale o di trasformare un predittore. Una trasformazione logaritmica di x o un termine x² spesso raddrizzano la situazione.
• Forma a imbuto: prova una trasformazione logaritmica o a radice quadrata della variabile risposta. Se non funziona, i minimi quadrati pesati danno meno influenza alle osservazioni più rumorose.
• Residui isolati grandi: indaga l'osservazione. Verifica prima eventuali errori di inserimento dati. Se il punto è legittimo, valuta se il tuo modello debba tener conto di ciò che lo rende insolito.
• Cluster o gruppi: cerca una variabile categorica che non hai incluso. Modelli separati per sottogruppi a volte sono la risposta giusta.

Il grafico dei residui mostra sintomi. Non indica la causa esatta, e un singolo pattern può avere più spiegazioni. Usalo come spunto per porre domande migliori.

Errori comuni nell'interpretare i grafici dei residui

• Aspettarsi un grafico perfettamente casuale: Dati reali sono disordinati. Qualche punto non conforme, lieve asimmetria, un po' di clustering agli estremi: è normale. La domanda non è se il grafico sia perfettamente casuale; è se c'è un pattern sistematico che un modello migliore eliminerebbe.
• Trattare ogni outlier come dato errato: Un residuo grande significa che il modello ha predetto male quell'osservazione. Non che l'osservazione sia sbagliata. A volte l'outlier è il punto più interessante del dataset. Eliminalo solo dopo aver capito cos'è.
• Supporre che un grafico dei residui provi la normalità: non lo fa. Un grafico residui vs fitted ti dice di linearità e varianza costante. La normalità richiede un Q-Q plot. Queste due diagnostiche sono complementari, non intercambiabili.
• Guardare il grafico senza considerare il contesto: Un grafico dei residui da un modello di serie temporale va letto diversamente rispetto a uno da un dataset trasversale. Ciò che è preoccupante dipende da struttura dei dati, dimensione del campione e scopo del modello. Un pattern da correggere in un modello di forecasting potrebbe essere trascurabile in un'analisi esplorativa.

Conclusione

Adatti un modello, controlli il riepilogo, ti senti soddisfatto dell'R^²: è qui che la maggior parte si ferma. Il grafico dei residui è ciò che guardi dopo, e spesso racconta un'altra storia. Dispersione casuale attorno allo zero è ciò che vuoi. Curve, imbuti, cluster e punti estremi e isolati suggeriscono ciascuno qualcosa che il modello non ha considerato.

Nessun singolo grafico ti dà il quadro completo. Abbina il grafico residui vs fitted a un Q-Q plot per la normalità, a uno scale-location per la varianza e a un leverage plot se ti preoccupano osservazioni influenti. Ognuno risponde a una domanda diversa.

Se vuoi andare oltre, il nostro corso Intermediate Regression with statsmodels in Python tratta in profondità la verifica delle assunzioni, incluso come intervenire quando le diagnostiche segnalano un problema. Per una base più ampia sulle assunzioni della regressione e sulla valutazione dei modelli, il nostro tutorial Assumptions of Linear Regression in Python è una naturale lettura successiva.