Intervalli di confidenza vs intervalli di predizione: capire la differenza

Differenze tra intervalli di predizione e intervalli di confidenza

I due concetti, intervalli di predizione e intervalli di confidenza, sono strettamente correlati. La stessa analisi può spesso prevedere l’uso di entrambi i tipi di intervalli. Quindi è utile metterli a confronto diretto. 

Scopo e interpretazione

Quando hai bisogno di conoscere un parametro di popolazione, come una media, usi un campione per stimarlo. Poiché la dimensione del campione è tipicamente molto più piccola della popolazione, la stima del parametro basata sul campione è imperfetta. L’intervallo di confidenza è l’intervallo (attorno alla stima campionaria) che ci si aspetta contenga il parametro di popolazione. 

Anche i coefficienti di regressione sono considerati parametri di popolazione. Poiché sono stimati su un campione (e non sull’intera popolazione), incorporano un certo errore. Pertanto, anche i coefficienti di regressione possono essere espressi con un intervallo di confidenza. 

Inoltre, puoi usare la regressione per prevedere:

• Il valore medio di una variabile dipendente (come il peso medio dei cani di 2 anni) oppure
• Il valore di un singolo punto dato (come un singolo cane di 2 anni). 

Nel primo caso si usa un intervallo di confidenza, nel secondo un intervallo di predizione. La sezione seguente spiega più nel dettaglio questa differenza.

Calcolo e ampiezza dell’intervallo

Calcolare l’intervallo di confidenza per l’inferenza statistica 

Come spiegato in precedenza, l’ampiezza dell’intervallo di confidenza è proporzionale alla deviazione standard e inversamente proporzionale alla dimensione del campione. L’intervallo di confidenza della media di popolazione, 𝛍, è espresso come:

Nella formula sopra:

• x è la media campionaria, la stima che puoi misurare
• 𝛍 è la media della popolazione, il parametro che vuoi stimare. 
• n è la dimensione del campione
• s è la deviazione standard campionaria
• t è il valore critico della distribuzione T di Student a
• Livello di significatività 1 - α
• n-1  gradi di libertà
• Puoi trovare i valori T su tabelle standardizzate: cerca “tabella T di Student”. 

Quindi, l’intervallo di 𝛍 è:

Capire livelli di confidenza e livelli di significatività 

Nota anche che l’ampiezza dell’intervallo è proporzionale al valore t. Se desideri un grado di confidenza (certezza) molto elevato che il valore reale sia all’interno dell’intervallo dato, quell’intervallo deve essere molto ampio. Minore è il grado di confidenza, più stretto è l’intervallo. Ma un grado di confidenza troppo basso è poco utile. In pratica si scelgono comunemente livelli di confidenza del 90%, 95%, 99% ecc. 

Se hai un livello di confidenza del 95%, ne deriva un livello di significatività del 5%. Assumendo un intervallo a due code, devi trovare il valore critico t al 2,5% (0,025). 

Concettualmente, tutti gli intervalli si esprimono come segue:

Osserva che in tutti i casi, maggiore è l’errore, più ampio è l’intervallo. Questo errore si calcola in modo diverso a seconda del caso d’uso. Nell’inferenza l’errore è la deviazione standard. Nella regressione, l’errore è mostrato nelle prossime sezioni. 

Calcolare l’intervallo di confidenza per la regressione 

Quando prevedi il valore medio della variabile dipendente, ne stimi l’intervallo tramite l’intervallo di confidenza. Ad esempio, vuoi prevedere un intervallo per il peso medio dei cani di 2 anni in funzione dell’età. Questo è chiamato intervallo di confidenza della risposta media. È considerato anche un parametro di popolazione perché è una proprietà dell’intera popolazione. L’intervallo è espresso come:

Nella formula sopra:

• y0 è il valore reale del parametro previsto. 
• y0  è il valore previsto usando la relazione di regressione. 
• Il valore critico t è spiegato nella sezione precedente
• n è la dimensione del campione
• (x0  - x) è la differenza tra il valore medio di x e x0, per cui stai cercando di prevedere y0. Nota che maggiore è questa differenza, più ampio è l’intervallo. Quindi ottieni intervalli più stretti (e previsioni più accurate) per valori di x vicini alla media campionaria. 
• SSx è la deviazione quadratica dei valori campionari di x. Si esprime come:

• SE è l’errore standard della stima. È la radice quadrata del Mean Square Error (MSE). L’MSE è la varianza dell’errore. Quindi, l’SE è analogo alla deviazione standard dell’errore. L’MSE è basato sull’errore residuo. Si esprime come: 

Nella formula sopra, il termine di sommatoria è detto anche somma dei quadrati dei residui. Il residuo è la differenza tra il valore reale di y e il valore previsto di y. 

Usando l’MSE invece dell’SE, l’intervallo di confidenza della risposta media può anche essere scritto come:

Confronta l’espressione sopra con la relazione concettuale mostrata prima. 

Osserva che l’errore tiene conto di:

• La differenza tra i valori reali e previsti di y. 
• La differenza tra il valore medio di x e il valore di xo, per cui vuoi generare la previsione
• La dispersione complessiva dei valori di x (rispetto alla loro media) 

Calcolare l’intervallo di predizione per la regressione 

Per prevedere il valore esatto di un singolo punto dato (non la media), ne stimi l’intervallo usando l’intervallo di predizione. Ad esempio, vuoi prevedere l’intervallo per il peso reale di uno specifico cane di 2 anni in funzione dell’età. Questo è chiamato intervallo di predizione ed è espresso come:

Confrontalo con l’intervallo di confidenza mostrato prima:

Nota che entrambe le espressioni sono molto simili. L’unica differenza è il termine di errore aggiuntivo nell’intervallo di predizione. L’intervallo di predizione ha un termine MSE aggiuntivo all’interno della radice quadrata rispetto all’intervallo di confidenza. Questo per tenere conto della variabilità nei valori di y che vuoi prevedere. Questo rende l’intervallo di predizione più ampio dell’intervallo di confidenza. 

Lo schema seguente mostra gli intervalli di confidenza e di predizione in relazione alla stima puntuale (valore previsto).

Confronto tra intervalli di confidenza e di predizione di una stima puntuale. Immagine dell’autore.

Lo schizzo schematico sotto mostra gli intervalli di confidenza e di predizione in relazione alla regressione: nota anche che gli intervalli sono più stretti nella regione della media. 

Illustrazione degli intervalli di confidenza e di predizione nella regressione. Immagine dell’autore.

Quando usare un intervallo di confidenza

Le sezioni precedenti hanno discusso le basi degli intervalli di confidenza e di predizione, i loro usi e le formule per calcolarli. Questa sezione offre esempi pratici di quando usare intervalli di confidenza e di predizione. 

Un intervallo di confidenza si usa quando si stima un parametro di popolazione. Per stimarlo puoi:

1. Usare misurazioni dirette basate su un campione casuale
2. Usare un modello di regressione basato su un campione casuale

Alcuni esempi d’uso dell’intervallo di confidenza sono:

• Stimare un parametro di popolazione misurando un campione casuale. Ad esempio, per stimare l’altezza e il peso medi dei neonati, prendi le misure di un campione casuale di neonati. 
• Stimare il comportamento di una popolazione studiando un campione casuale. Questo caso d’uso è comune nelle sperimentazioni cliniche, dove si cerca di stimare gli effetti di un farmaco sulla popolazione studiandone gli effetti su un campione casuale. 
• Prevedere la risposta media di una variabile dipendente in base a una regressione fatta su un campione casuale. Per esempio, vuoi prevedere il peso medio dei cuccioli di 55 giorni sulla base di un campione di pesi misurati ogni 15 giorni. 
• Impostare limiti di tolleranza nei processi produttivi. Ad esempio, se una macchina produce pezzi di un peso specificato, non tutti i pezzi avranno esattamente il peso specificato. Il peso di ogni pezzo cade entro un intervallo di confidenza rispetto alla specifica. Questo intervallo è il limite di tolleranza. Qualsiasi pezzo con peso oltre i limiti di tolleranza viene scartato. Ci si aspetta che la macchina produca per lo più pezzi entro il limite di tolleranza. 
• Controllo qualità. Supponi di voler stabilire se i pezzi prodotti da una macchina rientrano nel limite di tolleranza. Non è possibile misurare ogni singolo pezzo. Devi affidarti a campioni casuali, misurarli e usare le stime campionarie per valutare i parametri di popolazione. 
• Testare ipotesi. Livelli di confidenza e livelli di significatività sono due facce della stessa medaglia. Livello di significatività = 1 - livello di confidenza. Un intervallo di confidenza, con un determinato livello di confidenza, include quei valori per cui l’ipotesi nulla è vera a un livello di significatività pari a (1 - il livello di confidenza specificato). 

Quando usare un intervallo di predizione

Gli intervalli di predizione si usano ogni volta che prevedi il valore atteso di un singolo dato sulla base di osservazioni (e analisi di regressione) su un campione casuale. 

Alcuni esempi pratici includono: 

• Prevedere l’intervallo di un singolo punto dato in base a un’analisi di regressione. Poiché i singoli punti dati possono avere una variabilità più alta (rispetto alla media campionaria), serve un intervallo di predizione più ampio. Ad esempio, vuoi prevedere il peso di un singolo cucciolo di 55 giorni sulla base di un campione di pesi misurati ogni 15 giorni. 
• Puoi usare simulazioni Monte Carlo per prevedere il valore di una variabile sconosciuta. Poiché i metodi Monte Carlo sono probabilistici, ottieni un output leggermente diverso a ogni esecuzione del modello. Queste differenze tra output sono codificate nell’Intervallo di Incertezza Monte Carlo, concettualmente simile a un intervallo di predizione. 
• Nella regressione standard, costruisci una relazione per prevedere il valore medio di un parametro. Nella regressione quantilica, costruisci modelli diversi per prevedere ciascun quantile del parametro target. Questo consente anche di costruire intervalli di predizione più granulari. 
• I modelli di machine learning mirano a prevedere il valore di un parametro sconosciuto. Questi modelli sono tipicamente basati su metodi statistici e quindi prevedono il valore medio della quantità sconosciuta. Pertanto, l’output del modello include sia il valore atteso (medio) sia l’intervallo di predizione. 
• I modelli di deep learning usano una serie di reti neurali per fare previsioni. Per valutare l’incertezza nell’output, è comune disattivare casualmente neuroni diversi per studiare la variabilità dell’output. La varianza di queste previsioni è usata per costruire l’intervallo di predizione. 
• Nel forecasting di serie temporali, l’obiettivo è prevedere il valore di una variabile osservabile in un passo temporale futuro. Le previsioni si basano su modelli statistici come ARIMA, che eseguono un’auto‑regressione su una media mobile. Quindi prevedono il valore atteso. I valori osservati effettivi sono contenuti entro un intervallo di predizione del valore atteso. Questo intervallo di predizione è calcolato in funzione della deviazione standard. Ad esempio, per un livello di confidenza del 95%, l’intervallo di predizione è entro 1,96 deviazioni standard dal valore atteso. Inoltre, le previsioni multi‑step, che implicano un orizzonte di previsione più lungo, comportano anche un intervallo di predizione più ampio. Per saperne di più sulle serie temporali, consulta il corso sull’analisi delle serie temporali di DataCamp. 

Intervallo di confidenza vs intervallo di predizione: un riepilogo

Intervalli di confidenza e di predizione sono spesso usati nello stesso contesto: è quindi importante capire come differiscono. 

Questa tabella riassume le differenze sulla base della discussione nelle sezioni precedenti:

Implementare intervalli di confidenza e di predizione in R

Questa sezione mostra esempi pratici di utilizzo del linguaggio R per stimare intervalli di confidenza e di predizione. R è un linguaggio progettato per applicazioni statistiche e include dataset e funzioni statistiche integrate. 

Per saperne di più sulle regressioni in R, segui il tutorial sulle regressioni lineari in R di DataCamp.

Gli esempi qui sotto usano il dataset integrato Orange. Questo dataset traccia la circonferenza (in millimetri) e l’età (in giorni) degli aranci. Naturalmente, ci si aspetta che più l’albero è vecchio, maggiore è la sua circonferenza. 

Implementare intervalli di confidenza in R

Gli esempi seguenti mostrano come stimare intervalli di confidenza per statistiche di sintesi e analisi di regressione. 

Intervallo di confidenza nelle statistiche di sintesi

Per ottenere l’intervallo di confidenza per la media, esegui il T‑test standard usando la funzione t.test() sul dataset:

t.test(Orange$circumference)

L’output è simile all’esempio seguente:

t = 11.923, df = 34, p-value = 1.076e-13 
alternative hypothesis: true mean is not equal to 0 
95 percent confidence interval:
   96.10926 135.60502 
sample estimates: 
mean of x
   115.8571 

Ti fornisce la media stimata e l’intervallo di confidenza al 95%. Per impostazione predefinita, la funzione T‑Test usa un livello di confidenza del 95%. Usa il parametro conf.level per specificare un intervallo diverso, ad esempio 99%. 

> t.test(Orange$circumference, conf.level = 0.99)

Questo comando produce il seguente output:

t = 11.923, df = 34, p-value = 1.076e-13 
alternative hypothesis: true mean is not equal to 0
99 percent confidence interval:
   89.34458 142.36970 
sample estimates: 
mean of x
   115.8571 

Nota che la media stimata è la stessa in entrambi i casi. Tuttavia, per avere un livello di confidenza più alto, l’intervallo deve essere più ampio. In base ai dati, sono confidente al 99% che la media sia tra 89,3 e 142,4, ma solo al 95% che sia tra 96,1 e 135,6. Per un parametro stimato da un dato campione, più stretto è l’intervallo di confidenza, più basso è il livello di confidenza. 

Intervallo di confidenza nella regressione 

Nelle analisi di regressione, ti servono gli intervalli di confidenza per i coefficienti di regressione e per i valori previsti. 

Per capire in profondità come fare regressioni in R, segui il corso sull’inferenza per la regressione lineare in R di DataCamp.

Intervallo di confidenza dei coefficienti di regressione 

I coefficienti di regressione sono stimati analizzando un campione casuale. Quindi non sono i veri coefficienti dell’intera popolazione. Le stime dei parametri di regressione hanno associati degli errori. Oltre ai valori stimati, è utile fornire un intervallo di confidenza per i parametri. 

Usa la funzione lm() per costruire un modello lineare basato sul dataset Orange per prevedere la circonferenza (in mm) degli aranci data la loro età (in giorni):

model_orange <- lm(circumference ~ age, data = Orange)

Controlla i coefficienti di questo modello lineare:

model_orange

Questo comando mostra i parametri del modello (intercetta e pendenza) come sotto:

Coefficients: (Intercept)          age
                              17.3997       0.1068  

Usa la funzione confint() per calcolare gli intervalli di confidenza al 95%:

confint(model_orange, level = 0.95)

Ora puoi vedere gli intervalli di confidenza al 95% della pendenza e dell’intercetta stimati dal modello:

                          2.5 %                   97.5 %
(Intercept)     -0.14328303       34.9425835 
age                  0.08993141          0.1236092

Intervallo di confidenza di una previsione della risposta media 

Usa il modello di regressione creato sopra per prevedere la circonferenza media attesa di alberi di 900 giorni. Usa il parametro interval per specificare un intervallo di confidenza. 

predict(model_orange, data.frame(age = 900), interval = "confidence", level = 0.95)  

L’output include la previsione (fit) e l’intervallo di confidenza (lwr e upr per i limiti inferiore e superiore), come mostrato sotto:

       fit                    lwr              upr
 1     113.4929        105.3211       121.6647

Implementare intervalli di predizione in R

Usa lo stesso modello di sopra per prevedere la circonferenza specifica di un singolo arancio di 900 giorni. Usa il parametro interval per specificare che vuoi l’intervallo di predizione. 

> predict(model, data.frame(age = 900), interval = "prediction", level = 0.95)  

L’output è simile all’esempio sotto:

       fit                    lwr              upr
1      113.4929        64.5118        162.4741

Nota che in entrambi i casi il valore previsto della circonferenza è lo stesso, 113,49. Tuttavia, l’intervallo di predizione è molto più ampio dell’intervallo di confidenza. L’intervallo di confidenza della previsione è l’intervallo che ci si aspetta contenga la circonferenza media degli alberi di 900 giorni. L’intervallo di predizione è l’intervallo atteso della circonferenza di un singolo albero di 900 giorni. Questo perché può esserci una variabilità considerevolmente maggiore tra i singoli alberi, che si attenua quando si considera il valore medio. 

Fraintendimenti e insidie comuni

Gli intervalli statistici sono comunemente usati in campi applicati come l’analisi dei dati, la farmaceutica, l’econometria, ecc. Per chi non ha un background accademico in statistica, è facile confondere intervalli di confidenza e intervalli di predizione. 

Di seguito sono discussi alcuni fraintendimenti comuni: 

• Fare una previsione senza considerare l’intervallo di predizione. 
• Quando usi un modello di regressione per prevedere il valore della variabile dipendente dato un valore della variabile indipendente, l’equazione di regressione ti fornisce il valore atteso della variabile dipendente. Raramente il valore reale coincide con il valore atteso, ma cade entro un certo intervallo attorno al valore atteso, come specificato dall’intervallo di predizione. 
• Supporre che un’analisi di regressione coinvolga solo intervalli di predizione.
• Con i modelli di regressione fai due tipi di previsioni: 1) prevedere un valore futuro e 2) prevedere la risposta media. Nell’esempio degli aranci, puoi provare a prevedere 1) la circonferenza di un arancio specifico di 900 giorni oppure 2) la circonferenza media di tutti gli alberi di 900 giorni. In entrambi i casi, il valore atteso è lo stesso. Tuttavia, il primo coinvolge l’intervallo di predizione, il secondo l’intervallo di confidenza. 
• Credere che l’intervallo più stretto sia quello migliore.
• Potresti essere tentato di usare semplicemente l’intervallo più stretto quando utilizzi il risultato di uno studio di regressione. L’intervallo di confidenza non è “migliore” perché è più stretto. È più stretto perché fornisce l’intervallo di qualcosa di diverso rispetto all’intervallo di predizione. Considera se stai cercando di prevedere il valore medio della variabile dipendente o il valore di un singolo punto dato.
• Scambiare un intervallo di confidenza per un intervallo di predizione. 
• Se la tua previsione riguarda la determinazione del valore di un parametro di popolazione da un campione o la previsione della risposta media (valore medio) da una regressione, usi l’intervallo di confidenza. Se provi a prevedere una proprietà di un singolo punto dato sulla base di una regressione, usa l’intervallo di predizione. 

Conclusione

Questo articolo ha fornito una panoramica degli intervalli di confidenza e degli intervalli di predizione. Ha anche spiegato la differenza tra questi concetti dal suono simile e offerto esempi pratici di quando usare ciascun tipo di intervallo. L’articolo ha inoltre mostrato come calcolare intervalli di predizione e di confidenza utilizzando il linguaggio R. 

Per imparare ad applicare formule statistiche con Python, consulta il corso di DataCamp sulla statistica in Python. Infine, se ti stai preparando per colloqui di lavoro che includono la statistica, dai un’occhiata al corso di DataCamp sulle domande di colloquio di statistica in Python.