Paradosso di Simpson: evita di farti ingannare dai dati

Quando ho imparato il paradosso di Simpson all’università, l’ho trovato super confuso. Quasi non capivo cosa stessi guardando. C’era una tendenza di alto livello, e la storia sembrava abbastanza chiara. Ma poi, quando ho separato i gruppi sottostanti, la tendenza si è invertita.

La mia prima reazione è stata qualcosa tipo: «Beh, allora non ci si può fidare delle statistiche». Ma col tempo ho studiato e sono felice di dire che ora mi fido di nuovo delle statistiche. Se sei confuso quanto lo ero io, continua a leggere: ti aiuterò a capire cosa sta succedendo. 

Che cos’è il paradosso di Simpson?

Un analista dati esperto impara presto a diffidare delle tendenze generali. Questo perché una semplice media può nascondere qualcosa di più complesso che è comunque vero nei dati. Con il paradosso di Simpson, questo "qualcos’altro" è piuttosto notevole: i dati aggregati non solo oscurano i fatti, ma indicano la conclusione esattamente opposta.

In altre parole, il paradosso di Simpson si verifica quando una tendenza appare in gruppi separati di dati ma scompare o si ribalta completamente quando quei gruppi vengono combinati. È un promemoria netto che guardare al quadro generale senza comprenderne le parti può portare a problemi.

Un esempio di paradosso di Simpson

È meglio mostrarlo con un esempio. Inizio con qualcosa di semplice e poi cito esempi famosi che puoi studiare per conto tuo. 

Immagina uno studio che confronta i tassi di successo di due tipi di suolo sulla crescita degli alberi, Suolo A e Suolo B. Quando guardiamo la crescita degli alberi in base al tipo di suolo, i risultati sembrano chiari:

• Per gli alberi in climi freddi (Gruppo 1), il suolo A dà risultati migliori.
• Per gli alberi in climi caldi (Gruppo 2), il suolo A continua ad avere risultati migliori.

Sulla base di ciò, il suolo A sembra il vincitore ovvio. Ma quando combiniamo tutti i dati, appare il paradosso: vediamo che il suolo B è in realtà l’opzione complessivamente più efficace.

Nel caso non mi credessi, metto dei numeri a supporto:

Crescita degli alberi in climi freddi

Nei climi freddi, il suolo A favorisce una crescita più rapida.

Crescita degli alberi in climi caldi

Nei climi caldi, il suolo A va ancora meglio, anche se la differenza è minore.

Ma quando combini tutti gli alberi

Ora vediamo che il suolo B è complessivamente migliore, anche se il suolo A lo supera in entrambi i climi. 

Com’è possibile? La risposta è una variabile confondente, un fattore nascosto che influenza sia i gruppi studiati sia il risultato finale. In questo caso, il clima è il confondente. 

Più precisamente, dovremmo dire che: 

• Il suolo A è usato più spesso in climi più freddi, dove tutti gli alberi crescono più lentamente, indipendentemente dal suolo.
• E il suolo B è usato più spesso in climi più caldi, dove in generale gli alberi crescono più velocemente.

Quindi, il clima influenza il tasso di crescita e è anche distribuito in modo disomogeneo tra i gruppi di suolo.

Esempi classici del paradosso di Simpson 

Il paradosso di Simpson è spesso studiato con casi storici specifici che mostrano davvero cosa succede.

Un esempio famoso viene dalle ammissioni alla UC Berkeley negli anni ’70. All’inizio, i dati suggerivano che le donne venissero accettate a tassi inferiori rispetto agli uomini. Ma suddividendo per dipartimento, la maggior parte ammetteva le donne a tassi uguali o superiori. Il confondente era la scelta del dipartimento: le donne si candidavano più spesso a dipartimenti competitivi con tassi di accettazione complessivamente più bassi, mentre gli uomini si candidavano a quelli meno competitivi.

Un altro caso è uno studio del 1986 sui trattamenti dei calcoli renali. Nel complesso, un metodo meno invasivo sembrava più efficace. Ma separando per dimensione del calcolo, l’intervento più invasivo aveva tassi di successo più alti sia per i calcoli piccoli sia per quelli grandi. Il confondente qui era la gravità del caso: i casi più difficili finivano in chirurgia, facendo sembrare peggiori i numeri complessivi dell’intervento.

In entrambi i casi, i dati combinati davano un’impressione sbagliata. Solo dopo aver scomposto i dati è emersa la verità.

Cosa causa il paradosso di Simpson?

Nel paradosso di Simpson, i numeri sono corretti sia per i gruppi combinati sia per quelli individuali. Quindi non c’è nessun errore di calcolo. Il problema è di interpretazione. Mette alla prova la nostra capacità di tenere insieme tutti i fatti. 

Per aiutarti a capire – e l’ho accennato poco fa – il paradosso di Simpson si verifica quando sono soddisfatte due condizioni:

1. È presente una variabile confondente: c’è un terzo fattore collegato sia alla variabile indipendente sia all’esito.
2. I gruppi sono sbilanciati: nel nostro esempio degli alberi, il suolo A era usato più spesso in climi freddi, dove gli alberi crescono più lentamente. Il suolo B era usato di più in climi caldi, dove la crescita è più rapida. Questo sbilanciamento altera la media combinata e provoca l’inversione.

Cosa fare riguardo al paradosso di Simpson

Questa potrebbe essere la parte più importante: come difenderti dal paradosso di Simpson nelle tue analisi, in modo che non compaia per caso e, se compare, quale versione dei fatti dovresti riportare? 

Cosa fare prima

Forse il paradosso di Simpson si gestisce al meglio prima che abbia la possibilità di distorcere le tue conclusioni. Questo significa sviluppare alcune abitudini disciplinate:

• Segmenta i tuoi dati: non affidarti alle medie di alto livello. Suddividi i dati in sottogruppi rilevanti come età, area geografica, tipo di prodotto o gravità, e verifica se la tendenza si mantiene in quelle sezioni.
• Cerca variabili confondenti: chiediti sempre: Cos’altro potrebbe influenzare questo risultato? Cerca fattori che potrebbero essere distribuiti in modo disomogeneo tra i gruppi, soprattutto quelli che conosci grazie alla tua esperienza nel dominio.
• Ricorda che correlazione non è causalità: il fatto che una tendenza appaia nell’aggregato non significa che rifletta un vero rapporto causa-effetto. Il paradosso di Simpson emerge spesso quando una correlazione superficiale nasconde qualche tipo di squilibrio più profondo.
• Pretendi contesto: conosci l’origine dei tuoi dati e ciò che può plasmarli. I metodi di raccolta, la natura dei soggetti e le influenze esterne contano tutti.

Cosa fare dopo che compare

Se compare il paradosso di Simpson, niente panico. È il segnale che devi guardare un po’ più da vicino:

• Indaga sullo sbilanciamento. Cosa è distribuito in modo disomogeneo tra i gruppi? Probabilmente è il tuo confondente.
• Riporta entrambe le viste, ma dai priorità alla chiarezza. Va bene mostrare anche il risultato aggregato, ma assicurati di spiegare perché è fuorviante e metti in evidenza l’analisi disaggregata che riflette meglio il vero schema.
• Lascia che sia lo scopo a guidare il tuo reporting. Se stai prendendo decisioni di policy o cambi operativi, di solito vorrai agire in base a insight a livello di sottogruppo, non su riepiloghi aggregati.

Se ti chiedi se una versione dei risultati sia “migliore” – quella aggregata o quella disaggregata – sappi che non c’è una risposta valida per tutti i casi. Detto ciò, penso che l’analisi disaggregata sia in genere più affidabile quando è presente confondimento. I risultati disaggregati (per gruppi) sono di solito più informativi perché riflettono come una variabile si comporta in condizioni o contesti diversi, mentre i risultati aggregati possono essere fuorvianti se c’è una variabile confondente che influenza sia il raggruppamento sia l’esito. Quel che conta di più, secondo me, è capire perché avviene l’inversione e comunicarlo con chiarezza nel tuo reporting.

Conclusione

Il paradosso di Simpson è una grande lezione nell’arte di interpretare i dati. La capacità di andare oltre un totale fuorviante e chiedersi: "Cosa mi sta sfuggendo?" è il segno di un analista maturo. È l’abilità che distingue chi si limita a riportare numeri da chi scopre insight.

Se ti interessa il "perché" dietro queste inversioni (a me certamente sì), il paradosso è un ottimo punto d’ingresso al campo più ampio dell’inferenza causale; il nostro corso Machine Learning for Business insegna modelli causali e altro ancora. Inoltre, iscriviti oggi al nostro corso Foundations of Inference in Python come un’altra ottima opzione di apprendimento.