Falsk korrelation: En viktig statistisk fälla (och hur du undviker den)

Inom statistik och maskininlärning är ett mönster inte detsamma som ett svar.

Du har förmodligen sett diagrammet som kopplar glassförsäljning till drunkningsfrekvens, eller det som kopplar Nicolas Cage-filmer till dödsfall i simbassänger. De fångar din uppmärksamhet och är minnesvärda, men de är tydliga exempel på att korrelation inte betyder kausalitet. De är också så överanvända att de missar varför problemet spelar roll i ditt arbete.

Du kan tänka på falsk korrelation som ett skenbart samband mellan två variabler som inte orsakas av någon verklig koppling. Det hänger ihop bara av en slump eller en dold variabel du inte övervakar. Om du behandlar det som värdefull information slösar du tid på att jaga mönster som inte är rimliga och inte översätts till verkligheten.

I den här artikeln går jag igenom varför falska korrelationer uppstår, hur du upptäcker dem och hur du undviker att fatta beslut baserat på dem.

Men vad är korrelation egentligen? Läs vårt blogginlägg om Att mäta samband i data för att lära dig de olika typerna av korrelationskoefficienter och deras användningsområden.

Vad är en falsk korrelation?

En falsk korrelation är ett skenbart statistiskt samband mellan två variabler som inte orsakas av någon verklig koppling dem emellan.

Själva korrelationsvärdet är verkligt. När du kör analysen får du ett värde som ser meningsfullt och rimligt ut. Ingenting i själva beräkningen är fel eller påhittat, och det är precis det som är problemet.

Det som saknas är kausalitet.

Ingenting i den ena variabeln får den andra att inträffa. De kan röra sig tillsammans av skäl som inte har med varandra att göra, eller utan någon egentlig orsak alls. Skillnaden mellan vad datan visar och vad som faktiskt pågår är vad falsk korrelation handlar om.

Varför falska korrelationer uppstår

Falska korrelationer kan nästan alltid förklaras av ett par mekanismer, och när du vet vad du ska leta efter kommer du inte att lita blint på korrelationer.

Störfaktorer (confounders)

En störfaktor är en dold variabel som påverkar båda sakerna du mäter.

Ta det klassiska exemplet med glass och drunkningar. Glassförsäljning orsakar inte drunkningar. Varmt väder driver båda – fler köper glass och fler badar, vilket innebär att fler drunkningar sker.

Temperatur är störfaktorn här. Om din data inte övervakar den är det lätt att missa.

Slump

Ibland rör sig två variabler tillsammans utan någon orsak alls.

Om du kör tillräckligt många jämförelser över tillräckligt många dataset kommer några att linjera av en slump. Det är exakt så korrelationen mellan Nicolas Cage och dödsfall i simbassänger uppstår – två orelaterade tidsserier som råkade trenda tillsammans under samma år.

Med tillräckligt många variabler i spel är en viss grad av slumpmässig linjering att vänta.

Gemensamma trender

Vissa variabler rör sig helt enkelt tillsammans över tid, och den överlappningen kan se ut som ett samband även när det inte finns något.

Tänk på befolkning, BNP, internetanvändning och plastproduktion. Många av dessa har vuxit i decennier. Om du jämför vilka som helst två av dem får du en stark korrelation, helt enkelt för att de båda trendar uppåt.

Men de delar bara riktning och det finns ingen koppling mellan variablerna i sig.

Urvalsbias

En falsk korrelation kan också komma från den data du samlat in, inte världen den ska representera.

Om ditt urval inte speglar populationen du studerar kan du få ett samband som bara finns i ditt dataset. Enkätundersök enbart via en app, till exempel, och du kommer att se att "appanvändning" korrelerar med allt möjligt. Det beror inte på att appanvändning orsakar dem, utan på att ditt urval är snedvridet mot personer som använder appar.

Exempel på falsk korrelation

Falsk korrelation är vanligare än du tror. Så här upptäcker du den och vad du kan göra åt den.

Klassiska statistiska exempel

Korrelationen mellan glass och drunkningar är den som alla känner till. Glassförsäljning och drunkningsdödlighet stiger och sjunker tillsammans, men ingen av dem orsakar den andra. Varmt väder är störfaktorn och driver båda samtidigt.

Exemplet med Nicolas Cage är annorlunda. Hans filmproduktion över åren korrelerar med antalet drunkningar i pooler under samma period, och det finns ingen störfaktor alls. Det är en slump – två orelaterade trender som råkade linjera.

Båda exemplen bevisar poängen med falsk korrelation, men tyvärr ser du det sällan lika tydligt i verkliga fall.

Exempel från näringsliv och forskning

Inom affärsanalys tenderar falska korrelationer att gömma sig bakom siffror som ser ut att höra ihop.

Föreställ dig att ett företag spårar veckovisa marknadsföringskostnader och veckointäkter under två år. Du kan använda den här Python-koden för att följa med:

import numpy as np
import pandas as pd

np.random.seed(42)
weeks = 104

# Seasonal effect
seasonality = 10 * np.sin(np.linspace(0, 8 * np.pi, weeks)) + 20

marketing_spend = seasonality + np.random.normal(0, 2, weeks)
revenue = seasonality * 50 + np.random.normal(0, 30, weeks)

df = pd.DataFrame({
    "week": range(1, weeks + 1),
    "marketing_spend": marketing_spend,
    "revenue": revenue
})

print(df["marketing_spend"].corr(df["revenue"]))

Output: 0.9707905810711147

Du får en stark positiv korrelation mellan marketing_spend och revenue. Det är frestande att tolka det som "marknadsföringskostnader ökar intäkterna", och kanske gör de det, men koden ovan bevisar det inte. Båda variablerna drivs av samma säsongsmässiga efterfrågecykel. Om företaget spenderar mer under veckor då efterfrågan naturligt är hög, dyker korrelationen upp oavsett om själva marknadsföringen gör någon skillnad.

Detta är ett vanligt misstag i mycket affärsanalys.

Saker som kundbeteende och marknadsföringsutfall rör sig med årstiderna, ekonomin eller ett dussin andra dolda faktorer. Två metriker som korrelerar säger inte vilken av dem, om någon, som är ansvarig.

Exempel från maskininlärning

Maskininlärningsmodeller vet inte vad "orsak" betyder. De hittar bara vilket mönster som än sänker felmåttet, och om en genväg fungerar på träningsdatan tar modellen den.

Till exempel:

• Beroende av bakgrund: En bildklassificerare som tränats att upptäcka kor lär sig att förknippa gröna ängar med "ko", inte själva djuret. Visar du en ko på en strand misslyckas den.
• Demografiska och geografiska proxies: En modell tränad på historisk data plockar upp postnummer som proxy för inkomst eller etnicitet, även när ingen av variablerna finns i träningsmängden.
• Datasetsartefakter: En medicinsk avbildningsmodell lär sig att skanningar från ett sjukhus äldre maskin korrelerar med sjukdom, eftersom det sjukhuset behandlade fler svåra fall, inte för att maskinens output avslöjar något om själva sjukdomen.

Här är samma idé, byggd som ett syntetiskt exempel du kan köra själv. En modell förutspår risk för lånedröjsmål, och zip_code fungerar som en proxy för income, som är den variabel som faktiskt spelar roll.

import numpy as np
import pandas as pd
from sklearn.linear_model import LogisticRegression

np.random.seed(42)
n = 1000

# Zip code correlates with income, income drives default risk
zip_code = np.random.choice([1, 2, 3], size=n)
income = 80000 - zip_code * 15000 + np.random.normal(0, 5000, n)
default_risk = (income < 40000).astype(int)

df = pd.DataFrame({"zip_code": zip_code, "income": income, "default": default_risk})

model = LogisticRegression()
model.fit(df[["zip_code"]], df["default"])
print(model.score(df[["zip_code"]], df["default"]))

Exempel på modellpoäng för maskininlärning

Den här modellen kan förutsäga risk för dröjsmål med zip_code ensamt, utan att någonsin se income. På detta dataset fungerar det, men om du ger den en ny stad där mönstret mellan postnummer och inkomst inte stämmer kommer modellens noggrannhet att sjunka.

Det är problemet med genvägslärande.

En modell byggd på en falsk korrelation kan få bra poäng på träningsdata och ändå fallera i samma stund som den möter en miljö där korrelationen inte gäller.

Hur du upptäcker en falsk korrelation

Den dåliga nyheten är att du inte kan eliminera falska korrelationer, men du kan skapa vanor som fångar upp det mesta.

Här är ett par praktiska tips:

• Undersök störfaktorer: Innan du litar på en korrelation, fråga vad mer som kan driva båda variablerna. Temperatur och säsongsvariation är vanliga misstänkta.
• Använd domänkunskap: Om ett samband inte är rimligt givet vad du vet om ämnet, låt inte statistiken övertrumfa den magkänslan.
• Visualisera datan: Ett spridningsdiagram eller en tidsserie visar ofta en gemensam trend eller en uppenbar avvikare som en korrelationskoefficient döljer.
• Kör ytterligare statistiska tester: Partiell korrelation eller att kontrollera om sambandet håller över olika undergrupper kan bekräfta eller slå hål på en korrelation.
• Designa experiment när det går: Randomiserade kontrollerade studier tar bort störfaktorer, eftersom du styr vilken grupp som får vilken behandling.

Kort sagt, en korrelationskoefficient talar om att två saker rört sig tillsammans. Om det betyder något är fortfarande upp till dig att avgöra.

Falsk korrelation vs andra statistiska begrepp

Ett par termer används omväxlande med falsk korrelation, vilket orsakar mycket förvirring. I det här avsnittet visar jag vad dessa statistiska begrepp är och hur de skiljer sig.

Falsk korrelation vs confounding

Störfaktorer är en specifik orsak till en falsk korrelation. Det är inte en synonym.

Confounding uppstår när en tredje variabel påverkar båda variablerna du mäter, och skapar ett samband som ser direkt ut men inte är det. Temperatur kan vara en störfaktor eftersom den driver både glassförsäljning och drunkningar.

Falsk korrelation är den bredare kategorin. Den täcker störfaktorer, men även slump, urvalsbias och delade trender över tid, som inget av dem involverar en dold tredje variabel. Exemplet med Nicolas Cage är inte confounding alls, eftersom det inte finns någon variabel som kopplar filmproduktion till dödsfall i pooler. Det är bara en slump. Men det är fortfarande falskt.

Så varje samband som påverkas av en störfaktor är falskt. Men inte varje falskt samband beror på en störfaktor.

Falsk korrelation vs kausalitet

En falsk korrelation och ett kausalt samband kan ge samma spridningsdiagram. Skillnaden är vad som händer under ytan, och den skillnaden avgör vad du kan göra med datan.

Här är en tabell som sammanfattar skillnaderna:

En falsk korrelation implicerar aldrig kausalitet, oavsett hur stark korrelationskoefficienten ser ut. Att bevisa kausalitet kräver kontrollerade experiment eller etablerade metoder för kausal inferens som går bortom ett enstaka statistiskt test.

Hur du minskar risken för falska korrelationer

I sig är det användbart att kunna upptäcka en falsk korrelation i efterhand. Men det är mycket bättre om du kan bygga ett arbetsflöde som undviker en från början.

Så här bör du göra i detta arbetsflöde:

• Samla in bättre data: Många falska korrelationer börjar med ett urval som inte representerar det du försöker studera. Innan du analyserar något, kontrollera att din datainsamling täcker rätt population under rätt förutsättningar.
• Använd randomiserade experiment när det går: Randomisering är det bästa skyddet mot störfaktorer, eftersom den sprider dolda variabler jämnt över grupper. Om du kan köra ett A/B-test istället för att förlita dig på observationsdata, gör det.
• Validera på nya dataset: En korrelation som bara dyker upp i ett dataset är ett tecken på att något är fel. Testa om sambandet håller på data från en annan tidsperiod, av en annan person, en annan population eller en annan källa innan du litar på det.
• Utför kausalanalys: Tekniker som att kontrollera för störfaktorer eller kausala grafer låter dig gå bortom "de här två sakerna rör sig tillsammans" och testa om den ena faktiskt påverkar den andra.
• Inkludera domänexpertis: Någon som förstår ämnet fångar ofta upp ett falskt samband som ett statistiskt test inte gör. Om en korrelation inte håller mot domänkunskap, ifrågasätt den innan du bygger vidare på den.

Sanningen att säga garanterar ingen av dessa steg att du fångar varje falsk korrelation, men tillsammans minskar de risken att bygga en slutsats eller modell som är opålitlig.

Slutsats

En hög korrelationskoefficient kan verka som ett svar, men för mer erfarna dataprofessionella är det faktiskt en fråga.

Siffran talar om att två saker rört sig tillsammans. Den berättar inte varför, och att behandla den som bevis för kausalitet är hur felaktiga antaganden görs, forskning misstolkas, affärsbeslut blir fel och modeller fallerar i samma stund de ser ny data. Vad som ligger bakom siffrorna är viktigare än siffrorna i sig.

Det är därför de starkaste slutsatserna aldrig kommer från enbart statistik, utan från en kombination av statistik och domänkunskap. När du använder båda landar du i slutsatser som håller utanför datasetet som gav upphov till dem.

Om du tycker att begreppen korrelation och falsk korrelation är förvirrande, utforska vår palett av kurser i sannolikhet och statistik. Vi täcker allt från introduktion till försöksdesign och hypotesprövning.