Determinatiecoëfficiënt: wat R-kwadraat ons vertelt

Stel, je wilt iemands examencijfer voorspellen op basis van het aantal uren dat ze hebben gestudeerd. Hoe goed komen je voorspellingen overeen met de werkelijke cijfers? Dat is wat de determinatiecoëfficiënt, ook wel R^² (R-kwadraat), ons vertelt.

Het laat zien hoeveel van de verandering in het ene (zoals examencijfers) verklaard kan worden door veranderingen in het andere (zoals studie-uren). Zo begrijp je hoe goed je model bij de data "past".

In dit artikel leggen we uit wat R^² betekent, waarom het belangrijk is, en hoe je het berekent en interpreteert, ook als je nieuw bent met statistiek. 

Wat is de determinatiecoëfficiënt?

De determinatiecoëfficiënt, meestal geschreven als R^² (R-kwadraat), is een getal dat aangeeft hoe goed een regressiemodel verklaart wat er in de data gebeurt. Het toont hoeveel van de verandering in de uitkomst (afhankelijke variabele) kan worden verklaard door de factoren die we gebruiken om die te voorspellen (onafhankelijke variabele(n)). 

Stel dat je iemands gewicht wilt voorspellen op basis van lengte. Als R^² dicht bij 1 ligt, doet je voorspelling het uitstekend. Het grootste deel van de verschillen in gewicht is dan toe te schrijven aan verschillen in lengte. Als R^² dicht bij 0 ligt, is je voorspelling feitelijk een gok, omdat lengte in dat geval weinig van de variatie in gewicht verklaart.

We verwachten R^²-waarden tussen 0 en 1:

• 0 betekent dat het model niets van de variabiliteit in de data verklaart.

• 1 betekent dat het model alle variabiliteit verklaart.

• Waarden dichter bij 1 betekenen een betere fit: je model vangt meer van het patroon in de data.

Eenvoudige lineaire regressie

Als je met slechts één onafhankelijke variabele werkt, heet het model een eenvoudige lineaire regressie. In dat geval heeft R^² een nette relatie met de Pearson-correlatiecoëfficiënt (r): R^² = r^²

Dit betekent dat als er een sterke positieve of negatieve correlatie is tussen je voorspeller en de uitkomst, R^² hoog zal zijn.

Let op: In modellen met meer dan één voorspeller (genoemd meervoudige regressie), vertelt R^² nog steeds hoeveel variantie wordt verklaard, maar het is niet meer simpelweg r^², omdat je nu de effecten van meerdere variabelen combineert.

Kan de determinatiecoëfficiënt negatief zijn?

R^² ligt meestal tussen 0 en 1. Soms kun je echter een negatieve R^² zien. Dit kan gebeuren als:

• Je model geen intercept (constante beginwaarde) bevat
• Je het verkeerde type model voor de data gebruikt

Een negatieve R^² betekent dat je model slechter presteert dan het gemiddelde raden. Met andere woorden: het past zo slecht dat het misleidend is.

Hoe bereken je de determinatiecoëfficiënt

Er zijn twee gangbare manieren om R^² te berekenen:

1. Met behulp van de kwadratische sommen
2. Met behulp van de correlatiecoëfficiënt (r)

Laten we beide doorlopen.

Met behulp van de kwadratische sommen

De meestgebruikte formule voor R^² is:

Hier meet de residual sum of squares (het onverklaarde deel)) hoe ver de werkelijke waarden afwijken van de door je model voorspelde waarden. Dat is de fout die je model maakt.

De totale som van kwadraten is de totale variatie in de geobserveerde data. Deze vertelt hoe ver de werkelijke waarden afliggen van het gemiddelde (mean) van de afhankelijke variabele.

Dus: hoe kleiner de residual sum of squares is vergeleken met de totale som van kwadraten, hoe beter je model bij de data past, en hoe dichter R^² bij 1 komt.

Laten we dit met een voorbeeld begrijpen: 

Stel, je hebt een kleine dataset met de volgende waarden:

Bereken eerst het gemiddelde van de werkelijke waarden:

• y = (10+12+14)/3 = 12

Bereken vervolgens de totale som van kwadraten (hoe ver werkelijke waarden van het gemiddelde liggen):

• totale som van kwadraten = (10 − 12)² + (12 − 12)² + (14 − 12)² = 4 + 0 + 4 = 8

Bereken daarna de residual sum of squares (hoe ver werkelijke waarden van voorspelde waarden liggen):

• residual sum of squares = (10 − 12)² + (12 − 11)² + (14 − 13)² = 4 + 1 + 1 = 6

Vul dit nu in de formule in:

• R^² = 1 − (residual sum of squares / total sum of squares) = 1 − (6/8) = 1 − 0.75 = 0.25

Dus, R^² = 0,25, wat betekent dat het model 25% van de variatie in de data verklaart.

Deze grafiek laat zien hoe ver elke werkelijke waarde van de voorspelde waarde afligt. De voorspellingen van het model zitten er redelijk naast, daarom is R² maar 0,25; slechts 25% van de variatie wordt verklaard.

Met behulp van de correlatiecoëfficiënt

Gebruik bij eenvoudige lineaire regressie (slechts één onafhankelijke variabele) deze formule:

Hier is r de Pearson-correlatiecoëfficiënt tussen de werkelijke en voorspelde waarden. Deze snelkoppeling werkt alleen wanneer er één voorspeller is.

Stel dat de correlatie tussen X en Y is: r = −0,8

Ook al is de correlatie negatief (de variabelen bewegen in tegengestelde richting), R^² is positief: R^² = (−0,8)^² = 0,64

Dus 64% van de variatie in de uitkomst kan nog steeds door de voorspeller worden verklaard, ook als de relatie negatief is. Daarom is R^² altijd positief of nul; het geeft de hoeveelheid verklaarde variatie weer, niet de richting.

Positieve en negatieve correlatie. Afbeelding door de auteur.

Hoe interpreteer je de determinatiecoëfficiënt

De determinatiecoëfficiënt vertelt hoeveel van de variatie in de uitkomst (afhankelijke variabele) door ons model wordt verklaard. Simpel gezegd is het alsof je vraagt: "Hoeveel van de veranderingen in wat ik probeer te voorspellen kan worden verklaard door de data die ik gebruik?"

Stel dat je een model bouwt om examencijfers te voorspellen op basis van studie-uren. Als je model oplevert: R^² = 0,90

Dit betekent dat 90% van de verschillen in examencijfers verklaard kan worden door verschillen in studietijd. De overige 10% komt door andere factoren die je model niet heeft meegenomen, zoals slaap, aanleg, voorkennis of moeilijkheidsgraad van de toets.

De determinatiecoëfficiënt interpreteren. Afbeelding door de auteur.

Deze grafiek laat zien hoe studietijd examencijfers beïnvloedt. 

• De zwarte lijn is de voorspelling van het model. 
• Blauwe punten zijn cijfers die het model goed verklaarde met studietijd. 
• Oranje punten zijn cijfers die niet goed passen, waarschijnlijk door andere factoren zoals slaap, moeilijkheidsgraad of de voorkennis van de student. Omdat R^² = 0,90, volgt het merendeel het patroon, maar niet alles.

Cohens richtlijnen

Jacob Cohen maakte een veelgebruikte gids om te helpen begrijpen wat verschillende R^²-waarden kunnen betekenen bij het beoordelen van de sterkte van een relatie.

Dit zijn Cohens ruwe ijkpunten voor R^²:

Ruwe ijkpunten van Cohen. Afbeelding door de auteur

Let op: Dit zijn algemene richtlijnen. Wat telt als een “grote” of “kleine” effectgrootte kan sterk variëren per vakgebied (zoals psychologie vs. techniek) en onderzoekscontext.

Beperkingen en veelvoorkomende misvattingen

Hoewel R^² nuttig is, is het belangrijk te begrijpen wat het wel en niet vertelt. Dit zijn enkele veel voorkomende misverstanden en beperkingen om op te letten:

Mythe 1: Een hoge determinatiecoëfficiënt betekent een beter model

Het lijkt misschien alsof een hoger R^² altijd een beter model betekent, maar dat is niet per se waar. R^² neemt altijd toe of blijft gelijk wanneer je meer variabelen aan een model toevoegt, zelfs als die variabelen totaal irrelevant zijn. 

Waarom? 

Omdat het model meer flexibiliteit krijgt om de trainingsdata te passen, zelfs als het alleen ruis aan het “fitten” is. Dit kan leiden tot overfitting, waarbij je model het goed doet op de trainingsdata maar slecht op nieuwe data.

Tip: Gebruik gecorrigeerd R² bij het vergelijken van modellen met verschillende aantallen voorspellers. Het bestraft onnodige complexiteit en helpt overfitting opsporen. 

Mythe 2: Een hoge determinatiecoëfficiënt betekent nauwkeurige voorspellingen op nieuwe data of causaliteit

R^² meet alleen hoe goed het model de data die je al hebt beschrijft. Het vertelt je niet:

• Of het model goede voorspellingen zal doen op nieuwe data
• Of de ene variabele de andere veroorzaakt

Een hoge R^² kan zelfs toevallig ontstaan als je veel voorspellers gebruikt. Kijk daarom altijd ook naar andere modelmetrics (zoals RMSE of MAE voor voorspellingskwaliteit) en onthoud: correlatie is geen causaliteit.

Mythe 3: Een lage R-kwadraat betekent dat het model waardeloos is

Soms, in complexe systemen (zoals menselijk gedrag of financiële markten voorspellen), is een lage R^² te verwachten.

Als je bijvoorbeeld iets modelleert dat door veel onvoorspelbare of onmeetbare factoren wordt beïnvloed, kan je model nog steeds nuttig zijn, zelfs met een lage R^². Het kan een betekenisvolle trend vangen of inzichten bieden, ook al verklaart het geen groot deel van de variantie.

In medisch of psychologisch onderzoek komen lage R^²-waarden vaak voor, omdat uitkomsten bij mensen van zoveel samenwerkende variabelen afhangen.

Andere varianten: Partial R-squared en generalisaties

Hoewel R^² helpt om de model-fit in lineaire regressie te begrijpen, zijn er andere varianten en generalisaties die helpen in verschillende modelcontexten.

Gecorrigeerd R-kwadraat

Net als het gewone R^² vertelt gecorrigeerd R^² hoeveel van de variatie in de afhankelijke variabele door het model wordt verklaard. Maar het gaat een stap verder door onnodige complexiteit te bestraffen. Met andere woorden, het ontmoedigt je om je model vol te stoppen met extra voorspellers die niet helpen.

De formule is:

Adjusted R² = 1 - [ (1 - R²) × (n - 1) / (n - p - 1) ]Mogelijk gemaakt door

Hierbij geldt:

• n is het aantal observaties (datapunten)

• p is het aantal voorspellers (onafhankelijke variabelen)

De formule corrigeert R^² naar beneden als een nieuwe variabele het model niet verbetert. Deze straf wordt sterker naarmate je meer voorspellers toevoegt.

Als je bijvoorbeeld een nieuwe variabele toevoegt die de nauwkeurigheid van je model verbetert, gaat gecorrigeerd R^² omhoog. Maar als die variabele weinig verandert of alleen toevallig helpt, gaat gecorrigeerd R^² omlaag, wat je waarschuwt voor mogelijke overfitting.

Dit maakt gecorrigeerd R^² nuttig om modellen te vergelijken.

Stel dat je wilt kiezen tussen een eenvoudiger model met drie voorspellers en een complexer model met zes. Zelfs als het complexe model een iets hoger R^² heeft, kan het gecorrigeerde R^² lager zijn, wat aangeeft dat de extra complexiteit niet loont.

R² versus gecorrigeerd R² naarmate het aantal voorspellers toeneemt. Afbeelding door de auteur.

Deze grafiek laat zien dat R^² blijft stijgen naarmate je meer voorspellers toevoegt, zelfs als die niet erg nuttig zijn. Gecorrigeerd R^² daalt daarentegen als je te veel toevoegt, wat waarschuwt voor overfitting.

Coefficient of partial determination

Partial R^² (of coefficient of partial determination) laat zien hoeveel extra variantie in de afhankelijke variabele wordt verklaard door het toevoegen van één specifieke voorspeller aan een model dat al andere bevat.

Om partial R^² te berekenen, vergelijken we twee modellen:

• Het gereduceerde model, waarin de betreffende voorspeller ontbreekt
• Het volledige model, met alle voorspellers

De formule voor partial R^² is gebaseerd op de reductie in de Sum of Squared Errors (SSE) wanneer de nieuwe variabele wordt toegevoegd. Een veelgebruikte vorm is:

Of in termen van regressiesommen van kwadraten:

Stel dat je een model bouwt om productverkopen te voorspellen. 

Je hebt al “productprijs” en “seizoen” in het model. Nu wil je zien of het toevoegen van “marketinguitgaven” de voorspellingen verbetert. Partial R² laat zien hoeveel extra variantie in verkoop wordt verklaard door “marketinguitgaven” op te nemen.

R^² stijgt van 0,60 naar 0,75 na toevoeging van marketinguitgaven. Afbeelding door de auteur.

Deze grafiek toont hoeveel nauwkeuriger het model wordt wanneer “marketinguitgaven” worden toegevoegd. R^² gaat van 0,60 naar 0,75, wat betekent dat de nieuwe variabele 15% meer van de variatie in verkoop verklaart—dat is de partial R^².

Determinatiecoëfficiënt in logistische regressie

Bij logistische regressie is de uitkomstvariabele categorisch, zoals ja/nee, geslaagd/gezakt, dus traditioneel R^² is niet van toepassing. In plaats daarvan gebruiken we pseudo-R^²-maten, die een vergelijkbaar doel dienen: inschatten hoe goed het model de variatie in uitkomsten verklaart.

Twee gangbare pseudo-R^²-waarden zijn:

• Cox & Snell R^²: Schat de verklaarde variantie, maar de maximale waarde is kleiner dan 1, zelfs bij een perfect model.
• Nagelkerke R^²: Een gecorrigeerde versie van Cox & Snell R^² die opschaalt tot 1, waardoor de interpretatie meer lijkt op traditioneel R^².

Stel dat je modelleert of een klant op een advertentie klikt (ja/nee). Omdat de uitkomst binair is, kun je geen regulier R^² gebruiken. Maar pseudo-R^²-waarden zoals Nagelkerke helpen logistische modellen vergelijken en hun voorspellende kracht beoordelen, ook al zijn ze niet direct gelijk aan R^² in lineaire regressie.

Vergelijk logistieke modellen met pseudo-R^²-maten. Afbeelding door de auteur.

Deze grafiek vergelijkt logistische regressiemodellen met pseudo-R^²-waarden. Nagelkerke R^² biedt een beter interpreteerbare schaal dan Cox & Snell. Zo wordt het eenvoudiger te beoordelen hoe goed elk model de uitkomst verklaart (bijv. advertentiekliks voorspellen).

Determinatiecoëfficiënt vs. andere model-fit-metrics

Hoewel R^² helpt om te begrijpen hoeveel variatie wordt verklaard, meet het niet hoe ver je voorspellingen ernaast zitten. Daarvoor zijn fout-gebaseerde maten zoals RMSE, MAE en MAPE bedoeld.

Hier is een korte vergelijking:

Praktische toepassingen in verschillende vakgebieden

Laten we nu naar een paar van de talloze gevallen kijken waarin de determinatiecoëfficiënt is gebruikt. 

Economie: schommelingen in bbp verklaren

In de economie wordt R^² gebruikt om veranderingen in brede indicatoren zoals het bruto binnenlands product (bbp) te verklaren. Een model kan bijvoorbeeld variabelen bevatten als rente, consumentenbestedingen en handelsbalansen om het bbp te voorspellen.

Als zo’n model een R^² van 0.83 geeft, betekent dit dat 83% van de variatie in het bbp kan worden verklaard door deze economische factoren. Dit helpt economen begrijpen hoeveel van de bbp-schommelingen is toe te schrijven aan bekende drijvers.

Een onderzoeksstudie gebruikte het Amerikaanse bbp als onafhankelijke variabele om de S&P 500-index te voorspellen en vond een R^² van 0.83. Dit toonde een sterke relatie tussen economische activiteit en aandelenmarkttrends.

R^² verklaart bbp in de economie. Afbeelding door de auteur.

De grafiek laat zien dat naarmate meer economische indicatoren aan het model worden toegevoegd, R^² toeneemt, van 0.52 tot 0.83 met alle drie variabelen. Dit maakt duidelijk dat elke toegevoegde factor bbp-schommelingen beter verklaart.

Financiën: koersbewegingen vs. marktindex

In de financiële wereld wordt R^² gebruikt om te meten hoeveel van het rendement van een aandeel wordt verklaard door algemene marktbewegingen. Dit gebeurt door het rendement van een aandeel te regressiëren op een marktindex zoals de S&P 500.

Als je bijvoorbeeld het rendement van Apple (AAPL) regressieert op de S&P 500 en R^² = 0.82 krijgt, betekent dit dat 85% van Apple’s rendementsbewegingen wordt verklaard door de bredere markt.

• Een hoge R^² suggereert dat het aandeel nauw verbonden is met de markt.
• Een lage R^² impliceert dat het aandeel onafhankelijker beweegt.

Correlatie tussen AAPL en S&P 500. Afbeelding door de auteur.

De grafiek toont de sterke correlatie tussen Apple (AAPL) en de S&P 500. Met een R^² van 0.82 lopen de meeste prijsbewegingen van Apple sterk in de pas met markttrends, wat op hoge marktsensitiviteit wijst.

Marketing: advertentie-uitgaven en conversies

In marketing laat R^² zien hoe goed advertentie-uitgaven conversieratio’s verklaren.

Stel, je werkt bij een e-commercebedrijf en wilt weten of hogere maandelijkse advertentie-uitgaven de conversieratio verbeteren. Je voert een lineaire regressie uit en vindt R^² = 0,98. Dat betekent dat 98% van de variatie in conversieratio wordt verklaard door je advertentie-uitgaven, wat op een zeer sterke relatie duidt.

Deze inzichten helpen marketeers:

• Conversie-uitkomsten voorspellen
• Advertentiebudgetten onderbouwen
• Return on investment (ROI) voorspellen

Maandelijkse advertentie-uitgaven vs. conversieratio. Afbeelding door de auteur.

Deze grafiek illustreert een bijna perfecte lineaire relatie tussen maandelijkse advertentie-uitgaven en conversieratio. Dit ondersteunt een sterke voorspellende waarde voor ROI en budgetplanning.

Machine learning: regressiemodellen scoren

In machine learning wordt R^² gebruikt als prestatiemetric voor regressietaken. Bibliotheken zoals scikit-learn bieden de functie r2_score() om het te berekenen.

Het vertelt hoe goed je model de variabiliteit in de data verklaart:

• R^² dicht bij 1 betekent een goede fit en lage fout

• R^² dicht bij 0 betekent een slechte fit

R^² vult RMSE en MAE aan. Afbeelding door de auteur.

Deze grafiek benadrukt hoe R² andere metrics zoals RMSE en MAE aanvult bij het evalueren van regressiemodellen. R^² toont verklarende kracht, terwijl RMSE en MAE inzicht geven in de daadwerkelijke grootte van voorspellingsfouten.

R-kwadraat rapporteren in onderzoek

Als je R^² opneemt in een paper of project, zijn er een paar opmaakregels om in gedachten te houden:

• Zet R^² cursief, en ja: het is een hoofdletter R, geen kleine letter. 
• Gebruik geen voorloopnul voor de decimaal. Schrijf dus in plaats van R^² = 0,73: R^² = .73. En tenzij je echt meer detail nodig hebt, rond af op twee decimalen.

Als je R^² gebruikt als onderdeel van een regressieanalyse of ANOVA, en je test of je model significant is, voeg dan nog een paar dingen toe: de F-statistiek, vrijheidsgraden en de p-waarde. Deze vertellen de lezer hoe zeker we kunnen zijn dat je model iets betekenisvols verklaart.

Wanneer je resultaten rapporteert, kan het er bijvoorbeeld zo uitzien:

“Het model verklaarde een significant deel van de variantie in verkoop, R^² = .73, F(2, 97) = 25,42, p < .001.”

Als je echter geen hypothesetoets uitvoert—stel dat je een exploratieve analyse doet of de modelprestatie met cross-validatie beoordeelt—dan is het prima om alleen de R²-waarde te rapporteren.

De determinatiecoëfficiënt in Python, R en Excel

Laten we bekijken hoe je R^² op drie manieren berekent: in Python, in R en in Excel, via een mini-project waarin we studentenscores voorspellen op basis van studietijd.

We gebruiken voor alle drie de voorbeelden de volgende dataset:

Voorbeeld-dataset. Afbeelding door de auteur

Determinatiecoëfficiënt in Python

Zo bereken je R^² in Python met scikit-learn:

from sklearn.linear_model import LinearRegression
from sklearn.metrics import r2_score
import numpy as np

# Data
study_time = np.array([1.5, 3.0, 2.5, 5.0, 3.5, 4.5, 6.0]).reshape(-1, 1)
scores = np.array([52, 63, 58, 80, 70, 78, 88])

# Model
model = LinearRegression()
model.fit(study_time, scores)
predicted_scores = model.predict(study_time)

# R² score
r2 = r2_score(scores, predicted_scores)
print(f"R² = {r2:.2f}")Mogelijk gemaakt door

0.99Mogelijk gemaakt door

Dit betekent dat 99% van de variantie in scores wordt verklaard door studietijd.

Wil je meer leren over regressie en statsmodels, bekijk dan onze gids Introduction to Regression with statsmodels in Python. 

Determinatiecoëfficiënt in R

In R kun je R² met een paar regels berekenen via de functie lm():

# Data
study_time <- c(1.5, 3.0, 2.5, 5.0, 3.5, 4.5, 6.0)
scores <- c(52, 63, 58, 80, 70, 78, 88)

# Linear model
model <- lm(scores ~ study_time)

# R-squared
summary(model)$r.squaredMogelijk gemaakt door

0.9884718Mogelijk gemaakt door

Ongeveer 98% van de variantie in scores wordt verklaard door studietijd. Wil je meer leren over regressie in R, bekijk dan onze cursus Introduction to Regression in R.

Determinatiecoëfficiënt in Excel

In Excel kun je R² berekenen met de ingebouwde functie RSQ(). Stel dat:

• Studietijd in cellen A2:A8 staat

• Scores in cellen B2:B8 staan

De syntaxis is:

RSQ(known_y's,known_x's)Mogelijk gemaakt door

Ik gebruikte de volgende formule:

=RSQ(B2:B8,A2:A8)Mogelijk gemaakt door

Dit vertelt Excel om de R^²-waarde te berekenen tussen de afhankelijke variabele (scores) en de onafhankelijke variabele (studietijd).

R^²-voorbeeld in Excel. Afbeelding door de auteur.  

Belangrijkste punten

Of je nu studentenscores, aandelenrendementen of klantgedrag voorspelt, de determinatiecoëfficiënt laat zien hoeveel van de uitkomst je model daadwerkelijk begrijpt. 

Een hoge determinatiecoëfficiënt kan indrukwekkend lijken, maar laat je niet verleiden te denken dat het model perfect is of dat het oorzaak en gevolg aantoont. En een lage determinatiecoëfficiënt betekent niet altijd een mislukking; het kan betekenen dat je systeem complex is of je variabelen onvolledig zijn.

Dus, als je modellen bouwt of analyseert, vraag jezelf af:

• Wat leg ik goed uit?
• Wat mis ik?
• En is mijn model nuttig, niet alleen nauwkeurig?

Begin met die mindset, en je gebruikt de determinatiecoëfficiënt als een lens voor betere besluitvorming.