Covariantie begrijpen: een inleidende gids

Covariantie speelt een sleutelrol in de statistiek doordat het laat zien hoe twee variabelen ten opzichte van elkaar veranderen. Het staat centraal bij ideeën als correlatie, principal component analysis en regressie.

In deze gids leer je wat covariantie betekent, hoe je het berekent en waar het wordt gebruikt, van financieel modelleren tot machine learning.

En omdat covariantie slechts één belangrijk onderdeel is, schrijf je vooral in voor onze Statistics Fundamentals in Python skill track en/of onze cursus Introduction to Statistics in R om door te blijven leren.

Wat is covariantie?

Covariantie is een fundamentele statistische functie die meet hoe twee variabelen, x en y, samen veranderen. Als de variabelen de neiging hebben om tegelijkertijd toe te nemen of af te nemen, is de covariantie positief. Als de ene toeneemt terwijl de andere afneemt, is de covariantie negatief.

De wiskundige definitie van covariantie voor twee willekeurige variabelen X en Y is:

waar 𝜇_x en 𝜇_y de gemiddelden zijn van respectievelijk X en Y.

Voor een steekproef met omvang n wordt de steekproefcovariantie als volgt berekend:

waar x̅ en ȳ de steekproefgemiddelden van x en y zijn.

De keuze om μ (mu) te gebruiken voor populatiegemiddelden en x̅ voor steekproefgemiddelden is een conventie die helpt om de twee te onderscheiden.

Waarom covariantie ertoe doet

Inzicht in covariantie helpt je de relatie tussen twee variabelen te analyseren. In de financiële wereld wordt covariantie gebruikt om te beoordelen hoe twee aandelen zich samen bewegen. In data science is covariantie nodig voor technieken zoals PCA, waarmee je de dimensionaliteit van datasets verkleint. Het ligt ook ten grondslag aan regressieanalyse, waar inzicht in hoe variabelen samen variëren belangrijk is voor het modelleren van hun lineaire relaties.

Kortom, covariantie geeft inzicht in 1) de richting van de lineaire relatie tussen variabelen, 2) de sterkte van de relatie (hoewel niet gestandaardiseerd), en 3) de basis voor het berekenen van de correlatiecoëfficiënt.

Covariantie met de hand berekenen

Laten we oefenen. Volg deze stappen om de steekproefcovariantie met de hand te berekenen:

1. Vind het gemiddelde van elke variabele.
2. Trek het gemiddelde van elke waarde af om de afwijkingen te krijgen.
3. Vermenigvuldig de afwijkingen voor overeenkomstige paren.
4. Sommeer de producten.
5. Deel door n − 1 voor de steekproefcovariantie.

Bijvoorbeeld, gegeven twee variabelen:

• x: 2, 4, 6
• y: 5, 9, 13

Vind het gemiddelde van elke variabele

Bereken eerst de gemiddelden:

Trek het gemiddelde van elke waarde af om de afwijkingen te krijgen

Bereken vervolgens de afwijkingen ten opzichte van het gemiddelde. Ik heb een tabel gemaakt om te laten zien hoe dit werkt. Let op hoe aan de rechterkant van de tabel elk datapunt verminderd wordt met 4 of 9.

Vermenigvuldig de afwijkingen voor overeenkomstige paren

Vermenigvuldig nu de afwijking voor elk paar:

Sommeer de producten

Tel vervolgens de producten op: 8 + 0 + 8 = 16

Deel door n − 1 voor de steekproefcovariantie

Tot slot delen we door n − 1 om de steekproefcovariantie te krijgen.

We kunnen ons antwoord als volgt opschrijven:

Covariantie in Python en R

Misschien probeer je covariantie in een programmeeromgeving uit te zoeken. Ik laat je zien hoe je dit doet in Python en R, te beginnen met Python. 

Covariantie in Python

Je kunt covariantie in Python berekenen met NumPy.

Om de cov()-functie van NumPy te gebruiken, importeer je eerst NumPy en definieer je je gegevens:

import numpy as np

x = np.array([2, 4, 6])
y = np.array([5, 9, 13])

cov_matrix = np.cov(x, y, ddof=1)
print(cov_matrix)Mogelijk gemaakt door

De output is een covariantiematrix:

[[4. 8.]
 [8. 16.]]Mogelijk gemaakt door

We zien dat de covariantie tussen de twee variabelen 8 is, hetzelfde resultaat als we met de hand kregen.

Covariantie in R

Je kunt covariantie in R berekenen met de ingebouwde cov()-functie.

Definieer om te beginnen je datavectoren en geef ze door aan cov():

x <- c(2, 4, 6)
y <- c(5, 9, 13)

cov_matrix <- cov(cbind(x, y))
print(cov_matrix)Mogelijk gemaakt door

De output is een covariantiematrix:

  x  y
x 4  8
y 8 16Mogelijk gemaakt door

De covariantie tussen de twee variabelen is 8, net als in het Python-voorbeeld.

De covariantiematrix interpreteren

De covariantiematrix vat de paarsgewijze covariantie tussen meerdere variabelen samen. De output die we net zagen uit de Python- en R-code was een covariantiematrix, zij het een kleine (2x2).

Laten we een groter voorbeeld proberen. Voor drie variabelen x, y en z is de covariantiematrix:

Deze matrix is symmetrisch en de diagonaalelementen zijn de varianties van elke variabele. (Dit is waar omdat de covariantie van een variabele met zichzelf de variantie is.)

Covariantie vs. correlatie

Hoewel covariantie de richting van de relatie tussen twee variabelen meet, wordt het resultaat niet gestandaardiseerd. Correlatie standaardiseert covariantie tot een waarde tussen −1 en 1, waardoor het makkelijker wordt om de sterkte van de relatie te interpreteren.

Er zijn veel formules voor de correlatiecoëfficiënt, maar één van de formules is:

Waarbij:

• Cov⁡(x,y) de covariantie is tussen de variabelen x en y
• σ_x (uitgesproken als ‘sigma’) de standaarddeviatie van x is
• σ_y​ de standaarddeviatie van y is

Aanvullende zaken om te weten

Houd rekening met deze veelvoorkomende aandachtspunten wanneer je met covariantie werkt:

• Covariantie is gevoelig voor de schaal van de variabelen. Grote waarden kunnen het resultaat opblazen.
• Covariantie geeft de sterkte van de relatie niet op een gestandaardiseerde manier aan.
• Uitschieters kunnen de covariantieberekening aanzienlijk beïnvloeden.

Overweeg altijd om je gegevens te standaardiseren of correlatie te gebruiken voor een duidelijkere interpretatie.

Conclusie

Covariantie is een onmisbaar statistisch hulpmiddel om te begrijpen hoe variabelen samen bewegen. Je moet covariantie kennen om de relaties in je gegevens echt te begrijpen. Maak je geen zorgen als sommige aspecten nog onduidelijk zijn, we hebben de juiste bronnen om je te helpen, dus schrijf je vandaag nog in: 

• Statistics Fundamentals in Python skill track 
• Introduction to Statistics in R cursus