Variabile exogene vs. endogene: diferențe-cheie și exemple

Să presupunem că vrei să știi dacă a rămâne mai mult timp la școală îți crește cu adevărat veniturile. Rulezi o regresie, obții un coeficient pozitiv pentru educație și te simți bine. Apoi cineva îți atrage atenția că oamenii mai inteligenți și mai motivați tind atât să urmeze mai multă educație, cât și să câștige mai mult, indiferent de școlarizare. Estimarea ta surprinde la fel de mult abilitatea cât surprinde educația. Asta este endogenitate și este unul dintre cele mai frecvente moduri în care rezultatele regresiei pot induce în eroare.

Distincția dintre variabilele exogene și endogene se află în centrul acestei probleme. Dacă o înțelegi greșit, coeficienții tăi nu înseamnă ceea ce crezi că înseamnă. Dacă o înțelegi corect, poți începe să formulezi afirmații cauzale credibile. Acest articol trece prin definiții, diferențele-cheie, principalele surse ale endogenității și soluțiile standard. Voi fi sincer: secțiunea despre remedii este acolo unde majoritatea tratărilor acestui subiect devin vagi. Am încercat să nu fac asta aici.

Ce sunt variabilele exogene și endogene?

Cuvintele vin din greacă: exo (în afară) și endo (înăuntru). O variabilă exogenă este determinată în afara sistemului modelat. Ea influențează rezultatele, dar nu este ea însăși influențată de celelalte variabile din model. O variabilă endogenă este modelată de sistemul însuși, adică este legată de alte variabile în moduri care creează bucle de feedback sau dependențe ascunse.

În regresie, distincția are un sens statistic precis. O variabilă este exogenă dacă este necorelată cu termenul de eroare al modelului. Este endogenă dacă este corelată cu acel termen de eroare, ceea ce înseamnă că există ceva în rezidual care îți influențează și predictorul.

Variabile exogene

O variabilă exogenă stă în afara buclei de feedback. Gândește-te la precipitațiile zilnice ca factor al producției agricole: deciziile de plantare ale fermierului nu afectează vremea. Precipitațiile influențează randamentul, dar randamentul nu se întoarce să schimbe ploaia. În termeni de regresie, asta se traduce prin corelație zero între predictor și termenul de eroare, ceea ce statisticienii notează ca Cov(X, ε) = 0. Acea condiție de covarianță zero este ceea ce face estimările OLS ne-biașate. Când se menține, coeficientul lui X surprinde curat relația dintre X și rezultat, fără contaminare din factori omiși.

Variabile endogene

O variabilă endogenă este încâlcită cu termenul de eroare. Revenind la exemplul educației: veniturile sunt afectate de abilitate, motivație, mediul familial și o duzină de alte lucruri care influențează și câtă școlarizare urmează cineva. Acei factori neobservați ajung în termenul de eroare ε. Deoarece educația corelează cu ε, avem endogenitate: Cov(X, ε) ≠ 0.

Sensul precis al „exogen” și „endogen” se schimbă oarecum în funcție de contextul de modelare. În modelarea ecuațiilor structurale, variabilele sunt clasificate în funcție de faptul că sunt ieșiri ale sistemului; în econometrie, accentul cade pe relația cu termenul de eroare. Ambele cadre surprind aceeași idee de bază.

Variabile exogene vs. endogene: diferențe-cheie

Tabelul de mai jos surprinde esența contrastului. Secțiunile următoare intră în nuanțe.

Exemple de variabile exogene și endogene

Definițiile abstracte merg doar până la un punct. Iată trei scenarii în care clasificarea exogen/endogen chiar contează.

Educație și venituri

Acesta este exemplul canonic și pe bună dreptate. Vrei să estimezi efectul cauzal al unui an suplimentar de școlarizare asupra salariilor. Problema: persoanele cu abilități mai mari tind să obțină mai multă educație și să câștige mai mult. Abilitatea nu este în modelul tău. Este în termenul de eroare. Prin urmare, educația și termenul de eroare sunt corelate, iar coeficientul tău pentru școlarizare este umflat de prima de abilitate pe care o absoarbe în tăcere.

A trata educația ca exogenă aici ar fi o greșeală. Este endogenă, determinată parțial de aceiași factori neobservați pe care nu îi poți controla.

Preț și cerere

Într-o piață standard de ofertă și cerere, prețul și cantitatea sunt determinate simultan. Dacă regresezi cantitatea cerută pe preț, nu identifici curba cererii. Trasezi un echilibru care se modifică odată cu șocurile atât de ofertă, cât și de cerere. Prețul nu este stabilit independent de cerere; el răspunde la aceasta. Așadar, prețul este endogen când cantitatea este rezultatul, și invers.

Această problemă a simultaneității este motivul pentru care economiștii au fost interesați de experimente naturale și variabile instrumentale cu mult înainte ca aceste metode să devină la modă în alte domenii.

Vreme și producție agricolă

Precipitațiile sunt variabila exogenă din manual. Decizia unui fermier despre cât grâu să planteze nu schimbă precipitațiile de mâine. Ploaia afectează producția, dar producția nu se întoarce să afecteze ploaia. Acea influență unidirecțională, combinată cu presupunerea rezonabilă că vremea este necorelată cu șocurile neobservate de productivitate la nivel de fermă, o face un predictor exogen plauzibil.

Asta fiind spus, nicio variabilă nu este inerent exogenă sau endogenă. Clasificarea depinde de model și de presupunerile sale. Dacă ai modela împreună climatul regional pe termen lung și utilizarea terenurilor agricole, „vremea” s-ar putea să nu mai pară atât de independentă.

De ce endogenitatea este o problemă în regresie

Problema tehnică este simplă. OLS presupune că variabilele explicative sunt necorelate cu termenul de eroare. Când această presupunere eșuează, estimatorul preia variație care aparține factorilor omiși, nu variabilei de interes, producând estimări părtinitoare și inconsistente. Cu suficiente date, OLS ar converge la un număr greșit, nu din cauza erorii de eșantionare, ci pentru că rezolvă problema greșită.

Paguba de interpretare se amplifică rapid. Un coeficient părtinitor duce la concluzii înșelătoare, predicții greșite și politici proaste. Dacă supraestimezi rentabilitatea educației asupra veniturilor din cauza abilității omise, ai putea suprafinanța programe de școlarizare în raport cu, să zicem, intervențiile în copilăria timpurie. Problema statistică devine repede una practică.

Formal, condiția de exogenitate cere E(ε | X) = 0, sau cel puțin Cov(X, ε) = 0. Când aceasta eșuează, estimatorul OLS β̂ converge în probabilitate la β + (E[X′X])⁻¹E[X′ε] în loc de β. Termenul suplimentar este biasul și nu dispare pe măsură ce eșantionul crește.

Ce cauzează endogenitatea?

Există câteva mecanisme distincte, iar a ști cu care te confrunți îți modelează modul de abordare.

Bias din variabile omise

Acesta este cel mai frecvent vinovat. Când o variabilă relevantă este lăsată în afara modelului, efectul ei este absorbit în termenul de eroare. Dacă acea variabilă omisă corelează și cu unul dintre predictorii tăi, ai endogenitate. Povestea educație-abilitate este un caz clasic: abilitatea ar trebui să apară în ecuația salariilor, dar nu o putem măsura curat, așa că rămâne în ε. Deoarece abilitatea corelează cu educația, coeficientul educației absoarbe o parte din prima de abilitate.

Simultaneitate

Simultaneitatea apare când două variabile se determină reciproc: preț și cantitate într-o piață competitivă, prezența poliției și ratele criminalității, cheltuieli de publicitate și vânzări. Fiecare este cauză și efect pentru cealaltă, ceea ce înseamnă că niciuna nu poate fi tratată ca exogenă. Semnul distinctiv al simultaneității este că ai avea nevoie de un sistem de ecuații pentru a descrie procesul de generare a datelor. O regresie cu o singură ecuație nu poate descurca cine pe cine cauzează.

Eroare de măsurare

Când un predictor este măsurat cu eroare, devine endogen chiar dacă variabila subiacentă adevărată nu ar fi. Eroarea de măsurare ajunge atât în predictor, cât și în rezidual, creând corelație între ele. Exemplu clasic: venitul auto-raportat. Oamenii își amintesc greșit, rotunjesc sau raportează deliberat eronat, iar diferența dintre venitul raportat și cel real ajunge corelată cu cifra pe care o folosești ca regresor.

Selecție și alte surse

Biasul de selecție merită numit separat. Dacă cine intră în eșantionul tău depinde de variabila de rezultat sau de factori corelați cu predictorul tău, lucrezi cu o felie nereprezentativă a populației. Versiunea canonică este modelul de selecție al lui Heckman: studierea determinanților salariilor pentru lucrătorii angajați, când decizia de a munci este ea însăși corelată cu salariile potențiale.

Există și alte surse (cauzalitate inversă, panouri dinamice unde rezultatele decalate devin predictori, efecte de rețea), dar variabilele omise, simultaneitatea și eroarea de măsurare acoperă majoritatea cazurilor cu care te vei întâlni.

Cum detectezi endogenitatea

În general, nu poți detecta endogenitatea uitându-te la o matrice de corelație sau rulând un diagnostic standard. Problema ține de relația dintre predictor și termenul de eroare, care este neobservat prin definiție.

Ce ajută cu adevărat sunt teoria și cunoașterea domeniului. Înainte de orice regresie, întreabă: acest predictor este determinat de factori care îmi afectează și rezultatul prin canale pe care nu le-am controlat? Desenarea unei diagrame cauzale poate ajuta. Grafurile aciclice orientate (DAG) clarifică ce căi există și ce confuzori trebuie blocați.

O abordare formală este testul Durbin-Wu-Hausman, care compară estimările OLS cu cele pe variabile instrumentale. Dacă cele două seturi de coeficienți diferă semnificativ, asta este o dovadă că predictorul este endogen. Reține că versiunea clasică presupune erori homoscedastice; folosește o variantă robustă (cum ar fi forma bazată pe regresie a lui Wooldridge) dacă acea presupunere este îndoielnică. Dar acest test funcționează doar dacă ai deja un instrument valid, iar găsirea unuia este adesea mai dificilă decât testul în sine. Este o verificare utilă, nu un substitut pentru a gândi atent procesul de generare a datelor.

Cum abordezi endogenitatea

Nicio singură metodă nu gestionează toate tipurile. Alegerea potrivită depinde de ceea ce cauzează endogenitatea.

Variabile instrumentale

Ideea de bază: găsește o variabilă (instrumentul) care afectează predictorul endogen, dar nu are efect direct asupra rezultatului decât prin acel predictor. Un instrument valid îndeplinește două condiții: relevanța (este corelat cu variabila endogenă) și restricția de excludere (nu aparține în ecuația rezultatului în mod direct).

Pentru exemplul educației, distanța de la casă la cea mai apropiată facultate a fost propusă ca instrument pentru școlarizare. Oamenii care au crescut departe de o facultate au primit mai puțină educație nu pentru că erau mai puțin capabili, ci pentru că frecventarea era mai costisitoare. Dacă distanța nu afectează salariile decât prin școlarizare, este un instrument valid. A doua condiție nu poate fi niciodată verificată doar cu date, motiv pentru care estimarea IV cere un argument defensabil, nu doar un prim stadiu semnificativ.

Cele mai mici pătrate în două etape

Metoda în două etape (2SLS) operationalizează estimarea IV. În primul stadiu, regresezi predictorul endogen pe instrument și pe orice controale exogene. În al doilea stadiu, înlocuiești variabila endogenă cu valorile ei prezise din primul stadiu și rulezi regresia rezultatului pe acestea. Valorile prezise conțin doar variația din predictor care provine de la instrument (variație necorelată cu termenul de eroare din ecuația rezultatului), motiv pentru care 2SLS recuperează o estimare cauzală mai curată. În practică, nu rula manual cele două etape ca regresii OLS separate. Erorile standard din al doilea stadiu vor fi greșite pentru că ignoră incertitudinea estimării din primul stadiu. Folosește în schimb un estimator IV dedicat (ivreg în pachetul AER din R sau IV2SLS în linearmodels din Python).

Efecte fixe

Când endogenitatea provine din caracteristici neobservate la nivel individual, stabile în timp (abilitate, cultură organizațională, calitatea cartierului), datele de tip panou cu efecte fixe pot ajuta. Includerea unei variabile binare la nivel de unitate (sau echivalent, centrare pe medie în interiorul unităților) elimină toate variabilele omise invariabile în timp la nivel de unitate. Efectele fixe nu rezolvă confuzorii variați în timp, eroarea de măsurare sau simultaneitatea, dar pentru neobservabile stabile sunt adesea cea mai curată soluție.

Designuri experimentale și cvasi-experimentale

Cel mai curat mod de a obține variație exogenă este randomizarea. Într-un studiu controlat randomizat, alocarea tratamentului este independentă de orice altceva prin design. Când randomizarea nu este posibilă, experimentele naturale (situații în care un eveniment extern randomizează efectiv expunerea) pot atinge o credibilitate similară. Designurile de discontinuitate în regresie și diferențe-în-diferențe sunt două cadre cvasi-experimentale comune construite pe această logică.

Merită reținut: niciuna dintre aceste metode nu rezolvă fiecare tip de endogenitate. IV necesită un instrument defensabil. Efectele fixe nu ajută la simultaneitate. Randomizarea este rareori disponibilă pentru întrebările care contează cel mai mult.

Variabile instrumentale: un exemplu simplu

Cazul educație-venituri face mecanismele concrete. Variabila endogenă este numărul de ani de școlarizare, endogenă pentru că este corelată cu abilitatea neobservată din termenul de eroare. Avem nevoie de un instrument: ceva care prezice câtă școlarizare primește cineva, dar afectează veniturile doar prin școlarizare.

Card (1995) a propus proximitatea față de o facultate de patru ani. Persoanele care au crescut lângă o facultate au avut costuri mai mici de frecventare și, în medie, au obținut mai multă educație. Dacă a locui lângă o facultate nu afectează direct salariile la vârsta adultă (controlând pentru alți factori de locație), atunci proximitatea respectă restricția de excludere.

Primul stadiu: regresezi anii de școlarizare pe proximitatea față de facultate plus controale. Asta produce valori ajustate ale educației care conțin doar variația determinată de proximitate, nu de abilitate. Al doilea stadiu: regresezi log-salariile pe acele valori ajustate. Coeficientul educației ajustate estimează efectul cauzal al școlarizării asupra salariilor pentru persoanele a căror educație a fost într-adevăr influențată de proximitate, ceea ce econometriștii numesc efect mediu local al tratamentului (LATE).

Instrumentul nu îți oferă efectul mediu pentru toți. Îți oferă o estimare cauzală credibilă pentru conformiști, aceia a căror școlarizare s-a schimbat din cauza proximității. Este o limitare reală a IV, dar una onestă.

Variabile exogene și endogene în inferența cauzală

În încadrarea prin regresie, exogenitatea ține de corelația cu un termen de eroare. În încadrarea inferenței cauzale, este vorba despre ceva ușor diferit: dacă o variabilă este o cauză a rezultatului printr-o cale pe care o poți izola. În cadrul DAG (graf aciclic orientat) asociat cu lucrările lui Judea Pearl, variabilele exogene sunt noduri fără părinți în graf. Confuzorii sunt cauze comune atât ale tratamentului, cât și ale rezultatului, și sunt exact ceea ce creează endogenitate în sensul regresiei.

Conexiunea dintre aceste cadre este reală, dar nu întotdeauna ordonată. Endogenitatea econometrică se mapează aproximativ pe prezența căilor „backdoor” neblocate într-un DAG. Controlul unui confuzor corespunde blocării unei căi „backdoor”. Estimarea IV corespunde găsirii unei surse exogene de variație în tratament.

Un lucru de semnalat: în modelele grafice, o variabilă poate fi exogenă într-un sistem și endogenă în altul, exact cum a ilustrat exemplul educație-venituri. Concluzia practică este aceeași indiferent de cadru. Trebuie să îți susții ipotezele cauzale, nu doar să potrivești modelul.

Variabile exogene vs. endogene în machine learning

În ML predictiv standard, endogenitatea este în mare parte irelevantă. Dacă obiectivul tău este să minimizezi eroarea de predicție pe date de test, nu contează dacă trăsăturile sunt exogene. Un model care folosește predictori endogeni poate generaliza în continuare bine. Coeficientul părtinitor este o problemă de interpretare, nu de prognoză.

Distincția începe să conteze când interpretezi coeficienții cauzal sau folosești modelul pentru a ghida intervenții. Să zicem că o firmă antrenează un model de churn și apoi acționează pe baza trăsăturilor lui, țintind clienții în funcție de volumul recent de tichete de suport. Întrebarea cauzală devine activă: volumul de tichete cauzează churnul sau este un simptom al aceleiași nemulțumiri subiacente care le conduce pe ambele? A acționa asupra unui predictor endogen ca și cum ar fi o cauză poate duce la intervenții risipitoare sau contraproductive.

Metodele de ML cauzal (double machine learning, păduri cauzale, policy learning) încorporează explicit cerințele de exogenitate pe care ML standard le ignoră. Ele folosesc variații de tip instrument sau experiment pentru a estima efecte robuste la endogenitate. Sunt mai exigente în ceea ce privește datele și ipotezele de identificare, dar sunt instrumentul potrivit când obiectivul este evaluarea politicilor, nu predicția.

Concepții greșite comune

Iată câteva concepții greșite frecvente pe care le-ai putea întâlni. 

Variabilele independente sunt întotdeauna exogene

„Variabilă independentă” înseamnă doar „predictor”. Nu spune nimic despre faptul că acea variabilă este exogenă. În regresia salariilor, educația este variabila independentă și este endogenă. Aceste două clasificări descriu lucruri diferite.

Endogen înseamnă același lucru cu variabilă dependentă

„Variabilă dependentă” înseamnă rezultatul pe care îl modelezi, partea stângă. „Variabilă endogenă” descrie un predictor care este corelat cu termenul de eroare, pe partea dreaptă. Ele se pot suprapune în sisteme de ecuații simultane, dar nu sunt sinonime.

Exogenitatea înseamnă lipsă totală de legătură cu alte variabile

Exogenitatea nu cere independență statistică față de ceilalți regresori. Doi predictori pot fi corelați între ei și ambii pot fi exogeni, atâta timp cât niciunul nu este corelat cu termenul de eroare. Exogenitatea se referă specific la relația cu ε.

Controlele statistice elimină automat endogenitatea

Adăugarea de controale ajută atunci când endogenitatea provine dintr-un factor omis pe care îl poți observa și măsura. Dar mulți confuzori (abilitate, motivație, rețele sociale) sunt neobservați. Incluzând mai multe controale nu rezolvi problema dacă variabila omisă-cheie nu este în datele tale.

Concluzie

Exogen și endogen descriu de unde provine o variabilă și cum se raportează la restul modelului, nu pur și simplu pe ce parte a unei ecuații apare. Un predictor este exogen când este determinat în afara sistemului și necorelat cu termenul de eroare. Este endogen când este încâlcit cu factori neobservați care determină și rezultatul.

Distincția contează pentru că endogenitatea strică OLS. Variabilele omise, simultaneitatea și eroarea de măsurare creează fiecare corelație între predictori și termenul de eroare, împingând estimările către numere care nu reprezintă efectul cauzal pe care îl cauți. Remedierea cere să înțelegi de ce a apărut endogenitatea și apoi să alegi o metodă (instrumente, efecte fixe, design cvasi-experimental) potrivită acelei surse. Nu există o soluție universală, iar metodele care se apropie cel mai mult cer presupuneri pe care le poți argumenta, dar nu le poți dovedi pe deplin.

Dacă vrei să intri mai adânc în mecanismele de regresie din spatele tuturor acestora, cursul nostru Intermediate Regression in R acoperă pe larg presupunerile, iar cursul nostru Causal Inference with R preia exact de unde se oprește acest articol, incluzând variabile instrumentale, diferențe-în-diferențe și designuri de discontinuitate în regresie.