Courses
学校に長く通うことが本当に収入を増やすのかを知りたいとします。回帰を実行すると、教育の係数が正で、手応えを感じます。ところが、ある人がこう指摘します。賢く意欲の高い人ほど、学校教育に多く投資し、しかも学歴に関係なく高収入を得る傾向がある。あなたの推定は、教育だけでなく能力の効果も拾っているのです。これが内生性で、回帰結果が誤解を招く最も一般的な原因のひとつです。
外生変数と内生変数の区別は、この問題の核心にあります。ここを誤ると、係数は意図した意味を持ちません。正しく扱えれば、因果についてもっともらしい主張ができるようになります。この記事では、定義、主要な違い、内生性の主な原因、そして標準的な対処法を解説します。正直に言うと、多くの解説は対処法の部分で腰が引けます。ここではそうならないよう努めました。
外生変数と内生変数とは?
語源はギリシャ語で、exo(外)とendo(内)です。外生変数は、モデル化している体系の外部で決まるもの。結果には影響するが、モデル内の他の変数からは影響を受けません。内生変数は体系そのものによって形作られ、フィードバックや隠れた依存関係を生む形で他の変数と結びついています。
回帰においては、区別は厳密な統計的意味を持ちます。変数がモデルの誤差項と無相関であれば外生、誤差項と相関があれば内生です。つまり、残差に含まれる何かが予測変数も動かしているということです。
外生変数
外生変数はフィードバックループの外にあります。農業生産の決定要因としての降雨を考えてみてください。農家の作付け判断が天気に影響することはありません。降雨は収量に影響しますが、収量が雨を変えることはないのです。回帰の観点では、予測変数と誤差項の相関がゼロ、統計学で書けば Cov(X, ε) = 0 ということになります。この共分散ゼロの条件が、OLS 推定量を不偏にする前提です。この条件が成り立つと、X の係数は、欠落要因に汚染されることなく、X とアウトカムの関係をきれいに捉えます。
内生変数
内生変数は誤差項と絡み合っています。教育の例に戻ると、収入は能力、意欲、家族背景、そして就学年数にも影響する無数の要因に左右されます。そうした観測できない要因は誤差項 ε に入ります。教育が ε と相関しているため、内生性が生じます。すなわち Cov(X, ε) ≠ 0 です。
「外生」「内生」の厳密な意味は、モデルの文脈によってやや変わります。構造方程式モデルでは系の出力かどうかで分類し、計量経済学では誤差項との関係に重心が置かれます。いずれの枠組みも、根底の考え方は同じです。
外生変数 vs. 内生変数:主な違い
以下の表は核心的な対比を示します。後の節で細かな点を掘り下げます。
|
観点 |
外生変数 |
内生変数 |
|
決定要因 |
モデルの外部要因 |
モデル/体系内の関係 |
|
誤差項との関係 |
無相関:Cov(X, ε) = 0 |
相関あり:Cov(X, ε) ≠ 0 |
|
他の変数との関係 |
結果に影響するが、結果からは影響されない |
他の変数に影響し、かつ影響を受けることがある |
|
OLSへの含意 |
推定は不偏かつ一致 |
推定は偏っており不一致 |
|
例 |
降雨、無作為化された処置割り当て、大学までの距離 |
教育水準、供給・需要体系の価格、自己申告の健康状態 |
外生変数と内生変数の例
抽象的な定義だけでは限界があります。ここでは、外生/内生の分類が実際に役立つ3つの場面を示します。
教育と収入
これは定番の例には理由があります。就学年数が賃金に与える因果効果を推定したい。問題は、高い能力を持つ人ほど教育年数が長く、収入も高い傾向があることです。能力はモデルに含まれていません。誤差項に入っています。したがって教育と誤差項は相関しており、教育の係数は、ひそかに吸収している能力プレミアムによって押し上げられます。
ここで教育を外生とみなすのは誤りです。観測できない要因によって部分的に決まっているため、教育は内生です。
価格と需要
標準的な需給市場では、価格と数量は同時に決まります。需要数量を価格に回帰しても、需要曲線は同定されません。供給ショックと需要ショックの両方で動く均衡をなぞっているだけです。価格は需要と独立に決められているのではなく、需要に反応します。したがって、数量をアウトカムとする場合、価格は内生であり、その逆も然りです。
この同時性の問題が、経済学者が他分野で手法が流行する以前から自然実験や操作変数に関心を持っていた理由です。
天候と農業生産
降雨は教科書的な外生変数です。農家が小麦をどれだけ作付けするかという判断が、明日の降水量を変えることはありません。降雨は生産に影響しますが、生産が降雨にフィードバックすることはありません。この一方向の影響と、天候が未観測の農家レベルの生産性ショックと無相関だという妥当な仮定が合わさって、外生的な予測変数としてもっともらしくなります。
とはいえ、どの変数も本質的に外生または内生というわけではありません。分類はモデルとその仮定に依存します。もし地域の長期的な気候と農地利用を同時にモデル化するなら、「天候」はもはやそれほど独立には見えないかもしれません。
なぜ内生性が回帰で問題になるのか
技術的な論点は単純です。OLS は説明変数が誤差項と無相関であることを前提とします。この前提が破れると、推定量は関心変数ではなく欠落要因に由来する変動を拾ってしまい、偏って不一致な推定になります。データがいくら増えても、サンプリング誤差のせいではなく、間違った問題を解いているせいで、OLS は誤った値に収束します。
解釈面での損害はすぐに拡大します。偏った係数は、誤った結論、的外れの予測、悪い政策につながります。能力の欠落によって教育の収益率を過大評価すると、就学プログラムに過剰投資し、例えば幼児期介入などを相対的に過小評価するかもしれません。統計の問題はたちまち実務上の問題になります。
形式的には、外生性の条件は E(ε | X) = 0、少なくとも Cov(X, ε) = 0 を要します。これが破れると、OLS 推定量 β̂ は β ではなく β + (E[X′X])⁻¹E[X′ε] に確率収束します。余分な項がバイアスであり、サンプルが大きくなっても消えません。
内生性は何が原因で起こるのか
いくつか明確なメカニズムがあり、どれに該当するかで対処法が変わります。
欠落変数バイアス
最も一般的な犯人です。重要な変数をモデルから落とすと、その効果は誤差項に吸収されます。その欠落変数が予測変数とも相関していれば、内生性が生じます。教育と能力の話が典型例です。能力は賃金の方程式に入るべきですが、きれいに測れないため ε に残ります。能力が教育と相関しているため、教育の係数は能力プレミアムの一部を吸収します。
同時性
同時性は、2つの変数が互いに決め合うときに生じます。競争市場の価格と数量、警察配置と犯罪率、広告費と売上などです。お互いが原因であり結果でもあるため、どちらも外生とはみなせません。同時性の特徴は、データ生成過程を記述するのに連立方程式が必要になることです。単一方程式の回帰では因果の方向を解きほぐせません。
測定誤差
予測変数が誤差を伴って測定されると、真の基礎変数が内生でなくても内生になります。測定誤差が予測変数と残差の双方に入り、両者の相関を生みます。典型例は自己申告の所得です。人は記憶違いしたり丸めたり意図的に誤報したりし、報告値と実際の所得の差が、回帰で使う説明変数と相関を持つことになります。
選択とその他の要因
選択バイアスは別立てで言及する価値があります。サンプルに入るかどうかがアウトカムや予測変数と相関する要因に依存していると、母集団の非ランダムな一部を扱うことになります。典型はヘックマンの選択モデルです。就業者の賃金決定を研究するとき、働くという意思決定自体が潜在賃金と相関しています。
他にも(逆因果、ラグを予測変数に用いる動学パネル、ネットワーク効果など)ありますが、欠落変数、同時性、測定誤差で多くのケースをカバーできます。
内生性の検出方法
相関行列を眺めたり標準的な診断を走らせたりしても、通常は内生性は検出できません。問題は予測変数と誤差項(定義上観測できない)の関係にあるからです。
実際に役立つのは理論とドメイン知識です。回帰を走らせる前に自問してください。この予測変数は、コントロールしていない経路を通じてアウトカムに影響する要因によって決まっていないか? 因果ダイアグラムを描くと助けになります。DAG(有向非巡回グラフ)は、どの経路が存在し、どの交絡因子を遮断すべきかを明確にします。
形式的アプローチのひとつが Durbin-Wu-Hausman 検定で、OLS 推定と操作変数推定を比較します。2つの係数集合が有意に異なれば、予測変数が内生である証拠です。古典的な形は等分散誤差を仮定する点に注意してください。その仮定が怪しい場合は、Wooldridge の回帰ベースの形式など、ロバスト版を使います。ただし、この検定は妥当な操作変数が既にある場合にしか機能しません。多くの場合、操作変数を見つける方が検定より難しいのです。データ生成過程を丁寧に考えることの代わりにはならず、有用な確認手段にとどまります。
内生性への対処法
万能の方法はありません。適切な手法は、内生性の原因に依存します。
操作変数(IV)
核心は、内生の予測変数に影響するが、その予測変数を通じて以外にはアウトカムに直接影響しない変数(操作変数)を見つけることです。妥当な操作変数は、関連性(内生変数と相関)と排除制約(アウトカム方程式に直接は入らない)の2条件を満たします。
教育の例では、自宅から最寄りの大学までの距離が操作変数として提案されてきました。大学から遠い地域で育った人は、能力が低いからではなく通学コストが高いから平均的に教育年数が短いと考えられます。距離が就学以外の経路で賃金に影響しないなら、妥当な操作変数です。後者の条件はデータだけでは検証不可能であるため、IV 推定には、有意な第1段だけでなく、防御可能な論拠が必要です。
二段階最小二乗法(2SLS)
二段階最小二乗法(2SLS)は IV 推定を具体化します。第1段で、内生の予測変数を操作変数と外生的コントロールに回帰します。第2段で、内生変数を第1段の予測値に置き換え、アウトカムをそれに回帰します。予測値は操作変数に由来する変動(アウトカム方程式の誤差項と無相関な変動)のみを含むため、2SLS はよりクリーンな因果推定を回収します。実務では、2つの段階を別々の OLS として手作業で走らせないでください。第2段の標準誤差が、第1段の推定不確実性を無視して誤ったものになります。代わりに専用の IV 推定器を使いましょう(R の AER パッケージの ivreg、Python の linearmodels の IV2SLS など)。
固定効果
内生性が、時間にわたって安定した観測不能な個体特性(能力、企業文化、近隣の質)に起因する場合、パネルデータの固定効果が有効です。個体ダミーを入れる(同値的に、個体内で平均差分を取る)ことで、個体レベルの時間不変の欠落変数をすべて除去できます。固定効果は、時間変動する交絡、測定誤差、同時性には効きませんが、安定した非観測要因に対しては最もクリーンな解法になりがちです。
実験および準実験デザイン
外生的な変動を得る最もきれいな方法はランダム化です。ランダム化比較試験では、処置割り当てが設計上あらゆるものから独立です。ランダム化が不可能な場合でも、外的出来事が実質的に曝露をランダム化する自然実験が同等の信頼性をもたらすことがあります。回帰不連続デザインや差の差法は、この論理に基づく一般的な準実験の枠組みです。
念頭に置いておくべきは、どの手法も万能ではないことです。IV には防御可能な操作変数が必要です。固定効果は同時性には効きません。ランダム化は最も重要な問いに対して利用可能であることがまれです。
操作変数:シンプルな例
教育と収入の事例は、仕組みを具体的にしてくれます。内生変数は就学年数で、誤差項の観測不能な能力と相関しているため内生です。必要なのは操作変数、つまり就学年数を予測するが、就学を通じて以外には収入に影響しないものです。
Card(1995)は、四年制大学への近接性を提案しました。大学の近くで育った人は通学コストが低く、平均して教育年数が長い。もし居住地の他の要因をコントロールした上で、大学近接性が賃金に直接影響しないなら、排除制約を満たします。
第1段:就学年数を大学近接性とコントロールに回帰します。これにより、能力ではなく近接性に駆動された変動のみを含む就学年数の当てはめ値が得られます。第2段:賃金の対数をその当てはめ値に回帰します。当てはめられた教育の係数は、近接性によって実際に教育が変化した人々に対する因果効果、すなわち経済計量学で言う LATE(局所平均処置効果)を推定します。
操作変数が与えるのは全員に対する平均効果ではありません。コンプライヤー、すなわち近接性によって就学が変わった人々に対する信頼できる因果推定です。これは IV の実在の限界ですが、正直な限界でもあります。
因果推論における外生変数と内生変数
回帰における外生性の捉え方は、誤差項との相関に関するものです。因果推論の枠組みでは、少し異なり、ある変数が隔離可能な経路を通じてアウトカムの原因であるかどうかに関わります。Judea Pearl の仕事に関連する DAG(有向非巡回グラフ)では、外生変数は親を持たないノードです。交絡因子は処置とアウトカムの共通原因であり、回帰の意味での内生性をまさに生み出します。
これらの枠組みのつながりは現実にありますが、常にきれいに一致するわけではありません。計量経済学の内生性は、概ね DAG の未遮断のバックドアパスの存在に対応します。交絡因子をコントロールすることは、バックドアパスを遮断することに対応します。IV 推定は、処置の外生的な変動源を見つけることに対応します。
一点注意すべきは、グラフィカルモデルでは、ある体系では外生、別の体系では内生になり得るということです。これは教育と収入の例がまさに示した通りです。枠組みに関わらず実務的な帰結は同じです。モデルを当てはめるだけでなく、因果仮定をきちんと主張する必要があります。
機械学習における外生変数と内生変数
標準的な予測型 ML では、内生性はほとんど無関係です。目的がホールドアウトデータでの予測誤差の最小化であれば、特徴量が外生かどうかは問題ではありません。内生的な予測変数を使っても、モデルは汎化し得ます。偏った係数は解釈の問題であって、予測の問題ではありません。
係数を因果的に解釈したり、モデルを介入の指針に使ったりする場合に、この区別が重要になります。例えば、企業がチャーンモデルを学習し、その特徴量に基づいて行動し、最近のサポートチケット数に基づいて顧客をターゲティングするケースを考えます。そこで因果の問いが立ち現れます。チケット数がチャーンを引き起こしているのか、それとも両者を駆動する同じ不満の症状なのか。内生的な予測変数を原因であるかのように扱って行動すると、無駄または逆効果の介入につながり得ます。
因果 ML の手法(ダブルマシンラーニング、因果フォレスト、ポリシーラーニング)は、標準 ML が無視する外生性の要件を明示的に組み込みます。操作変数的または実験的な変動を用いて、内生性に頑健な効果を推定します。データと識別仮定の要求水準は高くなりますが、目的が予測ではなく政策評価である場合には適切な道具です。
よくある誤解
よく目にする誤解をいくつか挙げます。
独立変数は常に外生である
「独立変数」は単に「予測変数」を意味するだけで、その変数が外生かどうかは示しません。賃金回帰では、教育は独立変数でありつつ内生です。両者は別の分類です。
内生は被説明変数(従属変数)と同義である
「被説明変数」はモデル化するアウトカム、左辺を意味します。「内生変数」は、右辺で誤差項と相関する予測変数を指します。同時方程式体系では重なることがありますが、同義ではありません。
外生性は他の変数と完全に無関係であることを意味する
外生性は、他の説明変数との統計的独立を要件としません。2つの予測変数は互いに相関していても、どちらも外生であり得ます。誤差項 ε との関係こそが外生性の論点です。
統計的コントロールを加えれば自動的に内生性は解消する
観測・測定可能な欠落因子に起因する内生性には、コントロール変数の追加が有効です。しかし多くの交絡(能力、意欲、ソーシャルネットワーク)は観測不能です。肝心の欠落変数がデータにない場合、コントロールを増やしても問題は解決しません。
結論
外生と内生は、方程式のどちら側に現れるかではなく、変数がどこから来てモデルの他の部分とどう関係するかを表します。予測変数が体系の外で決まり、誤差項と無相関であれば外生です。アウトカムをも動かす未観測要因と絡み合っていれば内生です。
この区別が重要なのは、内生性が OLS を壊すからです。欠落変数バイアス、同時性、測定誤差はいずれも、予測変数と誤差項の相関を生み、求めたい因果効果を表さない値へと推定を押しやります。修正には、内生性が生じた理由を理解し、その原因に適した手法(操作変数、固定効果、準実験デザイン)を選ぶことが必要です。万能な解決策は存在せず、最も有力な手法であっても、完全に証明はできず、擁護可能な仮定を要します。
回帰の前提をさらに深く学ぶには、Intermediate Regression in R コースで詳細を扱っています。また、Causal Inference with R コースは本記事の続編として、操作変数、差の差法、回帰不連続デザインを扱います。
Vinod Chuganiは、東京でJPMorgan最年少のヘッジファンド・セールスデスク責任者としてキャリアをスタートし、その後Lehman Brothersで個人売上記録を樹立、さらに30か国に展開するエレクトロニクス流通事業を売上SG$1億を超える規模へと成長させたのち、データ分野へ転身しました。Duke大学で経済学を専攻し、NYC Data Science Academyを修了。MavenのHugo Bowne-Andersonによる「Building AI Applications」コースでは、100名超の応募者の中から3名の奨学生の一人に選出されました。現在は、DataCamp、KDnuggets、Machine Learning Mastery、Statologyにて統計からエージェント型AIまで幅広いテーマで執筆し、NYC Data Science Academyでは1,000回以上の1対1セッションを通じてデータ分野のプロフェッショナルをメンターしています。
FAQs
外生変数と内生変数の違いを最も簡単に理解する方法は?
外生変数はモデルの外部で決まり、誤差項と相関しません(降雨が作物収量に影響する例を思い浮かべてください)。内生変数は、未観測要因を含むモデル内の要因によって形作られます。賃金回帰では、教育は内生です。なぜなら能力が就学選択と収入の両方を駆動し、能力が誤差項にも含まれているからです。
同じ変数が、ある研究では外生で、別の研究では内生になることはありますか?
はい。同じ変数でも、その変数自体の性質ではなく、特定のモデルや仮定に依存して外生にも内生にもなり得ます。規制当局が価格を設定する場合は外生ですが、供給と需要が同時に決める競争市場では内生です。
内生性は経済学や計量経済学でのみ重要なのですか?
いいえ。観察データから因果効果を推定するあらゆる分野で問題になります。疫学、政治学、社会学、応用機械学習でも同様です。用語は分野ごとに異なっても、基礎にある問題(交絡、逆因果、測定誤差)は普遍的です。
巨大なデータセットがあれば、内生性のバイアスは消えますか?
いいえ。サンプリング誤差はサンプルが大きくなると小さくなりますが、内生性のバイアスはそうなりません。これはノイズではなく構造の問題です。データが無限にあっても、内生性に対処しなければ OLS は誤った数値に収束します。
欠落変数バイアスと内生性の違いは?
欠落変数バイアスは内生性の一因です。重要な変数が落ちており、それが予測変数と相関していると、その予測変数は内生になります。内生性はより広い概念で、欠落変数バイアスはそれを生む特定のメカニズムのひとつです。
自分の操作変数が妥当かどうかはどう判断しますか?
2つの条件を確認する必要があります。関連性(操作変数が内生変数と相関する)は第1段のF統計で検証可能で、目安として F > 10 がよく使われます。排除制約(操作変数が内生変数を通じてのみアウトカムに影響する)はデータだけでは検証できません。理論的な論拠が必要で、その強さが信頼できる IV 研究とそうでない研究を分けます。
