Biến ngoại sinh và nội sinh: Khác biệt chính và ví dụ

Giả sử bạn muốn biết việc ở lại trường lâu hơn có thực sự làm tăng thu nhập của mình hay không. Bạn chạy một hồi quy, nhận được hệ số dương cho giáo dục và cảm thấy ổn. Rồi ai đó chỉ ra rằng những người thông minh hơn, có động lực hơn thường vừa theo đuổi giáo dục nhiều hơn vừa kiếm được nhiều tiền hơn, bất kể thời gian đi học. Ước lượng của bạn đang phản ánh năng lực không kém gì giáo dục. Đó là nội sinh, và đây là một trong những cách phổ biến nhất khiến kết quả hồi quy gây hiểu lầm.

Sự phân biệt giữa biến ngoại sinh và nội sinh nằm ở trung tâm của vấn đề này. Hiểu sai thì các hệ số không còn mang ý nghĩa như bạn nghĩ. Hiểu đúng thì bạn có thể bắt đầu đưa ra các khẳng định nhân quả đáng tin cậy. Bài viết này đi qua định nghĩa, khác biệt chính, nguồn gốc chủ yếu của nội sinh và các biện pháp khắc phục tiêu chuẩn. Thành thật mà nói: phần biện pháp khắc phục thường bị trình bày nhẹ tay. Ở đây tôi cố gắng không làm vậy.

Biến ngoại sinh và nội sinh là gì?

Các từ này đến từ tiếng Hy Lạp: exo (bên ngoài) và endo (bên trong). Biến ngoại sinh được xác định bên ngoài hệ thống đang được mô hình hóa. Nó ảnh hưởng đến kết quả nhưng bản thân không bị ảnh hưởng bởi các biến khác trong mô hình. Biến nội sinh được định hình bởi chính hệ thống, nghĩa là nó gắn với các biến khác theo những cách tạo ra vòng phản hồi hoặc phụ thuộc ẩn.

Trong hồi quy, sự phân biệt này có ý nghĩa thống kê chính xác. Một biến là ngoại sinh nếu nó không tương quan với sai số của mô hình. Nó là nội sinh nếu tương quan với sai số đó, tức là có điều gì đó trong phần dư cũng đang chi phối biến dự báo của bạn.

Biến ngoại sinh

Biến ngoại sinh nằm ngoài vòng phản hồi. Hãy nghĩ đến lượng mưa hàng ngày như một yếu tố dẫn dắt sản lượng nông nghiệp: quyết định gieo trồng của nông dân không ảnh hưởng đến thời tiết. Mưa ảnh hưởng đến năng suất, nhưng năng suất không quay lại làm thay đổi mưa. Trong ngôn ngữ hồi quy, điều này chuyển thành tương quan bằng không giữa biến dự báo và sai số, các nhà thống kê ký hiệu là Cov(X, ε) = 0. Điều kiện hiệp phương sai bằng không này giúp ước lượng OLS không chệch. Khi điều kiện đó đúng, hệ số của X phản ánh gọn ghẽ mối quan hệ giữa X và kết quả, không bị nhiễm bởi các yếu tố bị bỏ sót.

Biến nội sinh

Biến nội sinh bị quấn vào với sai số. Quay lại ví dụ giáo dục: thu nhập bị ảnh hưởng bởi năng lực, động lực, hoàn cảnh gia đình và hàng chục yếu tố khác cũng tác động đến mức độ đi học của một người. Những yếu tố không quan sát được đó nằm trong sai số ε. Vì giáo dục tương quan với ε, ta có nội sinh: Cov(X, ε) ≠ 0.

Ý nghĩa chính xác của "ngoại sinh" và "nội sinh" có thay đổi đôi chút theo bối cảnh mô hình. Trong mô hình phương trình cấu trúc, biến được phân loại theo việc chúng có phải là đầu ra của hệ thống hay không; trong kinh tế lượng, trọng tâm là mối quan hệ với sai số. Cả hai khung đều nắm bắt cùng một ý tưởng nền tảng.

Biến ngoại sinh và nội sinh: Khác biệt chính

Bảng dưới đây nêu bật điểm đối lập cốt lõi. Các phần sau sẽ đi sâu vào các sắc thái.

Ví dụ về biến ngoại sinh và nội sinh

Các định nghĩa trừu tượng chỉ đi được đến mức đó. Dưới đây là ba kịch bản nơi phân loại ngoại sinh/nội sinh thực sự phát huy tác dụng.

Giáo dục và thu nhập

Đây là ví dụ kinh điển có lý do của nó. Bạn muốn ước tính tác động nhân quả của một năm học thêm đối với tiền lương. Vấn đề: người có năng lực cao hơn thường học nhiều hơn và kiếm nhiều hơn. Năng lực không có trong mô hình của bạn. Nó nằm trong sai số. Vì giáo dục và sai số tương quan, hệ số của bạn cho số năm đi học bị thổi phồng bởi phần chênh lệch do năng lực mà nó âm thầm hấp thụ.

Xem giáo dục là ngoại sinh ở đây sẽ là sai lầm. Nó là nội sinh, được quyết định một phần bởi chính các yếu tố không quan sát được mà bạn không kiểm soát được.

Giá và cầu

Trong một thị trường cung–cầu tiêu chuẩn, giá và lượng được xác định đồng thời. Nếu bạn hồi quy lượng cầu theo giá, bạn không xác định được đường cầu. Bạn đang truy vết một cân bằng thay đổi theo cả cú sốc cung và cầu. Giá không được ấn định độc lập với cầu; nó phản ứng với cầu. Vì vậy giá là nội sinh khi lượng là biến kết quả, và ngược lại.

Vấn đề đồng thời này là lý do các nhà kinh tế quan tâm đến thí nghiệm tự nhiên và biến công cụ từ lâu trước khi các phương pháp đó trở nên thịnh hành ở nơi khác.

Thời tiết và sản lượng nông nghiệp

Lượng mưa là biến ngoại sinh trong sách giáo khoa. Quyết định của nông dân về lượng lúa mì gieo không làm thay đổi lượng mưa ngày mai. Mưa ảnh hưởng đến sản lượng, nhưng sản lượng không phản hồi để ảnh hưởng đến mưa. Ảnh hưởng một chiều đó, kết hợp với giả định hợp lý rằng thời tiết không tương quan với các cú sốc năng suất ở cấp trang trại không quan sát được, khiến nó trở thành một biến dự báo ngoại sinh hợp lý.

Tuy vậy, không có biến nào vốn dĩ là ngoại sinh hay nội sinh. Phân loại phụ thuộc vào mô hình và các giả định của nó. Nếu bạn đang mô hình hóa cùng lúc khí hậu khu vực dài hạn và sử dụng đất nông nghiệp, “thời tiết” có thể không còn độc lập như vậy nữa.

Vì sao nội sinh là vấn đề trong hồi quy

Vấn đề kỹ thuật khá trực diện. OLS giả định rằng các biến giải thích không tương quan với sai số. Khi giả định đó không đúng, bộ ước lượng sẽ thu nhận biến thiên đáng ra thuộc về các yếu tố bị bỏ sót thay vì biến quan tâm, tạo ra ước lượng chệch và không nhất quán. Dù có nhiều dữ liệu, OLS cũng sẽ hội tụ về một con số sai, không phải do sai số lấy mẫu, mà vì nó đang giải sai bài toán.

Thiệt hại về diễn giải tích tụ nhanh. Một hệ số chệch dẫn đến kết luận sai, dự báo lệch, và chính sách tồi. Nếu bạn đánh giá quá cao lợi tức giáo dục đối với thu nhập vì bỏ sót năng lực, bạn có thể cấp vốn quá mức cho các chương trình giáo dục so với, chẳng hạn, can thiệp ở giai đoạn mầm non. Vấn đề thống kê nhanh chóng trở thành vấn đề thực tiễn.

Về hình thức, điều kiện ngoại sinh yêu cầu E(ε | X) = 0, hoặc tối thiểu Cov(X, ε) = 0. Khi điều này không đúng, bộ ước lượng OLS β̂ hội tụ theo xác suất về β + (E[X′X])⁻¹E[X′ε] thay vì β. Hạng tử phụ là độ chệch, và nó không biến mất khi mẫu lớn lên.

Nguyên nhân gây nội sinh là gì?

Có vài cơ chế khác nhau, và biết mình đang gặp cơ chế nào sẽ định hình cách xử lý.

Thiên lệch do biến bị bỏ sót

Đây là thủ phạm phổ biến nhất. Khi một biến liên quan bị bỏ khỏi mô hình, tác động của nó bị hấp thụ vào sai số. Nếu biến bị bỏ sót đó cũng tương quan với một biến dự báo, bạn sẽ có nội sinh. Câu chuyện giáo dục–năng lực là ví dụ kinh điển: năng lực đáng lẽ thuộc về phương trình tiền lương, nhưng ta không đo được sạch, nên nó ở lại trong ε. Vì năng lực tương quan với giáo dục, hệ số giáo dục hấp thụ một phần chênh lệch do năng lực.

Đồng thời (simultaneity)

Đồng thời nảy sinh khi hai biến cùng xác định lẫn nhau: giá và lượng trong thị trường cạnh tranh, hiện diện của cảnh sát và tỷ lệ tội phạm, chi tiêu quảng cáo và doanh số. Mỗi biến vừa là nguyên nhân vừa là kết quả của biến kia, nghĩa là không biến nào có thể coi là ngoại sinh. Dấu hiệu của đồng thời là bạn cần một hệ phương trình để mô tả quá trình tạo dữ liệu. Một hồi quy đơn phương trình không thể gỡ ai gây ra cái gì.

Sai số đo lường

Khi một biến dự báo bị đo lường sai, nó trở nên nội sinh ngay cả khi biến cơ bản thật sự không như vậy. Sai số đo lường rơi vào cả biến dự báo lẫn phần dư, tạo ra tương quan giữa chúng. Ví dụ kinh điển: thu nhập tự báo cáo. Mọi người nhớ nhầm, làm tròn, hoặc cố ý báo sai, và khoảng cách giữa thu nhập báo cáo và thực tế lại tương quan với con số bạn dùng làm biến giải thích.

Chọn mẫu và các nguồn khác

Thiên lệch chọn mẫu đáng để nêu riêng. Nếu việc ai vào mẫu của bạn phụ thuộc vào biến kết quả hoặc các yếu tố tương quan với biến dự báo của bạn, bạn đang làm việc với một lát cắt không ngẫu nhiên của quần thể. Phiên bản kinh điển là mô hình chọn mẫu của Heckman: nghiên cứu các yếu tố quyết định tiền lương cho người đang có việc làm, khi quyết định đi làm tự nó lại tương quan với tiền lương tiềm năng.

Còn có các nguồn khác (nhân quả ngược, dữ liệu bảng động nơi kết quả trễ trở thành biến dự báo, hiệu ứng mạng), nhưng biến bị bỏ sót, đồng thời và sai số đo lường bao phủ hầu hết các trường hợp bạn sẽ gặp.

Cách phát hiện nội sinh

Bạn thường không thể phát hiện nội sinh chỉ bằng cách nhìn ma trận tương quan hoặc chạy một chẩn đoán tiêu chuẩn. Vấn đề nằm ở mối quan hệ giữa biến dự báo và sai số, vốn theo định nghĩa là không quan sát được.

Điều hữu ích thực sự là lý thuyết và hiểu biết miền. Trước khi chạy bất kỳ hồi quy nào, hãy hỏi: biến dự báo này có được quyết định bởi các yếu tố cũng ảnh hưởng đến kết quả của tôi qua các kênh mà tôi chưa kiểm soát không? Vẽ sơ đồ nhân quả có thể giúp. Đồ thị có hướng không chu trình (DAG) làm rõ đường đi nào tồn tại và những biến gây nhiễu nào cần chặn.

Một cách tiếp cận hình thức là kiểm định Durbin–Wu–Hausman, so sánh ước lượng OLS với ước lượng biến công cụ. Nếu hai bộ hệ số khác biệt có ý nghĩa, đó là bằng chứng biến dự báo là nội sinh. Lưu ý phiên bản cổ điển giả định sai số đồng phương sai; hãy dùng biến thể vững (như dạng hồi quy của Wooldridge) nếu nghi ngờ giả định đó. Nhưng kiểm định này chỉ hoạt động khi bạn đã có một biến công cụ hợp lệ, và việc tìm ra nó thường khó hơn chính bài kiểm định. Đây là phép kiểm tra hữu ích, không phải là thay thế cho việc suy nghĩ cẩn trọng về quá trình tạo dữ liệu.

Cách xử lý nội sinh

Không có phương pháp đơn lẻ xử lý mọi loại. Lựa chọn đúng phụ thuộc vào nguyên nhân gây nội sinh.

Biến công cụ

Ý tưởng cốt lõi: tìm một biến (công cụ) tác động đến biến dự báo nội sinh của bạn nhưng không có tác động trực tiếp đến kết quả ngoại trừ thông qua biến dự báo đó. Một công cụ hợp lệ thỏa hai điều kiện: tính liên quan (nó tương quan với biến nội sinh) và điều kiện loại trừ (nó không thuộc trực tiếp vào phương trình kết quả).

Với ví dụ giáo dục, khoảng cách từ nhà đến trường cao đẳng gần nhất đã được đề xuất làm công cụ cho số năm đi học. Người lớn lên xa trường cao đẳng học ít hơn không phải vì họ kém năng lực, mà vì chi phí theo học cao hơn. Nếu khoảng cách không ảnh hưởng đến tiền lương ngoại trừ thông qua học vấn, đó là một công cụ hợp lệ. Điều kiện thứ hai này không thể kiểm chứng chỉ bằng dữ liệu, đó là lý do ước lượng IV đòi hỏi một lập luận có thể bảo vệ, không chỉ một giai đoạn đầu có ý nghĩa thống kê.

Bình phương tối thiểu hai giai đoạn

Bình phương tối thiểu hai giai đoạn (2SLS) hiện thực hóa ước lượng IV. Giai đoạn một, bạn hồi quy biến dự báo nội sinh theo công cụ và các biến kiểm soát ngoại sinh. Giai đoạn hai, bạn thay biến nội sinh bằng giá trị dự báo từ giai đoạn một và chạy hồi quy kết quả theo những giá trị đó. Các giá trị dự báo chỉ chứa biến thiên trong biến dự báo bắt nguồn từ công cụ (biến thiên không tương quan với sai số trong phương trình kết quả), đó là lý do 2SLS thu được ước lượng nhân quả sạch hơn. Trên thực tế, đừng chạy thủ công hai giai đoạn như hai hồi quy OLS tách rời. Sai số chuẩn giai đoạn hai sẽ sai vì bỏ qua bất định ước lượng từ giai đoạn một. Hãy dùng bộ ước lượng IV chuyên dụng (ivreg trong gói AER của R, hoặc IV2SLS trong linearmodels của Python).

Hiệu ứng cố định

Khi nội sinh bắt nguồn từ các đặc điểm cấp cá nhân không quan sát được nhưng ổn định theo thời gian (năng lực, văn hóa doanh nghiệp, chất lượng khu vực), dữ liệu bảng với hiệu ứng cố định có thể giúp ích. Bao gồm biến giả ở cấp đơn vị (hoặc tương đương là trừ trung bình trong đơn vị) loại bỏ mọi biến bị bỏ sót bất biến theo thời gian ở cấp đó. Hiệu ứng cố định không xử lý được biến gây nhiễu biến thiên theo thời gian, sai số đo lường hay đồng thời, nhưng với các yếu tố không quan sát ổn định thì thường là giải pháp gọn gàng nhất.

Thiết kế thực nghiệm và gần–thực nghiệm

Cách sạch nhất để có biến thiên ngoại sinh là ngẫu nhiên hóa. Trong thử nghiệm đối chứng ngẫu nhiên, việc phân bổ điều trị độc lập với mọi thứ khác theo thiết kế. Khi ngẫu nhiên hóa không khả thi, thí nghiệm tự nhiên (tình huống một sự kiện bên ngoài về hiệu quả đã ngẫu nhiên hóa mức phơi nhiễm) có thể đạt được độ tin cậy tương tự. Thiết kế gián đoạn hồi quy và khác biệt–trong–khác biệt là hai khung gần–thực nghiệm phổ biến dựa trên logic này.

Cần nhớ: không phương pháp nào giải quyết mọi kiểu nội sinh. IV cần một công cụ có thể bảo vệ được. Hiệu ứng cố định không giúp với đồng thời. Ngẫu nhiên hóa hiếm khi sẵn có cho những câu hỏi quan trọng nhất.

Biến công cụ: Ví dụ đơn giản

Trường hợp giáo dục–thu nhập làm rõ cơ chế. Biến nội sinh là số năm đi học, nội sinh vì nó tương quan với năng lực không quan sát nằm trong sai số. Ta cần một công cụ: thứ gì đó dự đoán một người học bao nhiêu nhưng ảnh hưởng đến thu nhập chỉ thông qua học vấn.

Card (1995) đề xuất khoảng cách tới một trường cao đẳng bốn năm. Người lớn lên gần trường cao đẳng có chi phí theo học thấp hơn và trung bình học nhiều hơn. Nếu sống gần trường không ảnh hưởng trực tiếp đến tiền lương khi trưởng thành (sau khi kiểm soát các yếu tố vị trí khác), thì gần trường thỏa điều kiện loại trừ.

Giai đoạn một: hồi quy số năm đi học theo mức độ gần trường cộng với các biến kiểm soát. Điều này tạo ra giá trị phù hợp của giáo dục chỉ chứa biến thiên do gần trường, không do năng lực. Giai đoạn hai: hồi quy log tiền lương theo các giá trị phù hợp đó. Hệ số của giáo dục phù hợp ước tính tác động nhân quả của học vấn lên tiền lương cho những người mà giáo dục của họ thực sự bị ảnh hưởng bởi mức độ gần trường, các nhà kinh tế lượng gọi đó là hiệu ứng xử lý trung bình cục bộ (LATE).

Công cụ không cho bạn hiệu ứng trung bình cho mọi người. Nó cho bạn ước lượng nhân quả đáng tin cho nhóm “tuân theo”, những người mà việc học thay đổi vì mức độ gần trường. Đó là một hạn chế thực sự của IV, nhưng là hạn chế trung thực.

Biến ngoại sinh và nội sinh trong suy luận nhân quả

Khung hồi quy về ngoại sinh nói đến tương quan với sai số. Khung suy luận nhân quả nói về điều hơi khác: liệu một biến có là nguyên nhân của kết quả qua một đường dẫn bạn có thể cô lập hay không. Trong khung DAG (đồ thị có hướng không chu trình) gắn với công trình của Judea Pearl, các biến ngoại sinh là các nút không có “cha” trong đồ thị. Biến gây nhiễu là nguyên nhân chung của xử lý và kết quả, và chính chúng tạo ra nội sinh theo nghĩa hồi quy.

Mối liên hệ giữa các khung là có thật nhưng không phải lúc nào cũng gọn gàng. Nội sinh trong kinh tế lượng xấp xỉ với sự tồn tại của các đường “cửa sau” chưa bị chặn trong DAG. Kiểm soát một biến gây nhiễu tương ứng với việc chặn một đường cửa sau. Ước lượng IV tương ứng với việc tìm nguồn biến thiên ngoại sinh trong xử lý.

Một điều đáng lưu ý: trong các mô hình đồ thị, một biến có thể là ngoại sinh trong hệ này và nội sinh trong hệ khác, đúng như ví dụ giáo dục–thu nhập đã minh họa. Hệ quả thực tiễn là như nhau bất kể khung nào. Bạn cần lập luận cho các giả định nhân quả của mình, không chỉ vừa khít mô hình.

Biến ngoại sinh và nội sinh trong Machine Learning

Trong ML dự báo tiêu chuẩn, nội sinh phần lớn không liên quan. Nếu mục tiêu là tối thiểu hóa lỗi dự báo trên dữ liệu giữ lại, việc đặc trưng có ngoại sinh hay không không quan trọng. Một mô hình dùng biến dự báo nội sinh vẫn có thể khái quát tốt. Hệ số chệch là vấn đề cho diễn giải, không phải cho dự báo.

Sự phân biệt bắt đầu quan trọng khi bạn diễn giải hệ số theo hướng nhân quả hoặc dùng mô hình để dẫn dắt can thiệp. Giả sử một doanh nghiệp huấn luyện mô hình rời bỏ khách hàng rồi hành động dựa trên các đặc trưng của nó, nhắm mục tiêu khách hàng dựa trên khối lượng phiếu hỗ trợ gần đây. Câu hỏi nhân quả trở nên nóng: liệu khối lượng phiếu có gây ra rời bỏ, hay nó là triệu chứng của cùng sự bất mãn tiềm ẩn đang thúc đẩy cả hai? Hành động dựa trên một biến dự báo nội sinh như thể nó là nguyên nhân có thể dẫn đến can thiệp lãng phí hoặc phản tác dụng.

Các phương pháp ML nhân quả (double machine learning, rừng nhân quả, học chính sách) tích hợp rõ ràng các yêu cầu ngoại sinh mà ML tiêu chuẩn bỏ qua. Chúng dùng biến thiên kiểu công cụ hoặc thực nghiệm để ước tính các hiệu ứng bền vững trước nội sinh. Chúng đòi hỏi dữ liệu và giả định nhận dạng nhiều hơn, nhưng là công cụ đúng khi mục tiêu là đánh giá chính sách chứ không phải dự báo.

Những ngộ nhận phổ biến

Dưới đây là vài ngộ nhận phổ biến bạn có thể gặp. 

Biến độc lập luôn là ngoại sinh

“Biến độc lập” chỉ có nghĩa là “biến dự báo”. Nó không nói gì về việc biến đó có ngoại sinh hay không. Trong hồi quy tiền lương, giáo dục là biến độc lập và nó là nội sinh. Hai cách phân loại này mô tả những điều khác nhau.

Nội sinh đồng nghĩa với biến phụ thuộc

“Biến phụ thuộc” là biến kết quả bạn đang mô hình hóa, nằm bên trái. “Biến nội sinh” mô tả một biến dự báo tương quan với sai số, nằm bên phải. Chúng có thể trùng trong các hệ phương trình đồng thời, nhưng không phải đồng nghĩa.

Ngoại sinh nghĩa là hoàn toàn không liên quan đến biến khác

Ngoại sinh không đòi hỏi độc lập thống kê với các biến giải thích khác. Hai biến dự báo có thể tương quan với nhau và cả hai vẫn ngoại sinh, miễn là không biến nào tương quan với sai số. Ngoại sinh cụ thể là về mối quan hệ với ε.

Thêm biến kiểm soát sẽ tự động loại bỏ nội sinh

Thêm biến kiểm soát hữu ích khi nội sinh bắt nguồn từ một yếu tố bị bỏ sót mà bạn có thể quan sát và đo lường. Nhưng nhiều biến gây nhiễu (năng lực, động lực, mạng lưới xã hội) là không quan sát được. Bổ sung thêm kiểm soát không giải quyết vấn đề nếu biến bị bỏ sót chủ chốt không có trong dữ liệu của bạn.

Kết luận

Ngoại sinh và nội sinh mô tả nguồn gốc của một biến và cách nó liên hệ với phần còn lại của mô hình, không đơn thuần là nó xuất hiện ở vế nào của phương trình. Một biến dự báo là ngoại sinh khi nó được xác định bên ngoài hệ thống và không tương quan với sai số. Nó là nội sinh khi bị rối với các yếu tố không quan sát cũng thúc đẩy kết quả.

Sự phân biệt này quan trọng vì nội sinh làm hỏng OLS. Biến bị bỏ sót, đồng thời và sai số đo lường đều tạo ra tương quan giữa biến dự báo và sai số, đẩy ước lượng đến những con số không đại diện cho hiệu ứng nhân quả bạn tìm kiếm. Khắc phục đòi hỏi hiểu vì sao nội sinh phát sinh rồi chọn phương pháp (biến công cụ, hiệu ứng cố định, thiết kế gần–thực nghiệm) phù hợp với nguồn gốc đó. Không có thuốc chung, và các phương pháp gần nhất với “giải pháp” đòi hỏi những giả định bạn có thể bảo vệ nhưng không bao giờ chứng minh hoàn toàn.

Nếu bạn muốn đi sâu hơn về cơ chế hồi quy đằng sau tất cả điều này, khóa học Intermediate Regression in R của chúng tôi bao quát chi tiết các giả định, và khóa Causal Inference with R tiếp nối chính xác nơi bài viết này dừng lại, bao gồm biến công cụ, khác biệt–trong–khác biệt và thiết kế gián đoạn hồi quy.