Giải thích Biểu đồ Phần dư: Cách kiểm tra các giả định của mô hình hồi quy

Bạn đã khớp một mô hình hồi quy, R^² trông ổn, và các hệ số có vẻ hợp lý. Nhưng một bảng tóm tắt đẹp có thể che giấu một mô hình sai dạng nghiêm trọng. Có một biểu đồ phân tán thường bắt được điều các con số bỏ lỡ: biểu đồ phần dư.

Bài viết này trình bày biểu đồ phần dư là gì, cách đọc chúng, những mẫu đáng chú ý, và cách tạo biểu đồ trong cả Python và R. Phần lớn người mới thường bỏ qua bước chẩn đoán này. Sau khi đọc xong, bạn sẽ không còn bỏ qua nữa.

Biểu đồ phần dư là gì?

Phần dư là khoảng cách giữa dự đoán của mô hình và thực tế: phần dư = quan sát − dự đoán. Biểu đồ phần dư phơi bày những khoảng cách đó. Trục x hiển thị giá trị dự đoán (đã khớp) hoặc một biến giải thích; trục y hiển thị phần dư. Có một đường tham chiếu nằm ngang tại không, đại diện cho dự đoán hoàn hảo.

Đám mây điểm ngẫu nhiên quanh 0: một biểu đồ phần dư lành mạnh. Ảnh do Tác giả tạo. 

Ý tưởng cốt lõi: nếu mô hình của bạn nắm bắt mối quan hệ tốt, phần dư sẽ trông như nhiễu. Phân tán ngẫu nhiên quanh 0, không có mẫu rõ ràng. Ngay khi xuất hiện một hình dạng, mô hình đang nói với bạn điều gì đó mà các hệ số không thể hiện hết.

Cách diễn giải một biểu đồ phần dư

Hãy tìm mẫu. Lý tưởng nhất là không có mẫu rõ rệt. Đó là quy tắc tổng quát. Điều vị trí, độ tản và hình dạng của phần dư tiết lộ mới là phần thú vị.

Vị trí: Đám mây điểm có tập trung quanh 0 không?

Phần dư nằm phía trên 0 ở một số vùng giá trị đã khớp và phía dưới ở vùng khác nghĩa là mô hình bị lệch. Nó liên tục dự đoán thừa hoặc thiếu ở một số vùng. Điều này thường gợi ý thiếu biến hoặc mối quan hệ phi tuyến mà mô hình đường thẳng không nắm bắt được.

Độ tản: Phương sai có giữ tương đối hằng định không?

Quét từ trái sang phải. Nếu độ tản phần dư tương tự nhau trên toàn bộ giá trị đã khớp, đó là dấu hiệu tốt. Nếu các điểm xòe rộng khi giá trị đã khớp tăng, phương sai đang thay đổi. Đây gọi là phương sai không đồng nhất (heteroscedasticity). Nó không làm hỏng ước lượng hệ số, nhưng khiến sai số chuẩn không đáng tin cậy, điều quan trọng nếu bạn đang thực hiện bất kỳ kiểm định giả thuyết nào.

Hình dạng: Có đường cong hay xu hướng không?

Phẳng và không có mẫu là điều bạn mong muốn. Hình chữ U hoặc vòm cho thấy mô hình thiếu một hạng phi tuyến. Cụm hoặc dải gợi ý có các nhóm con mà mô hình đang coi như một. Một điểm nằm tách biệt xa khỏi phần còn lại đáng để điều tra.

Các mẫu biểu đồ phần dư thường gặp và ý nghĩa của chúng

Bốn mẫu biểu đồ phần dư báo hiệu vấn đề của mô hình. Ảnh do Tác giả tạo.

Phân tán ngẫu nhiên quanh 0

Kết quả tốt. Các điểm phân bố tương đối đồng đều trên và dưới đường 0, không có xu hướng rõ ràng, thường cho thấy mô hình nắm bắt mối quan hệ khá tốt. Một chút ngẫu nhiên là điều mong đợi.

Mẫu cong

Mẫu cong hoặc hình vòm thường nghĩa là có mối quan hệ phi tuyến chưa được mô hình hóa. Mô hình đang cố vẽ đường thẳng qua dữ liệu bị uốn cong. Cách khắc phục điển hình là thêm hạng đa thức (như x^²) hoặc biến đổi biến dự báo. Đây là một trong những mẫu thường gặp trong thực tế, đặc biệt khi mô hình hóa các hiện tượng như giá nhà hoặc tăng trưởng sinh học.

Hình phễu hoặc quạt

Phần dư lan rộng hơn khi giá trị đã khớp tăng: đó là phương sai không đồng nhất, phương sai không hằng. Thường gặp trong dữ liệu tài chính, nơi sai số dự báo tự nhiên tăng theo độ lớn của biến kết quả. Biến đổi log biến phản hồi thường là bước đầu hợp lý; bình phương tối thiểu có trọng số là một lựa chọn khác.

Cụm hoặc nhóm

Các nhóm rõ rệt trong biểu đồ phần dư thường nghĩa là dữ liệu có các phân nhóm mà mô hình chưa tính tới. Nhiều khả năng có một biến phân loại (khu vực, nhóm điều trị, loại sản phẩm) nên được đưa vào mô hình. Nếu bạn thấy hai hoặc ba dải điểm chặt chẽ, hãy bắt đầu từ đó.

Phần dư lớn, cô lập

Một điểm nằm xa phần còn lại đáng để xem xét. Nó có thể là ngoại lệ thực sự, lỗi nhập liệu, hoặc một quan sát có đặc điểm bất thường. Đừng xóa ngay. Hãy hiểu nó trước. Giữ hay loại bỏ phụ thuộc vào ngữ cảnh, không phải sự thuận tiện.

Với mỗi mẫu trong số này, biểu đồ phần dư xác định triệu chứng, không phải chẩn đoán. Nó cho biết có điều gì đó lệch; bạn vẫn cần tìm hiểu nguyên nhân.

Biểu đồ phần dư kiểm tra được những giả định hồi quy nào?

Với các mẫu đã nêu, đáng để làm rõ biểu đồ phần dư có thể và không thể đánh giá những giả định hồi quy nào.

• Tính tuyến tính: Nếu mối quan hệ giữa các biến dự báo và kết quả thực sự tuyến tính, phần dư sẽ không cho thấy xu hướng khi vẽ theo giá trị đã khớp. Đường cong hay vòm là dấu hiệu trực quan cho thấy tính tuyến tính không còn đúng.
• Phương sai hằng: Mẫu hình phễu chính là diện mạo của phương sai không đồng nhất. Nếu độ tản tăng theo giá trị đã khớp, giả định phương sai bằng nhau bị vi phạm. Biểu đồ phần dư so với giá trị đã khớp có lẽ là công cụ phổ biến nhất để bắt lỗi này.
• Tính độc lập: Nếu các quan sát của bạn có thứ tự tự nhiên (thời gian, không gian, cụm đối tượng) bạn có thể vẽ phần dư theo thứ tự đó để kiểm tra mẫu. Phần dư có xu hướng trong biểu đồ theo thời gian gợi ý tự tương quan. Một biểu đồ phần dư so với giá trị đã khớp đơn thuần sẽ không phải lúc nào cũng bộc lộ điều này; đôi khi bạn cần biểu đồ phần dư theo thứ tự chuyên biệt.
• Ngoại lệ và quan sát có ảnh hưởng: Phần dư lớn, cô lập đánh dấu các quan sát mà mô hình dự đoán kém. Riêng về ảnh hưởng, tức các quan sát kéo đường hồi quy một cách quá mức, biểu đồ Phần dư so với Độ đòn bẩy (Residuals vs. Leverage) cung cấp nhiều thông tin hơn so với biểu đồ phần dư cơ bản.

Một điều mà biểu đồ phần dư không thể đánh giá đáng tin cậy là tính chuẩn. Biểu đồ phần dư so với giá trị đã khớp phẳng không xác nhận sai số phân phối chuẩn. Để kiểm tra điều đó, bạn cần biểu đồ Q-Q. Đây là nguồn gốc nhầm lẫn phổ biến và đáng để phân biệt rõ.

Cách tạo biểu đồ phần dư trong Python

Quy trình chuẩn dùng scikit-learn để khớp mô hình và tính phần dư, sau đó dùng matplotlib để trực quan hóa. Đây là ví dụ hoàn chỉnh sử dụng hồi quy tuyến tính đơn trên dữ liệu nhà ở:

import numpy as np
import matplotlib.pyplot as plt
from sklearn.linear_model import LinearRegression

# Sample data: square footage predicting home price
sqft = np.array([800, 1000, 1200, 1500, 1800, 2000, 2200, 2500, 3000, 3500])
price = np.array([150, 180, 210, 260, 300, 330, 370, 420, 500, 560])

# Reshape for sklearn and fit the model
X = sqft.reshape(-1, 1)
model = LinearRegression()
model.fit(X, price)

# Generate predictions and calculate residuals
predicted = model.predict(X)
residuals = price - predicted

# Plot residuals against fitted values
plt.figure(figsize=(8, 5))
plt.scatter(predicted, residuals, color='steelblue', edgecolors='white', s=80)
plt.axhline(y=0, color='red', linestyle='--', linewidth=1.2)
plt.xlabel('Fitted Values')
plt.ylabel('Residuals')
plt.title('Residual Plot')
plt.tight_layout()
plt.show()

Dòng quan trọng là residuals = price - predicted. Lệnh axhline() thêm đường tham chiếu tại 0; không có nó, biểu đồ sẽ khó đọc hơn nhiều. Nếu đầu ra trông tương đối không có mẫu, bạn đang ở trạng thái khá ổn. Lưu ý phần dư lớn hơn ở các giá trị đã khớp cao hơn. Chỉ với 10 điểm thì khó khẳng định, nhưng điều này gợi ý kiểu hình quạt mà chúng ta đã bàn ở trên.

Để tìm hiểu sâu hơn về hồi quy trong Python, khóa học Giới thiệu Hồi quy với statsmodels trong Python của chúng tôi hướng dẫn chi tiết việc khớp mô hình, kiểm tra giả định và diễn giải.

Cách tạo biểu đồ phần dư trong R

R khiến việc này hơi dễ hơn ngay từ đầu. Sau khi bạn khớp mô hình với lm(), hàm plot() tích hợp sẽ tạo một bảng chẩn đoán đầy đủ, bao gồm biểu đồ phần dư so với giá trị đã khớp, một cách tự động.

# Same housing data in R
sqft <- c(800, 1000, 1200, 1500, 1800, 2000, 2200, 2500, 3000, 3500)
price <- c(150, 180, 210, 260, 300, 330, 370, 420, 500, 560)

# Fit the model and view diagnostics
housing_model <- lm(price ~ sqft)
plot(housing_model, which = 1) # which = 1 gives residuals vs. fitted

Tham số which = 1 chỉ lấy biểu đồ phần dư so với giá trị đã khớp. Bỏ tham số này, bạn sẽ nhận được cả bốn biểu đồ chẩn đoán tiêu chuẩn: phần dư vs. giá trị đã khớp, Q-Q, scale-location, và phần dư vs. độ đòn bẩy. Hữu ích khi bạn muốn cái nhìn tổng quan nhanh. R cũng gắn nhãn ba điểm cực trị nhất theo chỉ mục, giúp bạn đỡ phải tìm ngoại lệ thủ công.

Để xem hướng dẫn đầy đủ về hồi quy trong R, khóa học Giới thiệu Hồi quy trong R của chúng tôi bao quát từ xây dựng mô hình đến chẩn đoán từ nền tảng.

Biểu đồ phần dư so với các biểu đồ chẩn đoán hồi quy khác

Biểu đồ phần dư so với giá trị đã khớp là điểm khởi đầu, không phải bức tranh hoàn chỉnh. Một vài biểu đồ liên quan trả lời các câu hỏi khác nhau.

Biểu đồ phần dư vs. biểu đồ Q-Q

Biểu đồ phần dư so với giá trị đã khớp kiểm tra tính tuyến tính và phương sai hằng. Biểu đồ Q-Q kiểm tra tính chuẩn, tức phần dư có theo phân phối chuẩn hay không. Đây là các câu hỏi riêng biệt. Một biểu đồ phần dư trông sạch không đảm bảo tính chuẩn, và một biểu đồ Q-Q sẽ không nói gì về phương sai. Thông thường bạn cần cả hai.

Hai biểu đồ khác nhau, hai câu hỏi khác nhau về mô hình của bạn. Ảnh do Tác giả tạo.

Biểu đồ phần dư vs. biểu đồ scale-location

Biểu đồ scale-location (còn gọi là spread-location) vẽ căn bậc hai của phần dư chuẩn hóa tuyệt đối theo giá trị đã khớp. Nó được thiết kế để phát hiện phương sai không đồng nhất và thường khiến mẫu hình phễu dễ thấy hơn so với biểu đồ phần dư thô, vì nó loại bỏ dấu của phần dư và chỉ tập trung vào độ tản.

Biểu đồ phần dư vs. biểu đồ phần dư so với độ đòn bẩy

Độ đòn bẩy đo mức độ bất thường của các giá trị biến dự báo của một quan sát, không phải mức độ mô hình dự đoán kém. Độ đòn bẩy cao kết hợp với phần dư lớn là một quan sát có ảnh hưởng tiềm tàng. Biểu đồ phần dư so với độ đòn bẩy xác định các kết hợp này và thường làm nổi bật các điểm vấn đề nhất theo tên. Nếu bạn lo ngại các quan sát có ảnh hưởng làm méo mô hình, hãy kiểm tra biểu đồ này.

Làm gì khi biểu đồ phần dư cho thấy vấn đề

Biểu đồ phần dư là công cụ chẩn đoán, không phải phán quyết. Thấy một mẫu không có nghĩa mô hình vô dụng. Dưới đây là cách các mẫu thường gặp gắn với bước tiếp theo:

• Mẫu cong: Cân nhắc thêm hạng đa thức hoặc biến đổi một biến dự báo. Biến đổi log của x hoặc thêm hạng x² thường giúp làm phẳng quan hệ.
• Hình phễu: Thử biến đổi log hoặc căn bậc hai của biến phản hồi. Nếu không hiệu quả, bình phương tối thiểu có trọng số sẽ giảm ảnh hưởng của các quan sát nhiều nhiễu hơn.
• Phần dư lớn, cô lập: Điều tra quan sát đó. Kiểm tra lỗi nhập liệu trước. Nếu điểm là hợp lệ, cân nhắc liệu mô hình của bạn cần tính đến điều khiến nó khác thường hay không.
• Cụm hoặc nhóm: Tìm một biến phân loại bạn chưa đưa vào. Đôi khi các mô hình tách theo nhóm con là câu trả lời đúng.

Biểu đồ phần dư cho thấy triệu chứng. Nó không cho bạn nguyên nhân chính xác, và một mẫu đơn lẻ đôi khi có nhiều diễn giải. Hãy dùng nó như lời nhắc để đặt câu hỏi tốt hơn.

Những lỗi thường gặp khi đọc biểu đồ phần dư

• Kỳ vọng một biểu đồ hoàn toàn ngẫu nhiên: Dữ liệu thực là lộn xộn. Vài điểm không tuân theo, bất đối xứng nhẹ, một số cụm ở rìa: điều này là bình thường. Câu hỏi không phải biểu đồ có hoàn toàn ngẫu nhiên không; mà là có mẫu hệ thống nào mà một mô hình tốt hơn có thể loại bỏ hay không.
• Coi mọi ngoại lệ là dữ liệu xấu: Phần dư lớn nghĩa là mô hình dự đoán quan sát đó kém. Không có nghĩa quan sát sai. Đôi khi ngoại lệ là điểm dữ liệu thú vị nhất trong bộ dữ liệu. Chỉ xóa sau khi bạn hiểu nó là gì.
• Cho rằng biểu đồ phần dư chứng minh tính chuẩn: Không đúng. Biểu đồ phần dư so với giá trị đã khớp cho bạn biết về tính tuyến tính và phương sai hằng. Tính chuẩn cần biểu đồ Q-Q. Hai công cụ chẩn đoán này bổ trợ, không thể thay thế cho nhau.
• Xem biểu đồ mà không xét ngữ cảnh: Biểu đồ phần dư từ mô hình chuỗi thời gian cần được đọc khác với biểu đồ từ dữ liệu chéo. Thế nào là mẫu đáng lo phụ thuộc cấu trúc dữ liệu, kích thước mẫu, và mục đích sử dụng mô hình. Một mẫu đáng để sửa trong mô hình dự báo có thể bỏ qua trong phân tích thăm dò.

Kết luận

Khớp mô hình, xem tóm tắt, thấy ổn với R^²: đây là nơi đa số dừng lại. Biểu đồ phần dư là thứ bạn xem sau đó, và nó thường kể câu chuyện khác. Đám mây ngẫu nhiên quanh 0 là điều bạn muốn. Các đường cong, hình phễu, cụm, và các điểm cực trị, cô lập đều gợi ý điều gì đó mô hình chưa tính đến.

Không một biểu đồ đơn lẻ nào cho bạn bức tranh đầy đủ. Hãy ghép biểu đồ phần dư so với giá trị đã khớp với biểu đồ Q-Q để kiểm tra tính chuẩn, biểu đồ scale-location để kiểm tra phương sai, và biểu đồ độ đòn bẩy nếu lo ngại quan sát có ảnh hưởng. Mỗi biểu đồ trả lời một câu hỏi khác nhau.

Nếu bạn muốn đi xa hơn, khóa học Hồi quy Trung cấp với statsmodels trong Python của chúng tôi bao quát kiểm tra giả định chuyên sâu, bao gồm cách phản ứng khi chẩn đoán báo lỗi. Để có nền tảng rộng hơn về giả định hồi quy và đánh giá mô hình, hướng dẫn Assumptions of Linear Regression in Python của chúng tôi là bài đọc tiếp theo tự nhiên.