Wykresy reszt wyjaśnione: jak sprawdzać założenia modelu regresji

Dopasowałeś model regresji, R^² wygląda przyzwoicie, a współczynniki mają sens. Ale ładna tabela podsumowująca potrafi ukryć źle wyspecyfikowany model. Jeden wykres rozrzutu często wyłapuje to, co umyka liczbom: wykres reszt.

W tym artykule znajdziesz wyjaśnienie, czym są wykresy reszt, jak je czytać, jakie wzorce warto znać oraz jak utworzyć taki wykres zarówno w Pythonie, jak i w R. Większość początkujących całkiem pomija krok diagnostyczny. Po lekturze ty już nie.

Czym jest wykres reszt?

Reszta to różnica między tym, co twój model przewidział, a tym, co faktycznie się wydarzyło: reszta = zaobserwowane − przewidywane. Wykres reszt pokazuje te różnice. Oś x przedstawia wartości przewidywane (dopasowane) lub zmienną objaśniającą; oś y przedstawia reszty. Na wysokości zera znajduje się pozioma linia odniesienia, oznaczająca idealne przewidywanie.

Losowy rozrzut wokół zera: zdrowy wykres reszt. Obraz autora. 

Kluczowa idea: jeśli model dobrze uchwycił zależność, reszty powinny wyglądać jak szum. Losowo rozproszone wokół zera, bez wyraźnego wzorca. Gdy tylko pojawia się kształt, model mówi ci coś, czego nie mógł wyrazić samymi współczynnikami.

Jak interpretować wykres reszt

Szukaj wzorców. Idealnie nie powinno być żadnego oczywistego. To cała zasada. To, co ujawniają położenie, rozrzut i kształt reszt, jest najciekawsze.

Położenie: czy rozrzut jest skupiony wokół zera?

Reszty, które w niektórych zakresach wartości dopasowanych leżą powyżej zera, a w innych poniżej, oznaczają, że model jest obciążony. Systematycznie przeszacowuje lub niedoszacowuje w pewnych obszarach. Często wskazuje to na brakującą zmienną lub nieliniową zależność, której model liniowy nie jest w stanie uchwycić.

Rozrzut: czy wariancja pozostaje w przybliżeniu stała?

Przeskanuj wykres od lewej do prawej. Jeśli rozpiętość reszt jest mniej więcej taka sama dla wszystkich wartości dopasowanych, to dobry znak. Jeśli punkty „wachlują” na zewnątrz wraz ze wzrostem wartości dopasowanych, wariancja się zmienia. To tzw. heteroscedastyczność. Nie psuje to estymacji współczynników, ale czyni błędy standardowe niewiarygodnymi, co ma znaczenie, jeśli wykonujesz testy hipotez.

Kształt: czy widać krzywiznę lub trend?

Płasko i bez wzorca — tego chcesz. Kształt litery U lub łuk wskazuje, że w modelu brakuje składnika nieliniowego. Klastry lub pasma sugerują podgrupy traktowane przez model jako jedna. Pojedynczy punkt daleko od reszty warto zbadać.

Typowe wzorce na wykresie reszt i co oznaczają

Cztery wzorce na wykresie reszt sygnalizujące problemy z modelem. Obraz autora.

Losowy rozrzut wokół zera

Dobry wynik. Punkty rozłożone mniej więcej równomiernie powyżej i poniżej linii zera, bez dostrzegalnego trendu, zwykle wskazują, że model dość dobrze uchwycił zależność. Pewna losowość jest oczekiwana.

Wzorzec zakrzywiony

Zakrzewiony lub łukowaty wzorzec zwykle oznacza nieuwzględnioną nieliniową zależność. Model dopasowuje prostą przez dane, które się wyginają. Naprawa to zazwyczaj dodanie składnika wielomianowego (np. x^²) lub transformacja predyktora. To jeden z częstszych wzorców w praktyce, zwłaszcza przy modelowaniu cen nieruchomości czy wzrostu biologicznego.

Kształt leja lub wachlarza

Reszty, które rozszerzają się wraz ze wzrostem wartości dopasowanych: to heteroscedastyczność, wariancja nie jest stała. Częste w danych finansowych, gdzie błędy predykcji naturalnie skaluje się z wielkością wyniku. Często rozsądnym pierwszym krokiem jest logarytmiczna transformacja zmiennej objaśnianej; inną opcją są ważone najmniejsze kwadraty.

Klastry lub grupy

Wyraźne grupy na wykresie reszt zwykle oznaczają, że w danych są subpopulacje, których model nie uwzględnia. Prawdopodobnie istnieje kategoryczna zmienna (region, grupa leczenia, typ produktu), która powinna znaleźć się w modelu. Jeśli widzisz dwa lub trzy zwarte pasma punktów, zacznij od tego.

Duże, odizolowane reszty

Pojedynczy punkt daleko od reszty zasługuje na analizę. Może to być prawdziwy outsider, błąd wprowadzania danych lub obserwacja o nietypowych cechach. Nie usuwaj go automatycznie. Najpierw zrozum. Decyzja o pozostawieniu lub usunięciu zależy od kontekstu, nie od wygody.

Dla każdego z tych wzorców wykres reszt wskazuje objaw, a nie diagnozę. Mówi, że coś jest nie tak; nadal musisz ustalić dlaczego.

Jakie założenia regresji można sprawdzić wykresami reszt?

Mając na uwadze wzorce, warto jasno określić, które założenia regresji wykres reszt może, a których nie może ocenić.

• Liniowość: Jeśli zależność między predyktorami a wynikiem jest rzeczywiście liniowa, reszty nie powinny wykazywać trendu względem wartości dopasowanych. Krzywa lub łuk to bezpośredni wizualny sygnał, że liniowość nie obowiązuje.
• Stała wariancja: Wzorzec leja to dokładnie to, jak wygląda heteroscedastyczność. Jeśli rozrzut rośnie wraz z wartościami dopasowanymi, równość wariancji jest naruszona. Wykres reszt względem dopasowanych to prawdopodobnie najczęstsze narzędzie do jej wychwytywania.
• Niezależność: Jeśli twoje obserwacje mają naturalny porządek (czas, przestrzeń, klastry osób), możesz wykreślić reszty względem tego porządku, aby sprawdzić wzorce. Trendy w resztach na wykresie uporządkowanym w czasie sugerują autokorelację. Zwykły wykres reszt względem dopasowanych nie zawsze to ujawni; czasem potrzebny jest dedykowany wykres reszt względem porządku.
• Wartości odstające i obserwacje wpływowe: Duże, odizolowane reszty oznaczają obserwacje, które model słabo przewiduje. W kwestii wpływu — obserwacji, które nieproporcjonalnie „ciągną” linię regresji — bardziej informacyjny jest wykres Reszty vs. dźwignia niż podstawowy wykres reszt.

Jednej rzeczy wykresy reszt nie potrafią wiarygodnie ocenić: normalności. Płaski wykres reszt względem dopasowanych nie potwierdza, że błędy mają rozkład normalny. Do tego potrzebny jest wykres Q-Q. To częste źródło nieporozumień i warto je rozróżniać.

Jak utworzyć wykres reszt w Pythonie

Standardowy przebieg pracy wykorzystuje scikit-learn do dopasowania modelu i obliczenia reszt, a następnie matplotlib do ich wizualizacji. Oto kompletny przykład z prostą regresją liniową na danych o nieruchomościach:

import numpy as np
import matplotlib.pyplot as plt
from sklearn.linear_model import LinearRegression

# Sample data: square footage predicting home price
sqft = np.array([800, 1000, 1200, 1500, 1800, 2000, 2200, 2500, 3000, 3500])
price = np.array([150, 180, 210, 260, 300, 330, 370, 420, 500, 560])

# Reshape for sklearn and fit the model
X = sqft.reshape(-1, 1)
model = LinearRegression()
model.fit(X, price)

# Generate predictions and calculate residuals
predicted = model.predict(X)
residuals = price - predicted

# Plot residuals against fitted values
plt.figure(figsize=(8, 5))
plt.scatter(predicted, residuals, color='steelblue', edgecolors='white', s=80)
plt.axhline(y=0, color='red', linestyle='--', linewidth=1.2)
plt.xlabel('Fitted Values')
plt.ylabel('Residuals')
plt.title('Residual Plot')
plt.tight_layout()
plt.show()

Kluczowa linia to residuals = price - predicted. Wywołanie axhline() dodaje linię odniesienia na poziomie zera; bez niej wykres jest znacznie trudniejszy do odczytania. Jeśli wynik wygląda mniej więcej bezwzorcowo, jesteś w rozsądnej sytuacji. Zauważ, że reszty rosną przy wyższych wartościach dopasowanych. Przy zaledwie 10 punktach trudno mieć pewność, ale to wskazówka w stronę omawianego wcześniej kształtu wachlarza.

Aby głębiej poznać regresję w Pythonie, nasz kurs Introduction to Regression with statsmodels in Python szczegółowo omawia dopasowanie modelu, weryfikację założeń i interpretację.

Jak utworzyć wykres reszt w R

R robi to nieco łatwiej „z pudełka”. Gdy dopasujesz model za pomocą lm(), wbudowana funkcja plot() automatycznie generuje pełny panel diagnostyczny, w tym wykres reszt względem dopasowanych.

# Same housing data in R
sqft <- c(800, 1000, 1200, 1500, 1800, 2000, 2200, 2500, 3000, 3500)
price <- c(150, 180, 210, 260, 300, 330, 370, 420, 500, 560)

# Fit the model and view diagnostics
housing_model <- lm(price ~ sqft)
plot(housing_model, which = 1) # which = 1 gives residuals vs. fitted

Argument which = 1 wyciąga tylko wykres reszt względem dopasowanych. Jeśli go pominiesz, otrzymasz cztery standardowe wykresy diagnostyczne: reszty vs. dopasowane, Q-Q, skala–lokacja oraz reszty vs. dźwignia. Przydatne, gdy chcesz szybko pełnego obrazu. R również oznacza trzy najbardziej ekstremalne punkty indeksem, co oszczędza ręcznego szukania wartości odstających.

Pełne wprowadzenie do regresji w R znajdziesz w naszym kursie Introduction to Regression in R, który od podstaw omawia budowę modeli i diagnostykę.

Wykresy reszt a inne wykresy diagnostyczne regresji

Wykres reszt względem dopasowanych to punkt wyjścia, nie pełny obraz. Kilka powiązanych wykresów odpowiada na różne pytania.

Wykres reszt vs. wykres Q-Q

Wykres reszt względem dopasowanych sprawdza liniowość i stałą wariancję. Wykres Q-Q sprawdza normalność, czyli czy reszty podążają za rozkładem normalnym. To oddzielne kwestie. Czysty wykres reszt nie gwarantuje normalności, a wykres Q-Q nie powie nic o wariancji. Zwykle potrzebujesz obu.

Dwa różne wykresy, dwa różne pytania o twój model. Obraz autora.

Wykres reszt vs. wykres skala–lokacja

Wykres skala–lokacja (zwany też rozrzut–lokacja) przedstawia pierwiastek kwadratowy z bezwzględnych standaryzowanych reszt względem wartości dopasowanych. Został zaprojektowany do wykrywania heteroscedastyczności i często ułatwia dostrzeżenie wzorca leja niż surowy wykres reszt, ponieważ usuwa znak reszt i skupia się wyłącznie na rozrzucie.

Wykres reszt vs. wykres reszty względem dźwigni

Dźwignia mierzy, jak nietypowe są wartości predyktorów dla obserwacji, a nie jak źle model ją przewiduje. Wysoka dźwignia połączona z dużą resztą to potencjalnie obserwacja wpływowa. Wykres reszty względem dźwigni identyfikuje te kombinacje i zwykle wyróżnia najbardziej problematyczne punkty z nazwy. Jeśli martwią cię obserwacje wpływowe zniekształcające model, sprawdź ten wykres.

Co robić, gdy wykres reszt pokazuje problem

Wykres reszt to diagnoza, a nie wyrok. Zobaczenie wzorca nie znaczy, że model jest bezużyteczny. Oto jak typowe wzorce przekładają się na kolejne kroki:

• Wzorzec zakrzywiony: rozważ dodanie składnika wielomianowego lub transformację predyktora. Logarytm x lub składnik x² często prostują zależność.
• Kształt leja: spróbuj logarytmicznej lub pierwiastkowej transformacji zmiennej objaśnianej. Jeśli to nie zadziała, ważone najmniejsze kwadraty nadają mniejszą wagę bardziej „hałaśliwym” obserwacjom.
• Duże, odizolowane reszty: zbadaj obserwację. Najpierw sprawdź błędy wprowadzania danych. Jeśli punkt jest prawidłowy, rozważ, czy model nie powinien uwzględnić tego, co czyni go nietypowym.
• Klastry lub grupy: poszukaj nieujętej zmiennej kategorycznej. Czasem właściwym rozwiązaniem są oddzielne modele dla podgrup.

Wykres reszt pokazuje objawy. Nie podaje dokładnej przyczyny, a jeden wzorzec może mieć czasem wiele wyjaśnień. Traktuj go jako impuls do zadawania lepszych pytań.

Częste błędy przy odczycie wykresów reszt

• Oczekiwanie idealnie losowego wykresu: Rzeczywiste dane są niechlujne. Kilka niepasujących punktów, drobna asymetria, pewne grupowanie na krańcach: to normalne. Pytanie nie brzmi, czy wykres jest idealnie losowy; chodzi o to, czy istnieje systematyczny wzorzec, który lepszy model by wyeliminował.
• Traktowanie każdego odstającego jako złych danych: Duża reszta oznacza, że model słabo przewidział tę obserwację. Nie oznacza, że obserwacja jest błędna. Czasem wartości odstające są najciekawszymi punktami w zbiorze. Usuń je dopiero, gdy zrozumiesz, czym są.
• Zakładanie, że wykres reszt dowodzi normalności: Nie dowodzi. Czysty wykres reszt względem dopasowanych mówi o liniowości i stałej wariancji. Normalność wymaga wykresu Q-Q. Te dwie diagnostyki się uzupełniają, a nie zastępują.
• Patrzenie na wykres bez kontekstu: Wykres reszt z modelu szeregów czasowych trzeba czytać inaczej niż z danych przekrojowych. To, co uznasz za niepokojący wzorzec, zależy od struktury danych, liczebności próby i celu modelu. Wzorzec wart poprawy w modelu prognostycznym może być pomijalny w analizie eksploracyjnej.

Wnioski

Dopasuj model, sprawdź podsumowanie, ciesz się R^²: tu większość się zatrzymuje. Wykres reszt to to, na co patrzysz potem — i często opowiada inną historię. Losowy rozrzut wokół zera to to, czego chcesz. Krzywizny, leje, klastry i skrajne, odizolowane punkty sugerują coś, czego model nie uwzględnił.

Żaden pojedynczy wykres nie daje pełnego obrazu. Połącz wykres reszt względem dopasowanych z wykresem Q-Q dla normalności, wykresem skala–lokacja dla wariancji oraz wykresem dźwigni, jeśli obawiasz się obserwacji wpływowych. Każdy odpowiada na inne pytanie.

Jeśli chcesz pójść dalej, nasz kurs Intermediate Regression with statsmodels in Python dogłębnie omawia weryfikację założeń, w tym jak reagować, gdy diagnostyka sygnalizuje problem. Szerzej o założeniach regresji i ocenie modeli przeczytasz w naszym samouczku Assumptions of Linear Regression in Python.