Plot Q-Q: Artinya dan Cara Menafsirkannya

Model regresi linear banyak digunakan dalam statistik dan pembelajaran mesin untuk memprediksi nilai numerik berdasarkan fitur masukan, sekaligus memahami hubungan antarvariabel. Namun, hanya karena Anda bisa menarik sebuah garis melalui data Anda bukan berarti Anda harus melakukannya. Kita juga harus mendiagnosis kualitas kecocokan untuk menentukan apakah model sesuai untuk datanya atau perlu disesuaikan.

Ada beberapa cara untuk menguji model, termasuk mengevaluasi model menggunakan alur kerja train/test dan melihat statistik model seperti adjusted r-squared. Dalam artikel ini, saya akan berfokus pada cara membuat dan menafsirkan sebuah plot diagnostik khusus yang disebut plot Q-Q, dan saya akan menunjukkan beberapa metode untuk membuat plot Q-Q ini dalam bahasa pemrograman R. Untuk terus menguasai teknik regresi, ikuti Introduction to Regression in R atau Intermediate Regression in R atau, untuk Python, ikuti Introduction to Regression in Python atau Intermediate Regression in Python, sesuai tingkat kenyamanan Anda.

Apa itu Plot Q-Q?

Plot Q-Q (Quantile-Quantile) digunakan untuk melihat apakah suatu dataset mengikuti distribusi teoretis tertentu. Caranya adalah dengan membandingkan kuantil data yang diamati dengan kuantil dari distribusi lain tersebut. Saya mengatakan ‘distribusi teoretis’ agar tepat, tetapi sering kali saat kita membuat plot Q-Q, kita sebenarnya memikirkan distribusi normal, atau Gaussian secara khusus, dan menyebutnya sebagai plot Q-Q normal. Namun, plot Q-Q juga dapat digunakan untuk membandingkan data dengan distribusi lain, seperti eksponensial, uniform, chi-kuadrat, t-distribution, distribusi Poisson, atau lainnya, tergantung konteks.

Akan lebih mudah dipahami dengan contoh. Di sini, saya membuat 10 angka. Untuk membangun plot Q-Q normal, pertama saya mengurutkan angkanya. Lalu, saya menghitung probabilitas dengan persamaan: q = (i– 0.5)/n. Selanjutnya, saya dapat menggunakan percent-point function (PPF) dari distribusi normal baku (fungsi qnorm()) untuk mencari nilai yang sesuai bagi peringkat tersebut. (Anda mungkin lebih akrab dengan cumulative distribution function (CDF), yang memberi tahu kita probabilitas hingga nilai x tertentu. Nah, PPF adalah kebalikannya: Ia memberi kita nilai x untuk probabilitas yang diberikan.)

Terakhir, untuk membuat grafiknya, kita plot kuantil dari nilai yang diamati terhadap kuantil teoretis (itulah dua huruf Q pada plot Q-Q). Garisnya dibentuk dengan menghitung kemiringan (slope) dan intersep menggunakan kuartil pertama dan ketiga dari distribusi yang diamati dan yang teoretis.

library(dplyr)
library(ggplot2)

# Create a data frame
data <- data.frame(
  numbers = c(
    -2.28261064680868, -0.91977039576432, -2.08595211862542,
    1.29734993896137, -0.200143957176023, -0.693254525721567,
    -3.90536265272207, 4.16373814964331, 2.3499592867344,
    0.299856042823977
  )
)

# Prepare Q-Q plot data
qq_data <- data %>%
  arrange(numbers) %>%  # Step 1: Arrange the numbers in ascending order
  mutate(
    rank = seq(1, n()), # Step 2: Rank each number from 1 to n
    prob = (rank - 0.5) / n(), # Step 3: Calculate empirical cumulative probability
    theoretical_quantile = qnorm(prob) # Step 4: Calculate theoretical quantiles
  )

# Calculate slope and intercept for the Q-Q line
q1_obs <- quantile(qq_data$numbers, probs = 0.25)
q3_obs <- quantile(qq_data$numbers, probs = 0.75)
q1_theo <- qnorm(0.25)
q3_theo <- qnorm(0.75)
slope <- (q3_obs - q1_obs) / (q3_theo - q1_theo)
intercept <- q1_obs - slope * q1_theo

# Create the Q-Q plot
(qq_plot <- ggplot(data = qq_data, aes(x = theoretical_quantile, y = numbers)) +
  geom_point(fill = '#01ef63', color = '#203147', shape = 21, size = 2) +  # Points with a border
  labs(title = "Q-Q Plot") +
  geom_abline(slope = slope, intercept = intercept, color = '#203147', linetype = "dashed"))

Plot Q-Q ilustratif. Gambar oleh Penulis

Mengapa Menggunakan Plot Q-Q?

Plot Q-Q adalah cara visual yang baik untuk memeriksa asumsi distribusi. Ada cara lain untuk menguji apakah data mengikuti distribusi normal, seperti uji Shapiro-Wilk, misalnya, tetapi menurut saya tidak ada yang sevisual dan membuat ceritanya begitu jelas seperti plot Q-Q.

Mengetahui distribusi sesuatu penting dalam beberapa hal. Misalnya, kita mungkin ingin mengetahui ukuran pemusatan dan penyebaran yang terbaik. Selain itu, saat membuat regresi linear, kita ingin mengetahui apakah variabel dependen kita, khususnya, mengikuti distribusi normal, dan kita juga ingin melihat apakah residual dari model kita berdistribusi normal sehingga kita memiliki keyakinan yang lebih baik pada estimasi kita. Jadi secara garis besar, saya rasa plot Q-Q berguna untuk dua alasan umum: membandingkan data kita dengan distribusi contoh dan menguji kenormalan.

Cara Membuat Plot Q-Q di R

Sekarang mari lihat cara membuat plot Q-Q di R. Pada bagian ini, saya akan membahas tiga metode berbeda: base R, paket car, dan metode tidyverse. Anda akan melihat bahwa saya lebih menyukai metode tidyverse karena memberi fleksibilitas lebih untuk mempercantik grafik dan memiliki ekstensibilitas yang lebih baik dengan paket lain.

Untuk setiap metode, saya akan membuat plot Q-Q pada residual dari regresi linear sederhana, yang merupakan salah satu penggunaan paling umum—jika bukan yang paling umum—dari plot Q-Q. Namun, Anda juga dapat membuat plot Q-Q untuk memeriksa distribusi variabel sebelum membuat regresi linear. Yang Anda butuhkan hanyalah distribusi satu variabel dan distribusi teoretis untuk dibandingkan.

Jika Anda ingin mengikuti, Anda bisa mengunduh dataset Kaggle yang saya gunakan: Car Prices Jordan 2023.

Membuat plot Q-Q di base R

Pertama mari membuat plot Q-Q di base R, artinya kita tidak akan memasang paket tambahan apa pun dan hanya menggunakan fungsi bawaan.

# Importing data (in this example, saved on the desktop)
car_prices_jordan <- read.csv('~/Desktop/car_prices_jordan.csv')

# Create a linear model
car_linear_model <- lm(Price ~ sqrt(Price), data = filtered_car_prices)

# Extract the residuals
residuals <- resid(car_linear_model)

# Q-Q plot of residuals
qqnorm(residuals, main = "Q-Q Plot of Residuals from Linear Regression")
qqline(residuals, col = "red")

Plot Q-Q dibuat di base R. Gambar oleh Penulis

Membuat plot Q-Q menggunakan paket car

Sekarang, mari coba membuat plot Q-Q menggunakan paket car. Menurut saya, kualitas visualisasinya tidak terlalu berbeda, tetapi plot Q-Q ini memiliki keunggulan berupa amplop kepercayaan, yang mendefinisikan area tempat titik data diharapkan berada jika asumsi kenormalan model benar. 

# Install and load the 'car' package
# install.packages("car") # Uncomment this line if the 'car' package is not installed
library(car)

# Q-Q plot of residuals using the 'car' package
car::qqPlot(car_linear_model, main = "Q-Q Plot of Residuals from Linear Regression")

Plot Q-Q dibuat menggunakan paket car di R. Gambar oleh Penulis

Membuat plot Q-Q menggunakan ggplot2

Sekarang mari lihat cara membuat plot Q-Q menggunakan metode tidyverse untuk fleksibilitas lebih dan tampilan yang lebih baik. Kali ini, saya akan menempatkan plot Q-Q sebagai panel di samping scatterplot asli saya.

# Load necessary libraries
library(tidyverse)
library(metBrewer)

# Clean and convert Power and Price columns to numeric
car_prices_jordan$Power <- as.numeric(gsub("[^0-9]", "", car_prices_jordan$Power))
car_prices_jordan$Price <- as.numeric(gsub("[^0-9]", "", car_prices_jordan$Price))

# Calculate slope and intercept for linear regression line
slope <- (cor(car_prices_jordan$Power, car_prices_jordan$Price) * 
           (sd(car_prices_jordan$Price)) / 
           sd(car_prices_jordan$Power))
intercept <- (mean(car_prices_jordan$Price) - slope * mean(car_prices_jordan$Power))

# Create scatter plot with regression line
car_prices_graph <- ggplot(car_prices_jordan, aes(x = Power, y = Price)) +
  geom_point() +
  ggtitle("Car Prices in Jordan") +
  geom_abline(slope = slope, intercept = intercept, color = '#376795', size = 1)

# Fit a linear model
car_linear_model <- lm(Price ~ Power, data = car_prices_jordan)

# Generate Q-Q plot for residuals
qq_plot <- ggplot(data = data.frame(resid = residuals(car_linear_model)), aes(sample = resid)) +
  stat_qq() +
  stat_qq_line(linetype = 'dashed', color = '#ef8a47', size = 1) +
  labs(
    title = "Car Prices in Jordan",
    subtitle = "Residual QQ Plot"
  )

# Combine scatter plot and Q-Q plot using patchwork
library(patchwork)
car_prices_graph + qq_plot

Regresi linear dan plot Q-Q residual yang dibuat di ggplot2. Gambar oleh Penulis

Apa yang Dapat Diceritakan Plot Q-Q kepada Kita

Dengan plot Q-Q, kuantil data yang diamati diplot terhadap kuantil teoretis. Jika data mengikuti distribusi teoretis dengan baik, titik-titik pada plot Q-Q akan bergerak pada garis diagonal. Penyimpangan dari garis ini menunjukkan penyimpangan dari distribusi yang diharapkan. Titik yang berada di atas atau di bawah garis menunjukkan skewness atau outlier, dan pola seperti kurva atau deviasi berbentuk S mengindikasikan perbedaan sistematis, seperti ekor yang lebih berat atau lebih ringan.

Ada sekitar tiga hal yang kita cari.

• Garis Lurus: Data selaras dengan baik dengan distribusi teoretis.
• Pola Melengkung: Menunjukkan data yang miring (skewed) atau distribusi non-normal.
• Ekor Berat atau Ringan: Jika titik-titik menyimpang di ujung-ujungnya, data mungkin memiliki ekor yang lebih berat atau lebih ringan dari yang diharapkan.

Mari tunjukkan dengan contoh untuk masing-masing:

Tiga plot Q-Q: satu dengan garis lurus; satu dengan kurva; satu dengan ekor berat. Gambar oleh Penulis

Pada kasus pertama, garis Q-Q cocok dengan titik data, sehingga distribusinya memang normal. Pada kasus kedua, kita melihat pola melengkung, sehingga datanya tidak normal atau miring. Pada kasus terakhir, kita melihat semacam bentuk ‘s’, sehingga distribusinya memiliki ekor berat atau nilai yang lebih ekstrem.

Plot Q-Q dalam Regresi Linear

Ada beberapa asumsi model linear, termasuk linearitas (bahwa hubungan antarvariabel bersifat linear), kemandirian galat (bahwa galat tidak berkorelasi satu sama lain), homoskedastisitas (bahwa residual memiliki varians konstan), dan kenormalan residual (bahwa residual mengikuti distribusi normal). Plot Q-Q khususnya membantu asumsi keempat, yaitu kenormalan residual.

Begini bagaimana pola yang berbeda memengaruhi interpretasi dan keandalan model kita:

Keselarasan Garis Lurus

• Artinya: Residual kira-kira normal, menunjukkan model sesuai dengan baik terhadap data dalam hal asumsi kenormalan.
• Implikasi dalam Praktik: Interval kepercayaan, p-value, dan uji hipotesis yang diturunkan dari model cenderung andal, karena mengasumsikan residual berdistribusi normal.

Pola Melengkung

• Artinya: Plot Q-Q yang melengkung sering menandakan ketidaknormalan, seperti skewness pada residual. Lengkungan bisa ke atas atau ke bawah. (Pola melengkung inilah yang kita lihat pada contoh di atas.)
• Implikasi dalam Praktik: Residual non-normal dapat menyebabkan p-value atau interval kepercayaan yang bias, terutama pada dataset kecil. Kita perlu mempertimbangkan transformasi variabel dependen atau meninjau ulang struktur model.

Ekor Berat atau Ringan

• Artinya: Jika ada ekor berat, residual memiliki nilai yang lebih ekstrem dari yang diharapkan di bawah kenormalan, mungkin karena outlier, atau bisa juga karena spesifikasi model yang tidak tepat. Jika ada ekor ringan, artinya residual ekstrem justru lebih sedikit dari yang diharapkan, yang mungkin mengindikasikan pemangkasan data.
• Implikasi dalam Praktik: Dengan ekor berat, outlier dapat secara tidak proporsional memengaruhi garis regresi, sehingga menghasilkan hasil yang menyesatkan. Pertimbangkan untuk menghapus atau menurunkan bobot outlier. Saya pikir ekor ringan mungkin tidak terlalu berdampak pada model, tetapi bisa menjadi petunjuk bahwa data mungkin tidak lengkap.