Giải thích phân phối xác suất rời rạc kèm ví dụ

Hãy bắt đầu bằng một câu hỏi: Các tình huống sau có điểm chung gì? Đếm số lượt nhấp vào website, theo dõi sản phẩm lỗi, và phân tích lượt mua của khách hàng. Tất cả đều liên quan đến kết quả đếm được tạo nền tảng cho phân phối xác suất rời rạc.

Phân phối xác suất rời rạc là công cụ để mô hình hóa những tình huống có kết quả liệt kê được, như 0, 1, 2, 3 khách hàng; sấp hoặc ngửa; thành công hoặc thất bại; v.v. Khác với phân phối liên tục xử lý các đại lượng đo lường như chiều cao hoặc nhiệt độ, phân phối rời rạc tập trung vào các sự kiện đếm được.

Để bạn có thêm động lực, dưới đây là vài ví dụ về cách các phân phối này được dùng trong nhiều ngành:

• Netflix dùng phân phối phân loại cho hệ thống gợi ý
• Ngân hàng dựa vào mô hình nhị thức để đánh giá rủi ro tín dụng
• Nhà sản xuất áp dụng phân phối siêu bội trong lấy mẫu kiểm soát chất lượng.

Trong bài viết này, tôi sẽ trình bày nền tảng lý thuyết, ứng dụng thực tiễn và các ví dụ thực hành để bạn nắm vững phân phối xác suất rời rạc. Kết thúc bài, bạn sẽ có hiểu biết khái niệm vững vàng và kỹ năng thực hành để mô hình hóa hiện tượng thực tế hiệu quả.

Phân phối xác suất rời rạc là gì?

Tôi đã lướt qua khái niệm này, giờ hãy đi sâu hơn. Cốt lõi, một phân phối xác suất rời rạc là cách gán xác suất cho một tập kết quả đếm được. Kết quả có thể đơn giản như 0, 1, 2, 3… hoặc là các danh mục như “Đỏ, Xanh dương, Xanh lá”.

Nói một cách chính quy, nếu ta có biến ngẫu nhiên rời rạc X, thì phân phối được xác định bởi hàm khối xác suất (PMF). PMF cho biết xác suất của mỗi kết quả có thể xảy ra p(x)=P(X=x).

Tuy nhiên, có hai quy tắc then chốt bắt buộc phải tuân theo để một phân phối hợp lệ là phân phối xác suất rời rạc:

1. p(x) >= 0 với mọi x
2. ∑p(x)=1 khi cộng trên mọi x

Hãy xem điều này nghĩa là gì. Điều kiện đầu tiên nói rằng mọi xác suất phải lớn hơn hoặc bằng 0, vì xác suất âm là vô nghĩa! Điều kiện thứ hai nói rằng tổng xác suất của tất cả sự kiện phải bằng 1. Có những cách để đảm bảo điều kiện này, chẳng hạn áp dụng hàm softmax lên một phân phối để biến nó thành phân phối xác suất hợp lệ.

Ví dụ kinh điển là tung một con xúc xắc cân bằng sáu mặt. Mỗi mặt có xác suất 1/6, và nếu cộng tất cả xác suất của sáu mặt, ta được 1.

Giờ có thể bạn sẽ hỏi:

Tại sao điều này quan trọng? 

Vì phân phối rời rạc cho chúng ta khuôn khổ có cấu trúc để trả lời các câu hỏi thực tiễn như:

• “Xác suất được 3 mặt ngửa trong 5 lần tung là bao nhiêu?”
• “Chúng ta kỳ vọng có bao nhiêu sản phẩm lỗi trong một lô?”
• “Khả năng có ít nhất một khách hàng mua hôm nay là bao nhiêu?”

Lưu ý đây không phải những bài toán toán học trừu tượng tôi tự nghĩ ra! Chúng liên hệ trực tiếp đến chỉ số kinh doanh, mô hình rủi ro và hiệu năng sản phẩm.

Phân phối xác suất rời rạc vs. liên tục

Lúc này, có thể bạn lại hỏi:

Phân phối rời rạc khác gì phân phối liên tục?

Câu trả lời ngắn: phân phối rời rạc xử lý số đếm, phân phối liên tục xử lý đại lượng đo lường.

• Với phân phối rời rạc, ta nói về xác suất chính xác: P(X=2), nghĩa là “khả năng có đúng hai khách hàng là bao nhiêu?”
• Với phân phối liên tục, xác suất tại một điểm chính xác bằng 0 (điểm này rất quan trọng!). Thay vào đó, ta nói về khoảng như P(160≤X≤170), nghĩa là “khả năng chiều cao một người nằm giữa 160cm và 170cm là bao nhiêu?”

Một cách hình dung khác:

• Phân phối rời rạc giống các hàm bậc thang. Có thể nghĩ đến biểu đồ cột, mỗi cột là xác suất cho một số đếm.
• Phân phối liên tục giống các đường cong mượt. Hãy nghĩ đến đường cong chuông của phân phối chuẩn.

Một câu hỏi hay tiếp theo là:

Khi nào dùng loại nào?

• Rời rạc: khi kết quả là số đếm hoặc danh mục, như số lượt nhấp, số trận thắng, có lỗi/không lỗi, v.v.
• Liên tục: khi kết quả đo trên một thang đo như chiều cao, cân nặng, nhiệt độ, thời gian, v.v.

Nền tảng toán học và khung lý thuyết

Trước khi giới thiệu chính thức các Phân phối xác suất rời rạc, tôi cần điểm qua vài phần toán quan trọng để hiểu đầy đủ từng phân phối.

Hàm khối xác suất (PMF)

PMF cho biết xác suất của mỗi giá trị chính xác mà biến ngẫu nhiên rời rạc X có thể nhận. 

Các điều kiện đã nêu trước đó là những gì tạo nên một PMF hợp lệ:

1. p(x) >= 0 với mọi x
2. ∑p(x)=1 khi cộng trên mọi x

Tóm lại, PMF rất hữu ích để tính Kỳ vọng, Phương sai và Các moment. Hãy làm nhanh một ví dụ:

Cho X∈{0,1,2,3}, với p(0)=0.1, p(1)=0.2, p(2)=0.3, p(3)=0.4. Bắt đầu bằng cách tìm giá trị kỳ vọng. Ta tính được:

E[X]=0*(0.1)+1*(0.2)+2*(0.3)+3*(0.4)=2.0Điều này hợp lý vì ta lấy giá trị của mọi kết quả có thể và nhân với xác suất tương ứng, cho ra Giá trị kỳ vọng. Tiếp tục, ta tính moment bậc hai E[X2]:

E[X^2]=0+1(0.2)+4(0.3)+9(0.4)=5.0

Từ đây, ta tính được Phương sai bằng công thức: Var(X) = E[X2] - (E[X])2

Vì vậy:

Var(X)=5.0−2.0^2=1.0

Hàm phân phối tích lũy (CDF)

Tiếp theo là CDF, hàm cộng dồn xác suất đến một ngưỡng nào đó. Với phân phối rời rạc, CDF sẽ là hàm bậc thang do tính rời rạc. Để rõ ràng, CDF của phân phối liên tục sẽ là hàm trơn liên tục (tương tự Hàm Sigmoid). 

Về mặt toán học, viết là: FX​(x)=P(X≤x)=∑{k<=x}​pX​(k). Để thật rõ, hãy làm ví dụ: 

Giả sử X có thể nhận các giá trị 0,1,2,3 với xác suất tương ứng:

• P(X=0)=0.1
• P(X=1)=0.2
• P(X=2)=0.3
• P(X=3)=0.4

Để tính CDF, ta chọn một ngưỡng và cộng các xác suất tương ứng có kết quả không vượt quá ngưỡng đó. Ví dụ, F(x < 3) =0.1 + 0.2 +0.3 = 0.6 (tương đương F(2) = 0.6). Hiển nhiên, với phân phối liên tục, CDF sẽ là tích phân thay vì tổng.

Các moment

Một phần toán nữa sẽ quan trọng là MGF, nhưng trước đó cần hiểu moment là gì. Tôi đã nhắc đến moment trước đó, giờ hãy đi sâu hơn.

Các moment là những con số mô tả hình dạng của một phân phối xác suất. Chúng giống các tóm tắt nêu lên phân phối tập trung ở đâu, độ phân tán ra sao, thậm chí độ lệch hay “độ nhọn” như thế nào. Các moment là bậc nhất, bậc hai, bậc ba, v.v., và mỗi bậc cho ta thông tin khác nhau. 

Ví dụ, moment thứ nhất cho biết điểm trung tâm của phân phối. Điều này cũng chính là Giá trị kỳ vọng, cũng là Trung bình.

Chính quy, moment bậc k quanh gốc được định nghĩa là E[Xk]=∑xk pX(x).

Tôi cung cấp thêm thông tin về một vài moment:

• Moment 1: E[X] → trung bình, cho biết vị trí trung tâm
• Moment 2: E[X^2] → chưa phải phương sai, nhưng liên quan đến độ phân tán
• Moment 3: E[X3] → liên hệ với độ lệch (phân phối nghiêng trái hay phải)
• Moment 4: E[X4] → liên hệ với độ nhọn (độ nặng đuôi hoặc độ nhọn của phân phối)

Còn có moment bậc năm, sáu, v.v., nhưng thường ít được quan tâm vì không cung cấp nhiều thông tin hữu ích hơn. 

Các moment trung tâm

Xin lưu ý đôi khi chúng ta đo moment quanh trung bình thay vì quanh 0.

Đó gọi là moment trung tâm, được cho bởi công thức:

μk=E[(X−E[X])k]

• Moment trung tâm 1: luôn bằng 0 (vì X−E[X] trung bình hóa về 0)
• Moment trung tâm 2: là phương sai = Var(X)
• Moment trung tâm 3: đo độ lệch
• Moment trung tâm 4: đo độ nhọn

Hàm sinh moment (MGF)

MGF là một hàm mã hóa mọi moment của một biến ngẫu nhiên trong một công thức gọn:

MX​(t)=E[etX]=∑​etxpX​(x), trong đó p(x) là PMF của X. 

Hàm này hữu ích vì nó giúp ta tìm moment dễ dàng. Ví dụ, trung bình là đạo hàm bậc nhất tại t = 0:  M′ₓ(0) = E[X].

Tương tự, moment bậc hai lấy từ đạo hàm bậc hai tại t = 0: M″ₓ(0) = E[X²].

Từ đó, ta tính được phương sai như sau: Var(X) = M″ₓ(0) − (M′ₓ(0))².

MGF còn mạnh ở chỗ tổng trở nên dễ phân tích. Nếu X và Y độc lập, thì MGF của tổng bằng tích các MGF của chúng: M₍ₓ₊ᵧ₎(t) = Mₓ(t) · Mᵧ(t).

Cuối cùng, MGF có thể dùng để đặc trưng hóa. Nghĩa là nếu hai biến ngẫu nhiên có cùng MGF (trong lân cận quanh 0), thì chúng phải cùng phân phối.

Các loại phân phối xác suất rời rạc chủ đạo

Giờ hãy nói về các phân phối xác suất rời rạc thường gặp.

Phân phối Bernoulli

Đây là mô hình đơn giản nhất, với một phép thử chỉ có hai kết quả - thành công (ký hiệu 1) hoặc thất bại (ký hiệu 0). Dùng khi ghi nhận một sự kiện nhị phân đơn lẻ, như email được mở hay không, cảm biến có kích hoạt không, bài kiểm tra đạt không, phân loại spam, v.v.

Quan trọng là nó là khối xây dựng cho nhiều phân phối khác.

PMF:

P(X = x) = pˣ (1 − p)(1−x) ,với x ∈ {0, 1}

Trung bình và Phương sai:E[X] = p, Var(X) = p(1 − p).

Ví dụ: Giả sử ta chơi trò chơi với kết quả thắng hoặc thua. Nếu tỷ lệ thắng p = 0.6, thì:P(X = 1) = 0.6, P(X = 0) = 0.4.Trung bình = 0.6, phương sai = 0.6 × 0.4 = 0.24

Mã tương ứng để giải bài toán này:

from scipy.stats import bernoulli
p = 0.6
rv = bernoulli(p) #inbuilt bernoulli distribution method
P1 = rv.pmf(1) # P(X=1)
P0 = rv.pmf(0)Được hỗ trợ bởi

Phân phối Nhị thức

Phân phối này dùng khi ta muốn mô hình hóa các phép thử độc lập lặp lại kiểu có/không với cùng xác suất thành công p. Ta thực hiện phép thử n lần và đếm số lần thành công. Ví dụ: “trong n người dùng, có bao nhiêu người chuyển đổi?”, “trong n linh kiện, có bao nhiêu đạt?” 

Điểm chính cần nhớ là các giả định lớn:

1. Mỗi phép thử có cùng xác suất thành công (p)
2. Số phép thử cố định (n) 
3. Các phép thử độc lập với nhau 

PMF:P(X = x) = C(n, x) · pˣ · (1 − p)ⁿ⁻ˣ, x ∈ {0, 1, …, n}, trong đó C là tổ hợp

Trung bình và Phương sai:E[X] = n·p, Var(X) = n·p·(1 − p)

Ví dụ: Cho n = 10, p = 0.3.P(X = 4) = C(10, 4) · 0.3⁴ · 0.7⁶ ≈ 0.2001.E[X] = 3, Var(X) = 2.1

Mã tương ứng để giải bài toán này:

from scipy.stats import binom
n, p, x = 10, 0.3, 4
rv = binom(n, p) # inbuilt binomial distribution method
pmf = rv.pmf(x) # works out P(X=4)Được hỗ trợ bởi

Phân phối Hình học

Phân phối này mô hình hóa số phép thử cho đến lần thành công đầu tiên khi mỗi phép thử có xác suất thành công p. Dùng để trả lời câu hỏi như “cần bao nhiêu lần thử để thành công?” (nhấp đầu tiên, mua đầu tiên). Nó có tính chất không nhớ: thất bại trước đó không ảnh hưởng tương lai.

Tính chất không nhớ nghĩa là quá khứ không quan trọng, xác suất tương lai như thể bạn bắt đầu lại. Chỉ phân phối hình học và phân phối mũ có tính chất này.

PMF:P(X = k) = (1 − p)^(k−1) · p, k ∈ {1, 2, …}

Trung bình và Phương sai:E[X] = 1/p, Var(X) = (1 − p)/p²

Ví dụ: Cho p = 0.2.P(X = 3) = (0.8)² · 0.2 = 0.128.E[X] = 5, Var(X) = 20.

Mã tương ứng để giải bài toán này:

from scipy.stats import geom
p, k = 0.2, 3
rv = geom(p)  # Inbuilt Geometric distribution method
pmf = rv.pmf(k) # P(X=3)Được hỗ trợ bởi

Phân phối Poisson

Ở đây, mô hình đếm số sự kiện trong một khoảng cố định khi sự kiện xảy ra độc lập với tốc độ trung bình cố định λ. Dùng cho các kịch bản như số vé hỗ trợ mỗi giờ, số lỗi trên 1000 yêu cầu, hay số cuộc gọi mỗi phút — các sự kiện “hiếm nhưng đều đặn”. 

Một tính chất thú vị là trung bình bằng phương sai.

PMF:P(X = x) = e^(−λ) · λˣ / x!, x ∈ {0, 1, 2, …}

Trung bình và Phương sai:E[X] = λ, Var(X) = λ

Ví dụ: Cho λ = 3, là tốc độ trung bình số cuộc gọi một trung tâm nhận mỗi giờ. P(X = 0) = e^(−3) ≈ 0.0498P(X ≤ 2) = e^(−3) · (1 + 3 + 9/2) ≈ 0.4232

Mã tương ứng để giải bài toán này:

from scipy.stats import poisson
lam = 3 # average rate
rv = poisson(mu=lam)  # Inbuilt poisson distribution method
P0 = rv.pmf(0) # P(X=0)Được hỗ trợ bởi

Các loại phân phối nâng cao và mở rộng

Giờ hãy đề cập đến một số phân phối rời rạc nâng cao.

Phân phối Siêu bội

Phân phối này mô hình hóa việc lấy mẫu không hoàn lại từ một quần thể hữu hạn. Từ N phần tử với K “thành công” (vd: lỗi), ta rút n phần tử và đếm số thành công. Dùng cho kiểm soát chất lượng lô nhỏ, rút bài, hay bất kỳ quỹ hữu hạn nào mà xác suất thay đổi sau mỗi lần rút.

PMF:P(X = x) = [C(K, x) · C(N − K, n − x)] / C(N, n), với x chạy từ max(0, n − (N − K)) đến min(n, K).

Trung bình và Phương sai:E[X] = n·(K/N), Var(X) = n·(K/N)·(1 − K/N)·((N − n)/(N − 1))

Ví dụ:Cho N = 100, K = 8 lỗi, n = 10, thì xác suất có ít nhất một lỗi:P(X ≥ 1) = 1 − C(92, 10)/C(100, 10) ≈ 0.5834

Mã tương ứng để giải bài toán này:

from scipy.stats import hypergeom
N, K, n = 100, 8, 10
rv = hypergeom(M=N, n=K, N=n)  # Inbuilt hypergeometric distribution method
answer = 1 - rv.pmf(0)Được hỗ trợ bởi

Phân phối Phân loại

Đây là phiên bản đa lớp của một lần chọn: một phép thử, đúng một trong k lớp xảy ra. Ta dùng cho nhãn đa lớp (như {mèo, chó, chim}) hay bất kỳ sự kiện “chọn một trong k”. Nó là khối xây dựng cho mục tiêu phân loại đa lớp.

PMF:P(X = i) = pᵢ, i ∈ {1, …, k}, Σᵢ₌₁ᵏ pᵢ = 1

Trung bình và Phương sai (dưới dạng one-hot):Nếu mã hóa kết quả thành vector one-hot Y ∈ {e₁, …, eₖ}, thì E[Y] = p, và Cov(Y) = diag(p) − p·pᵀ.

Ví dụ:vGiả sử các lớp = {A, B, C} với p = (0.5, 0.3, 0.2).P(X = B) = 0.3.Nếu lưu dưới dạng one-hot, vector nhãn trung bình là [0.5, 0.3, 0.2].

Mã tương ứng để giải bài toán này:

import numpy as np
from scipy.stats import rv_discrete
classes = np.array(["A", "B", "C"])
p = np.array([0.5, 0.3, 0.2])
rv = rv_discrete(values=(np.arange(len(p)), p)) # Building a categorical random variable over indices {0,1,2}
P_B = rv.pmf(1) # Probability of class "B" (index 1)Được hỗ trợ bởi

Phân phối đều rời rạc

Phân phối này khá đơn giản; mọi số nguyên trong một khoảng đều có xác suất như nhau. Dùng cho bộ sinh số nguyên ngẫu nhiên, xáo trộn, và các đường cơ sở “không ưu tiên”.

PMF:P(X = x) = 1 / (b − a + 1), x ∈ {a, …, b}

Trung bình và Phương sai:E[X] = (a + b)/2Var(X) = ((b − a + 1)² − 1)/12

Ví dụ:vGiả sử phải chọn ngẫu nhiên đều một số nguyên từ 10 đến 15. Khi đó, mỗi số có xác suất 1/6Trung bình = (10 + 15)/2 = 12.5Phương sai = (6² − 1)/12 = 35/12 ≈ 2.9167

Mã tương ứng để giải bài toán này:

import numpy as np
from scipy.stats import randint
a, b = 10, 15  # inclusive bounds
rv = randint(low=a, high=b+1)  # note that SciPy randint is [low, high)
xs = np.arange(a, b+1) # PMFs for all outcomes
pmfs = rv.pmf(xs)Được hỗ trợ bởi

Phân phối Nhị thức âm

Phân phối này mô hình hóa số phép thử cần để đạt r lần thành công khi mỗi phép thử độc lập và có cùng xác suất thành công p. Thực chất, đây là tổng quát hóa tự nhiên của phân phối hình học (trường hợp đặc biệt r = 1). Dùng khi ta quan tâm thời điểm xảy ra lần thành công thứ r. Ví dụ: “Ở khách hàng thứ mấy ta ghi nhận lần mua thứ 3?”, “Cần bao nhiêu cuộc gọi để chốt 5 giao dịch?”

PMF:P(X = k) = C(k−1, r−1) · pʳ · (1 − p)^(k−r), k = r, r+1, r+2, …

Trung bình và Phương sai:E[X] = r/pVar(X) = r·(1 − p)/p²

Ví dụ: Giả sử mỗi phép thử có xác suất thành công p = 0.3, và ta muốn thành công thứ 3 (r = 3).

Xác suất lần thành công thứ 3 xảy ra ở phép thử k = 7:P(X = 7) = C(6, 2) · (0.3)³ · (0.7)⁴ = 15 × 0.027 × 0.2401 ≈ 0.09724.

Mã tương ứng để giải bài toán này:

from scipy.stats import nbinom
p, r, k = 0.3, 3, 7
rv_failures = nbinom(r, p)  # Inbuilt method for negative binomial distribution
P_X_eq_k = rv_failures.pmf(k - r)Được hỗ trợ bởi

Kết luận

Tóm lại, các phân phối xác suất rời rạc là xương sống để mô hình hóa các kết quả đếm được, giúp ta định lượng bất định trong mọi thứ từ kiểm soát chất lượng đến học máy. 

Chúng ta đã học được rất nhiều về phân phối xác suất rời rạc. Để tiến xa hơn, tôi rất khuyến nghị đọc hướng dẫn về Phân phối xác suất trong Python, cũng như bắt đầu chuyển sang các phân phối liên tục như Gaussian và Phân phối mũ.