Suy luận về hệ số góc · AP Statistics

Chương 9 · Suy luận về hệ số góc

xu hướng này có thật không?

Đường bình phương tối thiểu mô tả một mẫu. Suy luận hỏi đường đó cho ta biết điều gì về đường của toàn bộ tổng thể.

Một giáo viên chọn ngẫu nhiên 18 học sinh và ghi lại số giờ mỗi em học cho một bài kiểm tra cùng điểm số mỗi em đạt được. Nhìn chung, học càng nhiều giờ thì điểm càng cao. Nhưng xu hướng này có thật không, hay một mẫu nhỏ thế này có thể cho thấy nó chỉ do ngẫu nhiên?

Hình dựng một tổng thể mà đáp án đã biết. Đường đen là đường hồi quy tổng thể: điểm trung bình tại mỗi số giờ học. Tại mỗi giá trị x, điểm số phân bố chuẩn quanh đường này (các đường cong xanh). Điểm của mỗi học sinh được lấy từ đường cong tại số giờ học của em.

Đường đỏ được khớp với mẫu: hệ số góc b = 2.247, trong khi hệ số góc của tổng thể là β = 2.5. Trong thực tế, ta không bao giờ biết β, và chỉ có b.

Chương này nêu mô hình, cho thấy b thay đổi thế nào từ mẫu này sang mẫu khác, kiểm tra các điều kiện, xây dựng khoảng tin cậy cho β, kiểm định xem β = 0 hay không, đọc tất cả từ kết quả máy tính, và kết thúc bằng việc chọn đúng phương pháp trong tất cả các phương pháp của khóa học.

9.1 · Mô hình hồi quy tổng thể

y có phân phối chuẩn tại mỗi giá trị x

Suy luận về hệ số góc giả định một mô hình: tại mỗi giá trị của x, các đáp ứng y có phân phối chuẩn, tâm nằm trên một đường thẳng, với độ phân tán như nhau.

\begin{aligned}\mu_y &= \alpha + \beta x \\ y &= \alpha + \beta x + \varepsilon,\quad \varepsilon \sim N(0,\ \sigma)\end{aligned}

α, β và σ là các tham số: hệ số chặn và hệ số góc của đường hồi quy tổng thể, và độ lệch chuẩn của y quanh đường đó, giống nhau với mọi x. Một mẫu ước lượng từng tham số bằng một thống kê:

tham số	thống kê	trong hình
α (hệ số chặn)	a	50 → 49.783
β (hệ số góc)	b	2.5 → 2.247
σ (độ lệch chuẩn quanh đường)	s	9 → 9.834
μ_y (trung bình của y tại x)	ŷ	α + βx → a + bx

β là mức thay đổi của điểm trung bình cho mỗi giờ học thêm, trên toàn bộ học sinh của trường. Ở đây β = 2.5: tại 3 giờ điểm trung bình là 57.5, tại 5 giờ là 62.5.

s ước lượng σ từ các phần dư, chia cho n − 2 vì hai số (a và b) đã được ước lượng trước:

s = \sqrt{\frac{\sum (y_i - \hat y_i)^2}{n-2}} = 9.834

Câu hỏi đằng sau mọi kiểm định trong chương này: các điểm có thật sự thẳng hàng không, hay một hệ số góc như b vẫn có thể xuất hiện do ngẫu nhiên dù β bằng 0?

9.1 · Hệ số góc mẫu thay đổi

phân phối mẫu của b

Một mẫu khác của cùng tổng thể cho một đường khác và một hệ số góc khác. Các hệ số góc từ mọi mẫu có thể có tạo thành phân phối mẫu của b.

Trong hình, giữ nguyên 18 giá trị số giờ học và lấy điểm mới, 100 lần. Mỗi đường khớp (đỏ, rồi xám) nghiêng hơi khác quanh đường thật, và mỗi hệ số góc rơi vào biểu đồ chấm.

Khi mô hình đúng, phân phối mẫu của b là phân phối chuẩn, tâm tại β (b là một ước lượng không chệch), với độ lệch chuẩn

\sigma_b = \frac{\sigma}{\sigma_x\sqrt n} = \frac{9}{2.625\sqrt{18}} = 0.808

trong đó σ_x là độ lệch chuẩn của các giá trị x (chia cho n). 100 hệ số góc có trung bình 2.47 và độ lệch chuẩn 0.83, gần với 2.5 và 0.81.

Điều làm b ít biến động hơn: ít phân tán quanh đường hơn (σ nhỏ hơn), x phân tán rộng hơn (σ_x lớn hơn), và cỡ mẫu lớn hơn. Trải các giá trị x ra xa nhau xác định đường tốt hơn so với dồn chúng lại.

σ chưa biết nên được thay bằng s, và σ_x√n bằng s_x√(n − 1). Ta được sai số chuẩn của hệ số góc, và chuẩn hóa với nó cho phân phối t với n − 2 bậc tự do:

SE_b = \frac{s}{s_x\sqrt{n-1}} = \frac{9.834}{2.702\sqrt{17}} = 0.883

t = \frac{b-\beta}{SE_b},\qquad df = n-2

9.2 · Điều kiện để suy luận

LINER: tuyến tính, độc lập, chuẩn, độ lệch chuẩn bằng nhau, ngẫu nhiên

Khoảng tin cậy và kiểm định chỉ đáng tin khi mô hình phù hợp. Hãy kiểm tra năm điều kiện, mỗi điều kiện dựa trên dữ liệu, trước khi tính toán.

điều kiện	cách kiểm tra
L – Tuyến tính (Linear)	biểu đồ phân tán gần như thẳng; biểu đồ phần dư không có dạng đường cong
I – Độc lập (Independent)	lấy mẫu không hoàn lại: n ≤ 10% tổng thể
N – Chuẩn (Normal)	biểu đồ tần suất hoặc biểu đồ chấm của phần dư: không lệch mạnh, không có giá trị ngoại lai
E – Độ lệch chuẩn bằng nhau (Equal SD)	biểu đồ phần dư: không có dạng hình quạt, độ phân tán như nhau ở mọi x
R – Ngẫu nhiên (Random)	mẫu ngẫu nhiên hoặc thí nghiệm ngẫu nhiên hóa

Với 18 học sinh: biểu đồ phần dư (ở giữa) là một dải không có quy luật quanh 0, không cong và không hình quạt, nên điều kiện tuyến tính và điều kiện độ lệch chuẩn bằng nhau được thỏa mãn. Biểu đồ tần suất của phần dư (bên phải) có một đỉnh và không lệch mạnh; phần dư lớn nhất là 21.2, khoảng 2.2 s, không phải giá trị ngoại lai cực đoan. Các học sinh là một mẫu ngẫu nhiên, và 18 ≤ 10% của 950 học sinh trong trường.

Lỗi thường gặp. Hãy kiểm tra tính chuẩn trên phần dư, không phải trên x hay y. Ở đây không có quy tắc “n ≥ 30” nào bỏ qua được biểu đồ phần dư bị lệch. Biểu đồ phần dư cong nghĩa là hệ số góc không phải thước đo phù hợp: không khoảng tin cậy nào sửa được điều đó.

9.2 · Đọc kết quả hồi quy

Coef, SE Coef, T, P, S và R-Sq

Phần mềm in kết quả hồi quy thành một bảng chuẩn. Mọi số liệu chương này cần đều có trong đó.

Biến dự báo	Hệ số	SE hệ số	T	P
Hằng số	49.783	4.749	10.48	0.000
Số giờ	2.247	0.883	2.55	0.022
S = 9.834 R-Sq = 28.8% R-Sq(adj) = 24.4%

Coef. Hàng Constant cho hệ số chặn a; hàng mang tên biến giải thích cho hệ số góc b:

\widehat{\text{score}} = 49.783 + 2.247\,(\text{hours})

SE Coef của Hours là SE_b = 0.883. T = Coef/SE Coef = 2.55: thống kê kiểm định cho H₀: β = 0. P = 0.022 là giá trị P hai phía của nó.

S = s = 9.834: điểm thực tế thường lệch khỏi điểm dự đoán khoảng 9.8 điểm. R-Sq = r²: 28.8% sự biến thiên của điểm số được giải thích bởi mô hình tuyến tính theo số giờ. Khi đó r = +√0.288 = 0.537, dương giống hệ số góc.

Diễn giải hệ số góc: mỗi giờ học thêm, điểm dự đoán tăng khoảng 2.247 điểm.

Lỗi thường gặp. T và P ở hàng Constant kiểm định α = 0, hiếm khi là câu hỏi đáng quan tâm. S không phải là SE_b. R-Sq(adj) không cần dùng trong khóa học này.

9.2 · Khoảng tin cậy cho hệ số góc

b ± t*·SE_b, với n − 2 bậc tự do

Khoảng tin cậy cho β là hệ số góc mẫu cộng hoặc trừ một sai số biên.

b \pm t^*\,SE_b, \qquad df = n - 2

Tính. Với n = 18, df = 16 và độ tin cậy 95% thì t* = 2.120. Từ kết quả của phần mềm:

\begin{aligned}2.247 &\pm 2.120\,(0.883) \\ = 2.247 &\pm 1.872 = (0.375,\ 4.119)\end{aligned}

Kết luận. Chúng ta tin tưởng 95% rằng khoảng từ 0.375 đến 4.119 chứa hệ số góc của đường hồi quy tổng thể biểu diễn mối quan hệ giữa điểm kiểm tra và số giờ học của học sinh trường này. Nghĩa là, điểm trung bình tăng từ 0.38 đến 4.12 điểm cho mỗi giờ học thêm.

Độ tin cậy nói về phương pháp: qua nhiều mẫu lặp lại, khoảng 95% các khoảng tạo theo cách này chứa β. Ở bên phải, 24 trong 25 khoảng từ 25 mẫu chứa β. Một khoảng cụ thể thì hoặc chứa β hoặc không.

Hình minh họa thay đổi độ tin cậy từ 80% đến 99%: độ tin cậy cao hơn cần t* lớn hơn và cho khoảng rộng hơn. Ở 99%, t* = 2.921 và khoảng là (−0.332, 4.826).

Một bài làm đầy đủ nêu tên phương pháp (khoảng tin cậy t cho hệ số góc), kiểm tra các điều kiện, tính toán, và kết luận trong ngữ cảnh.

9.3 · Biện luận một nhận định bằng khoảng tin cậy

hệ số góc được khẳng định có nằm trong các giá trị khả dĩ không?

Các giá trị nằm trong khoảng tin cậy là những giá trị khả dĩ của β. Một giá trị được khẳng định mà nằm ngoài khoảng là bằng chứng chống lại khẳng định đó.

Có mối quan hệ không? Nếu β = 0, điểm trung bình không thay đổi theo số giờ: không có quan hệ tuyến tính. 0 không nằm trong khoảng tin cậy 95% (0.375, 4.119), và mọi giá trị trong đó đều dương. Vậy dữ liệu cho bằng chứng thuyết phục rằng β > 0: trong tổng thể, học nhiều giờ hơn đi cùng với điểm trung bình cao hơn.

Ở mức 99%, khoảng là (−0.332, 4.826). Khoảng này chứa 0, nên ở mức đó 0 là khả dĩ: bằng chứng chưa đủ mạnh để loại trừ việc không có mối quan hệ.

Một khẳng định. Một công ty gia sư nói mỗi giờ học thêm đáng giá trung bình 5 điểm. 5 nằm trên cả hai khoảng, nên dữ liệu cho bằng chứng thuyết phục chống lại khẳng định này: hệ số góc thật dường như nhỏ hơn.

Khoảng tin cậy C% và kiểm định hai phía ở α = 1 − C cho cùng kết luận: kiểm định bác bỏ β = β₀ đúng khi β₀ nằm ngoài khoảng. Khoảng tin cậy cho biết nhiều hơn: hệ số góc có thể lớn đến mức nào.

Lỗi thường gặp. Giá trị nằm trong khoảng là khả dĩ, chưa được chứng minh: “0 nằm trong khoảng, nên không có mối quan hệ” là sai. Và “có xác suất 95% để β nằm trong khoảng” cũng sai: β là cố định; 95% là tỉ lệ khoảng chứa β của phương pháp.

9.4 · Thiết lập kiểm định cho hệ số góc

H₀: β = 0, đối lại với giả thuyết đối mà bạn muốn chứng minh

Kiểm định ý nghĩa cho hệ số góc hỏi liệu hệ số góc mẫu có lệch quá xa giá trị giả thuyết, thường là 0, để có thể quy cho may rủi hay không.

Các giả thuyết nói về hệ số góc tổng thể β, không bao giờ về b:

\begin{aligned}H_0\!&: \beta = 0 \\ H_a\!&: \beta > 0,\ \ \beta < 0\ \ \text{or}\ \ \beta \neq 0\end{aligned}

H₀: β = 0 nghĩa là không có quan hệ tuyến tính: trung bình của y như nhau ở mọi x. Hãy định nghĩa β trong ngữ cảnh: “hệ số góc của đường hồi quy tổng thể biểu diễn mối quan hệ giữa điểm kiểm tra và số giờ học của tất cả học sinh trong trường”. Chọn H_a từ đề bài, trước khi xem dữ liệu.

Giáo viên hỏi liệu điểm và số giờ học có quan hệ tuyến tính hay không, nên H_a: β ≠ 0, tại α = 0.05. Phương pháp là kiểm định t cho hệ số góc, với cùng các điều kiện LINER, đã kiểm tra ở 9.2.

Vì sao cần kiểm định. Bên phải là thế giới của H₀: đường thật nằm ngang, và các mẫu được lấy từ đó với cùng số giờ và cùng độ phân tán như mẫu của chúng ta. Đường hồi quy của chúng vẫn nghiêng do may rủi. Trong 200 mẫu như vậy, có 3 mẫu có hệ số góc dốc bằng mẫu của chúng ta, 2.247, theo cả hai chiều. Hệ số góc của chúng ta sẽ là bất thường nếu H₀ đúng.

H₀ có thể nêu một giá trị khác, β = β₀, chẳng hạn một hệ số góc được khẳng định; kiểm định vẫn như vậy với β₀ thay cho 0.

9.5 · Thực hiện kiểm định cho hệ số góc

t = (b − β₀)/SE_b, và P lấy từ phân phối t

Thống kê kiểm định đếm xem hệ số góc mẫu cách hệ số góc giả thuyết bao nhiêu sai số chuẩn.

t = \frac{b - \beta_0}{SE_b} = \frac{2.247 - 0}{0.883} = 2.54

với df = n − 2 = 16. Kết quả in ra T = 2.55, tính từ b và SE_b chưa làm tròn; dùng giá trị nào cũng được.

Giá trị P là xác suất, nếu H₀ đúng, để có một giá trị t ít nhất xa như vậy. H_a là hai phía, nên tính cả hai đuôi: P = 2P(t ≥ 2.55) = 0.022, như kết quả in ra. Trong hình, các mẫu giả thuyết không ở 9.4 thả giá trị t của chúng lên đường cong t; 4 trong 200, tức 0.020, rơi vào hai đuôi màu đỏ.

Diễn giải. Giả sử trong tổng thể không có quan hệ tuyến tính giữa số giờ học và điểm, thì có xác suất 0.022 để chỉ do may rủi mà thu được hệ số góc mẫu cách 0 ít nhất bằng 2.247.

Kết luận. Vì P = 0.022 < α = 0.05, bác bỏ H₀. Có bằng chứng thuyết phục về mối quan hệ tuyến tính giữa số giờ học và điểm kiểm tra của học sinh trường này.

Lỗi thường gặp. Không bao giờ “chấp nhận H₀”: chỉ nói là không bác bỏ được. Giá trị P không phải xác suất để H₀ đúng. Và các học sinh này tự chọn thời gian học: đây là nghiên cứu quan sát, nên nó chỉ cho thấy sự liên hệ, không chứng tỏ học nhiều hơn gây ra điểm cao hơn. Chỉ thí nghiệm ngẫu nhiên hóa mới hỗ trợ quan hệ nhân quả.

9.5 · Kiểm định một phía, các tuyên bố khác, sai lầm

khi giá trị P in ra không phải là đáp án

T và P trong kết quả máy tính trả lời một câu hỏi: kiểm định hai phía cho β = 0. Các câu hỏi khác cần thêm một bước nhỏ.

Một phía. Với H_a: β > 0, giá trị P là diện tích một đuôi. Khi b nằm ở phía mà H_a dự đoán, hãy chia đôi giá trị P được in ra: 0.022/2 = 0.0110. Khi b nằm ở phía còn lại, giá trị P bằng 1 trừ đi giá trị đó, và không có bằng chứng ủng hộ H_a.

β₀ khác. Để kiểm định tuyên bố của công ty gia sư, H₀: β = 5 với H_a: β < 5, hãy tính t bằng tay:

t = \frac{2.247 - 5}{0.883} = -3.12

P = P(t \le -3.12) = 0.0033

Với df = 16: có bằng chứng mạnh cho thấy hệ số góc thực nhỏ hơn 5, như khoảng tin cậy ở mục 9.3 đã cho thấy.

Kiểm định và khoảng tin cậy nhất quán. P = 0.022 < 0.05, và khoảng tin cậy 95% không chứa 0. P = 0.022 > 0.01, và khoảng tin cậy 99% chứa 0.

Sai lầm. Sai lầm loại I ở đây là kết luận số giờ học và điểm có quan hệ tuyến tính trong khi ở tổng thể thì không; xác suất của nó là α. Sai lầm loại II là bỏ sót một mối quan hệ có thật. Mẫu lớn hơn, x phân tán rộng hơn và α lớn hơn đều làm sai lầm loại II ít xảy ra hơn.

9.6 · Chọn phương pháp suy luận

chọn phương pháp phù hợp với câu hỏi

Mỗi thủ tục trong khóa học trả lời một loại câu hỏi. Ba câu hỏi về dữ liệu giúp chọn ra thủ tục đó.

1. Đo cái gì? Một phạm trù cho mỗi cá thể (tỉ lệ, số đếm), một số (trung bình), hoặc hai số cho mỗi cá thể (hệ số góc). 2. Có bao nhiêu mẫu hay nhóm, và chúng có ghép cặp không? 3. Ước lượng hay kiểm định? “Lớn bao nhiêu…” hoặc “ước lượng…” cần một khoảng tin cậy; “có bằng chứng thuyết phục không…” cần một kiểm định.

thủ tục	khi nào
1-prop z	một biến phân loại, một mẫu: p
2-prop z	một biến phân loại, hai nhóm: p₁ − p₂
χ² độ phù hợp	một biến phân loại, so cả phân phối của nó với một khẳng định
1-sample t	một biến định lượng, một mẫu: μ
paired t	hai phép đo trên mỗi cá thể: μ_diff
2-sample t	một biến định lượng, hai nhóm độc lập: μ₁ − μ₂
χ² đồng nhất	một biến phân loại, nhiều mẫu hay nhiều phương pháp xử lí riêng biệt
χ² độc lập	hai biến phân loại trong một mẫu
t cho hệ số góc	hai biến định lượng, quan hệ tuyến tính: β

Manh mối trong cách diễn đạt: “tỉ lệ”, “phần trăm” → z; “trung bình” → t; “mối quan hệ” giữa các biến phân loại → χ²; giữa các biến định lượng → hệ số góc.

Lỗi thường gặp. Phân tích dữ liệu ghép cặp như hai mẫu (những người được đo hai lần là ghép cặp). Nhầm giữa đồng nhất và độc lập: điều này phụ thuộc vào thiết kế, nhiều mẫu hay một mẫu. Câu hỏi về tương quan cần kiểm định hệ số góc, không phải kiểm định χ².