Khám phá dữ liệu hai biến · AP Statistics

Chương 2 · Khám phá dữ liệu hai biến

biểu đồ phân tán và đường hồi quy bình phương nhỏ nhất

Hai đại lượng được đo trên mỗi cá thể: đại lượng này có cho biết điều gì về đại lượng kia không, và cho biết nhiều đến mức nào?

Các nhà pháp y ước lượng chiều cao của một người từ một chiếc xương. Hình vẽ chiều dài xương đùi (xương đùi ở chân) theo chiều cao của 14 người trưởng thành. Người cao hơn có xương đùi dài hơn, và các điểm nằm gần một đường thẳng.

Đường thẳng nào? Một đường thử kẻ qua các điểm sẽ lệch khỏi mỗi điểm một đoạn gọi là phần dư, màu đỏ. Bình phương mỗi phần dư (các hình vuông đỏ) rồi cộng diện tích lại. Khi đường thử xoay, tổng diện tích thay đổi; đường bình phương tối thiểu là đường làm cho tổng này nhỏ nhất: ở đây ŷ = 49.8 + 2.64x, với tổng diện tích 126 cm².

Chương này bắt đầu với các biến định tính (bảng hai chiều, biểu đồ cột, phần trăm có điều kiện), sau đó mô tả biểu đồ phân tán, đo mức độ liên hệ tuyến tính bằng hệ số tương quan r, xác định và kiểm tra đường bình phương tối thiểu, rồi xét một điểm bất thường, hoặc một đường cong, ảnh hưởng thế nào đến đường đó.

2.1 · Các biến có liên quan không?

một quy luật hay do ngẫu nhiên?

Hai biến có mối liên hệ khi biết giá trị của biến này cho ta biết điều gì đó về giá trị của biến kia.

Thống kê bắt đầu từ một câu hỏi về sự biến thiên. Người trưởng thành có xương đùi dài hơn có xu hướng cao hơn không? Cách học sinh đến trường có phụ thuộc vào nơi các em sống không? Mỗi câu hỏi ghép hai biến được đo trên cùng các cá thể.

Dữ liệu luôn biến thiên, nên một số quy luật có thể xuất hiện chỉ do ngẫu nhiên. Hình này kiểm tra điều đó. Bên trái là các cặp số liệu thật, r = 0.95. Bên phải, cùng 14 chiều cao đó được xáo trộn ngẫu nhiên giữa cùng 14 xương đùi, hết lần này đến lần khác. Việc xáo trộn phá vỡ mọi mối liên hệ thật, nên quy luật còn lại là do ngẫu nhiên.

Bên dưới là hệ số tương quan của từng lần trong 40 lần xáo trộn. Chúng phân tán quanh 0, và giá trị xa nhất là −0.81. Giá trị thật 0.95 nằm ngoài tất cả: chỉ riêng ngẫu nhiên không phải là lời giải thích đáng tin cho một quy luật mạnh như vậy.

Đó là cách lập luận của cả khóa học thu nhỏ lại: hỏi xem chỉ riêng ngẫu nhiên sẽ tạo ra điều gì, rồi xem dữ liệu có giống như vậy không. Các chương sau sẽ làm điều này chính xác hơn.

2.2 · Hai biến định tính

bảng hai chiều và biểu đồ cột

Bảng hai chiều đếm số cá thể trong từng tổ hợp của hai biến định tính.

300 học sinh được hỏi các em sống ở đâu và thường đến trường bằng cách nào:

	đi bộ hay đi xe đạp	bus	car	tổng
city	48	36	16	100
suburb	22	50	48	120
rural	6	30	44	80
tổng	76	116	108	300

Các tổng ở rìa bảng là các số đếm biên: mỗi biến xét riêng. 108 trong 300 học sinh đến trường bằng ô tô, bất kể nơi sống.

Cột ghép cạnh nhau (bên trái) vẽ các số đếm. Chúng dễ đọc nhưng khó so sánh khi các nhóm có kích thước khác nhau: có 120 học sinh ngoại ô nhưng chỉ có 80 học sinh nông thôn, nên số đếm gây hiểu lầm.

Cột phân đoạn (bên phải) khắc phục điều đó: mỗi nhóm là một cột cao 100%, chia theo tỉ lệ của chính học sinh trong nhóm. Học sinh nông thôn đến trường bằng ô tô 55% số lần, học sinh thành phố 16%. Biểu đồ khảm (2.3) còn làm cho bề rộng mỗi cột tương ứng với kích thước nhóm.

Hãy chọn biến nào chia các cột tùy theo câu hỏi. Để so sánh cách đi lại giữa các nơi, hãy vẽ một cột cho mỗi nơi.

2.3 · Đồng thời, biên và có điều kiện

ba loại tần suất tương đối

Tần suất tương đối là một số đếm chia cho một tổng. Bạn chia cho tổng nào sẽ quyết định ý nghĩa của nó.

Đồng thời: một ô chia cho tổng cả bảng. 44 trong 300 học sinh sống ở nông thôn và đến trường bằng ô tô: 44/300 = 14.7%.
Biên: tổng của một hàng hoặc một cột chia cho tổng cả bảng. 108/300 = 36% tổng số học sinh đến trường bằng ô tô.
Có điều kiện: một ô chia cho tổng hàng hoặc tổng cột của chính nó. Trong số học sinh nông thôn, 44/80 = 55% đi bằng ô tô. Trong số những người đi ô tô, 44/108 = 40.7% là học sinh nông thôn.

Hai loại cuối khác nhau: ‘trong số học sinh nông thôn, tỉ lệ đi ô tô’ và ‘trong số người đi ô tô, tỉ lệ học sinh nông thôn’ chia cho các tổng khác nhau. Hãy đọc kĩ nhóm được nêu sau từ trong số hoặc sau từ biết rằng: tổng đó là mẫu số.

Biểu đồ khảm cho thấy cả ba cùng lúc. Bề rộng mỗi cột là tỉ lệ biên của nơi đó; chiều cao mỗi khối là tỉ lệ có điều kiện trong nơi đó; nên diện tích mỗi khối là một tỉ lệ đồng thời. Khối ô tô nông thôn chiếm 14.7% toàn bộ biểu đồ khảm.

2.3 · Mối liên hệ giữa các biến định tính

so sánh các phân phối có điều kiện

Hai biến định tính có liên hệ với nhau khi phân phối có điều kiện của biến này khác nhau giữa các loại của biến kia.

Các phân phối có điều kiện của cách đi lại, cho từng nơi sống và cho tất cả học sinh gộp lại:

	đi bộ hay đi xe đạp	bus	car
city	48%	36%	16%
suburb	18%	42%	40%
rural	8%	38%	55%
tất cả	25%	39%	36%

Nếu cách đi lại không phụ thuộc vào nơi sống, mọi hàng sẽ giống hàng ‘tất cả’, và các cột phân đoạn sẽ được chia ở cùng một độ cao. Thực tế không như vậy: tỉ lệ đi ô tô tăng từ 16% ở thành phố lên 40% ở ngoại ô và 55% ở nông thôn, trong khi tỉ lệ đi bộ hoặc đạp xe giảm từ 48% xuống 8%. Có một mối liên hệ giữa nơi học sinh sống và cách các em đến trường.

Hãy so sánh phần trăm, không so sánh số đếm. 48 học sinh ngoại ô đi ô tô nhiều hơn 44 học sinh nông thôn, nhưng tỉ lệ học sinh ngoại ô đi ô tô lại nhỏ hơn.

Mối liên hệ trong dữ liệu không phải là bằng chứng của quan hệ nhân quả. Sống ở nông thôn không nhất thiết tự nó gây ra việc đi ô tô: khoảng cách đến trường, một biến không có trong bảng, có thể giải thích phần lớn điều này. Chương 8 kiểm tra xem sự khác biệt như vậy có thể do ngẫu nhiên hay không (kiểm định χ²).

2.4 · Biểu đồ phân tán

chiều, dạng, mức độ và các đặc điểm bất thường

Biểu đồ phân tán cho thấy hai biến định lượng được đo trên cùng các cá thể, mỗi cá thể một điểm.

Biến giải thích được đặt trên trục x: biến có thể giải thích hoặc dự đoán. Biến đáp ứng được đặt trên trục y: kết quả. Ở đây chiều dài xương đùi giải thích chiều cao.

xương đùi (cm)	39.0	39.8	40.7	40.9	40.9	43.1	43.5
chiều cao (cm)	154.3	152.9	160.5	162.1	156.1	159.8	162.2

xương đùi (cm)	44.1	45.2	46.5	46.9	47.2	48.7	49.8
chiều cao (cm)	163.3	168.2	169.7	180.1	172.3	178.2	183.1

Hãy mô tả biểu đồ phân tán theo bốn đặc điểm, trong ngữ cảnh:

Chiều: dương (x lớn hơn đi với y lớn hơn), âm, hoặc không có.
Dạng: tuyến tính, cong, hoặc tạo thành cụm.
Mức độ: các điểm bám sát dạng đó đến đâu: mạnh, vừa hoặc yếu.
Đặc điểm bất thường: giá trị ngoại lai, khoảng trống, cụm.

Ở đây: có một mối liên hệ tuyến tính dương, mạnh giữa chiều dài xương đùi và chiều cao của những người trưởng thành này, không có giá trị ngoại lai rõ ràng. Các biểu đồ nhỏ cho thấy những quy luật khác: một mối liên hệ âm yếu hơn, một đường cong mạnh, và không có liên hệ.

2.5 · Hệ số tương quan

mức độ của một mối liên hệ tuyến tính, dưới dạng một con số

Hệ số tương quan r đo chiều và mức độ của mối liên hệ tuyến tính giữa hai biến định lượng.

r = \frac{1}{n-1}\sum \left(\frac{x_i-\bar x}{s_x}\right)\left(\frac{y_i-\bar y}{s_y}\right)

Hãy chuẩn hóa mỗi biến: z_x và z_y cho biết một giá trị cách trung bình bao nhiêu độ lệch chuẩn. Các đường tại các giá trị trung bình chia biểu đồ thành bốn góc phần tư. Một điểm ở phía trên bên phải (hoặc dưới bên trái) có tích z_xz_y dương, là một hình chữ nhật đỏ; ở trên bên trái hoặc dưới bên phải thì tích âm, màu xanh.

Cộng các diện tích có dấu rồi chia cho n − 1. Với các xương đùi, 14 tích có tổng là 12.305, và 12.305/13 = 0.947. Gần như toàn bộ diện tích màu đỏ: một mối liên hệ dương mạnh.

r nằm giữa −1 và 1. Dấu của nó là chiều; độ lớn của nó là mức độ: gần ±1 thì các điểm nằm sát một đường thẳng, gần 0 thì không có quy luật tuyến tính. Hãy diễn giải nó trong ngữ cảnh: r = 0.95 cho biết có một mối liên hệ tuyến tính dương, mạnh giữa chiều dài xương đùi và chiều cao.

Trong bài thi, hãy tìm r bằng máy tính; hãy hiểu nó có ý nghĩa gì.

2.5 · Điều r không cho biết

chỉ đo mối liên hệ tuyến tính, nhạy với giá trị ngoại lai, không chỉ ra quan hệ nhân quả

r là một thước đo tóm tắt quy luật đường thẳng. Luôn nhìn biểu đồ phân tán trước.

Chỉ tuyến tính. Biểu đồ màu đỏ có mối quan hệ cong mạnh, nhưng r = −0.02. r gần 0 nghĩa là không có liên hệ tuyến tính, không phải là không có liên hệ nào. r cao cũng không chứng minh rằng đường thẳng là dạng phù hợp.
Không có đơn vị. r không đổi nếu một trong hai biến đổi đơn vị: với xương đùi tính bằng inch, r vẫn là 0.947. Hoán đổi x và y cũng không làm nó thay đổi.
Không bền vững. Giống như số trung bình, r có thể bị thay đổi nhiều bởi một điểm ngoại lai (2.9).
Không phải quan hệ nhân quả. Tương quan mạnh không có nghĩa là thay đổi x sẽ làm y thay đổi. Một biến ẩn có thể chi phối cả hai (doanh số kem và số vụ đuối nước đều tăng khi trời nóng mùa hè), hoặc mối liên hệ có thể theo chiều ngược lại. Chỉ một thí nghiệm được thiết kế tốt (Chương 3) mới chỉ ra quan hệ nhân quả.

Bốn biểu đồ nhỏ: mạnh, dương, tuyến tính, r = 0.97; vừa phải, âm, tuyến tính, r = −0.71; mạnh, cong, r = −0.02; không có mối liên hệ, r = 0.01.

2.6 · Mô hình hồi quy tuyến tính

một đường thẳng để dự đoán y từ x

Đường hồi quy mô hình hóa cách biến phản hồi y thay đổi theo biến giải thích x, và dự đoán y với một giá trị x cho trước.

\hat y = a + bx = 49.8 + 2.64\,x

ŷ (y mũ) là giá trị dự đoán, không phải giá trị quan sát: hãy viết dấu mũ. b là hệ số góc và a là tung độ gốc của y. Hãy viết mô hình theo ngữ cảnh: chiều cao dự đoán = 49.8 + 2.64 (chiều dài xương đùi).

Dự đoán. Với xương đùi dài 45.0 cm, ŷ = 49.8 + 2.64(45.0) = 168.5 cm. Đó là chiều cao trung bình mà mô hình đưa ra cho những người lớn có chiều dài xương đùi đó; từng người có thể cao hơn hoặc thấp hơn.

Ngoại suy là dự đoán bên ngoài khoảng giá trị của x trong dữ liệu, ở đây là từ 39.0 đến 49.8 cm. Đường thẳng không có bằng chứng ở đó: dạng quan hệ có thể thay đổi. Xương đùi 30 cm của một đứa trẻ cho ŷ = 128.9 cm, từ một mô hình chỉ xây dựng trên người lớn. Trong hình, chấm chuyển sang màu xám mỗi khi nó ra khỏi khoảng giá trị của dữ liệu.

2.7 · Phần dư

đường thẳng bỏ sót điều gì, và biểu đồ phần dư

Phần dư là giá trị quan sát trừ đi giá trị dự đoán: điểm nằm cao hơn hay thấp hơn đường thẳng bao nhiêu.

\text{residual} = y - \hat y

Người trưởng thành có xương đùi 46.9 cm cao 180.1 cm. Đường thẳng dự đoán 173.5 cm, nên phần dư là 180.1 − 173.5 = 6.6 cm: cao hơn dự đoán 6.6 cm. Phần dư âm nghĩa là đường thẳng đã dự đoán quá cao. Với đường bình phương tối thiểu, tổng các phần dư bằng 0.

Biểu đồ phần dư vẽ mỗi phần dư theo x (hoặc theo ŷ). Trong hình, mỗi phần dư rơi từ biểu đồ phân tán xuống biểu đồ bên dưới: đường thẳng được đặt phẳng tại 0.

Không có quy luật, phân tán đều quanh 0: mô hình tuyến tính là phù hợp. Dữ liệu xương đùi cho thấy điều này.
Một đường cong trong các phần dư: mối quan hệ không tuyến tính; một dạng khác sẽ khớp hơn (2.9).
Hình quạt, độ phân tán tăng theo x: dự đoán kém chính xác hơn khi x lớn.

Biểu đồ phần dư cho thấy quy luật còn sót lại rõ hơn biểu đồ phân tán, vì xu hướng của đường thẳng đã được loại bỏ.

2.8 · Hồi quy bình phương nhỏ nhất

đường thẳng làm cho tổng bình phương các phần dư nhỏ nhất

Đường hồi quy bình phương tối thiểu là đường thẳng làm cho tổng bình phương các phần dư nhỏ nhất có thể.

Bên phải là tổng bình phương các phần dư ứng với mỗi hệ số góc (mỗi đường đi qua điểm trung bình): một parabol, thấp nhất tại b = 2.64. Mọi hệ số góc khác đều cho tổng lớn hơn.

b = r\,\frac{s_y}{s_x} = 0.947\cdot\frac{9.649}{3.463} = 2.638 \qquad a = \bar y - b\bar x = 165.91 - 2.638(44.02) = 49.8

Vì vậy đường thẳng luôn đi qua (x̄, ȳ) = (44.02, 165.91), và hệ số góc của nó cùng dấu với r. Khi x tăng một độ lệch chuẩn thì y được dự đoán tăng r độ lệch chuẩn: nhỏ hơn một, gọi là “hồi quy về trung bình”.

Diễn giải. Hệ số góc: cứ mỗi 1 cm tăng thêm của chiều dài xương đùi, chiều cao dự đoán tăng khoảng 2.64 cm. Tung độ gốc: một người trưởng thành có xương đùi 0 cm sẽ có chiều cao dự đoán 49.8 cm; đó là ngoại suy và không có ý nghĩa ở đây, như thường gặp với tung độ gốc.

Hồi quy x theo y cho một đường thẳng khác. Hãy dự đoán biến phụ thuộc từ biến giải thích, không làm ngược lại.

2.8 · r² và s

đường thẳng khớp tốt đến đâu, và thường lệch bao xa

Hai số cho biết dự đoán của đường thẳng tốt đến đâu: hệ số xác định r² và độ lệch chuẩn của các phần dư s.

Phần mềm in đường thẳng như sau:

Predictor	Coef	SE Coef
Constant	49.807	11.454
Femur	2.6375	0.2594

S = 3.2393 R-sq = 89.6%

Đọc a cạnh Constant và b cạnh biến giải thích: ŷ = 49.8 + 2.64x. (SE Coef thuộc Chương 9.)

r² = 89.6%: nếu không có đường thẳng, tổng bình phương các độ lệch của chiều cao so với ȳ là 1210 cm²; quanh đường thẳng, là 126. Đường thẳng loại bỏ 1 − 126/1210 = 89.6% của tổng đó. Theo ngữ cảnh: khoảng 89.6% biến thiên của chiều cao được giải thích bởi mô hình tuyến tính với chiều dài xương đùi.

s = 3.24 cm, tính từ các phần dư (chia cho n − 2):

s = \sqrt{\frac{\sum (y_i - \hat y_i)^2}{n-2}} = \sqrt{\frac{125.9}{12}} = 3.24\ \text{cm}

Theo ngữ cảnh: chiều cao thực tế thường lệch so với chiều cao đường thẳng dự đoán khoảng 3.2 cm. Dải màu xanh là ŷ ± s.

2.9 · Giá trị ngoại lai, điểm đòn bẩy và điểm ảnh hưởng

một điểm có thể làm gì với đường thẳng

Một điểm bất thường có thể làm thay đổi hồi quy rất nhiều, hoặc hầu như không. Vị trí của nó quyết định điều đó.

Điểm ngoại lai trong hồi quy là điểm có phần dư lớn: nằm xa phía trên hoặc phía dưới đường thẳng.
Điểm có đòn bẩy cao có giá trị x nằm xa x̄. Nó có khả năng làm nghiêng đường thẳng.
Điểm có ảnh hưởng là điểm mà việc loại bỏ nó làm thay đổi rõ rệt hệ số góc, tung độ gốc hoặc hệ số tương quan. Các điểm có đòn bẩy cao thường như vậy.

Điểm màu đỏ được thêm vào 14 người trưởng thành và được di chuyển. Đường màu xám là khi không có nó:

điểm thứ 15	b	a	r
không có	2.64	49.8	0.947
(66, 223.9)	2.64	49.8	0.985
(66, 197.9)	1.76	88.0	0.931
(44, 183.9)	2.64	51.1	0.846

Xa về bên phải và nằm trên đường thẳng: đòn bẩy cao nhưng không ảnh hưởng đến hệ số góc; nó thậm chí làm tăng r. Xa về bên phải và nằm dưới đường thẳng: nó kéo hệ số góc từ 2.64 xuống 1.76, có ảnh hưởng. Gần x̄ và nằm cao hơn nhiều: một điểm ngoại lai làm r giảm xuống 0.846 nhưng hầu như không làm đổi hệ số góc.

Đừng bao giờ chỉ xóa một điểm bất thường. Hãy kiểm tra xem có sai sót không; nếu điểm đó có thật, hãy báo cáo kết quả khớp khi có và khi không có nó.

2.9 · Biến đổi về dạng đường thẳng

logarit làm thẳng hóa tăng trưởng mũ

Khi biểu đồ phân tán cong, biến đổi một biến có thể làm nó tuyến tính; khi đó đường bình phương tối thiểu có thể mô hình hóa nó.

Một mẻ vi khuẩn được đếm mỗi giờ trong 10 giờ. Số lượng cong lên: mỗi giờ số lượng được nhân lên chứ không phải cộng thêm. Một đường thẳng khớp kém dù r = 0.900: biểu đồ phần dư của nó là một đường cong rõ rệt.

Lấy logarit của số lượng. Tăng trưởng mũ trở thành tuyến tính: hình chuyển giữa hai dạng. Theo t, log₁₀(số lượng) là đường thẳng, r = 0.998, và các phần dư của nó không có quy luật.

\widehat{\log_{10}(\text{count})} = 1.594 + 0.1626\,t

Dự đoán cần hoàn tác phép biến đổi. Tại t = 8.5 giờ: log₁₀(số lượng) = 1.594 + 0.1626(8.5) = 2.976, nên số lượng ≈ 10^2.976 = 946. Hệ số góc cho biết số lượng dự đoán được nhân với 10^0.1626 = 1.454 mỗi giờ.

Các đường cong khác cần các phép biến đổi khác: log y theo log x làm thẳng mô hình lũy thừa, y = ax^b; căn bậc hai hoặc nghịch đảo có thể làm thẳng các dạng khác. Hãy chọn phép biến đổi mà biểu đồ phần dư không có quy luật.