抽樣分布 · AP Statistics

第 5 章 · 抽樣分布

統計量如何變動

由隨機樣本算出的統計量,會因樣本不同而改變。它的抽樣分布說明了變動的幅度與型態。

最上方的板子是一個母體:某所大型學校每位學生去年暑假閱讀的書本數。它呈右偏,平均數 μ = 2.54 本,標準差 σ = 2.41 本。

每次隨機選出十位學生(紅色)。他們的平均數 x̄ 就是圓錐使他們達到平衡的位置,並落入下方的點圖。抽了 120 個樣本後,這些平均數的中心為 2.45,接近 μ,標準差只有 0.80。它們堆成的分布比母體對稱得多。

本章談的就是這堆平均數:樣本為何會不同、常態模型怎麼描述它們,以及 p̂ 與 x̄ 單獨和作為差時,抽樣分布的中心、分散程度與形狀。它們是後續各單元所有信賴區間與檢定的基礎。

5.1 · 為什麼我的樣本和你的不一樣?

抽樣變異

從同一個母體抽出不同的隨機樣本,統計量的值也會不同。這就是抽樣變異,而不是錯誤。

開場圖中前 4 個各含 10 位學生的樣本,以及它們的平均數:

\bar{x} = \frac{\sum x_i}{n}

樣本	閱讀書本數	x̄
1	0, 0, 0, 2, 2, 5, 0, 4, 2, 3	1.8
2	8, 0, 2, 0, 4, 1, 0, 2, 6, 1	2.4
3	0, 7, 2, 0, 1, 5, 3, 3, 0, 0	2.1
4	5, 1, 0, 1, 3, 0, 6, 1, 0, 8	2.5

沒有一個樣本恰好等於母體平均數 μ = 2.54;每一個都只因機遇而有偏差。哪些學生被選中是隨機的,所以統計量也是隨機的。

這種變動有其規律。在許多樣本中,x̄ 的值會聚集在 μ 附近,而且樣本越大,聚集得越緊密。知道這個規律,我們就能說明樣本結果可能離真實值多遠,進而判斷結果是否令人意外。

隨機選取使這個規律可以預測。方便取樣(例如只找某一個班級的學生)可能每次都朝同一個方向偏差,而且沒有任何公式能說明偏差多大。

5.1 · 只是機遇嗎?

用模擬估計機率

模擬是將一個隨機過程重複進行許多次。某事件在重複試驗中出現的比例,可用來估計它的機率。

某鎮議會宣稱,有一半的選民支持興建新公園,即 p = 0.5。在隨機抽取的 40 位選民中,有 26 位回答支持:p̂ = 0.650。如果議會的宣稱正確,這個結果是否高於隨機變異容易產生的程度?

模型。每位選民以機率 0.5 回答支持(像擲硬幣,或用隨機數字:0–4 表示支持,5–9 表示不支持)。一次試驗抽 40 位選民,記錄 p̂。重複 100 次。圖中會執行這個模擬:紅球代表支持。

結果。在 100 個模擬樣本中,有 4 個的 p̂ ≥ 0.650,所以估計的機率為 4/100 = 0.04。(精確的二項分布值為 0.040。)

結論。如果有一半的選民支持公園,出現至少這麼高的結果,只有大約 4% 的機會。這相當不尋常,所以樣本提供了一些證據,顯示支持的人超過一半。但這並不能證明宣稱是錯的:不太可能的結果也是會發生的。

再執行一次 100,得到的次數會稍有不同。重複的次數越多,對機率的估計就越準確。

5.2 · 再談常態分布

面積與臨界值

對常態分布而言,機率就是曲線下的面積。先標準化,再求面積。

某果園蘋果的重量近似常態分布,μ = 150 g,σ = 12 g。z 分數表示一個值距離平均數有幾個標準差:

z = \frac{x - \mu}{\sigma}

求面積。重量介於 140 g 與 165 g 之間的蘋果占多少比例?

\begin{aligned} z_1 &= \frac{140 - 150}{12} = -0.83 \\ z_2 &= \frac{165 - 150}{12} = 1.25 \\ P(140 < X < 165) &= P(-0.83 < Z < 1.25) \\ &= 0.692 \end{aligned}

約有 69.2% 的蘋果(紅色)。重量超過 165 g 的占其中的 0.106。

求臨界值。蘋果要多重,才會落在最重的 10% 之內?左側面積為 0.90 的 z 值是 1.28,所以 x = 150 + 1.28 × 12 = 165.4 g(藍色)。

考試時要寫出過程:說明分布及其參數、邊界與所求的面積,或畫出標示清楚的圖。只寫計算機指令,例如 normalcdf(…),不會得分。

5.2 · 母數與統計量

一個固定的數與一個隨機的數

母數描述母體;統計量描述樣本。我們用統計量來估計母數。

	母數	統計量
平均數	μ	x̄
標準差	σ	s
比例	p	p̂

果園所有蘋果的平均重量 μ = 150 g(藍色)是母數:它是一個固定的數,通常未知。隨機抽取 8 顆蘋果,得到 x̄ = 159.1 g 和 s = 17.0 g:這些是統計量。下一個樣本得到 x̄ = 150.8 g。

因為樣本是隨機抽取的,統計量是一個隨機變數。它的機率分布,也就是同樣大小的所有可能樣本所得到的值,稱為抽樣分布。

如何區分:問問這個數是來自整個母體(母數),還是來自手上的資料(統計量)。母數用希臘字母或 p;統計量用英文字母或帶帽符號。

5.3 · 中央極限定理

平均數趨近常態

中央極限定理(CLT):當 n 夠大時,不論母體的形狀如何,x̄ 的抽樣分布都近似常態分布。

圖中從開頭那個右偏的母體,對每種樣本大小各抽取 400 個隨機樣本,並畫出它們的平均數:

n	x̄ 的平均數	x̄ 的標準差	σ/√n
2	2.64	1.79	1.71
10	2.53	0.77	0.76
30	2.53	0.43	0.44

有三件事同時成立。中心維持在 μ = 2.54。離散程度依 σ/√n 縮小。形狀也會改變:在 n = 2 時,平均數仍然右偏;在 n = 30 時,紅色的常態曲線與它們非常吻合。

\mu_{\bar{x}} = \mu \qquad \sigma_{\bar{x}} = \frac{\sigma}{\sqrt{n}}

多大才算夠大,要看母體:母體越偏,n 就要越大。AP 的經驗法則是 n ≥ 30。

常見的錯誤:CLT 談的是 x̄ 的分布,而不是資料本身的分布。從偏斜母體抽出的大樣本,看起來仍然是偏斜的;堆成常態形狀的,是許多這樣的樣本的平均數。

5.4 · 有偏與無偏的點估計

準確度與精確度

用來估計母數的統計量稱為點估計量。當它的抽樣分布的平均數等於母數時,它就是不偏的。

每個靶代表一個估計量。藍色的靶心是母數;每支飛鏢是從一個隨機樣本得到的估計值。

偏誤與中心有關。上方兩個估計量以靶心為中心:不偏。下方兩個則一次又一次偏向同一側:有偏。

變異性與離散程度有關:估計值在不同樣本之間散開多遠。左邊兩個變異小,右邊兩個變異大。最好的估計量(紅色)偏誤低、變異性也低。

x̄ 是 μ 的不偏估計量,p̂ 是 p 的不偏估計量:在 5.3 中,不論 n 多大,x̄ 都以 μ 為中心。樣本最大值則是母體最大值的有偏估計量:它永遠不可能更大,而且通常較小。

增大樣本能降低變異性,但不能消除偏誤。由 5.3 可知,x̄ 的標準差從 n = 10 時的 0.77 降到 n = 30 時的 0.43。但有偏的方法,例如自願回應調查,不論多少人回答,仍然是有偏的:只是錯得更精確而已。

5.5 · p̂ 的抽樣分布

中心 p,離散程度 √(p(1 − p)/n)

樣本比例 p̂ 的抽樣分布,平均數為 p,標準差則隨 n 增大而縮小。

某學區有 8,000 名學生,其中 35% 步行上學(紅珠)。圖中隨機抽取 50 名學生為一個樣本,並把每個樣本的 p̂ 放進點圖。

\begin{aligned} \mu_{\hat{p}} &= p = 0.35 \\ \sigma_{\hat{p}} &= \sqrt{\frac{p(1-p)}{n}} \\ &= \sqrt{\frac{0.35(0.65)}{50}} = 0.0675 \end{aligned}

	p̂ 的平均數	p̂ 的標準差
100 個模擬樣本	0.353	0.0657
公式	0.35	0.0675

解釋標準差。從這個學區隨機抽取 50 名學生時,步行上學的樣本比例與真實比例 0.35 通常相差約 0.067。

因為 n 在根號內,樣本大小變為四倍,標準差就減半:樣本大小為 200 時,標準差會是 0.0337。

5.5 · p̂ 何時近似常態

10% 條件與大計數條件

有兩個條件成立時,才能對 p̂ 使用這些公式和常態模型。計算之前,先依情境檢查這兩個條件。

10% 條件。不放回抽樣時,若 n ≤ 母體的 10%,各次抽取就足夠接近獨立。這裡 50 ≤ 0.10(8,000) = 800,所以可以使用 σ_p̂ = 0.0675。

大數條件。當 np ≥ 10 且 n(1 − p) ≥ 10 時,抽樣分布近似常態。這裡 50(0.35) = 17.5,50(0.65) = 32.5:兩者都至少為 10。若次數較小,分布會偏斜,偏離較近的那一端,也就是 0 或 1。

求機率。樣本大小為 50 時,步行者至少占 45% 的可能性有多大?

\begin{aligned} z &= \frac{0.45 - 0.35}{0.0675} = 1.48 \\ P(\hat{p} \ge 0.45) &= P(Z \ge 1.48) = 0.069 \end{aligned}

陰影部分是尾部。在 100 個模擬樣本中,有 7 個的 p̂ ≥ 0.45:0.07,與模型很接近。

在這些條件中,要用母數 p,而不是 p̂:抽樣分布屬於真實的比例。

5.6 · 樣本比例的差

以比例比較兩組

對兩個獨立的隨機樣本,差 p̂₁ − p̂₂ 有自己的抽樣分布,中心在 p₁ − p₂。

學區 1 就是 5.5 中的學區:35% 步行上學;樣本大小為 50。在學區 2,25% 步行上學;樣本大小為 60。每一對樣本得到一個差(紅色長條),並落入點圖中。

\begin{aligned}\mu_{\hat{p}_1 - \hat{p}_2} &= p_1 - p_2 = 0.10 \\ \sigma_{\hat{p}_1 - \hat{p}_2} &= \sqrt{\frac{p_1(1-p_1)}{n_1} + \frac{p_2(1-p_2)}{n_2}} \\ &= \sqrt{\frac{0.35(0.65)}{50} + \frac{0.25(0.75)}{60}} = 0.0876\end{aligned}

即使是求差,變異數也是相加:兩個獨立的隨機來源使差的變動比單獨一個更大。標準差不能相加;變異數才能相加。

條件。獨立的隨機樣本;每個樣本都小於其母體的 10%;且四個計數都至少為 10:17.5, 32.5, 15, 45。這樣抽樣分布就近似常態。

求機率。學區 2 的樣本顯示較高比例的情況,多常發生?

\begin{aligned} z &= \frac{0 - 0.10}{0.0876} = -1.14 \\ P(\hat{p}_1 - \hat{p}_2 < 0) &= P(Z < -1.14) = 0.127 \end{aligned}

大約有 13% 的時候,即使學區 1 實際上步行者較多。在圖中,100 個差裡有 11 個低於 0。

5.7 · x̄ 的抽樣分布

中心 μ,離散程度 σ/√n

樣本平均數 x̄ 的抽樣分布,平均數為 μ,標準差為 σ/√n。

\mu_{\bar{x}} = \mu \qquad \sigma_{\bar{x}} = \frac{\sigma}{\sqrt{n}} = \frac{12}{\sqrt{9}} = 4\ \text{g}

以果園的蘋果 N(150, 12) 為例,隨機抽取 9 顆的平均重量,其標準差為 4 g:紅色曲線,寬度只有母體的三分之一。

形狀。若母體為常態分布,則不論 n 多大,x̄ 都是常態分布。若不是,當 n ≥ 30 時,中央極限定理使 x̄ 近似常態分布。若樣本很小,且母體偏斜或未知,兩者都不成立,就不能做常態計算。標準差公式還需要滿足 10% 條件。

機率。一顆蘋果重於 155 g 的 z = (155 − 150)/12 = 0.42。9 顆的平均重於 155 g 的 z = (155 − 150)/4 = 1.25:

\begin{aligned} P(X > 155) &= P(Z > 0.42) = 0.338 \\ P(\bar{x} > 155) &= P(Z > 1.25) = 0.106 \end{aligned}

蘋果偏重很常見;但 9 顆的平均偏重卻不常見,因為樣本中輕與重的蘋果會互相抵消。最常見的錯誤,是題目問 x̄ 時卻除以 σ。

5.8 · 樣本平均數的差

以平均數比較兩組

從兩個母體各抽取獨立隨機樣本時,x̄₁ − x̄₂ 的平均數為 μ₁ − μ₂,其變異數為兩個變異數之和。

A 品種蘋果的重量(單位:公克)為 N(150, 12),B 品種為 N(140, 10)。隨機各取 9 顆 A 和 16 顆 B,比較兩者的平均數(上方板子上的紅色長條)。

\begin{aligned}\mu_{\bar{x}_1 - \bar{x}_2} &= \mu_1 - \mu_2 = 150 - 140 = 10\ \text{g} \\ \sigma_{\bar{x}_1 - \bar{x}_2} &= \sqrt{\frac{\sigma_1^2}{n_1} + \frac{\sigma_2^2}{n_2}} \\ &= \sqrt{\frac{12^2}{9} + \frac{10^2}{16}} = 4.72\ \text{g}\end{aligned}

形狀。兩個母體都是常態分布,所以差也是常態分布。否則,每個樣本都需要 n ≥ 30,才能用中央極限定理。每個樣本也都必須少於其母體的 10%,且兩個樣本彼此獨立。

機率。B 樣本的平均重量較重的可能性有多大?

\begin{aligned} z &= \frac{0 - 10}{4.72} = -2.12 \\ P(\bar{x}_A - \bar{x}_B < 0) &= P(Z < -2.12) = 0.017 \end{aligned}

很罕見:在這樣的樣本大小下,較重的品種幾乎總是平均也較重。樣本越小,紅色曲線越寬,陰影面積也越大。