機率與隨機變數 · AP Statistics

第 4 章 · 機率與隨機變數

機率,數一數

機率無法逐一預測個別事件,但在長期下卻可以預測。機率就是研究這種長期規律的數學。

在圖中,每顆球會穿過 10 排釘子。在每根釘子處,球向左或向右的機會均等,所以沒有人能說出下一顆球會落在哪裡。

然而 240 顆球堆成的形狀卻可以預測。紅色標記是每一格的期望高度,在任何球落下之前就已算出。中間三格應該裝有 65.6% 的球;實際上 240 顆中有 164 顆,也就是 68.3%。

本章要問:一個規律何時只是偶然?如何以模擬來估計機率?並建立組合機率的規則:餘事件、「或」、「且」、條件機率與獨立性。接著把結果轉換成數字。隨機變數有一個具平均數與標準差的分布,而這些量會以固定的方式組合。有兩種分布會一再出現:二項分布(圖中的高爾頓板)與幾何分布。

4.1 · 隨機與非隨機的規律

只是巧合嗎?

隨機過程會依機率產生結果。連續出現同一結果和聚集成群,都是它會產生的現象,所以隨機資料中的規律不一定代表什麼。

圖中有一個格子是公平硬幣擲 50 次的結果,另一個則是由人刻意寫成看起來很隨機的樣子。人會避免連續出現相同結果,這反而露出破綻:

	真實投擲	人為編造
heads	19	25
正反面轉換次數 H ↔ T	25	35
最長連續次數	5	3

公平硬幣每擲一次,下一次與前一次不同的機率是 1/2,所以典型情況下約有 24.5 次轉換。人為編造的序列轉換了 35 次;真正的序列轉換了 25 次。

光靠機率,這種情況有多常出現?在 10,000 組模擬中,每組擲公平硬幣 50 次(長條圖),有 82% 出現了連續 5 次或以上的情形。最長連續次數小於或等於 3 的只有 2.0%。連續 5 次反面是很平常的。反而是人為編造的序列比較不尋常。

所以籃球員的連續命中,或某個城鎮出現的一群疾病病例,本身並不能證明什麼。要先問:純粹靠隨機機率,出現這樣的規律有多常見?這個問題會貫穿本課程的其餘部分。

4.2 · 用模擬估計機率

長期相對頻率

某個結果的機率,是在非常長的一連串重複試驗中,該結果出現的比例。

大數法則。隨機過程重複的次數越來越多時,某個結果的相對頻率會越來越接近它的機率。圖中第 1 次試驗在前 10 次擲出中有 4 個六點(0.400),在 50 次中有 14 個(0.280),在 600 次中有 95 個(0.158)。每一次試驗一開始都會起伏不定,最後穩定在 1/6 ≈ 0.167 附近。

這個說法只適用於長期。骰子沒有記憶:連續沒擲出六點之後,下一次擲出六點的機率並不會比較高。早期的偏差不會被補回來,而是被後面大量的擲出稀釋掉了。

模擬是用模仿隨機過程的方式來估計機率:

1. 說明如何用隨機數模擬一次試驗。2. 說明要記錄什麼。3. 進行許多次試驗。4. 以相對頻率作為估計值。

例題。擲一顆骰子四次,至少出現一次六點的機率是多少?一次試驗:取四個 1 到 6 的隨機整數,每個代表一次擲出。記錄其中是否有 6。前 6 次試驗:

trial	1	2	3	4	5	6
rolls	2 2 4 4	5 5 1 4	5 4 5 6	2 1 4 6	6 6 2 4	5 2 5 3
擲出六點?	no	no	yes	yes	yes	no

在 1000 次試驗中,有 539 次出現六點:估計值為 0.539。精確值(4.3)為 1 − (5/6)⁴ = 0.518。平均來說,試驗次數越多,估計值會越接近精確值。若使用隨機數表,用 1–6 代表各個點數,並跳過 0、7、8 和 9。

4.3 · 機率入門

樣本空間、事件與餘事件

隨機過程的樣本空間 S 是所有可能結果所成的集合。事件是一些結果所成的集合,它的機率是 0 到 1 之間的數。

擲兩顆骰子。樣本空間有 6 × 6 = 36 種結果,在圖中各以一個方塊表示,而且都是等可能的。當各結果等可能時,

P(A) = \frac{\text{number of outcomes in } A}{\text{number of outcomes in } S}

事件 A「點數和為 7」有 6 種結果(紅色):(1, 6)、(2, 5)、(3, 4)、(4, 3)、(5, 2)、(6, 1)。所以 P(A) = 6/36 = 0.167。順序很重要:(1, 6) 與 (6, 1) 是不同的結果。

每個事件都滿足 0 ≤ P(A) ≤ 1,且 P(S) = 1:S 中必定有某件事發生。機率為 0 的事件絕不會發生;機率為 1 的事件一定會發生。

餘事件 A^C 是 A 不發生的事件。A 與 A^C 沒有共同的結果,合起來又恰好是 S,所以

P(A^C) = 1 - P(A) = 1 - \tfrac{6}{36} = \tfrac{30}{36}

要算「至少一個」,用餘事件最快。P(至少一個六點) = 1 − P(沒有六點) = 1 − 25/36 = 11/36:數一數最上面一列和最右邊一行的方塊,共有 11 個。

4.4 · 互斥事件

不可能同時發生的事件

兩個事件互斥(不相交),表示它們不可能同時發生:P(A ∩ B) = 0。

符號說明:A ∩ B(「A 且 B」)是兩者都發生的事件;A ∪ B(「A 或 B」)是至少有一個發生的事件。在文氏圖中,矩形代表樣本空間,而這裡的面積是按比例繪製的:每個區域的面積就是它的機率。

捐血者的 ABO 血型是四種之一:

type	O	A	B	AB
probability	0.44	0.42	0.10	0.04

「A 型」與「B 型」這兩個事件互斥:沒有人同時是兩者(AB 型是獨立的另一種血型)。它們的圓盤不重疊,所以面積直接相加:

\begin{aligned}P(A \cup B) &= P(A) + P(B) \\ &= 0.42 + 0.10 = 0.52\end{aligned}

圖中的飛鏢隨機落下,所以落在某區域的比例會趨近它的面積:落在 A 或 B 的比例趨近 0.52。其餘的,也就是 O 或 AB,機率為 0.48 = 1 − 0.52。

只有在事件互斥時,才能這樣直接把機率相加。如果事件可能重疊,重疊的部分會被算兩次(4.6)。

4.5 · 條件機率

在 B 發生的條件下,A 發生的機率

條件機率 P(A | B) 是在 B 已經發生的條件下,A 發生的機率。知道 B 發生,就把樣本空間縮小為 B。

一項調查詢問 500 位駕駛,過去一個月是否曾在開車時傳簡訊:

	texted	沒有	total
16–24	72	48	120
25 歲以上	95	285	380
total	167	333	500

隨機選一位駕駛。令 T 為「傳過簡訊」,Y 為「年齡 16–24 歲」。P(T) = 167/500 = 0.334。但若已知這位駕駛是 16–24 歲,就只看那一列:

\begin{aligned}P(T \mid Y) &= \frac{P(T \cap Y)}{P(Y)} = \frac{72/500}{120/500} \\ &= \frac{72}{120} = 0.600\end{aligned}

右邊的圖分別呈現每一列:年輕駕駛中有 0.60 傳過簡訊,年長駕駛則是 0.25。

順序很重要。P(Y | T) = 72/167 = 0.431:在傳過簡訊的駕駛中,有 43.1% 是年輕人。分子相同,分母則是所給定的條件。

把定義改寫,就得到乘法法則 P(A ∩ B) = P(B) · P(A | B):P(T ∩ Y) = 0.24 × 0.60 = 0.144 = 72/500。

4.5 · 樹狀圖

沿著分支相乘,跨分支相加

當隨機過程分成幾個階段進行時,樹狀圖會把每個階段的結果畫成分支。一條路徑的機率,是沿途各機率的乘積。

某族群中有 4% 的人患有某種病況。篩檢試驗對有此病況的人中有 90% 呈陽性,對沒有此病況的人中有 10% 呈陽性。第二階段的分支是條件機率:0.9 是 P(+ | 病況)。

path	probability	每 1000 人
有病,陽性	0.04 × 0.9 = 0.036	36
有病,陰性	0.04 × 0.10 = 0.004	4
無病,陽性	0.96 × 0.1 = 0.096	96
無病,陰性	0.96 × 0.90 = 0.864	864

有兩條路徑會得到陽性結果。它們互斥,所以機率相加:P(+) = 0.036 + 0.096 = 0.132。

某人的試驗結果為陽性。他患有此病況(C)的機率是多少?

P(C \mid +) = \frac{P(C \cap +)}{P(+)} = \frac{0.036}{0.132} = 0.273

只有約 27%。在 1000 人中,有 36 個真陽性和 96 個偽陽性:這種病況很罕見,所以眾多健康者中的少數誤判,數量比真正的病例還多。圖中隨機讓 400 個人沿著樹狀圖走下去;請觀察紅色和藍色的末端。

4.6 · 獨立事件與聯集事件

加法法則,以及何時知道其一並不能告訴我們什麼

若知道事件 A、B 其中之一已經發生,並不會改變另一個事件的機率,則 A 與 B 獨立:P(A | B) = P(A)。

在某所學校,有 35% 的學生修 AP Statistics(S),25% 修 AP Biology(B),10% 兩者都修。兩個圓盤有重疊。

加法法則。把 P(S) 與 P(B) 相加,會把重疊的部分(紅色)算兩次,所以要減去一次:

\begin{aligned}P(S \cup B) &= P(S) + P(B) \\ &\quad - P(S \cap B) \\ &= 0.35 + 0.25 - 0.10 \\ &= 0.50\end{aligned}

所以兩者都不修的有 0.50。對於互斥事件,P(A ∩ B) = 0,這個法則就變成 4.4 中的那一個。

檢驗獨立性。P(S | B) = 0.10/0.25 = 0.40,但 P(S) = 0.35。知道某位學生修生物,會提高他修統計的機會,所以 S 與 B 不獨立。換個方式檢驗:若兩者獨立,P(S ∩ B) 應該等於 P(S) · P(B) = 0.0875,而不是 0.10。

對於獨立事件,而且只有在此時,乘法法則會變成 P(A ∩ B) = P(A) · P(B)。兩顆分開的骰子是獨立的:P(兩個都是六點) = 1/6 × 1/6 = 1/36。

不要把這兩個概念搞混。互斥事件(機率為正時)絕不會獨立:若其中一個發生,另一個的機率就降為 0。在 4.5 中,P(傳過簡訊 | 16–24 歲) = 0.600 ≠ P(傳過簡訊) = 0.334,所以傳簡訊與年齡層並不獨立。

4.7 · 隨機變數與機率分布

以數字表示結果

隨機變數的數值取決於隨機過程的結果。它的機率分布列出所有可能的值及其機率。

令 X 為某個城鎮中隨機選出的一戶家庭所擁有的汽車數。X 是離散的:它只取一些彼此分開的值。

x	0	1	2	3	4
P(X = x)	0.08	0.32	0.38	0.15	0.07
P(X ≤ x)	0.08	0.40	0.78	0.93	1.00

有效的機率分布,每個機率都介於 0 與 1 之間,而且總和為 1。圖中的長條表示 P(X = x)。黑色階梯表示累積機率 P(X ≤ x),也就是從左邊開始把長條加起來。

要仔細讀題目的用語:

P(X ≥ 2),「至少兩輛」:0.38 + 0.15 + 0.07 = 0.60,或 1 − P(X ≤ 1) = 1 − 0.40。
P(X > 2),「多於兩輛」:0.22,不含 2。
P(1 ≤ X ≤ 3) = P(X ≤ 3) − P(X ≤ 0) = 0.93 − 0.08 = 0.85。

紅點是隨機抽出的家庭:每個值目前所占的比例。抽得越多,紅點就越接近長條。這又是大數法則:機率分布就是這些值長期下來的規律。

4.8 · 隨機變數的平均數與標準差

平衡點,以及與平衡點的典型距離

隨機變數的平均數(期望值)μ_X 是它長期下來的平均值。標準差 σ_X 是它的值與平均數之間的典型距離。

每個值都依其機率加權:

\begin{aligned}\mu_X &= \sum x_i P(x_i) \\ &= 0(0.08) + 1(0.32) + 2(0.38) \\ &\quad + 3(0.15) + 4(0.07) = 1.81 \\ \sigma_X &= \sqrt{\textstyle\sum (x_i - \mu_X)^2 P(x_i)} \\ &= \sqrt{1.0339} = 1.017\end{aligned}

平均數是直方圖的平衡點(紅色楔形)。它不一定是 X 能取的值:沒有一戶家庭擁有 1.81 輛汽車。

放回情境。「如果隨機選出許多家庭,每戶的平均汽車數會約為 1.81。」「隨機選出的一戶家庭所擁有的汽車數,通常與平均數 1.81 相差約 1.02 輛。」

變異數為 σ²_X = 1.0339。用捷徑算出的數值相同:Σx²P(x) − μ² = 4.31 − 1.81² = 1.0339。

在座標軸下方,黑球是目前已抽出所有家庭的平均數。它先上下游移,然後穩定在 μ:這就是平均數的大數法則。

4.9 · 隨機變數的組合

線性變換:Y = a + bX

對隨機變數加上一個常數,平均數會平移,離散程度不變。乘上一個常數,則兩者都會乘上該常數。

轉動一次轉盤。X 是轉盤停下的數字,其分布如下:

x	1	2	3	4
P(X = x)	0.4	0.3	0.2	0.1

μ_X = 2,σ_X = 1。玩一次要花 $7,獎金是該數字的 $3 倍。淨收益為 Y = 3X − 7 元。

\begin{aligned}\mu_{a+bX} &= a + b\mu_X \\ \sigma_{a+bX} &= |b|\,\sigma_X \\ \mu_Y &= 3(2) - 7 = -1 \\ \sigma_Y &= 3(1) = 3\end{aligned}

圖中分兩步進行。乘以 3 會使長條之間的距離拉開為 3 倍:平均數與標準差都變成三倍。減去 7 則使每個長條向下平移 7:平均數改變,離散程度不變。這兩步都不會改變長條的高度,所以形狀維持不變。

放回情境。玩很多次之後,玩家平均每次虧損 $1。只有在 X ≥ 3 時,玩家才會贏錢:P(Y > 0) = 0.3。

變異數會乘上 b²:σ²_Y = 3² × 1 = 9。加上常數會改變中心(平均數、中位數、四分位數);乘上常數則會改變中心以及每一種離散程度的量數(標準差、IQR、全距)。

4.9 · 隨機變數的和與差

平均數相加;若變數獨立,變異數也相加

和的平均數等於各平均數之和。當變數彼此獨立時,和與差的變異數,都等於各變異數之和。

轉動轉盤(X,即上一頁的變數),再擲一顆公正的骰子(Y,平均數 3.5,標準差 1.708)。轉盤與骰子彼此獨立。它們的總和 T = X + Y 的分布以紅色表示,是把每一對結果相加得到的。

\begin{aligned}\mu_{X+Y} &= \mu_X + \mu_Y = 2 + 3.5 = 5.5 \\ \sigma^2_{X+Y} &= \sigma^2_X + \sigma^2_Y \\ &= 1.000 + 2.917 = 3.917 \\ \sigma_{X+Y} &= \sqrt{3.917} = 1.979\end{aligned}

標準差不能直接相加:1 + 1.71 = 2.71 太大了。它們的組合方式像直角三角形的邊(圖的右側)。

差。D = Y − X 的平均數為 3.5 − 2 = 1.5,變異數仍是 σ²_X + σ²_Y,所以 σ_D = 1.979。減去一個隨機的量會增加變異性,絕不會減少。

平均數的規則對任何隨機變數都成立。變異數的規則則需要獨立性。此外,轉兩次轉盤 X₁ + X₂ 並不等於 2X:它的標準差是 √2 σ_X,而 2X 的標準差是 2σ_X。

常態變數。獨立常態隨機變數的和或差仍是常態分布。接力賽的兩段分別服從 N(24, 1.5) 與 N(26.5, 2) 分鐘。總時間為 N(50.5, 2.5),其中 √(1.5² + 2²) = 2.5。P(總時間 < 48) = P(z < −1.00) = 0.1587。

4.10 · 二項分布簡介

計算 n 次試驗中的成功次數

二項隨機變數計算固定次數的獨立試驗中成功的次數,每次試驗的成功機率都相同。

檢查四個條件(BINS):Binary(二元),每次試驗不是成功就是失敗;Independent(獨立)試驗;試驗次數 n 固定(Number);每次試驗的成功機率 p 都Same(相同)。

在釘板上,每根釘子是一次試驗,「向右」是成功:n = 10,p = 0.5。X 是向右的次數,也就是球落入的格子。要落入第 6 格,球必須在 10 根釘子中有 6 次向右。每條這樣的路徑機率為 (1/2)¹⁰,共有 C(10, 6) = 210 條:

\begin{aligned}P(X = x) &= \binom{n}{x}p^x(1-p)^{n-x} \\ P(X = 6) &= \tbinom{10}{6}(0.5)^{6}(0.5)^{4} \\ &= \tfrac{210}{1024} = 0.205\end{aligned}

第 6 格應該得到 240 × 0.205 ≈ 49 的球;實際得到 47。

放回情境。一位球員的罰球命中率是 70%,她投了 10 次,我們視為彼此獨立。X 是命中次數,服從二項分布,n = 10,p = 0.7。

P(X = 8) = C(10, 8)(0.7)⁸(0.3)² = 0.2335。
P(X ≥ 8) = 1 − P(X ≤ 7) = 1 − 0.6172 = 0.3828:「至少」要用餘事件的累積機率。

不是二項分布的例子:不放回地抽牌(試驗不獨立);計算擲到第一次正面為止的擲幣次數(沒有固定的 n:那是 4.12)。

4.11 · 二項分布的參數

μ = np,σ = √(np(1 − p))

二項分布由兩個參數 n 和 p 決定。它的平均數與標準差也由這兩個參數得出。

\mu_X = np \qquad \sigma_X = \sqrt{np(1-p)}

對這個釘板,μ = 10(0.5) = 5,σ = √(10 × 0.5 × 0.5) = 1.58。與平均數相差在一個 σ 以內的格子 4, 5, 6,含有 0.656 的機率。

這是 4.9 的規則在實際運用。X 是 10 次獨立試驗的和,每次試驗以機率 p 得 1,否則得 0。一次試驗的平均數為 p,變異數為 p(1 − p)。平均數相加,變異數也相加。

放回情境。對於罰球,μ = 10(0.7) = 7,σ = √(10 × 0.7 × 0.3) = 1.45。「在許多組各 10 次的罰球中,她平均命中 7 次;命中次數通常與 7 相差約 1.45。」

形狀。p = 0.5 時,分布是對稱的。p 接近 0 或 1 時,分布是偏斜的,而 n 越大,偏斜越不明顯。當 np ≥ 10 且 n(1 − p) ≥ 10 時,分布接近常態,第 5 單元會用到這一點。

10% 條件。不放回抽樣會使各次試驗彼此相依。如果樣本不超過母體的 10%,相依性很小,二項模型仍然適用。

4.12 · 幾何分布

直到第一次成功為止的試驗次數

幾何隨機變數計算獨立試驗中直到(含)第一次成功為止的試驗次數,每次試驗的成功機率都相同。

某穀片品牌在 20% 的盒子裡放了贈品。一次打開一盒,直到找到贈品為止;X 是打開的盒數。試驗次數並不固定,所以 X 不是二項分布。要在第 x 次試驗才第一次成功(x = 1, 2, 3, …),前 x − 1 次試驗都必須失敗:

\begin{aligned}P(X = x) &= (1-p)^{x-1}p \\ P(X = 3) &= (0.8)^{2}(0.2) = 0.128\end{aligned}

每個長條都是前一個的 0.8 倍,所以這個分布永遠是右偏的,而且最可能的值永遠是 1。

P(X ≤ 3) = 1 − P(前 3 盒都沒有贈品) = 1 − 0.8³ = 0.488。
P(X > 5) = 0.8⁵ = 0.328:前五盒全部失敗。

\begin{aligned}\mu_X &= \frac{1}{p} = 5 \\ \sigma_X &= \frac{\sqrt{1-p}}{p} = \frac{\sqrt{0.8}}{0.2} = 4.47\end{aligned}

放回情境。「如果重複許多次,平均要打開 5 盒才能找到贈品。」圖中一次接一次地模擬:一直打開盒子,直到出現紅色那一盒,然後球會標出該次的 X。