卡方檢定

第 8 章 · 卡方檢定

計數與期望值的比較

卡方檢定要問的是:各類別的次數與假設所預測的相差太遠,能不能只歸因於機遇。

一家糖果廠宣稱它的糖果袋是 24% blue, 20% orange, 16% green, 14% yellow, 13% red, 13% brown。現在數了一袋 200(黑色長條)。如果這個宣稱為真,這袋大約應該有 200 × 0.24 = 48 顆藍色,其餘依此類推(藍色虛影)。

沒有一袋會剛好吻合。紅色細棒就是差距,即觀察值 − 期望值。每個差距先平方,再除以它的期望次數,這些部分堆疊成一個數,也就是卡方統計量,χ² = 12.11。

χ² 小,表示次數很接近宣稱;χ² 大,表示不接近。本章要問的是多大才算太大:一個變數對照宣稱的分布(適合度檢定),以及雙向表(同質性檢定與獨立性檢定)。

8.1 · 我的結果出人意料嗎?

單靠機遇會產生什麼結果

隨機樣本會有變異。要判斷一個結果,就把它與宣稱為真時單靠機遇所產生的結果相比較。

圖中從恰好符合宣稱的比例,隨機裝滿 300 袋,每袋 200。每個模擬的袋子(左側)與期望次數都有一點差距,它的 χ² 在點圖中落成一個點。

即使宣稱為真,χ² 也不會是 0,通常是幾個單位。這 300 個值的平均為 4.99。在這 300 個中,只有 10 個(紅色)達到真實那袋的 12.11:比例為 0.033。

這就是每一種檢定的邏輯:如果宣稱為真,我們有多常會看到至少這麼極端的結果?如果很少見,這個結果就是反對該宣稱的統計上顯著的證據。如果常見,資料就沒有理由讓我們懷疑它,但這並不證明它為真。

灰色曲線是這些點逐漸堆向的 χ² 分布。有了它,我們不必模擬就能求出機率(8.3)。

8.2 · 建立適合度檢定

假設、期望次數、條件

卡方適合度檢定用來檢定一個類別變數的分布是否與宣稱的分布相符。

假設針對的是母體比例,而不是樣本次數:

H₀:p_藍 = 0.24,p_橙 = 0.2,… ,p_棕 = 0.13(宣稱的分布是正確的)。
H_a:至少有一個比例與宣稱的不同。

H_a不是「全部都不同」,也沒有指定方向。

期望次數為 n × p_i,由 H₀ 算出:

期望次數的總和為 n = 200,而且不必是整數:不要四捨五入。

條件。隨機:隨機樣本(或隨機化實驗)。10%:不放回抽樣時,n ≤ 母體的 10%(200 顆糖果遠少於該廠所有糖果的 10%)。大次數:每個期望次數至少為 5;此處最小的是 26。要檢查期望次數,而不是觀察次數。

8.3 · 卡方統計量

差距平方,再依期望次數調整比例

χ² 統計量把每個類別的「觀察次數與期望次數之差的平方,除以期望次數」全部加起來。

差距的總和一定是 0,所以不能直接相加:平方之後每一項才都算數。除以 E 會讓期望次數少時的差距分量更重:在期望 20 之中差 10,比在期望 200 之中差 10 更要緊。

自由度是類別數減一:df = 6 − 1 = 5。已知五個次數後,第六個就由總數決定了。

最大的貢獻顯示資料與宣稱最不一致之處:blue,4.08,佔 12.11,觀察到 34,期望為 48:blue的糖果比宣稱的少。

8.3 · p 值與結論

落入尾部多深

p 值是具有該檢定自由度的 χ² 曲線下,位於觀察到的 χ² 及其右側的面積:χ² 值越大,越是反對 H₀ 的證據,所以這個檢定永遠看右尾。

8.1 的模擬得到 0.033,與此答案相近。

解讀。假設該廠宣稱的分布是正確的,在 200 顆糖果的隨機樣本中,單靠機遇得到 χ² 為 12.11 或更大的機率是 0.033。

結論。因為 p = 0.033 < α = 0.05,拒絕 H₀。有令人信服的證據顯示,該廠糖果的顏色分布與宣稱的不同。

若改用查表而非科技工具:df = 5、右尾 0.05 的臨界值為 χ²* = 11.07(藍)。12.11 > 11.07,所以 p < 0.05。

如果 p 大於 α,結論應是「沒有令人信服的證據顯示分布不同」:絕不是「宣稱是正確的」,也絕不是「接受 H₀」。χ² 檢定也無法指出分布偏向哪一邊;要看的話,請看最大的貢獻項。

8.3 · 卡方分布

一個分布族,每個 df 各有一個

χ² 分布是一族密度曲線,每個自由度對應一條。

因為 χ² 是平方和,每條曲線只取 0 或更大的值。每條都右偏。其平均數為 df,而 df ≥ 2 時,峰值在 df − 2。

隨著 df 增大,曲線向右移動、變得更分散,偏態也減小(紅色曲線由 df = 1 變化到 12)。類別越多,總和中的項就越多,所以即使 H₀ 為真,也預期會有較大的 χ²。

因此,同一個 χ² 在某個 df 下可能是強力證據,在另一個 df 下卻毫無意義。上側臨界值如下:

粗略的檢查:χ² 接近其 df 是很普通的。糖果的 12.11 超過其 df 5 的兩倍。

χ² 分布只是這個統計量真實抽樣分布的近似。當每個期望次數至少為 5 時,近似得很好:這就是這項條件重要的原因。

8.4 · 雙向表中的期望次數

由邊際總數求得

對於雙向表,每個期望次數等於列總和乘以行總和,再除以表的總數。

隨機抽取 400 位成人,依年齡層與主要新聞來源分類。觀察次數如下,括號內為期望次數:

為什麼這樣算。整體而言,400 位成人中有 144 位(36%)從online獲得新聞。如果年齡層沒有影響,18–34的 134 位成人中也會有相同比例:134 × 144/400 = 48.24。

期望次數的邊際總和與觀察次數相同。圖上一次算一個格子:紅色的蓋子是期望次數,藍色方塊是它所依據的兩個總和。

保留小數。期望次數是許多樣本的平均,不是實際可能觀察到的次數。

8.5 · 同質性還是獨立性?

由研究設計決定

同一張雙向表可能來自兩種設計,而設計決定是哪一種檢定。

同質性(左):從數個母體(或實驗中的數個組別)各抽取獨立的隨機樣本,只記錄一個類別變數。此處是從每個年齡層各抽一個樣本,詢問每個人的新聞來源。列總和是由設計決定的。

H₀:三個年齡層的新聞來源分布相同。H_a:三個年齡層的新聞來源分布不全相同。

獨立性(右):從一個母體抽取一個隨機樣本,對每個個體記錄兩個類別變數。只有表的總數是固定的;各年齡層有多少人則由機遇決定。

H₀:在成人中,年齡層與新聞來源之間沒有關聯(兩者獨立)。H_a:兩者有關聯(不獨立)。

計算方式相同:期望次數、χ²、df 與 p 值。兩者的條件都是:隨機樣本(或隨機分派);每個樣本至多佔其母體的 10%;每個期望次數至少為 5。

8.6 · 進行雙向表的檢定

χ² 與 df = (r − 1)(c − 1)

對於雙向表,χ² 是把每個格子的 (O − E)²/E 全部加起來,而 df = (列數 − 1)(行數 − 1)。

新聞來源的樣本是一個含兩個變數的樣本:這是獨立性檢定,α = 0.05。

H₀:在成人中,年齡層與主要新聞來源互相獨立。H_a:兩者有關聯。

條件。隨機樣本;400 少於所有成人的 10%;最小的期望次數是 35.6,至少為 5。

每個格子的貢獻(紅色柱):

為什麼是 (r − 1)(c − 1):邊際總和固定時,只要填好表中 2 × 2 的一角,其他每個格子都能由總和推得。

最大的貢獻:18–34, online(5.15:觀察 64,期望 48.2)與 18–34、print(4.10:觀察 24,期望 36.2)。年輕成人偏向網路,而較少使用印刷媒體。

8.6 · 結合情境的結論

有關聯的證據,而非因果

p 值是 χ² 右側、df = (r − 1)(c − 1) 的曲線下的面積,而結論是關於母體的,並要放在情境中說明。

結論。因為 p = 0.0046 < α = 0.05,拒絕 H₀。有確切的證據顯示,成年人的年齡層與主要新聞來源之間有關聯。

以臨界值來看:df = 4 時 χ²* = 9.49,且 15.06 > 9.49。

不是因果。這是觀察性研究:檢定只發現有關聯,並不能說年齡造成了新聞來源的選擇。只有隨機化實驗,並對各處理組做同質性檢定,才能顯示因果。

若同樣的次數來自三個獨立樣本,結論應寫成:有確切的證據顯示,三個年齡層的新聞來源分布不同。

常見錯誤。把假設寫成關於樣本;用百分比代替次數;檢查觀察次數而非期望次數;df = rc − 1;在 p 很大時就斷定 H₀ 為真。

8.7 · Selecting a procedure

比例用 z,或用 χ²

對於類別資料,該選哪種方法,取決於有幾個樣本、幾個變數,以及有幾個類別。

z 方法可以估計:能給出信賴區間,也允許單尾的 H_a(「大於」)。χ² 檢定只做檢定,其 H_a 沒有方向。

在兩組、兩個類別的情況下,採雙尾 H_a 的雙樣本 z 檢定與 χ² 同質性檢定會得到相同的 p 值(χ² = z²)。

先看設計:樣本是怎麼抽取的?對每個個體記錄了什麼?圖中顯示各種設計在資料中留下的樣貌,並為每個問題挑選一種方法。