卡方检验

第8章 · 卡方检验

观测计数与期望计数的对比

卡方检验要回答的是:各类别的计数与假设所预测的相差这么大,能不能只归因于随机性。

糖果厂声称它的每袋糖果是24% blue, 20% orange, 16% green, 14% yellow, 13% red, 13% brown。数一袋200(黑色柱)。如果这一说法成立,这袋里应约有 200 × 0.24 = 48 颗蓝色,其余类推(蓝色虚影)。

没有哪一袋会完全吻合。红色杆就是差距,即观测值 − 期望值。每个差距先平方,再除以对应的期望计数,然后叠加成一个数,这就是卡方统计量,χ² = 12.11。

χ² 小,说明计数与声称的情形很接近;χ² 大,则说明不接近。本章要问的是:多大才算太大。我们会讨论一个变量与声称分布的比较(拟合优度),以及双向表(齐性与独立性)。

8.1 · 我的结果出人意料吗?

仅凭随机性会产生什么结果

随机样本会有波动。要判断一个结果,就把它与声称成立时仅由随机性产生的结果作比较。

图中从恰好符合声称配比的总体里随机装了 300 袋,每袋 200。每个模拟的袋子(左)与期望计数都略有偏差,它的 χ² 在点图中落为一个点。

即使声称成立,χ² 也不会是 0,通常是几个单位。这 300 个值的平均数是 4.99。在这 300 个中,只有 10 个(红色)达到实际那袋的 12.11:比例为 0.033。

这就是所有检验的逻辑:如果声称成立,我们看到至少这么极端的结果的频率有多高?如果很少,这个结果就是反对该声称的统计显著证据。如果经常出现,数据就没有理由让我们怀疑它,但这并不证明它是真的。

灰色曲线是这些点逐渐趋近的 χ² 分布。有了它,不用模拟就能求出概率(8.3)。

8.2 · 建立拟合优度检验

假设、期望计数、条件

卡方拟合优度检验用来检验一个分类变量的分布是否与声称的分布相符。

假设针对的是总体比例,绝不是样本计数:

H₀:p_蓝 = 0.24,p_橙 = 0.2,… ,p_棕 = 0.13(声称的分布正确)。
H_a:至少有一个比例与声称不同。

H_a 不是“所有比例都不同”,也不指明方向。

期望计数为 n × p_i,由 H₀ 算出:

它们的和为 n = 200,而且不必是整数:不要四舍五入。

条件。随机:随机样本(或随机化实验)。10%:不放回抽样时,n ≤ 总体的 10%(200 颗糖果远少于该厂全部糖果的 10%)。大计数:每个期望计数至少为 5;这里最小的是 26。检查的是期望计数,不是观测计数。

8.3 · 卡方统计量

平方后的差距,按期望值缩放

χ² 统计量对每个类别,把观测值与期望值之差的平方除以期望计数,再全部相加。

差距之和总是 0,所以不能直接相加:平方后每个差距都会计入。除以 E,则使期望值小时的差距占更大权重:在期望 20 的情况下差 10,比在期望 200 的情况下差 10 更重要。

自由度是类别数减 1:df = 6 − 1 = 5。已知五个计数后,第六个就由总数确定了。

最大贡献项显示数据与声称分歧最大之处:blue,4.08,共 12.11,观测 34 而期望 48:blue糖果比声称的少。

8.3 · p 值与结论

落在尾部多远

p 值是在自由度为检验 df 的 χ² 曲线下,观测 χ² 及其右侧的面积:大的值是反对 H₀ 的证据,所以这个检验总是看右尾。

8.1 中的模拟给出 0.033,与此答案相近。

解释。假设厂家声称的分布正确,在 200 颗糖果的随机样本中,仅凭随机性得到 12.11 或更大的 χ² 的概率为 0.033。

结论。因为 p = 0.033 < α = 0.05,拒绝 H₀。有令人信服的证据表明,这家厂糖果的颜色分布与其声称不同。

若用表而不用技术工具:df = 5、尾部概率 0.05 的临界值为 χ²* = 11.07(蓝色)。12.11 > 11.07,所以 p < 0.05。

如果 p 大于 α,结论应是“没有令人信服的证据表明分布不同”:绝不能说“声称是正确的”,也不能说“接受 H₀”。χ² 检验也无法说明分布偏向哪一边;要看这一点,就看最大贡献项。

8.3 · 卡方分布

一个分布族,每个 df 对应一条

χ² 分布是一族密度曲线,每个自由度对应一条。

每条曲线只取 0 或更大的值,因为 χ² 是平方和。每条都右偏。它的均值是 df,当 df ≥ 2 时峰值在 df − 2 处。

随着 df 增大,曲线向右移动、变宽,偏斜减弱(红色曲线从 df = 1 变到 12)。类别越多,和中的项越多,所以即使 H₀ 成立,也预期会有更大的 χ²。

因此同一个 χ²,在一个 df 下可能是有力的证据,在另一个 df 下却什么也说明不了。上侧临界值如下:

粗略检验:χ² 接近其 df 是正常的。这些糖果的 12.11 已超过其 df 5 的两倍。

χ² 分布只是该统计量真实抽样分布的近似。当每个期望计数至少为 5 时近似良好:这就是该条件重要的原因。

8.4 · 双向表中的期望计数

由边际总数得出

对于双向表,每个期望计数等于行合计乘以列合计,再除以表的总数。

随机抽取 400 名成年人,按年龄组和主要新闻来源分类。观测计数如下,括号中为期望计数:

为什么这样可行。总体上,400 名成年人中有 144 人(36%)从online获取新闻。如果年龄组没有影响,那么 134 名 18–34 的成年人中也应有同样的比例:134 × 144/400 = 48.24。

期望计数与观测计数有相同的边际总数。图中一次算一个单元格:红色盖子是期望计数,蓝色方块是它所依据的两个合计。

保留小数。期望计数是许多样本的平均值,不是可以观测到的计数。

8.5 · 齐性还是独立性?

由研究设计决定

同一张双向表可能来自两种不同的设计,而设计决定了用哪种检验。

齐性(左):从多个总体(或实验中的多个组)中分别抽取独立的随机样本,只记录一个分类变量。这里是从每个年龄组各抽一个样本,询问每个人的新闻来源。行合计由设计决定。

H₀:三个年龄组的新闻来源分布相同。H_a:三个年龄组的新闻来源分布不全相同。

独立性(右):从一个总体中抽取一个随机样本,对每个个体记录两个分类变量。只有表的总数是固定的;每个年龄组有多少人则取决于随机性。

H₀:在成年人中,年龄组与新闻来源之间没有关联(二者独立)。H_a:二者存在关联(不独立)。

计算过程相同:期望频数、χ²、df 和 p 值。两种情形的条件都是:随机样本(或随机分配);每个样本不超过其总体的 10%;每个期望频数都至少为 5。

8.6 · 对双向表进行检验

χ² 与 df = (r − 1)(c − 1)

对于双向表,χ² 是对每个单元格求 (O − E)²/E 之和,df = (行数 − 1)(列数 − 1)。

新闻来源数据是一个含两个变量的样本:在 α = 0.05 下做独立性检验。

H₀:在成年人中,年龄组与主要新闻来源相互独立。H_a:二者存在关联。

条件。随机样本;400 不到全体成年人的 10%;最小的期望频数是 35.6,至少为 5。

每个单元格的贡献(红色柱):

为什么是 (r − 1)(c − 1):边际合计固定时,只要填好表中一个 2 × 2 的角,其余每个单元格都可由合计推出。

贡献最大的是:18–34, online(5.15:观测 64,期望 48.2)以及 18–34、print(4.10:观测 24,期望 36.2)。年轻人更倾向网络,较少选择纸媒。

8.6 · 结合情境写出结论

有关联的证据,而非因果

p 值是 χ² 右侧、自由度 df = (r − 1)(c − 1) 的曲线下的面积,结论要结合情境,针对总体来写。

结论。由于 p = 0.0046 < α = 0.05,拒绝 H₀。有令人信服的证据表明,成年人的年龄组与主要新闻来源之间存在关联。

用临界值判断:df = 4 时 χ²* = 9.49,且 15.06 > 9.49。

不代表因果。这是观察性研究:检验只能发现关联,不能说明年龄导致人们选择某种新闻来源。只有随机化实验,并对各处理组做齐性检验,才能证明因果关系。

如果同样的数据来自三个独立样本,结论应写成:有令人信服的证据表明,三个年龄组的新闻来源分布不同。

常见错误。把假设写成关于样本的;用百分比代替频数;检查观测频数而不是期望频数;df = rc − 1;p 值大就断定 H₀ 为真。

8.7 · Selecting a procedure

比例的 z 检验,还是 χ²

对于分类数据,选哪种方法取决于有几个样本、几个变量,以及有几个类别。

z 方法可以估计:能给出置信区间,也允许单侧 H_a(“大于”)。χ² 检验只做检验,其 H_a 没有方向。

当有两组、两个类别时,H_a 为双侧的双样本 z 检验与 χ² 齐性检验给出相同的 p 值(χ² = z²)。

先看设计:样本是怎么抽取的,对每个个体记录了什么?图中展示了每种设计在数据中留下的形态,并为每个问题选出一种方法。