抽样分布 · AP Statistics · Atlas of Statistics

第 5 章 · 抽样分布

统计量如何变化

由随机样本计算出的统计量会因样本而异。它的抽样分布说明变化有多大、呈现什么规律。

上方的板子表示总体:一所大型学校里每位学生去年暑假读的书的数量。它呈右偏分布,均值 μ = 2.54 本,标准差 σ = 2.41 本。

每次随机抽取 10 名学生(红色)。他们的均值 x̄ 就是圆锥平衡他们的位置,并落入下方的点图中。抽取 120 个样本后,这些均值的中心为 2.45,接近 μ,标准差只有 0.80。它们堆成的形状比总体对称得多。

本章就讲这堆均值:样本为什么会不同,正态模型能告诉我们什么,以及 p̂ 和 x̄ 的抽样分布的中心、离散程度和形状,包括单个统计量和它们的差。它们是后面各单元中每个置信区间和检验的基础。

5.1 · 为什么我的样本和你的不一样?

抽样变异性

来自同一总体的不同随机样本,统计量的取值也不同。这称为抽样变异,它不是错误。

开篇中前 4 个样本(每个样本 10 名学生)及其均值:

\bar{x} = \frac{\sum x_i}{n}

样本	读书数量	x̄
1	0, 0, 0, 2, 2, 5, 0, 4, 2, 3	1.8
2	8, 0, 2, 0, 4, 1, 0, 2, 6, 1	2.4
3	0, 7, 2, 0, 1, 5, 3, 3, 0, 0	2.1
4	5, 1, 0, 1, 3, 0, 6, 1, 0, 8	2.5

没有哪个样本恰好等于总体均值 μ = 2.54;每个样本的偏差都只是偶然造成的。抽到哪些学生是随机的,所以统计量也是随机的。

这种变化有规律。在许多样本中,x̄ 的取值聚集在 μ 周围,样本越大,聚集得越紧。了解这一规律,就能说明样本结果可能偏离真值多远,从而判断某个结果是否出人意料。

随机选取使这一规律可以预测。方便样本,例如一个班的学生,可能每次都朝同一方向偏离,而且没有公式能说明偏离多少。

5.1 · 只是偶然吗?

用模拟估计概率

模拟是多次重复模仿一个随机过程。某事件发生的重复次数所占的比例,可以估计它的概率。

某镇议会声称,一半选民支持新建公园,即 p = 0.5。在 40 名选民的随机样本中,有 26 人回答支持:p̂ = 0.650。如果这一说法成立,这个结果是否超出了偶然容易产生的范围?

模型。每位选民以概率 0.5 回答支持(用抛硬币或随机数字:0–4 表示支持,5–9 表示不支持)。一次试验是 40 位选民;记录 p̂。重复 100 次。图中演示了这一过程:红球表示支持。

结果。在 100 个模拟样本中,有 4 个满足 p̂ ≥ 0.650,所以估计的概率为 4/100 = 0.04。(二项分布的精确值为 0.040。)

结论。如果一半选民支持公园,出现至少这么高的结果只有约 4% 的可能。这是不寻常的,所以样本提供了一些证据,说明支持的人超过一半。但这并不能证明该说法是错的:小概率事件也会发生。

再运行一次 100,得到的计数会略有不同。重复次数越多,对概率的估计越好。

5.2 · 再谈正态分布

面积与分位点

对于正态分布,概率就是曲线下的面积。先标准化,再求面积。

某果园苹果的重量近似服从正态分布,μ = 150 g,σ = 12 g。z 分数表示一个值与均值相差多少个标准差:

z = \frac{x - \mu}{\sigma}

求面积。重量在 140 g 到 165 g 之间的苹果占多大比例?

\begin{aligned} z_1 &= \frac{140 - 150}{12} = -0.83 \\ z_2 &= \frac{165 - 150}{12} = 1.25 \\ P(140 < X < 165) &= P(-0.83 < Z < 1.25) \\ &= 0.692 \end{aligned}

约有 69.2% 的苹果(红色)。重量超过 165 g 的占 0.106。

求临界值。苹果要多重才能进入最重的 10%?下方面积为 0.90 的 z 是 1.28,所以 x = 150 + 1.28 × 12 = 165.4 g(蓝色)。

在考试中,要写出解题过程:说明分布及其参数、边界和所求的面积,或画出带标注的示意图。只写计算器指令,例如 normalcdf(…),不能得分。

5.2 · 参数与统计量

一个固定的数和一个随机的数

参数描述总体;统计量描述样本。统计量用来估计参数。

	参数	统计量
均值	μ	x̄
标准差	σ	s
比例	p	p̂

果园所有苹果的平均重量 μ = 150 g(蓝色)是参数:一个固定的数,通常未知。8 个苹果的随机样本得到 x̄ = 159.1 g,s = 17.0 g:这些是统计量。下一个样本得到 x̄ = 150.8 g。

因为样本是随机的,所以统计量是随机变量。它的概率分布,即在所有相同大小的可能样本中所取的值,就是它的抽样分布。

如何区分:看这个数来自整个总体(参数)还是来自手头的数据(统计量)。参数用希腊字母或 p;统计量用拉丁字母或带帽的符号。

5.3 · 中心极限定理

均值趋于正态

中心极限定理(CLT):当 n 足够大时,无论总体的形状如何,x̄ 的抽样分布都近似正态。

图中从开篇的右偏总体中,对每种样本量各抽取 400 个随机样本,并画出它们的均值:

n	各 x̄ 的均值	各 x̄ 的标准差	σ/√n
2	2.64	1.79	1.71
10	2.53	0.77	0.76
30	2.53	0.43	0.44

三件事同时成立。中心保持在 μ = 2.54。离散程度按 σ/√n 缩小。形状也在变化:n = 2 时,均值仍然右偏;n = 30 时,红色的正态曲线与它们非常吻合。

\mu_{\bar{x}} = \mu \qquad \sigma_{\bar{x}} = \frac{\sigma}{\sqrt{n}}

多大才算足够大取决于总体:总体越偏斜,所需的 n 越大。AP 的经验法则是 n ≥ 30。

常见错误:CLT 说的是 x̄ 的分布,而不是数据的分布。来自偏斜总体的大样本看起来也是偏斜的;是许多这样的样本的均值堆成了正态的形状。

5.4 · 有偏与无偏的点估计

准确度与精确度

用来估计参数的统计量称为点估计量。当它的抽样分布的均值等于参数时,它是无偏的。

每个靶子代表一个估计量。蓝色靶心是参数;每支飞镖是一个随机样本给出的估计值。

偏差看的是中心。上面两个估计量以靶心为中心:无偏。下面两个样本接连落在一侧:有偏。

变异性看的是离散程度:各样本的估计值散开多远。左边两个变化很小,右边两个变化很大。最好的估计量(红色)偏差小、变异性也小。

x̄ 是 μ 的无偏估计量,p̂ 是 p 的无偏估计量:在 5.3 中,无论 n 取何值,各 x̄ 都以 μ 为中心。样本最大值是总体最大值的有偏估计量:它不可能更大,而且通常更小。

增大样本能降低变异性,但不能降低偏差。在 5.3 中,x̄ 的标准差从 n = 10 时的 0.77 降到 n = 30 时的 0.43。但有偏的方法,例如自愿回答式调查,无论多少人回答,仍然有偏:只是错得更精确。

5.5 · p̂ 的抽样分布

中心为 p,离散程度为 √(p(1 − p)/n)

样本比例 p̂ 的抽样分布均值为 p,标准差随 n 增大而缩小。

在一个有 8,000 名学生的学区里,35% 的学生步行上学(红色珠子)。图中抽取 50 名学生的随机样本,并把每个样本的 p̂ 放进点图。

\begin{aligned} \mu_{\hat{p}} &= p = 0.35 \\ \sigma_{\hat{p}} &= \sqrt{\frac{p(1-p)}{n}} \\ &= \sqrt{\frac{0.35(0.65)}{50}} = 0.0675 \end{aligned}

	p̂ 的均值	p̂ 的标准差
100 个模拟样本	0.353	0.0657
公式值	0.35	0.0675

解释标准差。在该学区 50 名学生的随机样本中,步行上学的样本比例与真实比例 0.35 的偏差通常约为 0.067。

因为 n 在根号下,样本量变为四倍,标准差减半:200 的样本,标准差为 0.0337。

5.5 · p̂ 何时近似正态

10% 条件与大计数条件

满足两个条件,我们才能对p̂使用这些公式和正态模型。进行任何计算之前,先结合情境检验这两个条件。

10% 条件。不放回抽样时,若 n ≤ 总体的 10%,各次抽取就近似独立。这里 50 ≤ 0.10(8,000) = 800,所以可以使用 σ_p̂ = 0.0675。

大计数条件。当 np ≥ 10 且 n(1 − p) ≥ 10 时,抽样分布近似正态。这里 50(0.35) = 17.5,50(0.65) = 32.5:都至少为 10。计数较小时,分布会偏斜,拖尾偏离较近的一端(0 或 1)。

求概率。样本量为 50 的样本中,步行者至少占 45% 的可能性有多大?

\begin{aligned} z &= \frac{0.45 - 0.35}{0.0675} = 1.48 \\ P(\hat{p} \ge 0.45) &= P(Z \ge 1.48) = 0.069 \end{aligned}

阴影部分是尾部。在 100 个模拟样本中,有 7 个满足 p̂ ≥ 0.45:0.07,与模型很接近。

在这些条件中要用参数 p,而不是 p̂:抽样分布属于真实的比例。

5.6 · 样本比例之差

用比例比较两组

对于两个独立的随机样本,差 p̂₁ − p̂₂ 有自己的抽样分布,中心在 p₁ − p₂。

第 1 区是 5.5 所在的区:35% 的学生步行;样本量为 50。第 2 区有 25% 步行;样本量为 60。每对样本给出一个差(红色条),落入点图中。

\begin{aligned}\mu_{\hat{p}_1 - \hat{p}_2} &= p_1 - p_2 = 0.10 \\ \sigma_{\hat{p}_1 - \hat{p}_2} &= \sqrt{\frac{p_1(1-p_1)}{n_1} + \frac{p_2(1-p_2)}{n_2}} \\ &= \sqrt{\frac{0.35(0.65)}{50} + \frac{0.25(0.75)}{60}} = 0.0876\end{aligned}

方差是相加的,即使是求差:两个独立的随机来源使差的波动比任何一个单独的都大。标准差不能相加,方差才可以。

条件。独立随机样本;每个样本都不到其总体的 10%;并且四个计数都至少为 10:17.5, 32.5, 15, 45。这时抽样分布近似正态。

求概率。第 2 区的样本显示更高比例的情形有多常见?

\begin{aligned} z &= \frac{0 - 0.10}{0.0876} = -1.14 \\ P(\hat{p}_1 - \hat{p}_2 < 0) &= P(Z < -1.14) = 0.127 \end{aligned}

约有 13% 的时候,尽管第 1 区实际上步行者更多。图中,100 个差中有 11 个小于 0。

5.7 · x̄ 的抽样分布

中心为 μ,离散程度为 σ/√n

样本均值 x̄ 有抽样分布,其均值为 μ,标准差为 σ/√n。

\mu_{\bar{x}} = \mu \qquad \sigma_{\bar{x}} = \frac{\sigma}{\sqrt{n}} = \frac{12}{\sqrt{9}} = 4\ \text{g}

对于果园的苹果,N(150, 12),随机抽取 9 个苹果的平均质量,标准差为 4 g:红色曲线,宽度只有总体的三分之一。

形状。若总体为正态,则无论 n 多大,x̄ 都服从正态分布。若不是,当 n ≥ 30 时,中心极限定理使 x̄ 近似正态。若样本较小而总体偏斜或未知,两者都不成立,不能做正态计算。标准差公式还需要满足 10% 条件。

求概率。一个苹果超过 155 g 的 z = (155 − 150)/12 = 0.42。9 个苹果的均值超过 155 g 的 z = (155 − 150)/4 = 1.25:

\begin{aligned} P(X > 155) &= P(Z > 0.42) = 0.338 \\ P(\bar{x} > 155) &= P(Z > 1.25) = 0.106 \end{aligned}

一个苹果偏重很常见;9 个苹果的平均值偏重却不常见,因为样本中轻的和重的苹果会相互抵消。最常见的错误是,题目问的是 x̄,却除以了 σ。

5.8 · 样本均值之差

用均值比较两组

对于来自两个总体的独立随机样本,x̄₁ − x̄₂ 的均值为 μ₁ − μ₂,方差等于两个方差之和。

A 品种苹果的质量服从 N(150, 12) 克,B 品种服从 N(140, 10)。随机取 9 个 A 和 16 个 B,比较它们的均值(上方板上的红色条)。

\begin{aligned}\mu_{\bar{x}_1 - \bar{x}_2} &= \mu_1 - \mu_2 = 150 - 140 = 10\ \text{g} \\ \sigma_{\bar{x}_1 - \bar{x}_2} &= \sqrt{\frac{\sigma_1^2}{n_1} + \frac{\sigma_2^2}{n_2}} \\ &= \sqrt{\frac{12^2}{9} + \frac{10^2}{16}} = 4.72\ \text{g}\end{aligned}

形状。两个总体都是正态,所以差也是正态。否则每个样本都需要 n ≥ 30,以便使用中心极限定理。每个样本还必须不到其总体的 10%,且两个样本相互独立。

求概率。B 样本的平均质量更大的可能性有多大?

\begin{aligned} z &= \frac{0 - 10}{4.72} = -2.12 \\ P(\bar{x}_A - \bar{x}_B < 0) &= P(Z < -2.12) = 0.017 \end{aligned}

很少见:在这样的样本量下,较重的品种几乎总是均值也更大。样本更小会使红色曲线更宽,阴影面积更大。