표본분포 · AP Statistics · Atlas of Statistics

5장 · 표본분포

통계량이 변하는 방식

무작위 표본으로 계산한 통계량은 표본마다 달라집니다. 표본분포는 얼마나, 어떤 양상으로 달라지는지를 알려 줍니다.

위쪽 보드는 모집단입니다. 큰 학교의 모든 학생이 지난여름에 읽은 책의 수입니다. 오른쪽으로 치우쳐 있고, 평균은 μ = 2.54권, 표준편차는 σ = 2.41권입니다.

한 번에 학생 열 명을 무작위로 뽑습니다(빨간색). 이들의 평균 x̄은 원뿔이 균형을 잡는 지점이며, 아래 점도표에 떨어집니다. 표본이 120개 쌓이면 평균들의 중심은 2.45로 μ에 가깝고, 표준편차는 0.80에 불과합니다. 평균들이 쌓인 모양은 모집단보다 훨씬 대칭에 가깝습니다.

이 단원은 바로 그 쌓인 모양을 다룹니다. 표본이 왜 서로 다른지, 정규 모형이 그것에 대해 무엇을 말해 주는지, 그리고 p̂와 x̄의 표본분포(각각, 그리고 차이로서)의 중심, 퍼짐, 모양을 배웁니다. 이는 앞으로 나올 모든 신뢰구간과 검정의 바탕입니다.

5.1 · 왜 내 표본은 네 표본과 다를까?

표본 변동성

같은 모집단에서 뽑은 서로 다른 무작위 표본은 통계량의 값이 서로 다릅니다. 이것이 표본 변동성이며, 실수가 아닙니다.

도입부의 모집단에서 학생 10명씩 뽑은 처음 4개의 표본과 그 평균입니다.

\bar{x} = \frac{\sum x_i}{n}

표본	읽은 책 수	x̄
1	0, 0, 0, 2, 2, 5, 0, 4, 2, 3	1.8
2	8, 0, 2, 0, 4, 1, 0, 2, 6, 1	2.4
3	0, 7, 2, 0, 1, 5, 3, 3, 0, 0	2.1
4	5, 1, 0, 1, 3, 0, 6, 1, 0, 8	2.5

어떤 표본도 모평균 μ = 2.54와 정확히 같지 않습니다. 각각 우연만으로 차이가 납니다. 어떤 학생이 뽑히는지가 무작위이므로 통계량도 무작위입니다.

이 변동에는 패턴이 있습니다. 많은 표본에 걸쳐 x̄의 값은 μ 주위에 모이고, 표본이 클수록 더 촘촘히 모입니다. 이 패턴을 알면 표본 결과가 참값에서 얼마나 떨어져 있을 가능성이 큰지, 따라서 어떤 결과가 놀라운지를 말할 수 있습니다.

무작위 추출이 있어야 이 패턴을 예측할 수 있습니다. 한 학급의 학생처럼 편의 표본은 매번 같은 방향으로 치우칠 수 있고, 어떤 공식으로도 얼마나 치우쳤는지 알 수 없습니다.

5.1 · 단순한 우연일까?

시뮬레이션으로 확률 추정하기

시뮬레이션은 우연 과정을 여러 번 흉내 냅니다. 어떤 일이 일어난 반복의 비율이 그 확률의 추정값입니다.

한 시의회가 유권자의 절반, p = 0.5이 새 공원을 지지한다고 주장합니다. 무작위로 뽑은 유권자 40명 중 26명이 찬성했습니다: p̂ = 0.650. 주장이 사실이라면, 이것은 우연만으로 쉽게 나올 수 있는 값보다 큰 것일까요?

모형. 각 유권자는 확률 0.5로 찬성합니다(동전 던지기, 또는 무작위 숫자: 0–4는 찬성, 5–9는 반대). 한 번의 시행은 유권자 40명이며, p̂을 기록합니다. 이를 100번 반복합니다. 그림이 이를 실행하며, 빨간 공이 찬성입니다.

결과. 시뮬레이션한 표본 100개 중 4개에서 p̂ ≥ 0.650가 나왔으므로, 추정 확률은 4/100 = 0.04입니다. (정확한 이항 확률은 0.040입니다.)

결론. 유권자의 절반이 공원을 지지한다면, 이만큼 높은 결과는 약 4%의 경우에만 나옵니다. 이는 드문 일이므로, 이 표본은 절반보다 많은 유권자가 지지한다는 어느 정도의 증거가 됩니다. 그렇다고 주장이 틀렸다는 증명은 아닙니다. 가능성이 낮은 결과도 일어납니다.

100을 다시 실행하면 개수가 조금 다르게 나올 것입니다. 반복 횟수가 많을수록 확률을 더 잘 추정합니다.

5.2 · 정규분포 다시 보기

넓이와 경계값

정규분포에서 확률은 곡선 아래의 넓이입니다. 표준화한 다음 넓이를 구하세요.

한 과수원 사과의 무게는 근사적으로 정규분포를 따르며, μ = 150 g, σ = 12 g입니다. z점수는 어떤 값이 평균에서 표준편차의 몇 배만큼 떨어져 있는지를 나타냅니다.

z = \frac{x - \mu}{\sigma}

넓이. 무게가 140 g과 165 g 사이인 사과의 비율은 얼마일까요?

\begin{aligned} z_1 &= \frac{140 - 150}{12} = -0.83 \\ z_2 &= \frac{165 - 150}{12} = 1.25 \\ P(140 < X < 165) &= P(-0.83 < Z < 1.25) \\ &= 0.692 \end{aligned}

사과의 약 69.2%입니다(빨간색). 165 g보다 무거운 사과는 0.106입니다.

기준값. 가장 무거운 10%에 들려면 사과가 얼마나 무거워야 할까요? 아래쪽 넓이가 0.90인 z는 1.28이므로, x = 150 + 1.28 × 12 = 165.4 g입니다(파란색).

시험에서는 풀이 과정을 보여야 합니다. 분포와 그 모수, 경계값과 구하려는 넓이를 쓰거나, 이름을 붙인 그림을 그리세요. normalcdf(…)와 같은 계산기 명령어만 쓰면 점수를 받지 못합니다.

5.2 · 모수와 통계량

고정된 수와 무작위 수

모수는 모집단을 나타내고, 통계량은 표본을 나타냅니다. 통계량은 모수를 추정하는 데 쓰입니다.

	모수	통계량
평균	μ	x̄
표준편차	σ	s
비율	p	p̂

과수원 전체 사과의 평균 무게 μ = 150 g(파란색)은 모수입니다. 고정된 하나의 수이며 대개 알 수 없습니다. 사과 8개의 무작위 표본에서는 x̄ = 159.1 g, s = 17.0 g이 나왔고, 이들은 통계량입니다. 다음 표본에서는 x̄ = 150.8 g이 나왔습니다.

표본이 무작위이므로 통계량은 확률변수입니다. 같은 크기의 가능한 모든 표본에서 통계량이 취하는 값들의 확률분포가 그 통계량의 표본분포입니다.

구별하는 방법: 그 수가 모집단 전체에서 나왔는지(모수), 가지고 있는 데이터에서 나왔는지(통계량) 물어보세요. 모수는 그리스 문자 또는 p를 쓰고, 통계량은 로마자 또는 모자(^) 기호를 씁니다.

5.3 · 중심극한정리

평균은 정규분포에 가까워진다

중심극限정리(CLT): n이 충분히 크면, 모집단의 모양과 관계없이 x̄의 표본분포는 근사적으로 정규분포입니다.

그림은 도입부의 치우친 모집단에서 각 크기별로 무작위 표본 400개를 뽑아 그 평균을 그립니다.

n	x̄들의 평균	x̄들의 표준편차	σ/√n
2	2.64	1.79	1.71
10	2.53	0.77	0.76
30	2.53	0.43	0.44

세 가지가 동시에 성립합니다. 중심은 μ = 2.54에 머뭅니다. 퍼짐은 σ/√n처럼 줄어듭니다. 그리고 모양이 변합니다. n = 2일 때 평균들은 아직 오른쪽으로 치우쳐 있고, n = 30일 때는 빨간 정규곡선이 평균들에 꼭 맞습니다.

\mu_{\bar{x}} = \mu \qquad \sigma_{\bar{x}} = \frac{\sigma}{\sqrt{n}}

얼마나 커야 충분한지는 모집단에 따라 다릅니다. 더 치우칠수록 n이 더 커야 합니다. AP의 경험 법칙은 n ≥ 30입니다.

흔한 실수: CLT는 데이터가 아니라 x̄의 분포에 관한 것입니다. 치우친 모집단에서 뽑은 큰 표본은 여전히 치우쳐 보입니다. 정규 모양으로 쌓이는 것은 그런 표본 여러 개의 평균입니다.

5.4 · 편향된 점추정량과 불편 점추정량

겨냥과 정밀도

모수를 추정하는 데 쓰는 통계량이 점추정량입니다. 표본분포의 평균이 모수와 같으면 불편(unbiased)이라고 합니다.

각 과녁은 하나의 추정량을 나타냅니다. 파란 과녁 중심은 모수이고, 각 화살은 무작위 표본 하나에서 나온 추정값입니다.

편향은 중심에 관한 것입니다. 위쪽 두 추정량은 과녁 중심에 모입니다. 불편입니다. 아래쪽 두 추정량은 표본마다 한쪽으로 치우쳐 떨어집니다. 편향되어 있습니다.

변동성은 퍼짐에 관한 것입니다. 추정값이 표본마다 얼마나 흩어지는지입니다. 왼쪽 두 추정량은 변동이 작고, 오른쪽 두 추정량은 큽니다. 가장 좋은 추정량(빨간색)은 편향과 변동성이 모두 낮습니다.

x̄은 μ의 불편추정량이고 p̂은 p의 불편추정량입니다. 5.3에서 x̄들은 모든 n에서 μ를 중심으로 모였습니다. 표본 최댓값은 모집단 최댓값에 대해 편향되어 있습니다. 더 클 수는 없고, 대개 더 작기 때문입니다.

표본이 클수록 변동성은 줄지만 편향은 줄지 않습니다. 5.3에서 x̄의 표준편차는 n = 10일 때 0.77에서 n = 30일 때 0.43으로 줄었습니다. 그러나 자발적 응답 조사처럼 편향된 방법은 아무리 많은 사람이 답해도 편향된 채로 남습니다. 빗나가는 것이 더 정밀해질 뿐입니다.

5.5 · p̂의 표본분포

중심 p, 퍼짐 √(p(1 − p)/n)

표본비율 p̂의 표본분포는 평균이 p이고, 표준편차는 n이 커질수록 줄어듭니다.

학생 8,000명인 한 학군에서 35%가 걸어서 등교합니다(빨간 구슬). 그림은 학생 50명씩 무작위 표본을 뽑아 각 표본의 p̂을 점도표에 떨어뜨립니다.

\begin{aligned} \mu_{\hat{p}} &= p = 0.35 \\ \sigma_{\hat{p}} &= \sqrt{\frac{p(1-p)}{n}} \\ &= \sqrt{\frac{0.35(0.65)}{50}} = 0.0675 \end{aligned}

	p̂의 평균	p̂의 표준편차
시뮬레이션한 표본 100개	0.353	0.0657
공식	0.35	0.0675

표준편차 해석하기. 이 학군에서 학생 50명의 무작위 표본을 뽑으면, 걸어서 등교하는 표본비율은 참비율 0.35에서 보통 약 0.067만큼 벗어납니다.

n이 제곱근 안에 있으므로, 표본 크기를 4배로 하면 표준편차는 절반이 됩니다. 200명의 표본이라면 0.0337이 됩니다.

5.5 · p̂가 근사적으로 정규분포일 때

10% 조건과 큰 수 조건

두 가지 조건이 충족되면 p̂에 공식과 정규모형을 사용할 수 있습니다. 계산하기 전에 상황에 맞게 두 조건을 모두 확인하세요.

10% 조건. 비복원추출에서는 n ≤ 모집단의 10%이면 추출이 거의 독립이라고 볼 수 있습니다. 여기서는 50 ≤ 0.10(8,000) = 800이므로 σ_p̂ = 0.0675를 사용할 수 있습니다.

큰 수 조건. np ≥ 10이고 n(1 − p) ≥ 10이면 표본분포는 근사적으로 정규분포입니다. 여기서 50(0.35) = 17.5, 50(0.65) = 32.5로 둘 다 10 이상입니다. 값이 더 작으면 분포는 0 또는 1 중 가까운 쪽 끝에서 멀어지는 방향으로 치우칩니다.

확률. 50명의 표본에서 걸어서 등교하는 학생이 45% 이상일 확률은 얼마일까요?

\begin{aligned} z &= \frac{0.45 - 0.35}{0.0675} = 1.48 \\ P(\hat{p} \ge 0.45) &= P(Z \ge 1.48) = 0.069 \end{aligned}

색칠한 꼬리 부분입니다. 시뮬레이션한 100개의 표본 중 7개에서 p̂ ≥ 0.45였고: 0.07로 모형과 가깝습니다.

이 조건들에서는 p̂이 아니라 모수 p를 사용하세요. 표본분포는 참된 비율을 중심으로 합니다.

5.6 · 표본비율의 차

비율로 두 집단 비교하기

독립인 두 임의표본에서 차이 p̂₁ − p̂₂는 p₁ − p₂를 중심으로 하는 고유한 표본분포를 가집니다.

지구 1은 5.5의 그 지구입니다. 35%가 걸어서 등교하고, 표본 크기는 50입니다. 지구 2에서는 25%가 걸어서 등교하고, 표본 크기는 60입니다. 표본 한 쌍마다 차이(빨간 막대)가 하나 생기고, 이것이 점도표에 쌓입니다.

\begin{aligned}\mu_{\hat{p}_1 - \hat{p}_2} &= p_1 - p_2 = 0.10 \\ \sigma_{\hat{p}_1 - \hat{p}_2} &= \sqrt{\frac{p_1(1-p_1)}{n_1} + \frac{p_2(1-p_2)}{n_2}} \\ &= \sqrt{\frac{0.35(0.65)}{50} + \frac{0.25(0.75)}{60}} = 0.0876\end{aligned}

차이일 때도 분산은 더해집니다. 우연에 의한 독립적인 두 원인이 있으므로 차이는 각각보다 더 크게 변합니다. 표준편차는 더해지지 않고, 분산이 더해집니다.

조건. 독립인 임의표본이어야 하고, 각 표본은 모집단의 10% 미만이어야 하며, 네 개의 수가 모두 10 이상이어야 합니다: 17.5, 32.5, 15, 45. 그러면 표본분포는 근사적으로 정규분포입니다.

확률. 지구 2의 표본에서 비율이 더 높게 나올 확률은 얼마일까요?

\begin{aligned} z &= \frac{0 - 0.10}{0.0876} = -1.14 \\ P(\hat{p}_1 - \hat{p}_2 < 0) &= P(Z < -1.14) = 0.127 \end{aligned}

지구 1에 걸어서 등교하는 학생이 실제로 더 많은데도 약 13%의 경우에 그렇게 됩니다. 그림에서는 100개의 차이 중 11개가 0보다 작았습니다.

5.7 · x̄의 표본분포

중심 μ, 퍼짐 σ/√n

표본평균 x̄의 표본분포는 평균이 μ이고 표준편차가 σ/√n입니다.

\mu_{\bar{x}} = \mu \qquad \sigma_{\bar{x}} = \frac{\sigma}{\sqrt{n}} = \frac{12}{\sqrt{9}} = 4\ \text{g}

과수원의 사과가 N(150, 12)을 따를 때, 임의로 뽑은 9개 표본의 평균 무게는 표준편차가 4 g입니다. 빨간 곡선은 모집단의 3분의 1 너비입니다.

모양. 모집단이 정규분포이면 x̄는 어떤 n에서도 정규분포입니다. 그렇지 않으면 n ≥ 30일 때 중심극한정리에 의해 x̄는 근사적으로 정규분포입니다. 치우쳤거나 알 수 없는 모집단에서 작은 표본을 뽑으면 둘 다 성립하지 않으므로 정규분포 계산은 정당화되지 않습니다. 표준편차 공식에도 10% 조건이 필요합니다.

확률. 155 g보다 무거운 사과 하나는 z = (155 − 150)/12 = 0.42입니다. 9개의 평균이 155 g보다 클 때는 z = (155 − 150)/4 = 1.25입니다:

\begin{aligned} P(X > 155) &= P(Z > 0.42) = 0.338 \\ P(\bar{x} > 155) &= P(Z > 1.25) = 0.106 \end{aligned}

무거운 사과 하나는 흔하지만, 9개의 평균이 무거운 경우는 드뭅니다. 표본 안에서 가벼운 사과와 무거운 사과가 서로 상쇄되기 때문입니다. 가장 흔한 실수는 x̄에 대한 문제인데도 σ로 나누는 것입니다.

5.8 · 표본평균의 차

평균으로 두 집단 비교하기

두 모집단에서 독립인 임의표본을 뽑으면 x̄₁ − x̄₂의 평균은 μ₁ − μ₂이고, 분산은 두 분산의 합입니다.

품종 A 사과의 무게는 N(150, 12) g을 따르고, 품종 B는 N(140, 10)을 따릅니다. A 9개와 B 16개를 임의로 뽑아 평균을 비교합니다(위쪽 판의 빨간 막대).

\begin{aligned}\mu_{\bar{x}_1 - \bar{x}_2} &= \mu_1 - \mu_2 = 150 - 140 = 10\ \text{g} \\ \sigma_{\bar{x}_1 - \bar{x}_2} &= \sqrt{\frac{\sigma_1^2}{n_1} + \frac{\sigma_2^2}{n_2}} \\ &= \sqrt{\frac{12^2}{9} + \frac{10^2}{16}} = 4.72\ \text{g}\end{aligned}

모양. 두 모집단이 모두 정규분포이므로 차이도 정규분포입니다. 그렇지 않으면 중심극한정리를 쓰기 위해 각 표본의 n이 30 이상이어야 합니다. 또한 각 표본은 모집단의 10% 미만이어야 하고, 표본끼리 서로 독립이어야 합니다.

확률. B 표본의 평균이 더 무겁게 나올 확률은 얼마일까요?

\begin{aligned} z &= \frac{0 - 10}{4.72} = -2.12 \\ P(\bar{x}_A - \bar{x}_B < 0) &= P(Z < -2.12) = 0.017 \end{aligned}

드문 일입니다. 이 표본 크기에서는 더 무거운 품종이 거의 항상 더 무거운 평균을 보입니다. 표본이 작아지면 빨간 곡선은 더 넓어지고 색칠한 넓이는 더 커집니다.