확률과 확률변수

4장 · 확률과 확률변수

우연을 세어 보기

우연은 한 번 한 번의 결과로는 예측할 수 없지만, 오랫동안 반복하면 예측할 수 있습니다. 확률은 이 장기적인 규칙성을 다루는 수학입니다.

그림에서 각 공은 10줄의 못 사이를 떨어집니다. 못마다 왼쪽이나 오른쪽으로 갈 가능성이 같아서, 다음 공이 어디에 떨어질지는 아무도 말할 수 없습니다.

그래도 공 240개가 쌓이면 예측할 수 있는 모양이 됩니다. 빨간 표시는 공이 떨어지기 전에 계산해 둔, 각 칸의 기대 높이입니다. 가운데 세 칸에는 공의 65.6%가 들어가야 하며, 실제로는 240개 중 164개, 즉 68.3%가 들어 있습니다.

이 장에서는 어떤 패턴이 단지 우연인지 살펴보고, 시뮬레이션으로 확률을 추정하며, 확률을 결합하는 규칙(여사건, “또는”, “그리고”, 조건부확률, 독립)을 세웁니다. 그런 다음 결과를 수로 바꿉니다. 확률변수는 평균과 표준편차를 가진 분포를 가지며, 이들은 정해진 방식으로 결합됩니다. 두 분포가 계속 등장합니다. 하나는 이항분포(그림의 판)이고 다른 하나는 기하분포입니다.

4.1 · 무작위 패턴과 비무작위 패턴

그저 우연일까?

확률 과정은 우연에 따라 결과를 만들어 냅니다. 연속과 몰림도 그 결과의 일부이므로, 무작위 데이터에서 보이는 패턴이 꼭 의미가 있는 것은 아닙니다.

그림의 한 격자는 공정한 동전을 50번 던진 결과입니다. 다른 하나는 무작위처럼 보이려고 사람이 적어 낸 것입니다. 사람들은 연속을 피하는데, 바로 그것이 들통나는 이유입니다.

공정한 동전을 던진 뒤 다음 던지기에서 면이 바뀔 확률은 1/2이므로, 바뀐 횟수는 약 24.5번이 보통입니다. 조작한 수열은 35번 바뀌고, 실제 수열은 25번 바뀝니다.

우연만으로 이런 일이 얼마나 자주 생길까요? 공정한 동전을 50번 던지는 시뮬레이션 10,000세트(막대)에서 82%가 5회 이상 연속을 보였습니다. 최장 연속이 3 이하인 경우는 2.0%뿐이었습니다. 뒷면이 5번 연속 나온 것은 흔한 일입니다. 이상한 쪽은 조작한 수열입니다.

그러므로 농구 선수의 연속 득점이나 한 마을에서 병이 몰려 생기는 일은 그것만으로는 아무것도 증명하지 않습니다. 먼저 우연이 그런 패턴을 얼마나 자주 만드는지 물어보세요. 이 질문은 이 과정 전체에 계속 이어집니다.

4.2 · 시뮬레이션으로 확률 추정하기

장기 상대도수

어떤 결과의 확률은 아주 많이 반복했을 때 그 결과가 나타나는 비율입니다.

큰 수의 법칙. 우연 과정을 점점 더 많이 반복하면 어떤 결과의 상대도수는 그 확률에 가까워집니다. 그림에서 1번째 시행은 처음 10번 던졌을 때 6이 4번(0.400), 50번 던졌을 때 14번(0.280), 600번 던졌을 때 95번(0.158)이었습니다. 모든 시행은 처음에는 흔들리다가 1/6 ≈ 0.167 근처에 자리 잡습니다.

이것은 장기적으로만 성립하는 말입니다. 주사위는 기억이 없습니다. 6이 나오지 않은 뒤에도 6이 나올 가능성은 더 커지지 않습니다. 초기의 치우침은 바로잡히는 것이 아니라 뒤따르는 많은 던지기에 묻힙니다.

시뮬레이션은 우연 과정을 흉내 내어 확률을 추정합니다.

1. 난수로 한 번의 시행을 어떻게 흉내 낼지 설명합니다. 2. 무엇을 기록할지 정합니다. 3. 시행을 많이 반복합니다. 4. 상대도수를 추정값으로 삼습니다.

예. 주사위를 네 번 던질 때 6이 적어도 한 번 나올 확률은 얼마일까요? 한 번의 시행은 1부터 6까지의 난수 네 개를 뽑는 것이며, 각각이 한 번의 던지기입니다. 그중 6이 있는지 기록합니다. 처음 6번의 시행:

1000번의 시행 중 539번에서 6이 나왔으므로 추정값은 0.539입니다. 정확한 값(4.3)은 1 − (5/6)⁴ = 0.518입니다. 시행을 더 많이 하면 평균적으로 추정값이 이 값에 더 가까워집니다. 난수표를 쓸 때는 1–6을 주사위의 눈으로 쓰고 0, 7, 8, 9는 건너뜁니다.

4.3 · 확률 입문

표본공간, 사건, 여사건

우연 과정의 표본공간 S는 가능한 모든 결과의 집합입니다. 사건은 결과들의 집합이며, 그 확률은 0에서 1 사이의 수입니다.

주사위 두 개를 던집니다. 표본공간은 6 × 6 = 36개의 결과로 이루어지며, 그림에서 타일 하나가 결과 하나이고 모두 같은 정도로 일어날 수 있습니다. 결과가 같은 정도로 일어날 수 있을 때,

사건 A “합이 7이다”에는 결과가 6개(빨간색) 있습니다. (1, 6), (2, 5), (3, 4), (4, 3), (5, 2), (6, 1). 따라서 P(A) = 6/36 = 0.167입니다. 순서가 중요합니다. (1, 6)과 (6, 1)은 서로 다른 결과입니다.

모든 사건은 0 ≤ P(A) ≤ 1이고, P(S) = 1입니다. S 안의 어떤 일은 반드시 일어납니다. 확률이 0인 사건은 절대 일어나지 않고, 확률이 1인 사건은 항상 일어납니다.

여사건 A^C는 A가 일어나지 않는 사건입니다. A와 A^C는 공통된 결과가 없고 합치면 S를 이루므로,

여사건은 “적어도 하나”를 구하는 빠른 방법입니다. P(6이 적어도 한 번) = 1 − P(6이 없음) = 1 − 25/36 = 11/36입니다. 맨 윗줄과 오른쪽 열의 타일을 세어 보면 11개입니다.

4.4 · 배반사건

동시에 일어날 수 없는 사건

두 사건이 동시에 일어날 수 없을 때, 즉 P(A ∩ B) = 0일 때 두 사건은 서로 배반(분리)이라고 합니다.

표기법: A ∩ B(“A 그리고 B”)는 둘 다 일어나는 사건이고, A ∪ B(“A 또는 B”)는 적어도 하나가 일어나는 사건입니다. 벤 다이어그램에서 직사각형은 표본공간이며, 여기서는 넓이를 비율에 맞게 그렸습니다. 각 영역의 넓이가 곧 그 확률입니다.

헌혈자의 ABO 혈액형은 네 가지 중 하나입니다.

“A형”과 “B형”은 서로 배반입니다. 둘 다인 사람은 없습니다(AB형은 별개의 혈액형입니다). 두 원이 겹치지 않으므로 넓이는 그냥 더하면 됩니다.

그림의 다트는 무작위로 떨어지므로, 어떤 영역에 떨어진 비율은 그 영역의 넓이에 가까워집니다. A 또는 B에 떨어진 비율은 0.52에 가까워집니다. 나머지인 O 또는 AB의 확률은 0.48 = 1 − 0.52입니다.

이렇게 확률을 더하는 것은 사건이 서로 배반일 때만 가능합니다. 사건이 겹칠 수 있다면 겹친 부분이 두 번 계산됩니다(4.6).

4.5 · 조건부확률

B가 주어졌을 때 A의 확률

조건부확률 P(A | B)는 B가 일어났다는 조건에서 A가 일어날 확률입니다. B를 알면 표본공간이 B로 줄어듭니다.

한 조사에서 운전자 500명에게 지난 한 달 동안 운전 중에 문자를 보낸 적이 있는지 물었습니다.

운전자 한 명을 무작위로 뽑습니다. T를 “문자 보냄”, Y를 “16–24세”라고 하겠습니다. P(T) = 167/500 = 0.334입니다. 그러나 운전자가 16–24세라는 조건에서는 그 행만 셉니다.

오른쪽 그림은 각 행을 따로 보여 줍니다. 젊은 운전자의 0.60이(가) 문자를 보냈고, 나이가 더 많은 운전자는 0.25이(가) 보냈습니다.

순서가 중요합니다. P(Y | T) = 72/167 = 0.431입니다. 문자를 보낸 운전자 가운데 43.1%가 젊었습니다. 분자는 같고, 분모는 조건으로 주어진 쪽입니다.

정의를 바꿔 쓰면 곱셈 법칙 P(A ∩ B) = P(B) · P(A | B)가 됩니다. P(T ∩ Y) = 0.24 × 0.60 = 0.144 = 72/500.

4.5 · 나무 그림

가지를 따라 곱하고, 가지를 가로질러 더한다

우연 과정이 여러 단계로 일어날 때, 나무 그림은 각 단계의 결과를 가지로 나타냅니다. 한 경로의 확률은 그 경로를 따라 놓인 확률들의 곱입니다.

모집단의 4%가 어떤 질병을 갖고 있습니다. 선별 검사는 질병이 있는 사람의 90%에게, 질병이 없는 사람의 10%에게 양성으로 나옵니다. 두 번째 단계의 가지는 조건부확률입니다. 0.9은(는) P(+ | 질병)입니다.

두 경로가 양성 검사 결과로 이어집니다. 두 경로는 서로 배반이므로 확률을 더합니다. P(+) = 0.036 + 0.096 = 0.132.

어떤 사람이 양성으로 나왔습니다. 이 사람이 질병(C)을 가졌을 확률은 얼마일까요?

약 27%에 불과합니다. 1000명 중에는 진짜 양성이 36명, 가짜 양성이 96명 있습니다. 질병이 드물기 때문에, 건강한 많은 사람 속의 소수의 오류가 실제 환자 수보다 많아집니다. 그림은 400명을 무작위로 나무 그림 아래로 내려보냅니다. 빨간색과 파란색 잎을 지켜보세요.

4.6 · 독립사건과 합사건

덧셈 법칙, 그리고 하나를 알아도 다른 하나에 대해 알려 주는 것이 없는 경우

사건 A와 B는 한 사건이 일어났다는 것을 알아도 다른 사건의 확률이 변하지 않을 때 독립입니다: P(A | B) = P(A).

어느 학교에서 학생의 35%가 AP Statistics(S)를, 25%가 AP Biology(B)를 수강하고, 10%는 두 과목을 모두 수강합니다. 두 원이 겹칩니다.

덧셈 법칙. P(S)와 P(B)를 더하면 겹치는 부분(빨간색)이 두 번 세어지므로, 한 번을 빼 줍니다:

따라서 0.50는 두 과목 모두 수강하지 않습니다. 서로 배반인 사건에서는 P(A ∩ B) = 0이므로, 이 법칙은 4.4에서 본 식이 됩니다.

독립 확인하기. P(S | B) = 0.10/0.25 = 0.40이지만, P(S) = 0.35입니다. 학생이 Biology를 수강한다는 것을 알면 Statistics를 수강할 가능성이 높아지므로, S와 B는 독립이 아닙니다. 같은 확인을 다른 방식으로 하면, 독립이라면 P(S ∩ B)는 P(S) · P(B) = 0.0875와 같아야 하지만 실제로는 0.10입니다.

독립인 사건에서만 곱셈 법칙이 P(A ∩ B) = P(A) · P(B)가 됩니다. 서로 다른 두 주사위는 독립입니다: P(둘 다 6) = 1/6 × 1/6 = 1/36.

두 개념을 혼동하지 마세요. 확률이 0보다 큰 배반 사건은 결코 독립이 아닙니다. 한 사건이 일어나면 다른 사건의 확률이 0으로 떨어지기 때문입니다. 4.5에서 P(문자를 보냄 | 16–24) = 0.600 ≠ P(문자를 보냄) = 0.334이므로, 문자 보내기와 연령대는 독립이 아닙니다.

4.7 · 확률변수와 확률분포

숫자로 나타낸 결과

확률변수는 우연한 과정의 결과에 따라 수치 값을 갖습니다. 확률분포는 그 변수가 가질 수 있는 값과 각 값의 확률을 나타냅니다.

X를 한 도시에서 무작위로 뽑은 가구가 소유한 자동차 수라고 합시다. X는 이산변수입니다. 따로따로 떨어진 값들만 가집니다.

올바른 분포에서는 모든 확률이 0과 1 사이이고, 그 합이 1입니다. 그림에서 막대는 P(X = x)입니다. 검은 계단은 누적확률 P(X ≤ x)로, 왼쪽부터 막대를 더한 값입니다.

표현을 꼼꼼히 읽으세요:

P(X ≥ 2), “2 이상”: 0.38 + 0.15 + 0.07 = 0.60, 또는 1 − P(X ≤ 1) = 1 − 0.40.
P(X > 2), “2 초과”: 0.22, 2는 포함하지 않습니다.
P(1 ≤ X ≤ 3) = P(X ≤ 3) − P(X ≤ 0) = 0.93 − 0.08 = 0.85.

빨간 점은 무작위로 뽑은 가구로, 지금까지 각 값이 차지한 비율입니다. 뽑는 횟수가 늘어날수록 점은 막대에 가까워집니다. 이것이 다시 나타난 큰 수의 법칙입니다. 확률분포는 값들의 장기적인 양상입니다.

4.8 · 확률변수의 평균과 표준편차

균형점, 그리고 그로부터의 전형적인 거리

확률변수의 평균(기댓값) μ_X는 장기적인 평균값입니다. 표준편차 σ_X는 값들이 그 평균에서 떨어진 전형적인 거리입니다.

각 값에 그 확률을 가중치로 곱합니다:

평균은 히스토그램의 균형점(빨간 쐐기)입니다. X가 가질 수 있는 값일 필요는 없습니다. 자동차를 1.81대 소유한 가구는 없습니다.

상황에 맞게 해석하기. “가구를 무작위로 많이 뽑으면, 가구당 평균 자동차 수는 약 1.81대일 것이다.” “무작위로 뽑은 가구의 자동차 수는 보통 평균 1.81대에서 약 1.02대 정도 벗어난다.”

분산은 σ²_X = 1.0339입니다. 지름길로 계산해도 같은 값이 나옵니다: Σx²P(x) − μ² = 4.31 − 1.81² = 1.0339.

축 아래의 검은 공은 지금까지 뽑은 가구들의 평균입니다. 이리저리 움직이다가 μ에 가까워집니다. 평균에 대한 큰 수의 법칙입니다.

4.9 · 확률변수의 결합

선형 변환: Y = a + bX

확률변수에 상수를 더하면 평균은 이동하고 퍼짐은 그대로입니다. 상수를 곱하면 평균과 퍼짐이 모두 그 상수배가 됩니다.

룰렛을 한 번 돌립니다. 멈춘 숫자 X의 분포는 다음과 같습니다:

μ_X = 2이고 σ_X = 1입니다. 참가비는 $7이고, 상금은 숫자의 3배 달러입니다. 순이익은 Y = 3X − 7달러입니다.

그림은 이를 두 단계로 보여 줍니다. 3배를 하면 막대 사이의 간격이 3배로 벌어지므로, 평균과 표준편차가 모두 3배가 됩니다. 7을 빼면 모든 막대가 7만큼 내려가므로, 평균은 이동하지만 퍼짐은 그대로입니다. 어느 쪽도 막대의 높이는 바꾸지 않으므로 분포의 모양은 그대로입니다.

상황에 맞게 해석하기. 게임을 여러 번 하면 참가자는 평균적으로 한 게임에 $1를 잃습니다. X ≥ 3일 때만 돈을 땁니다: P(Y > 0) = 0.3.

분산에는 b²이 곱해집니다: σ²_Y = 3² × 1 = 9. 상수를 더하면 중심(평균, 중앙값, 사분위수)만 바뀌고, 상수를 곱하면 중심과 모든 퍼짐의 측도(표준편차, IQR, 범위)가 바뀝니다.

4.9 · 확률변수의 합과 차

평균은 더해지고, 독립인 변수의 분산도 더해진다

합의 평균은 평균의 합입니다. 변수들이 독립이면, 합과 차의 분산은 모두 분산의 합입니다.

룰렛을 돌리고(X, 앞 페이지의 변수) 공정한 주사위를 굴립니다(Y, 평균 3.5, 표준편차 1.708). 룰렛과 주사위는 독립입니다. 둘의 합 T = X + Y의 분포는 빨간색으로, 가능한 모든 결과 쌍을 더해서 구한 것입니다.

표준편차는 더해지지 않습니다. 1 + 1.71 = 2.71는 너무 큽니다. 표준편차는 직각삼각형의 변처럼 합쳐집니다(그림 오른쪽).

차. D = Y − X의 평균은 3.5 − 2 = 1.5이고, 분산은 여전히 σ²_X + σ²_Y이므로 σ_D = 1.979입니다. 확률적인 양을 빼면 변동성은 더해질 뿐, 결코 줄어들지 않습니다.

평균의 법칙은 모든 확률변수에서 성립합니다. 분산의 법칙에는 독립이 필요합니다. 그리고 룰렛을 두 번 돌린 X₁ + X₂는 2X와 다릅니다. 표준편차는 √2 σ_X이지만, 2X의 표준편차는 2σ_X입니다.

정규 변수. 독립인 정규 확률변수의 합이나 차는 정규분포를 따릅니다. 릴레이의 두 구간은 각각 N(24, 1.5)와 N(26.5, 2)분이 걸립니다. 전체 시간은 N(50.5, 2.5)이고, √(1.5² + 2²) = 2.5입니다. P(전체 < 48) = P(z < −1.00) = 0.1587.

4.10 · 이항분포 입문

n번 시행에서 성공 횟수 세기

이항확률변수는 성공 확률이 모두 같은 독립시행을 정해진 횟수만큼 했을 때의 성공 횟수를 셉니다.

네 가지 조건(BINS)을 확인하세요: Binary, 각 시행은 성공 또는 실패; Independent, 시행은 서로 독립; 시행 횟수 Number, n이 고정; Same, 모든 시행에서 성공 확률 p가 같음.

보드에서 각 못은 한 번의 시행이고 “오른쪽”이 성공입니다: n = 10, p = 0.5. 오른쪽으로 간 횟수 X는 공이 들어간 칸입니다. 6번 칸에 들어가려면, 공은 10개의 못 중 6개에서 오른쪽으로 가야 합니다. 이런 경로 하나의 확률은 (1/2)¹⁰이고, 경로는 C(10, 6) = 210개입니다:

6번 칸에는 240 × 0.205 ≈ 49의 공이 들어가야 하는데, 실제로는 47가 들어갔습니다.

상황에 맞게 해석하기. 한 선수가 자유투를 70% 성공시키고 10번 던집니다. 이 시도들은 독립으로 봅니다. 성공 횟수 X는 n = 10, p = 0.7인 이항분포를 따릅니다.

P(X = 8) = C(10, 8)(0.7)⁸(0.3)² = 0.2335.
P(X ≥ 8) = 1 − P(X ≤ 7) = 1 − 0.6172 = 0.3828: “이상”은 여사건의 누적확률을 이용합니다.

이항분포가 아닌 경우: 카드를 복원 없이 뽑는 경우(시행이 독립이 아님), 첫 앞면이 나올 때까지 동전을 던진 횟수를 세는 경우(n이 정해져 있지 않음: 4.12에서 다룹니다).

4.11 · 이항분포의 모수

μ = np, σ = √(np(1 − p))

이항분포는 두 모수 n과 p로 정해집니다. 평균과 표준편차는 이 두 값으로부터 구할 수 있습니다.

이 판에서는 μ = 10(0.5) = 5이고 σ = √(10 × 0.5 × 0.5) = 1.58입니다. 평균에서 1σ 이내에 있는 구간 4, 5, 6에 확률의 0.656가 들어 있습니다.

이는 4.9의 규칙이 적용된 결과입니다. X는 10번의 독립시행의 합이며, 각 시행은 확률 p로 1, 그렇지 않으면 0의 값을 가집니다. 한 번의 시행은 평균이 p이고 분산이 p(1 − p)입니다. 평균은 더해지고, 분산도 더해집니다.

상황 속에서. 자유투의 경우 μ = 10(0.7) = 7이고 σ = √(10 × 0.7 × 0.3) = 1.45입니다. “자유투 10개씩을 여러 세트 던지면 평균적으로 7개를 성공하고, 성공 개수는 보통 7에서 약 1.45만큼 벗어난다.”

모양. p = 0.5이면 분포는 대칭입니다. p가 0이나 1에 가까우면 치우치며, n이 커질수록 덜 치우칩니다. np ≥ 10이고 n(1 − p) ≥ 10이면 정규분포에 가까워지며, 이는 5단원에서 사용합니다.

10% 조건. 비복원추출에서는 시행들이 서로 종속입니다. 표본이 모집단의 10% 이하이면 종속성이 미미하여 이항 모형을 그대로 쓸 수 있습니다.

4.12 · 기하분포

첫 성공까지의 시행

기하확률변수는 성공 확률이 같은 독립시행에서 첫 번째 성공까지(그 시행 포함)의 시행 횟수를 나타냅니다.

어떤 시리얼 브랜드는 상자의 20%에 경품을 넣습니다. 경품이 나올 때까지 상자를 하나씩 열고, X는 연 상자의 수입니다. 시행 횟수가 정해져 있지 않으므로 X는 이항분포를 따르지 않습니다. x번째 시행에서 처음 성공하려면(x = 1, 2, 3, …) 앞의 x − 1번은 모두 실패해야 합니다.

각 막대는 바로 앞 막대의 0.8배이므로 분포는 항상 오른쪽으로 치우치고, 가장 가능성이 높은 값은 항상 1입니다.

P(X ≤ 3) = 1 − P(처음 3개에 경품 없음) = 1 − 0.8³ = 0.488.
P(X > 5) = 0.8⁵ = 0.328: 처음 다섯 상자가 모두 실패한 경우입니다.

상황 속에서. “이를 여러 번 반복하면 경품을 찾는 데 평균 5개의 상자가 필요하다.” 그림은 시행을 차례로 보여 줍니다. 빨간 상자가 나올 때까지 상자가 열리고, 공이 그 시행의 X를 표시합니다.