M02.04 · 확률·가우시안·조건부 확률·공분산

조건을 붙이면 나누는 대상이 바뀐다

사건은 “미끄러짐이 있었다”처럼 참/거짓으로 구분할 조건이다. 합성 실험20회를 같은 가중치로 보는 유한 모형에서 미끄러짐 H가4회 있었다면 P(H)=4/20=0.2다. P는 사건의 확률을 나타내는 기호다. 이 수치를 실제 바닥의 미끄러짐 확률로 그대로 가져가는 것은 수집 조건과 모형 검토 없이 할 수 없다.

다음처럼 경고 F와 실제 미끄러짐 H를 함께 기록했다고 하자.

합성 결과	H 있음	H 없음	합계
F 경고 있음	3	4	7
F 경고 없음	1	12	13
합계	4	16	20

P(F|H)는 H인4회 중 경고3회라3/4다. 세로선은 “오른쪽 조건이 주어졌을 때”를 뜻한다. P(H|F)는 경고7회 중 실제 H인3회이므로3/7로 다르다. 센서가 실제 미끄러짐을 잘 경고하는지와 경고가 떴을 때 실제 미끄러짐일 가능성은 같은 질문이 아니다.

일반적으로 $P(H|F)=P(H\cap F)/P(F)$이며 P(F)>0일 때 쓴다. ∩는 두 사건이 함께 성립하는 교집합이다. 이를 $P(F|H)P(H)/P(F)$로도 쓰는 것이 Bayes 규칙이다. 이번 표에서(3/4)×(4/20)/(7/20)=3/7이다. 조건 사건이0회인 자료에 이 비율을 그대로 적용해0으로 나눌 수는 없다. 관측과 가설의 방향을 명확히 하는 확률 기초는 Poole·Mackworth의 저자 교재에서 더 읽을 수 있다.

평균과 퍼짐은 단위부터 구분하기

확률변수 X는 결과에 따라 달라지는 수치다. 기댓값 E[X]는 각 가능한 값에 확률을 곱해 더한 평균이다. μ=E[X]라 적는다. 분산 $\sigma^2=E[(X-\mu)^2]$는 평균에서 벗어난 정도를 제곱해 평균한 값이고, 표준편차 σ는 그 음이 아닌 제곱근이다. X가m이면 μ와σ는m,분산은m²다.0.1m를 분산이라고 잘못 넣으면 오차 크기의 뜻이 달라진다.

정규분포 또는 가우시안은 평균과 분산으로 나타내는 연속 확률 모형의 한 종류다. μ는 중심, σ>0은 퍼짐을 정한다. 그 확률밀도 g(x)는 다음과 같다.

$g(x)=\frac1{\sigma\sqrt{2\pi}}\exp\left(-\frac{(x-\mu)^2}{2\sigma^2}\right).$

exp는 자연 지수 함수이고 exp(0)=1이다. μ=1m,σ=0.1m면 평균 위치에서 밀도 높이는1/(0.1×√(2π))≈3.989/m다.1보다 크다고 확률 규칙을 위반하지 않는다. 이것은 한 점의 확률이 아니라 단위 길이당 밀도이기 때문이다. 구간의 확률은 그 구간에서 g를 적분한 넓이이며0~1 사이의 단위 없는 값이다. 연속 모형의 정확한 한 점 확률은0이다. 디지털 센서의 양자화된 값에 같은 모형을 그대로 적용할지는 별도로 정한다.

NIST의 정규분포 안내는 밀도·위치·척도 모수를 설명한다. 실제 오차가 항상 대칭 가우시안이라는 보장은 없다. 편향·이상치·가림에 따른 여러 경우가 섞이면 평균과 분산만으로 충분하지 않을 수 있다. σ=0은 이 연속 밀도식의 분모를0으로 만들므로 같은 공식을 그대로 계산하지 않는다.

두 오차가 함께 움직이는가

x/y 위치 오차를 따로 기록해도 한쪽이 커질 때 다른 쪽도 함께 커질 수 있다. 두 변수 X,Y의 공분산은 $\operatorname{Cov}(X,Y)=E[(X-\mu_X)(Y-\mu_Y)]$다. 같은 방향으로 평균에서 벗어나면 곱이 양수, 반대면 음수다. 단위는 두 변수 단위의 곱이다. 공분산 행렬 Σ는 대각선에 각 분산, 대각선 밖에 변수 사이 공분산을 둔다.

그림 원본 크기로 보기

그림 M02.04-1. 타원의 기울기는 두 오차가 함께 증가하는지 반대로 변하는지의 직관을 보인다. 특정 행렬이나 신뢰수준을 그린 등확률 타원은 아니다. 표준편차와 분산의 단위도 구별한다. 직접 제작.

다음은 가능한 두 오차쌍이 각각 확률1/2인 완전한 유한 모형이다. 표본으로 모집단을 추정하는 상황이 아니다. 두 쌍은(−1,−2)cm와(1,2)cm다. 평균은 둘 다0이다. X분산은(1+1)/2=1cm²,Y분산은(4+4)/2=4cm²,공분산은(2+2)/2=2cm²다.

$\Sigma=\begin{bmatrix}1&2\\2&4\end{bmatrix}\mathrm{cm}^2.$

표준편차는 각각1cm와2cm다. 상관계수는 양의 표준편차에 대해 $\rho=\operatorname{Cov}(X,Y)/(\sigma_X\sigma_Y)$로 정규화한 수이며 여기서는1이다. 실제 표본 추정에서는 분모를 N 또는 N−1로 두는 목적/정의가 달라질 수 있으므로, 이 활동의 가중평균과 도구 기본값을 섞지 않는다. NumPy cov 문서는 이런 설정을 확인할 때 참고한다.

독립은 두 변수의 결합 확률이 각각의 확률 곱으로 분해된다는 더 강한 조건이다. 분산이 유한한 독립 변수는 공분산이0이지만, 공분산0만으로 독립을 결론 내릴 수는 없다. 무차원 X가−1,0,1을 같은 확률로 갖고 Y=X²이면 Cov(X,Y)=0이다. 음/양 항이 상쇄되기 때문이다. 그래도 X를 알면 Y가 정해지므로 독립은 아니다. 상관이 크다고 어느 변수가 다른 변수를 원인으로 만든다는 결론도 관측된 공분산만으로는 얻지 못한다.

1.20회 표에서 P(H),P(F|H),P(H|F)를 구하고 각 분모가 어떤 집합인지 표시한다. 경고가 한 번도 없을 때 같은 비율 계산을 바로 할 수 있는지도 설명한다. 2. μ=1m,σ=0.1m의 분산과 평균 위치의 밀도 높이를 구한다. √(2π)≈2.5066을 사용해도 된다. 밀도와 구간 확률의 단위를 비교한다. 3. 같은 확률의 오차쌍(−1,−2),(1,2)cm에서 분산·공분산·표준편차·ρ를 계산한다. 이어 무차원 X=−1,0,1,Y=X²의0공분산이 독립을 뜻하지 않는 이유를 설명한다.

판정은 조건 방향, 밀도/분산 단위, 공분산/독립 해석 세 요소다. 막히면 조건부에서는 먼저 오른쪽 조건의 사례만 남기고, 분산에서는 평균을 빼고 제곱한 뒤 평균한다. 이번 계산은 실제 센서 안전 임계값을 정한 것이 아니다.