DATA SCIENCE : 27
DATA SCIENCE eISSN
곱(product)은 확률밀도함수가 되나 합(sum)은 정규화가 필요합니다.
확률변수 X와 Y가 독립(independent)일 때,
그들의 공동확률밀도함수(Joint PDF) 는 개별 확률밀도함수의 곱으로 표현됩니다.
$$f_{X,Y}(x, y) = f_X(x) f_Y(y)$$
(1) 비음수 조건
$$f_X(x) \geq 0, \quad f_Y(y) \geq 0 \Rightarrow f_{X,Y}(x, y) = f_X(x) f_Y(y) \geq 0$$
(y)≥0 이므로 곱도 항상 0 이상입니다.
(2) 정규화 조건
확률밀도함수는 다음 조건을 만족해야 합니다.
$$\int_{-\infty}^{\infty} \int_{-\infty}^{\infty} f_{X,Y}(x, y) dx dy = 1$$
$$\left( \int_{-\infty}^{\infty} f_X(x) dx \right) \times \left( \int_{-\infty}^{\infty} f_Y(y) dy \right) = 1 \times 1 = 1$$
따라서, 곱은 확률밀도함수가 됩니다. (이변량 확률밀도함수로 해석됨)
확률밀도함수 $f_X(x)$와 $f_Y(y)의 단순한 합을 고려해 보면 다음과 같습니다.
$$f_{\text{sum}}(x) = f_X(x) + f_Y(x)$$
(1) 비음수 조건
$$f_X(x) \geq 0, \quad f_Y(x) \geq 0 \Rightarrow f_{\text{sum}}(x) \geq 0$$
(2) 정규화 조건
단순한 합을 적분하면
$$\int_{-\infty}^{\infty} f_{\text{sum}}(x) dx = \int_{-\infty}^{\infty} (f_X(x) + f_Y(x))$$
적분을 분리하면
$$\int_{-\infty}^{\infty} f_X(x) dx + \int_{-\infty}^{\infty} f_Y(x) dx = 1 + 1 = 2$$
정규화 조건을 만족하지 않습니다. 즉, 단순한 합은 확률밀도함수가 아닙니다.
합이 확률밀도함수가 되려면 정규화(Normalization) 를 해야 합니다.
(1) 가중합 (Weighted Sum)
이렇게 하면 확률밀도함수가 됩니다. (혼합 분포)
$$f_{\text{mix}}(x) = w_1 f_X(x) + w_2 f_Y(x)$$
가중치 조건
$$0 \leq w_1, w_2 \leq 1, \quad w_1 + w_2 = 1$$
정규화 조건
$$\int_{-\infty}^{\infty} f_{\text{mix}}(x) dx = w_1 (1) + w_2 (1) = 1$$
(2) 정규화(normalization)
단순한 합을 정규화하면 확률밀도함수가 됩니다.$$f_{\text{norm}}(x) = \frac{f_X(x) + f_Y(x)}{Z}$$
정규화 상수
$$Z = \int_{-\infty}^{\infty} (f_X(x) + f_Y(x)) dx$$