* 본 블로그 포스트에서 사용된 표, 이미지 및 기타 관련 자료는 "PROBABILITY AND STATISTICAL INFERENCE 9th Edition"에서 발췌한 것입니다. 이 자료들은 내용을 요약하고 이해를 돕기 위한 참고용으로 제공됩니다. 또한, 해석 과정에서 일부 오류가 있을 수 있으니 원본을 참고하여 확인하시기 바랍니다
1. 이론 정리
1) 정의 및 기본 이론
(1) 정의: 모멘트 생성 함수 (MGF, Moment-Generating Function)
- 확률변수 \( X \)의 모멘트 생성 함수(MGF)는 다음과 같이 정의됩니다:
\[M_X(t) = E(e^{tX}), \quad \text{존재 조건: \( -h < t < h \)에서 수렴.}\]
여기서 \( E \)는 기대값 연산자입니다.
- MGF는 확률변수의 분포를 고유하게 결정하며, 이를 통해 모멘트(평균, 분산 등)를 계산할 수 있습니다.
(2) 주요 이론 (Theorem)
Theorem 1:
\( M_X(t) \)가 존재하고, \( M_X(t) \)의 모든 도함수가 \( t = 0 \)에서 존재하면, 확률변수 \( X \)의 모든 모멘트는 다음과 같이 MGF로 표현됩니다:
\[E(X^k) = M_X^{(k)}(0), \quad k = 1, 2, \dots.\]
증명:
1. MGF 정의에 따라 \( M_X(t) = E(e^{tX}) \).
2. 양변을 \( t \)에 대해 \( k \)번 미분하면:
\[M_X^{(k)}(t) = E(X^k e^{tX}).\]
3. \( t = 0 \)에서 \( M_X^{(k)}(0) = E(X^k) \)가 됩니다.
(3) 주요 결과 (Corollary)
Corollary 1:
MGF를 이용하여 확률변수 \( X \)의 평균과 분산은 다음과 같이 계산됩니다:
- 평균: \( E(X) = M_X'(0) \)
- 분산: \( \text{Var}(X) = M_X''(0) - [M_X'(0)]^2 \)
증명:
1. 평균 계산:
\[E(X) = M_X'(0) = E(X e^{0X}) = E(X).\]
2. 분산 계산:
\[\text{Var}(X) = E(X^2) - [E(X)]^2.\]
여기서 \( E(X^2) = M_X''(0) \), 따라서:
\[\text{Var}(X) = M_X''(0) - [M_X'(0)]^2.\]
(4) 독립 확률변수의 MGF
Theorem 2:
독립 확률변수 \( X_1, X_2, \dots, X_n \)의 선형 결합 \( Y = \sum_{i=1}^n a_i X_i \)에 대해:
\[M_Y(t) = \prod_{i=1}^n M_{X_i}(a_i t).\]
증명:
1. \( M_Y(t) = E(e^{tY}) = E(e^{t \sum_{i=1}^n a_i X_i}) \).
2. 독립성을 이용하여:
\[M_Y(t) = \prod_{i=1}^n E(e^{a_i t X_i}) = \prod_{i=1}^n M_{X_i}(a_i t).\]
2. 예제
1) 문제
(1) 문제 1
\( X \sim N(0,1) \)일 때, \( M_X(t) \)를 구하고 평균과 분산을 계산하시오.
(2) 문제 2
\( X_1, X_2 \sim \text{Exp}(\lambda) \)이 독립일 때, \( Y = X_1 + X_2 \)의 MGF와 분포를 구하시오.
(3) 문제 3
\( X_1, X_2 \sim \text{Poisson}(\lambda_1), \text{Poisson}(\lambda_2) \)일 때, \( Y = X_1 + X_2 \)의 분포를 구하시오.
2) 답
(1) 답 1
- \( M_X(t) = e^{t^2 / 2} \).
- 평균: \( E(X) = M_X'(0) = 0 \).
- 분산: \( \text{Var}(X) = M_X''(0) - [M_X'(0)]^2 = 1 \).
(2) 답 2
- \( M_Y(t) = \frac{1}{(1 - t/\lambda)^2}, \, t < \lambda \).
- \( Y \sim \text{Gamma}(2, \lambda) \).
(3) 답 3
- \( Y \sim \text{Poisson}(\lambda_1 + \lambda_2) \).
3. 연습문제
1) 문제
(1) 문제 1
\( X \sim \text{Geometric}(p) \)일 때, \( M_X(t) \)를 구하고 평균과 분산을 계산하시오.
(2) 문제 2
\( X_1, X_2 \sim N(0,1) \)이 독립일 때, \( Y = X_1^2 + X_2^2 \)의 MGF를 구하고 분포를 확인하시오.
(3) 문제 3
\( X \sim U(0,1) \)일 때, \( M_X(t) \)를 구하시오.
2) 답
(1) 답 1
- \( M_X(t) = \frac{pe^t}{1 - (1-p)e^t}, \, |t| < -\ln(1-p) \).
- 평균: \( E(X) = \frac{1}{p} \).
- 분산: \( \text{Var}(X) = \frac{1-p}{p^2} \).
(2) 답 2
- \( M_Y(t) = (1 - 2t)^{-1}, \, t < \frac{1}{2} \).
- \( Y \sim \chi^2_2 \).
(3) 답 3
- \( M_X(t) = \frac{e^t - 1}{t}, \, t \neq 0 \).
# R code
# 문제1
pgeom(1, prob = 0.5)
# 문제2
pchisq(2, df = 2)
# 문제3
M_X <- function(t) {
if (t != 0) {
return((exp(t) - 1) / t)
} else {
return(1)
}
}
M_X(0.5)# Python code
# 문제1
from scipy.stats import geom
result = geom.pmf(1, p=0.5)
print(result)
# 문제2
from scipy.stats import chi2
result = chi2.cdf(2, df=2)
print(result)
# 문제3
def M_X(t):
if t != 0:
return (math.exp(t) - 1) / t
else:
return 1
print(M_X(0.5))