* 본 블로그 포스트에서 사용된 표, 이미지 및 기타 관련 자료는 "PROBABILITY AND STATISTICAL INFERENCE 9th Edition"에서 발췌한 것입니다. 이 자료들은 내용을 요약하고 이해를 돕기 위한 참고용으로 제공됩니다. 또한, 해석 과정에서 일부 오류가 있을 수 있으니 원본을 참고하여 확인하시기 바랍니다  이론 정리 1. 개요 1) 베이지안 추정(Bayesian Estimation)은 베이즈 정리(Bayes' Theorem)를 이용하여 모수(parameter)를 추정하는 방법이다. 2) 베이지안 추론의 핵심 개념은 사전 확률(prior probability)과 사후 확률(posterior probability)이다. 3) 베이지안 방법에서는 기존의 통계 데이터뿐만 아니라, ..

* 본 블로그 포스트에서 사용된 표, 이미지 및 기타 관련 자료는 "PROBABILITY AND STATISTICAL INFERENCE 9th Edition"에서 발췌한 것입니다. 이 자료들은 내용을 요약하고 이해를 돕기 위한 참고용으로 제공됩니다. 또한, 해석 과정에서 일부 오류가 있을 수 있으니 원본을 참고하여 확인하시기 바랍니다 이론 정리1. 정의 (Definition) 1) 충분 통계량(Sufficient Statistic)이란, 모집단의 모수(parameter) \(\theta\)에 대한 정보를 완전히 포함하는 통계량 \( Y = u(X_1, X_2, ..., X_n) \). 2) 충분 통계량을 사용하면 표본 데이터에서 불필요한 정보를 제거하면서도 모수에 대한 충분한 정보를 유지할 수 있음. 3..

* 본 블로그 포스트에서 사용된 표, 이미지 및 기타 관련 자료는 "PROBABILITY AND STATISTICAL INFERENCE 9th Edition"에서 발췌한 것입니다. 이 자료들은 내용을 요약하고 이해를 돕기 위한 참고용으로 제공됩니다. 또한, 해석 과정에서 일부 오류가 있을 수 있으니 원본을 참고하여 확인하시기 바랍니다 이론 정리1. 최대 우도 추정량(MLE)의 정의 1) 문제 정의 및 MLE의 도출 확률 밀도 함수(PDF) \( f(x; \theta) \) 가 주어진 연속형 확률 분포를 고려한다. 여기서, 모수 \( \theta \) 는 분포의 정의역(support)에는 영향을 주지 않는다고 가정한다. 즉, \( \theta \) 가 확률 변수 \( X \) 의 가능한 값들의 범위를 변경..

* 본 블로그 포스트에서 사용된 표, 이미지 및 기타 관련 자료는 "PROBABILITY AND STATISTICAL INFERENCE 9th Edition"에서 발췌한 것입니다. 이 자료들은 내용을 요약하고 이해를 돕기 위한 참고용으로 제공됩니다. 또한, 해석 과정에서 일부 오류가 있을 수 있으니 원본을 참고하여 확인하시기 바랍니다 # 이론 정리1. 단순 회귀 모델 1) 정의      - 단순 선형 회귀(linear regression) 모델은 독립 변수 \( x \)와 종속 변수 \( Y \) 사이의 관계를 다음과 같이 가정한다.        \[      Y_i = \alpha + \beta x_i + \epsilon_i, \quad i = 1,2, ..., n      \]      - 여기서 \..

* 본 블로그 포스트에서 사용된 표, 이미지 및 기타 관련 자료는 "PROBABILITY AND STATISTICAL INFERENCE 9th Edition"에서 발췌한 것입니다. 이 자료들은 내용을 요약하고 이해를 돕기 위한 참고용으로 제공됩니다. 또한, 해석 과정에서 일부 오류가 있을 수 있으니 원본을 참고하여 확인하시기 바랍니다 이론 정리1. 최대 우도 추정(MLE) 정의   1) 확률 변수 \( X_1, X_2, \dots, X_n \)가 특정 확률 분포를 따르며, 이 분포가 미지의 매개변수 \( \theta \)에 의존한다고 가정한다.   2) 주어진 표본 데이터를 관찰했을 때, 가장 가능성이 높은 매개변수 값을 찾는 방법을 최대 우도 추정(MLE)이라고 한다.   3) 우도 함수(likelih..

* 본 블로그 포스트에서 사용된 표, 이미지 및 기타 관련 자료는 "PROBABILITY AND STATISTICAL INFERENCE 9th Edition"에서 발췌한 것입니다. 이 자료들은 내용을 요약하고 이해를 돕기 위한 참고용으로 제공됩니다. 또한, 해석 과정에서 일부 오류가 있을 수 있으니 원본을 참고하여 확인하시기 바랍니다 1. 이론 정리1) 정의 및 개요 Order Statistics(순서 통계량)이란 랜덤 표본에서 관측된 데이터를 크기 순서대로 정렬한 통계량을 의미한다. 이는 비모수적 추론(nonparametric inference)과 강건한 절차(robust procedures)에서 중요한 역할을 하며, 샘플 중앙값(sample median), 샘플 범위(sample range), 경험적..