베이지안 추론
통계
베이지안
베이즈 정리부터 사후 확률 분포 추론까지 베이지안 통계의 핵심 개념을 예시와 함께 정리합니다.
베이지안 추론과 관련한 몇 가지 개념을 짚고, 예시를 통해 추론 방법을 적용해보고자 합니다.
베이즈 정리 (Bayes’ Theorem): 베이즈 정리는 주어진 데이터 (\(D\))에 대한 파라미터 (\(\theta\))의 사후 확률 분포를 계산하는 공식입니다. \(P(\theta \mid D) = \frac{P(D \mid \theta) \cdot P(\theta)}{P(D)}\)
사전 분포 (Prior Distribution): 데이터를 관측하기 전 파라미터 \(\theta\)에 대한 초기 믿음. \(P(\theta)\)
가능도 (Likelihood): 주어진 \(\theta\)에서 데이터 \(D\)가 관측될 확률. \(P(D|\theta)\)
사후 분포 (Posterior Distribution): 데이터를 관측한 후 파라미터 \(\theta\)에 대해 업데이트된 믿음. \(P(\theta|D)\)
Posterior predictive distribution: \(P(x_{new}|D) = \int P(x_{new}|\theta) P(\theta|D) d\theta\)