1. 개요

• 상태 변수의 사후분포인 필터링 분포를 추출한 표본으로 근사하는 방법
• 표본은 중요도 추출법으로 샘플링하며, 수치적분과 달리 이전 시점의 모든 정보를 매번 사용할 필요가 없기 때문에 계산도 효율적이다.

2. 순차적으로 추출하지 않는 상황

• $t$ 번째 상태 $x_{t}$의 주변사후분포 $p(x_{t}|y_{1:t})$는 완전사후분포 $p(x_{1:t}|y_{1:t})$를 적분하면 얻을 수 있다.
• 하지만 보통 완전사후분포는 표본 추출이 어렵기 때문에, 상태들의 완전사후분포를 근사할 표본 $x^{i}$는 제안분포 $q(x_{1:t}|y_{1:t})$를 이용하여 샘플링하게 되고 가중치는 다음처럼 계산할 수 있다.

$$ x_{1:t}^{(i)} \sim q(x_{1:t}|y_{1:t}), \quad w_{t}^{(i)} = \frac{p(x_{1:t}|y_{1:t})}{q(x_{1:t}|y_{1:t})} $$

• 예를 들어, 제안분포를 다변량 조건부 정규분포로 설정하면 t차원의 표본을 한 번에 추출할 수 있게 된다.

3. 순차적으로 추출하는 상황

• 하지만 순차적으로 추출하는 경우에는 매 시점마다 이전 상태 경로를 전부 알고 있어야 하며, 관측 심볼이 추가될 때마다 샘플링하는 분포의 차원이 증가하게 된다.
• 이를 해결하는 방법은 위의 제안분포를 재귀적인 형태로 변경하는 것이다. 이 식은 $P(A, B|C) = P(A|B, C)P(B|C)$를 이용하면 유도할 수 있다.

$$ q(x_{1:t}|y_{1:t}) = q(x_{t}^{(i)}|x_{1:t-1}^{(i)},y_{1:t})q(x_{1:t-1}^{(i)}|y_{1:t-1}) $$

• 그렇게 되면, 완전사후분포는 다음처럼 재귀적으로 계산된다.

$$ p(x_{1:t}^{(i)}|y_{1:t}) = \frac{p(y_{t}|x_{t}^{(i)})p(x_{t}^{(i)}|x_{t-1}^{(i)})p(x_{1:t-1}^{(i)}|y_{1:t-1})}{p(y_t|y_{1:t-1})} \propto p(y_{t}|x_{t}^{(i)})p(x_{t}^{(i)}|x_{t-1}^{(i)})p(x_{1:t-1}^{(i)}|y_{1:t-1}) $$

• 완전사후분포 분자의 재귀식 유도과정
• 가중치는 Likelihood, State Transition Distribution과 Proposal Distribution만 알게 되면 갱신할 수 있다.

$$ w_{t}^{(i)} = \frac{p(x_{1:t}|y_{1:t})}{q(x_{1:t}|y_{1:t})} = \frac{p(y_{t}|x_{t}^{(i)})p(x_{t}^{(i)}|x_{t-1}^{(i)})p(x_{1:t-1}^{(i)}|y_{1:t-1})}{q(x_{t}^{(i)}|x_{1:t-1}^{(i)},y_{1:t})q(x_{1:t-1}^{(i)}|y_{1:t-1})} = \frac{p(y_{t}|x_{t}^{(i)})p(x_{t}^{(i)}|x_{t-1}^{(i)})}{q(x_{t}^{(i)}|x_{1:t-1}^{(i)},y_{1:t})}w_{t-1}^{(i)} $$