20100615-IBISML-makino

( 非 ベイズ) EM アルゴリズム
x
x
x
x
x x
x x
x x
x x
x x
1. x適 x当 なパラメータ x x
x x θ からスタート
x x
x x
x
x
x
x
x
x
x x
x x
x x
2. 状 態 列 の 分 布 確 率 を 計 算
x
x x
x x
x
x
x
x
x
q(S) ∝ p(S | θ,D)
x
3. Likelihood 最 大 になる
パラメータ x x θ を 計 算 x
x
x
x x
x
x
x
θ = argmax θ E q(S) [p(D | θ,S)]
x
x
4. 収 束 してなければ2に 戻 る
x
x
x
x x
x x
x x
x x
x
x
x
x x
x
Expectation
x
x x
x
Expectation
x
s 0
Maximization
Maximization
Expectation
x x
x x
x
x
x
s 1
x s 2
xs
x
x
s' 0 s' 1 s' 2 s'
θ''
x
x
s'' 1 s'' 2 s'
s'' 0
θ
θ'
50