20100615-IBISML-makino

変 分 ベイズ 法
x
x
x
x
x x
x x
x x
x x
x x
x x
1. x適 x当 なパラメータ x x
x x 分 布 x xq(θ) xからスタート
x
x x
x
x
x
x
x
x
x
x x
x x
x x
2. 状 態 の 期 待 分 布 を 計 算
x
x x
x x
x
q(S) x ∝ exp Ex
x
q(θ) [log p(D,S | θ)]
x
x
x
3. パラメータの 期 待 分 布 を 計 算
x
q(θ) ∝ p(θ) exp E q(S) [log p(D,S | θ)]
x
4. 収 束 してなければ2に 戻 る
x
x x
x
x
x
x
x
x
x
x
x
x
x x
x
x
x
x
x
VB-E step
x
VB-E step
s 0
VB-M step
VB-M step
VB-E step
x
x x
x x
x
x
x
x
x
x
s 1
x s 2
xs
x
x
s' 0
s'' 1 s'' 2
x
s' 1 s' 2 s'
x
q''(θ)
x
s'
s'' 0
q(θ)
q'(θ)
51