20100615-IBISML-makino

x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x x
x x
x x
x x
x x
x x
x x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
ノンパラメトリックベイズに 基 づく
x
x
統 計 的 機 械 学 習
x x
x x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x x
Takaki Makino
x
x
x
Division of Project Coordination
University of Tokyo
x
x
2010.6.15 IBISML 第 1 回 研 究 会 にて 1
x
x
x
x
x
x
x
x

本 発 表 の 目 標
x x
x
x
x
x
x
x
x
x x
x x
x x
x x
x x
誰 でもノンパラベイズがわかるように
x x
x x
x x
x x
x x
x
x
x
x
x
x
x
x
x背 景 知 識 x 、 用 x 語 の 知 識 x が 必 x 要 x
この x 本 x → のおかげで、ベイズについ
x x
x x
x
x
x
ての 知 識 はだいぶ 普 及 した?
x x
x
わからない 人 はとことんわからない
できるだけ x x 背 景 知 識 を x 含 めて x
x
お 話 しします
x
x
x
x
x
x
Introductory な 内 容 なので、
ご 存 じの 方 にはつまらないかも
しれませんがご 了 承 ください
x
x
x
x
x x
x x
x
x x
x
x
x
x x
x x
x
x
x
x x
x
x
x
x
2
x

Introduction: ベイジアンとは 何 か?
x
x x
x
x
x
x
x x
x x
x x
x x
x x
x x
x
Quiz: x x 10 x 万 x 人 に1 x x人 がかかる x x
x 病 x 気 θx
がある。
x
x x
x
x
x
x
x
x
x
x x
x x
x x
x x
検 査 D は、θ 病 の 人 を99.8% 陽 性 と 判 定 するが、
x x
x x
x x
x x
x
θ x 病 でない 人 x も0.1% 陽 x性 となってしまう。
x
x
x
x x
x x
x x
あなたが D 陽 性 のとき、θ 病 である 確 率 は?
x
x
x
x
p(D|θ) x x D 陽 性 x D 陰 x 性
x
p(D|θ 病 ) 0.998 0.002
x
x
x
p(D| 健 康 ) 0.001 0.999
x
x
x
x
x
x
x
x
p(θ|D) = ?
x
x
x
x

Introduction: ベイジアンとは 何 か?
x
x x
x
x
x
x
x x
x x
x x
x x
x x
x x
x
Quiz: x x 10 x 万 x 人 に1 x x人 がかかる x x
x 病 x 気 θx
がある。
x
x x
x
x
x
x
x
x
x
x x
x x
x x
x x
検 査 D は、θ 病 の 人 を99.8% 陽 性 と 判 定 するが、
x x
x x
x x
x x
x
θ x 病 でない 人 x も0.1% 陽 x性 となってしまう。
x
x
x
x x
x x
x x
あなたが D 陽 性 のとき、θ 病 である 確 率 は?
x
x
x
x
p(D|θ) x x D 陽 性 x D 陰 x 性
x
p(D|θ 病 ) 0.998 0.002
x
x
x
p(D| 健 康 ) 0.001 0.999
x
x
x
p(θ)
θ 病 0.00001
x
健 康 0.99999
x
x
x
Bayes’
x
Posterior Likelihood Prior
p(
|
Theorem p(
D)
x
D)
x
p(
D
x
| )
p(
)
4
x

Introduction: ベイジアンとは 何 か?
x
x x
x
x
x
x
x x
x x
x x
x x
x x
x x
x
Quiz: x x 10 x 万 x 人 に1 x x人 がかかる x x
x 病 x 気 θx
がある。
x
x x
x
x
x
x
x
x
x
x x
x x
x x
x x
検 査 D は、θ 病 の 人 を99.8% 陽 性 と 判 定 するが、
x x
x x
x x
x x
x
θ x 病 でない 人 x も0.1% 陽 x性 となってしまう。
x
x
x
x x
x x
x x
あなたが D 陽 性 のとき、θ 病 である 確 率 は?
x
x
x
x
p(D|θ) x x D 陽 性 x D 陰 x 性
x
p(D|θ 病 ) 0.998 0.002
x
x
x
p(D| 健 康 ) 0.001 0.999
x
x
x
p(θ)
θ 病 0.00001
x
健 康 0.99999
x
x
p(θ|D) p(θ|D 陽 性 ) p(θ|D 陰 性 )
x
x
θ 病 ≈0.01 ≈0.00000002
x
健 康 ≈0.99 ≈0.99999998
x
Prior ( 事 前 分 布 )
x
Likelihood ( 尤 度 )
x
Posterior ( 事 後 分 5 布 )

Introduction: ベイジアンとは 何 か?
x x
x
x
x
x
x
x
x
x x
x x
x x
x x
x x
x x
x x
ベイジアン x x
x x 確 率 x 論 x : 仮 x 説 x の「 x確 xからしさ」を x x
x確 x率
x
x
x
x
x
x
x
x
x x
x x
x x
で 表 現 し、ベイズの 定 理 で 推 論 する
x
x x
x x
x x
x
θ: 「 宇 宙 人 x がいる」or「いない」という x
x 仮 説
x D: 「UFOを x目 撃 する」or「しない」という x
x x 事 象
x x
x
x
x
p(θ): 宇 宙 人 の 存 在 はどのぐらい 確 からしいか?
x x
x x
x x
p(D|θ): 宇 宙 人 x がいる 時 にUFOを x 目 撃 する 確 率
xp(θ|D): UFOを 目 撃 x したあとでは、 x
x
宇 宙 人 の 存 在 はどのぐらい 確 からしいか?
x
Bayes’
x
Posterior Likelihood Prior
p(
|
Theorem p(
D)
x
D)
x
p(
D
x
| )
p(
)
x
x x
x
6
x

Introduction: ベイジアンとは 何 か?
x x
x
x
x
x
x
x
x
x x
x x
x x
x x
x x
x x
x x
ベイジアン x x
x x 確 率 x 論 x : 仮 x 説 x の「 x確 xからしさ」を x x
x確 x率
x
x
x
x
x
x
x
x
x x
x x
x x
x x
で 表 現 し、ベイズの 定 理 で 推 論 一 般 する の ( 頻 度 主 義 的 )
x x
x x
x x
x x
x
x θ: 「 宇 宙 人 x がいる」or「いない」という x 考 え x 仮 方 説 からすると、 x
x D: 「UFOを x目 撃 する」or「しない」という x
x x 事 象
p(θ): 宇 宙 人 の 存 在 はどのぐらい 確 からしいか?
x x
x x
x x
p(D|θ): 宇 宙 人 x がいる 時 にUFOを x 目 撃 する 確 率
xp(θ|D): UFOを 目 撃 x したあとでは、 x
x
宇 宙 人 の 存 在 はどのぐらい 確 からしいか?
x
Bayes’
x
p(
|
Theorem p(
D)
x
D)
確 率 では 書 けない
Posterior Likelihood Prior
x
p(
D
x
| )
p(
)
x
x
7
x
x
x

Introduction: 機 械 学 習 とベイズ
x
x
x
x
x
x x
x x
x x
x x
x x
x x
機 x 械 x 学 x習 x = パラメータ x x
x 決 x 定 x= 仮 x 説 の x x選 択 x
x
x
x
x
x
x
x
x x
x x
x x
x
x x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
真 の x分 布
8
x

Introduction: 機 械 学 習 とベイズ
x
x
x
x
x
x x
x x
x x
x x
x x
x x
機 x 械 x 学 x習 x = パラメータ x x
x 決 x 定 x= 仮 x 説 の x x選 択 x
x
x
x
x
x
x
x
x x
x x
x x
x
x x
x
x
x
x
x
x
x
x
x
x
x
x x
x
x x
x
x x
モデル x x パラメータ 空 x 間 ( 仮 x 説 空 間 )
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
観 測 したデータ x D
x
x
x
x
真 の x分 布
9
x

Introduction: 機 械 学 習 とベイズ
x
x
x
x
x
x x
x x
x x
x x
x x
x x
機 x 械 x 学 x習 x = パラメータ x x
x 決 x 定 x= 仮 x 説 の x x選 択 x
x
x
x
x
x
x
x
x
x x
p(D | θ)
x x
x
x
x
x
x
x
x
x
x
x
x
x
モデル x x パラメータ 空 x 間 ( 仮 x 説 空 間 )
x
観 測 したデータ x D
x
x
x
θ
x
x
x
x
x
x
x
x
Likelihood
x
x
x
x
x
x
x
x
x
x
x
x
x
分 布 の 仮 説
真 の x分 布
x
x
x
10
x
x
x
x
x
x
1

Introduction: 機 械 学 習 とベイズ
x
x
x
x
x
x x
x x
x x
x x
x x
x x
機 x 械 x 学 x習 x = パラメータ x x
x 決 x 定 x= 仮 x 説 の x x選 択 x
x
x
x
x
x
x
x
x
x x
p(D | θ)
x x
x
x
x
x
x
x
x
x
x
x
x
x
モデル x x パラメータ 空 x 間 ( 仮 x 説 空 間 )
x
観 測 したデータ x D
x
x
x
x
x
x
x
x
x
x
x
Likelihood
x
θ
x
x
x
x
x
x
x
x
x
x
最 尤 推 定
(Maximum
x
Likelihood)
x
分 布 の 仮 説
真 の x分 布
x
x
x
11
x
x
x
x
x
x
1

Introduction: 機 械 学 習 とベイズ
x x
x
x
x
x
x x
x
過 x 学 x 習 x問 x題
x
x
x
x
x x
x x
x x
x
x x
x
x x
x
x x
x
x x
x
x x
x x
x x
Likelihood 最 大 のパラメータを 選 んでも、
x x
x x
x x
x
いい 仮 説 が x 得 られないx
x
x
x
x
x
x
x x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
12
x

Introduction: 機 械 学 習 とベイズ
x x
x
x
x
x
x x
x
過 x 学 x 習 x問 x題
x
x
x
x
x x
x x
x x
x
x x
x
x x
x
x x
x
x x
x
x x
x x
x x
Likelihood 最 大 のパラメータを 選 んでも、
x x
x x
x x
x
いい 仮 説 が x 得 られないx
x
x
x
x
x
x
x x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
Best-fit
regression by
x
8 th -degree
polynomial
13
x

Introduction: 機 械 学 習 とベイズ
x x
x
x
x
x
x
x
x
x x
x x
x x
x
非 x ベイジアンの x
x x
x 考 x え 方 x : x
x
x
x
x
x
x
x
x
x
x x
x x
x x
複 雑 すぎるモデルを 選 んだのが 原 因
x x
x x
x x
適 切 な 複 雑 x さのモデルを x 選 ぶべしx
ベイジアンの 考 え 方 :
x
x
x
x
x x
x x
x x
x
x
x x
x x
x
x
x
x x
x x
x
x
Likelihood x x p(D|θ) だけで x 考 x えているのが x 原 因 x
x
x
xPosterior p(θ|D) を x 考 えることが x 重 要 x
そのために 必 要 なのは Prior p(θ)、つまり
「あるパラメータ θ がどれだけ 確 からしいか」
に 関 xする (データ x D 観 測 前 の) 知 x 識 x
x
x x
x
14
x

Introduction: 機 械 学 習 とベイズ
x
x x
x
x
x
x
x x
x x
x x
x x
x x
x x
x x
Prior: x x データ x x 観 x測 前 x の x ( 主 x 観 的 x な) x 仮 x説 の x 確 xからし
x
x
x
x
x
x
x
x
x
x x
x x
x
さを、 確 率 分 布 の 形 で 表 現 したもの
x
x x
x x
x x
x x
x x
x
x 高 次 の 係 数 x が0から 離 れることは、あまりありそうにない
x
x
x
x
x x
x x
x x
x
x
x
x
x
x
x
x
x
x
x
パラメータ 空 間
x x
小 0 大
高 次 の 係 数
x
x
x
x
x
x
x
x
15
x

Introduction: 機 械 学 習 とベイズ
x
x x
x
x
x
x
x x
x x
x x
x x
x x
x x
x x
Prior: x x データ x x 観 x測 前 x の x ( 主 x 観 的 x な) x 仮 x説 の x 確 xからし
x
x
x
x
x
x
x
x
x
x x
x x
x
さを、 確 率 分 布 の 形 で 表 現 したもの
x
x x
x x
x x
x x
x x
x
x 高 次 の 係 数 x が0から 離 れることは、あまりありそうにない
x
x
x
x
x x
x
Prior p(θ)
x
x x
x
x
x
x
x
x
x
x
x
x
x
パラメータ 空 間
x x
小 0 大
高 次 の 係 数
x
x
x
x
x
x
x
16
x
x

Introduction: 機 械 学 習 とベイズ
x
x
x
x
x
x x
x x
x x
x x
x x
x
Posterior: x x
x x データ x x観 測 x 後 x の 確 x からしさ
x
x x
x
x
x
x
x
x
x x
x x
x x
x
x
x
x
x x
x
x
x
x
x
x
x
x
x
x
x
x x
Likelihood
x
x
x
x
x
x
x
x
x
x
x
Prior p(θ)
x
x
x
x
x
x
x
x
x
x
パラメータ 空 間
x x
x
x
x
x
x
観 測 したデータ
Bayes’ x D
x
x
Posterior Likelihood Prior
p(
|
Theorem p(
D)
x
D)
x
p(
D
x
| )
p(
)
17
x

Introduction: 機 械 学 習 とベイズ
x
x
x
x
x
x x
x x
x x
x x
x x
x
Posterior: x x
x x データ x x観 測 x 後 x の 確 x からしさ
x
x x
x
x
x
x
x
x
x x
x x
x x
x
x
x
x
x x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
Posterior p(θ|D)
x
x
x
x
x
x
x
x
x
x
パラメータ 空 間
x x
x
x
x
x
x
観 測 したデータ
Bayes’ x D
x
x
Posterior Likelihood Prior
p(
|
Theorem p(
D)
x
D)
x
p(
D
x
| )
p(
)
18
x

Introduction: 機 械 学 習 とベイズ
x
x
x
x
x
x x
x x
x x
x x
x x
x
Posterior: x x
x x データ x x観 測 x 後 x の 確 x からしさ
x
x x
x
x
x
x
x
x
x x
x x
x x
x
x
x
x
x x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x x
x
MAP 推 定
x x
(Maximum x A Posteriori) x
x
x
x
x
x
Posterior p(θ|D)
パラメータ 空 間
x x
x
x
x
x
x
x
x
x
観 測 したデータ x D
x
x
x
x
x
19
x

Introduction: 機 械 学 習 とベイズ
x
x
x
x
x
x x
x x
x x
x x
x x
x x
x x
適 x 切 x なx
prior x があれば、 x x
x x 過 学 x 習 x を 起 x こしにくい
x
x x
x
x
x
x
x
x
x
x
x x
x x
x x
x x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
Regression x
with prior
using x
x
8 th -degree
x
polynomial
x
x
x
x
x
x
x
20
x

Introduction: 機 械 学 習 とベイズ
x
x
x
x
x
x x
x x
x x
x x
x x
x
なぜパラメータ x x
x x
x θx
の 同 x 定 x にこだわる?
x x
x x
x
x
x
x
x
x
x x
x x
x x
x
x
x
x
x x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
Posterior p(θ|D)
x
x
x
x
x
x
x
x
θ
x
x
パラメータ 空 間
x x
x
x
x
x
x
x
x
x
x
x
x
21
x

Introduction: 機 械 学 習 とベイズ
x x
x
x
x
x
x
x
x x
x x
x x
x x
x x
x
なぜパラメータ x x
x x
x θx
の 同 x 定 x にこだわる?
x x
x x
x
x
x
x
x
x
x
x
x
x x
x x
x x
x x
欲 しいものは、モデルに 基 づく 何 らかの 予 測
x x
x x
x x
x x
x
x
x
x
x
x
x x
x
x x
x
θ
x
x
x
Posterior p(θ|D)
パラメータ 空 間
x x
x
x
x
x
x x
x
x x
x
x
x
x
x
x
x
x
x x
x
未 知 のケース x に 対 応 する 予 測
22
x

Introduction: 機 械 学 習 とベイズ
x x
x
x
x
x
x
x
x x
x x
x x
x x
x x
x
なぜパラメータ x x
x x
x θx
の 同 x 定 x にこだわる?
x x
x x
x
x
x
x
x
x
x
x
x
x x
x x
x x
x x
欲 しいものは、モデルに 基 づく 何 らかの 予 測
x x
x x
x x
x x
x
x
x
x
x
θ をひとつ 選 ぶ = posterior が 含 む 多 くの 情 報
x
x x
x x
x
を 利 用 しない
x
x x
x
θ
x
x
パラメータ 空 間
x x
x
x x
x
x
x x
x
x
x
x
x
x
x
x
x x
x
未 知 のケース x に 対 応 する 予 測
23
x

Introduction: 機 械 学 習 とベイズ
x
x
x
x
x
x x
x x
x x
x x
x x
Posterior
x x
x
全
x
体
xから x
予
x測 x
をしたい!
x x
x
x
x
x
x
x
x
x
p(
x |
x
x x
x
x
x
x
x x
x x
x x
x x
パラメータ θ を 積 分 消 去 予 測 分 布 p(x|D)
x x
x x
x x
x x
x
x
x
x
x
D)
x
x
p(
x | )
p(
|
x
x
x
D)
d
x
x
xθ 2
パラメータ 空 間
θ 1 x θ3
x
x
x
Posterior p(θ|D)
x
x
x
x
x x
x
x x
x
x
x
x
x
x
x
x
x
x
x
x
24

Introduction: 機 械 学 習 とベイズ
x
x
x
x
x
x x
x x
x x
x x
x x
Posterior
x x
x
全
x
体
xから x
予
x測 x
をしたい!
x x
x
x
x
x
x
x
p(
x |
x
x
x x
x
x
x
x x
x x
x x
x x
x x
パラメータ θ を 積 分 消 去 予 測 分 布 p(x|D)
x x
x x
x x
x x
x
x
x
x
x
D)
x
x
p(
x | )
p(
|
x
x
x
D)
d
x
x
x
x
x
Posterior p(θ|D)
パラメータ 空 間
x x
x
x
x
x
x x
x
x x
x
x
x
x
x
x
x
x
E[x]
x
x
p(x|D)
x
x
25

Introduction: 機 械 学 習 とベイズ
x
x
x
x
x
x x
x x
x x
x x
x x
Posterior
x x
x
全
x
体
xから x
予
x測 x
をしたい!
x x
x
x
x
x
x
x
x
x
p(
x |
x
x x
x
x
x
x
x x
x x
x x
x x
パラメータ θ を 積 分 消 去 予 測 分 布 p(x|D)
x x
x x
x x
x x
x
x
x
x
x
D)
x
x
p(
x | )
p(
|
x
x
x
D)
d
x
x
x
x
x
Posterior p(θ|D)
パラメータ 空 間
x x
期 待 値 E[x]
x
x
x x
x
x
x
x x
x x
E x]
x
x p(
x | D)
x
x
dx
x
x
x
E[x]
x
x
p(x|D)
x
x
26

Introduction: 機 械 学 習 とベイズ
x x
x
x
x
x
x
x
x x
x x
x x
x x
x x
x x
予 x 測 x の x分 x布 p(x|D) x x から、 x x 予 x測 x の 確 x からしさ
x
x x
x
x
x
x
x
x
x
x x
x x
x
( 不 確 かさ) を 知 ることができる
x
x x
x x
x
x
x x
x x
x x
x x
x
x
x
x
x
x
x
x x
x
x x
x
x
x
x x
x
分 散 が 小 さい
( 予 測 の 確 実 性 が 高 い)
x
x
x x
x x
x
x
x
x
分 散 が 大 きい
( 予 測 が 不 x 確 実 )
x
x
x
27
x

Introduction:
ベイジアン 機 械 学 習 のまとめ
x x
x
x
x
x
x
x
x
x x
x x
x x
x x
x x
x x
x
パラメータ=モデル 仮 説 の「 確 からしさ」を 確 率 分
x x
x x
x x
x x
x x
x x
x x
x
x
x
x
x
x
布 で x 考 えるx
x
x x
x x
x x
ベイズの x x 定 理 で、データからパラメータ x x
x x 分 布 x を 推 x 論
x
x
x
x
x
過 学 習 を 起 こしにくい
x
x
x
適 切 な prior が 必 要 (モデル 選 択 よりは 簡 単 )
自 x動 モデル x 選 択 とみなすこともできる
x x
x
x
x
x
x x
Posterior x 全 体 を 使 xって 予 測 分 x 布 を 作 れる
パラメータ 空 間 の 座 標 の 取 り 方 に 依 存 しない
予 測 の 不 確 かさが 明 示 的 に 表 現 される
学 習 が
x
理 論 的
x
に、きれいに 記 述 できる
x
x
x
x
x
x
x
x
x x
主 観 的 要 素 (prior) と 推 論 の 分 離
28
x
x

Talk Outline
x x
x
x
x
x
x
x
x
x x
x x
x x
Introduction
x x
x x
x x
x
x
x
ベイジアンとは 何 か?
x
x x
x
ベイズHMMモデル
x
x
x
x Dirichlet 分 布 x
x
ノンパラメトリックベイズHMMモデル
x x
x x
x
x
x
機 械 学 習 とベイズ
Bayesian HMM
Dirichlet process
x
Hierarchical Dirichlet process
Infinite Hidden Markov Model
x
x
x
x
x
x
x
x
x
x
x
x
x
HMMの 状 態 の 階 層 的 クラスタリング
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x x
x x
x
x x
x
x
x
x x
x x
x
x
x
x x
x
x
x
x
29
x

隠 れマルコフモデル (HMM)
x x
x
x
x
x
x
x
x x
x x
x x
x x
x x
時 x 系 x 列 xの x確 率 x 分 x 布 を x 表 x わすモデル
x x
x
x
x
x
x
x
x
x x
x x
x x
状 態 s
x t は 直 前 の 状 態 s
x
x x t-1 にのみ 依 存
x x
x
x
x
x
x
x
x
p
( st
1 | s , , , ) ( |
x
1
s2
s
x
t
p s
x
t1
s
x
t
出 力 記 号 e t は s t にのみ 依 存
x
p
x
x
x
x x
x
( et
| s1,
,
s
x t,
e1
, ,
et
-1)
p(
e | )
x t
st
x x
s 0 s 1 s 2 s 3
)
x
x x
x x
x
x
x
x x
x
x
x
x
x
x x
x
x
x
x
x
e 1 e 2 e 3
x
x
30
x

HMMの 行 列 表 現
x
x
x
x
x x
x x
x x
x x
x x
x x
状 x 態 x を 整 x 数 x {1,…,N} x x
x で、 x 出 x力 xを{1,…,M}で
x x
x x
x
x
x
x
x
x
x
x x
x x
x x
x x
x x
表 わす
x x
x x
x x
x x
x
パラメータは2つの x 行 x 列 で 表 わされる
x
x
x x
x x
x
a
b
ji
ki x
x
p
( st
x
1
p(
e
t
j | s
k | s
x
t
t
x
i)
i)
x
x
x
x x
x
x
x
x x
列 i は、 x 状 態 i から 出 力 されx
x
x
列 i は、 状 態 i の 後 の
状 態 の 分 布 を 表 わす
x
る 記 号 の 分 布 を 表 わす
x
x
Transition
Matrix
A =
x
a 11
a 21
a N1
x
a 1i
a 2i
a Ni
x
a 1N
a 2N
a NN
x
Emission
Matrix
B =
x
b 11
b 21
b M1
b 1i
b 2i
x
b Mi
b 1N
b 2N
b MN
31
x

HMMのベイズ 的 扱 い 方
x
x x
x
x
x
x
x x
x x
x x
x x
x x
x x
x
Prior、Posterior x x
x x
x を x 表 わすために、 x x
x x HMMのパ
x x
x x
x
x
x
x
x
x
x
x x
x x
x x
x
ラメータ 空 間 の 上 の 確 率 分 布 を 記 述 したい
x x
x x
x x
x x
x
Dirichlet x分 布 を 組 み x 合 わせて x使 う
x
( 多
x
項 分 布 のパラメータ
x x
上 の
x
確 率
x分 布 )
x
x
x
x
x
x x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
Transition
Matrix
A =
x
a 11
a 21
a N1
x
a 1i
a 2i
a Ni
x
a 1N
a 2N
a NN
x
Emission
Matrix
B =
x
b 11
b 21
b M1
b 1i
b 1N
b 2i b
x 2N
x
32
b Mi
b MN

多 項 分 布
(multinomial distribution)
x x
x
x
x
x
x
x
x
x x
x x
x x
x x
x
N x 値 x 離 散 x 確 x 率 変 x 数 x の x確 x率 分 x 布 x
x
x
x
x
x
x
x
x
x
p( X j | θ)
x
x x
x x
x x
x
x
N 個 のパラメータで 表 わされる
x
x
x
θ ( 1
,..., N
)
確 率 分 布 としての 制 約 を 満 たす
x
0 1
i
N
i1
x
x
HMM の
x
遷 移
x行 列 の
各 列 は 多 項 分 布 である
i
j
x
x
x
x
x
x
x
x
x
A = x
x
Transition
Matrix
x
x
x
x
x
x
θ 4
θ
θ
x 2 x x
1 θ3
θ 5
x
1 2 3 4 5
x
x
x
4, 2, 3, 1, 4, 5, 2, 4, 4, 1,
5, 3, 2, x 4, 5, 5, x 4, 2, 1, 3…
x
a 11
a N1
x
a 1i
a Ni
x
x
x
x
x
x
a 1N
x
a NN
33
x
x
x
x
x

Dirichlet 分 布 (1)
x
1, x
1,
2,
1,
3,
…
3,
1,
3,
2,
3,
…
x
x
x
x
x
x
x
x x
x x
x x
x x
x x
x x
x
多 x 項 x 分 x布 xの prior x x を 表 x わすのに x
x x 便 x利 xな 分 x布
x
x
x
x
x
x
x
x
x
x
x x
x x
x x
x x
多 項 分 布 のパラメータ θ ( 1
,..., N
) 上 の 確 率 分 布
x x
x x
x x
x x
x
ハイパーパラメータ x α x
x
x
1 …α N が 分 布 の 形 を 表 わす
θ 1
x x
θ 2 θ 3
x
1 2 3
x
θ 1 θ 2
θ 3
1 2 3
x
Dir( θ
x
x
|
θ 1
θ 2
1
, ,
N
)
x x
x x
x
x x
x
x
N
i1
x
θ 3
x
i
-1
i
x
x
x
Dir(3,2,6)
x
x
x
x
34
x
x
x

Dirichlet 分 布 (2)
x
x x
x x
x x
x x
x x
x x
x x
x x
x 多 x 項 x 分 x布 xの 共 x 役 x 事 前 x 分 x 布 (conjugate x x
x x prior) x x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
p
x
x
x x
x x
x x
x x
データ 観 測 後 のposteriorも、priorと 同 じ 形 式 で 記
x x
x x
x x
x x
x
述 できる x
x
x
x
Dir( θ
x
1
x
x
θ | , ,
,
N
x
|
1
, ,
N
)
X
x x
j
x
x
x
N
i1
x
p(
X
j
N
i1
Dir( θ
i
-1
i
x
x
i
-1
i
x
x x
x x
j | θ)
Dir(
θ
x
| , ,
1,
,
1
j
x
x
| , ,
ハイパーパラメータ α j は、 事 前 に j を 観 測 していた 回 数 に 相 当
35
1
N
)
x
N
x
)
x
x
x

Dirichlet 分 布 (3)
x
x x
x x
x x
x x
x x
x x
x x
x x
x Dirichlet x x
x 分 x 布 の x 例 x
x x
x x
x x
x x
x
x
x
x
x
x
x
x
x
x
x
x
x x
x x
x x
x x
観 測 のたびに、ハイパーパラメータが 更 新 される
x x
x x
x x
x x
x
x
x
x
x
Prior Likelihood Posterior
x
x
x
Dir(θ |1,1,1) × p ( X 3| θ)
3
∝ Dir(θ |1,1, 2)
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
36
x

Dirichlet 分 布 (3)
x
x x
x x
x x
x x
x x
x x
x x
x x
x Dirichlet x x
x 分 x 布 の x 例 x
x x
x x
x x
x x
x
x
x
x
x
x
x
x
x
x
x
x
x x
x x
x x
x x
観 測 のたびに、ハイパーパラメータが 更 新 される
x x
x x
x x
x x
x
x
x
x
x
Prior Likelihood Posterior
x
x
x
Dir(θ |1,1, 2) × p ( X 1|
θ)
1
∝ Dir(θ | 2,1, 2)
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
37
x

Dirichlet 分 布 (3)
x
x x
x x
x x
x x
x x
x x
x x
x x
x Dirichlet x x
x 分 x 布 の x 例 x
x x
x x
x x
x x
x
x
x
x
x
x
x
x
x
x
x
x
x x
x x
x x
x x
観 測 のたびに、ハイパーパラメータが 更 新 される
x x
x x
x x
x x
x
x
x
x
x
Prior Likelihood Posterior
x
x
x
Dir(θ | 2,1, 2) × p ( X 3| θ)
3
∝ Dir(θ | 2,1, 3)
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
38
x

Dirichlet 分 布 (3)
x
x x
x x
x x
x x
x x
x x
x x
x x
x Dirichlet x x
x 分 x 布 の x 例 x
x x
x x
x x
x x
x
x
x
x
x
x
x
x
x
x
x
x
x x
x x
x x
x x
観 測 のたびに、ハイパーパラメータが 更 新 される
x x
x x
x x
x x
x
x
x
x
x
Prior Likelihood Posterior
x
x
x
Dir(θ | 2,1, 3) × p ( X 2 | θ)
2
∝ Dir(θ | 2, 2, 3)
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
39
x

Dirichlet 分 布 (3)
x
x x
x x
x x
x x
x x
x x
x x
x x
x Dirichlet x x
x 分 x 布 の x 例 x
x x
x x
x x
x x
x
x
x
x
x
x
x
x
x
x
x
x
x x
x x
x x
x x
観 測 のたびに、ハイパーパラメータが 更 新 される
x x
x x
x x
x x
x
x
x
x
x
Prior Likelihood Posterior
x
x
x
Dir(θ | 2, 2, 3) × p ( X 2 | θ)
2
∝ Dir(θ | 2, 3, 3)
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
40
x

Dirichlet 分 布 (3)
x
x x
x x
x x
x x
x x
x x
x x
x x
x Dirichlet x x
x 分 x 布 の x 例 x
x x
x x
x x
x x
x
x
x
x
x
x
x
x
x
x
x
x
x x
x x
x x
x x
観 測 のたびに、ハイパーパラメータが 更 新 される
x x
x x
x x
x x
x
x
x
x
x
Prior Likelihood Posterior
x
x
x
Dir(θ | 2, 3, 3) × p ( X 2 | θ)
2
∝ Dir(θ | 2, 4, 3)
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
41
x

Dirichlet 分 布 (3)
x
x x
x x
x x
x x
x x
x x
x x
x x
x Dirichlet x x
x 分 x 布 の x 例 x
x x
x x
x x
x x
x
x
x
x
x
x
x
x
x
x
x
x
x x
x x
x x
x x
観 測 のたびに、ハイパーパラメータが 更 新 される
x x
x x
x x
x x
x
x
x
x
x
Prior Likelihood Posterior
x
x
x
Dir(θ | 2, 4, 3) × p ( X 2 | θ)
2
∝ Dir(θ | 2, 5, 3)
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
42
x

Dirichlet 分 布 (3)
x
x x
x x
x x
x x
x x
x x
x x
x x
x Dirichlet x x
x 分 x 布 の x 例 x
x x
x x
x x
x x
x
x
x
x
x
x
x
x
x
x
x
x
x
x x
x x
x x
x x
観 測 のたびに、ハイパーパラメータが 更 新 される
x x
x x
x x
x x
x
x
x
x
x
Prior Likelihood Posterior
x
x
x x
観 測 数 が 増 えると、 事 後 分 布 の 幅
x
x x
が 狭 くなっていく
↑
x
Dir(θ | 2, 5, 3) × p ( X 2 | θ)
2
∝ Dir(θ | 2, 6, 3)
x x
x x
観 測 x により 仮 説 の 不 確 x かさが 減 尐
x
x
x
x
x
x
x
x
x
x
x
x
x
43
x

Dirichlet 分 布 (4)
x
x
x
x
x x
x x
x x
x x
x
予 x 測 x 分 x布 xも 簡 x単 xに 構 x成 x できる x x
x
x
x
x
x
x
x
x
x
p(
X
x
Dir( x
x
j
x
x x
x x
パラメータ θ を 積 分 消 去 する
x x
x x
x
x
x
θ | , ,
x
1
p(
X
j
x
j
x
N
)
x x
N
N
x
N
| θ)
j
x
i1
i
-1
i
p(
X
j | θ) Dir( θ | , ,
1
| , ,
1
)
x x
x x
1
N
x
) dθ
x
x x
x x
x x
x x
x
x
x
x
x x
x x
x
x x
x
x
x
x x
x x
x x
x
1 2 3
x x
?
x
44
x
1 2 3
x

Dirichlet 分 布 (5)
x
x x
x
x
x
x
x x
x x
x x
x x
x x
1 x 未 x 満 のx
α x = 疎 x な x 分 布 x の x 事 前 x 分 x 布 x
x
x
x
x
x
x
x x
x x
x
x x
x
x x
x x
x x
x x
確 率 が 端 に 集 中 … 出 る 確 率 がほぼ0の 値 がある
x x
x x
x x
x x
x
x
x
x
x
x
x
x
x
x x
x x
x x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
45
x

HMM パラメータの 分 布
x x
x
x
x
x
x
x
x x
x x
x x
x x
x x
パラメータ:
x x
x x
遷 移
x x行 列
xと x出 力
x行 x列
x
x
x
x
x
x
x x
x x
x x
行 列 の 各 列 が 多 項 分 布
x x
x x
x x
x
x
Dirichlet x分 布 で prior x を 表 現 できる
x
x x
x x
x x
x x
x
x
x
x
x x
状
x
態 列 S が
x
与 えられれば、posterior
x
x x
もまたx
Dirichlet 分 布 で 表 現 できる
x x
x x
x x
S 中 の 各 状 態 x遷 移 の 回 数 分 、ハイパーパラメータ
x
x
xを 更 新
x
x
x
x
x
x
Transition
Matrix
A =
x
a 11
a 12
a 21 a 22
x
a N1 a N2
a 1i
a 2i
a Ni
x
a 1N
a 2N
a NN
a
x
ji
x
x
p( s
1
j | s i)
t
t
46
x

HMMのベイズ 推 定
x
x
x
x x
x x
x x
x x
x x
x x
x x
出 x 力 x 列 x D x 観 測 x 後 x の posterior x x
x p(θ x | D) x x が 欲 x しい x
x
x
x
x
x
x
x
x
x
x
x
x
x x
x x
x x
x x
状 態 列 S が 与 えられれば、 p(θ | S,D) は 解 析 的 に
x x
x x
x x
x x
解 ける (Dirichlet x 分 布 を x 使 う)
x
x
x x
通 常 は S が
x
不 明
x
p(θ | D) は
x
解 析
x的 に 解 けない
x x
状 態 列 S を 隠 れ 変 数 とみなし、
x
x x
x x
x x
x
x
状 態 列 S とパラメータ θ の 同 時 分 布 を 推 定
x
x x
状 態 列 S をパラメータ θ から 推 定 : p(S | θ,D)
パラメータ θ を 状 態 列 S から 推 定 : p(θ | S,D)
x x
x x
x
x
x
x
47
x
x
x

x
x x
x x
x x
x x
x
x x
x x
x x
x
x
x
x
x
x
x
HMM Bayesian Model
x x
x x
x
0 x x
x x
x
x p(
x
x x
as t-1
s
x
t
x
p(
e
p(
a
x
b
x
x
x
x
x
x
x
x
x
x
x
x
x
x x
x
Dir( x
x
x
x x
, x
x
x
x
x
x
x
x
t t st
et
st
x x
x x
x x
x E
x
x
x
x
x x
x
s 0
s 1 s 2 s 3 s 4 s 5
bs t
x N x
x x
e 1
x e 2 e 3 e 4 e 5
48
x
px
(
s
s
t-1
s
s
, a
)
s
, b
0
E
t-1
)
)
)
Dir( , ,
)
a
b
s
t
s
t-1
0
E
,
0
E
x
x x
x
)

隠 れ 変 数 があるモデルのベイズ 推 定
x x
x
x
x
x
x
x
x
x x
x x
変
x
分
x
ベイズ
x x
x
x
x
x
x
x
x
x
x x
x x
x x
分 布 の 形 状 を、 変 分 法 を 使 って 近 似
x x
x x
x x
変 数 間 の 独 立 を 仮 定
x
x
x
x 熱 力 学 モデルの x x平 均 場 近 似 xに 相 当 x
比 較 的 高 速 だが、 近 似 誤 差 が 残 る
x x
x x
x
マルコフ 連 鎖 モンテカルロ x
(MCMC) x 法
x
x
xサンプリングにより x 分 布 を 推 x 定
x
多 くのサンプルを 集 めることで、 誤 差 を 減 らせる
遅 いx
x
x x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
49
x
x
x
x
x

( 非 ベイズ) EM アルゴリズム
x
x
x
x
x x
x x
x x
x x
x x
1. x適 x当 なパラメータ x x
x x θ からスタート
x x
x x
x
x
x
x
x
x
x x
x x
x x
2. 状 態 列 の 分 布 確 率 を 計 算
x
x x
x x
x
x
x
x
x
q(S) ∝ p(S | θ,D)
x
3. Likelihood 最 大 になる
パラメータ x x θ を 計 算 x
x
x
x x
x
x
x
θ = argmax θ E q(S) [p(D | θ,S)]
x
x
4. 収 束 してなければ2に 戻 る
x
x
x
x x
x x
x x
x x
x
x
x
x x
x
Expectation
x
x x
x
Expectation
x
s 0
Maximization
Maximization
Expectation
x x
x x
x
x
x
s 1
x s 2
xs
x
x
s' 0 s' 1 s' 2 s'
θ''
x
x
s'' 1 s'' 2 s'
s'' 0
θ
θ'
50

変 分 ベイズ 法
x
x
x
x
x x
x x
x x
x x
x x
x x
1. x適 x当 なパラメータ x x
x x 分 布 x xq(θ) xからスタート
x
x x
x
x
x
x
x
x
x
x x
x x
x x
2. 状 態 の 期 待 分 布 を 計 算
x
x x
x x
x
q(S) x ∝ exp Ex
x
q(θ) [log p(D,S | θ)]
x
x
x
3. パラメータの 期 待 分 布 を 計 算
x
q(θ) ∝ p(θ) exp E q(S) [log p(D,S | θ)]
x
4. 収 束 してなければ2に 戻 る
x
x x
x
x
x
x
x
x
x
x
x
x
x x
x
x
x
x
x
VB-E step
x
VB-E step
s 0
VB-M step
VB-M step
VB-E step
x
x x
x x
x
x
x
x
x
x
s 1
x s 2
xs
x
x
s' 0
s'' 1 s'' 2
x
s' 1 s' 2 s'
x
q''(θ)
x
s'
s'' 0
q(θ)
q'(θ)
51

マルコフ 連 鎖 モンテカルロ 法 (1)
Blocked Gibbs Sampling
x
x
x
x
x x
x x
x x
x x
x x
1. x適 x当 なパラメータ x x
x x θ からスタート
x x
x x
x
x
x
x
x
x
x x
x x
x x
2. 期 待 分 布 から 状 態 列 S
x
x x
x x
x
x
x
x
をサンプリング
x
x x
q(S) ∝ p(S,E | θ)
3. 期 待 x 分 布 x からパラメータ x x
x
x
θ をサンプリング
x
x
q(θ) ∝ p(θ) p(S,E | θ)
4. 2に 戻 る ( 収 束 しない)
x
x
x
x x
x
x x
x
x x
x x
x x
x x
x x
x
x
x
x
x
x x
x
Sampling
x
Sampling
Sampling
s 0
Sampling
Sampling
x
x
x
x
s 1
x s 2 s x
x
x
s' 0 s' 1 s' 2 s'
θ''
x
x
s'' 1 s'' 2 s'
s'' 0
θ
θ'
52

マルコフ 連 鎖 モンテカルロ 法 (2)
Collapsed Gibbs Sampling
x
x x
x
x
x
x
x x
x x
x x
x x
x x
x x
x x
状 x 態 x 列 x S xを 各 x々の x 時 x 刻 x ごとに x x Gibbs x xSampling
x x
x
x
x
x
x
x
x
x
x x
x x
x x
x x
予 測 分 布 を 使 うことでパラメータ θ を 積 分 消 去
x x
x x
x x
x x
x
x
x
x
x
x
x
Dirichlet 分 布 の exchangeability を 利 用
x
x
x
x
x
x x
x
x
x
x
x
x
x x
x
x x
x
x
s 1 s 3 s 4 s 5
x
x
x
1 2 3 4 5
s 0
S
x
x
x x
e 1 e 2 e 3 e 4 e 5
x

マルコフ 連 鎖 モンテカルロ 法 (2)
Collapsed Gibbs Sampling
x
x x
x
x
x
x
x x
x x
x x
x x
x x
x x
x x
状 x 態 x 列 x S xを 各 x々の x 時 x 刻 x ごとに x x Gibbs x xSampling
x x
x
x
x
x
x
x
x
x
x x
x x
x x
x x
予 測 分 布 を 使 うことでパラメータ θ を 積 分 消 去
x x
x x
x x
x x
x
x
x
x
x
x
x
Dirichlet 分 布 の exchangeability を 利 用
x
x
x
x
x
x x
x
x
x
x
x
x
x x
x
x x
x
x
s 1 s 2 s 4 s 5
x
x
x
1 2 3 4 5
s 0
S
x
x
x x
e 1 e 2 e 3 e 4 e 5
x

Talk Outline
x x
x
x
x
x
x
x
x
x x
x x
x x
Introduction
x x
x x
x x
x
x
x
ベイジアンとは 何 か?
x
x x
x
ベイズHMMモデル
x
x
x
x Dirichlet 分 布 x
x
ノンパラメトリックベイズHMMモデル
x x
x x
x
x
x
機 械 学 習 とベイズ
Bayesian HMM
Dirichlet process
x
Hierarchical Dirichlet process
Infinite Hidden Markov Model
x
x
x
x
x
x
x
x
x
x
x
x
x
HMMの 状 態 の 階 層 的 クラスタリング
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x x
x x
x
x x
x
x
x
x x
x x
x
x
x
x x
x
x
x
x
55
x

ノンパラメトリックベイズ
x x
x
x
x
x
x
x
x
x x
x x
x x
x x
x x
x x
複 数 のパラメータ 空 間 に 対 する prior を 導 入
x x
x x
x x
x x
x x
x x
x
x
x
x
x
x
x
x
x
xHMM であれば、それぞれの x x
x x N ( 隠 れ x 状 x態 数 ) に x対 して x
prior 確 率 p(N) を 割 り 振 る
x x
x x
x x
x x
x
x
x
N が 異 なる 複 数 のモデルの 予 測 を 統 合 できる
x
(Nを 積 分 消 去 )
x x
x x
個 同 時 に 考 えることができる
x
x
適 切 な prior を 与 えれば、Nの 異 なるモデルを 無 限
x
ノンパラメトリックベイズモデル
x x
x
“ノンパラメトリック” とは、パラメータ 空 間 が 固 定 されて
いない、とか、データに 応 じて 変 わる、という 意 味
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
56
x
x
x
x
x

Dirichlet Process
x x
x
x
x
x
x
x
x
x x
x x
x x
x x
x x
x
G ~ DP( α
x x
x x
x x
x x
x x
x x
x 0 , G
x 0 )
x
x
x
x
x x
x x
x x
Dirichlet 分 布 を N → ∞ に 拡 張 したもの
x x
x
Dir(
, , )
x 1
x N
x
x
x x
i x
G 0 : 基 底 測 度 (base measure)
x x
x
x
α 0 : ハイパーパラメータ
x
x
x
x
x x
x
x
0
i
xG0
( i)
G 0 が 連 続 であれば、DP は 無 限 次 元 の 離 散 分 布
α 0 → ∞ の 極 限 では、 G → G 0
α 0 が 小 さくなると、より 疎 な 分 布 になる
G 0
x
x
x
G(x) の 有 限 個 の 点 で 確 率 1になる
x
x
x
x
x
x
x
x
x
x
x
x
x
0x
x
57
α 0 Large α 0 Small
i
x
x
x
x
x
x
x
x
x

x
ハイパーパラメータ
(α 1 ,…,α N )
x x
x x
x x
N 項 の Dirichlet 分 布
x
x x
x x
x
x
x
x
x
x
x
x
Dir(αx
1 ,…,α N )
x
x
x
x
パラメータ
(θ 1 ,…, θ N )
x
x
x
x
N 項 の 多 項 分 布
x
x
x
x
x
x
x
x
x
x
x
ハイパーパラ
メータ α 0
x
x
x
x
x
x
x
x
x x
x x
Dirichlet Process
x x
x x
x
x
x
x
x
DP(α
x x
x 0 ,G
x 0 )
x
x
x x
x
無 限 個 のパラメータ
x
x x
無 限 項
x
の 多 項 分 布
x
G = (θ 1 , θ 2 ,…,)
基 底 測 度 G 0
x
x
x
x
x
x
x
x
x
x
x
x
θ 1 θ 2
θ 3
1 2 3
x x
N 値 の 離 散 確 率 変 数
x
1, 3, 1, 2, 3, 3, 3, …
-1 0 1
x x
無 限 値 の 離 散 確 率 変 数
x
-0.24, 0.93, 0.07, -0.24, …
x

a
i
am
he
ab
are
and
zz
aaa
the
you
zzz
aaaa
that
zzzz
aaaaa
x
基 底 測 度 G 0
-1 0 1
実 数 空 間 上 の 分 布
x
x
x
x
x
基 底 測 度 G 0
… … … … …
a b
z
aa
アルファベット 列 の 分 布
x
x
x
x
x
x
μ
基 底 測 度 G 0
x
α
x
x
λ
2 次 元 実 数 上 の 分 布
x
x
x
x
x x
x x
x
DP(α
x
x
x x
x
0 ,G 0 )
x
x
x
分 布 G
-1 0 x 1x
x
x
x
x
実 数 の 離 散 分 布
x
x
x
x
x
x x
x x
DP(α
x
x
x x
0 ,G 0 )
x x
x
x
分 布 G
x
x
x
x
x x
x x
x
x
DP(α
x
x
x
x x
0 ,G 0 )
x
x
x
x x
アルファベット 列 の
x
離 散 分 布
x
x
x
分 布 G
x
x
x
x
x x
実 数 の 組 の 離 散 分 x 布
正 規 分 布
x
の 分 布
正 規 分 布 の 混 合
x x
x x
x
x
x
μ
λ
=1/σ

Stick-breaking construction
x x
x
x
x
x
x
x
x x
x x
x x
x x
x x
x x
分 x 布 x Gx
を x明 示 x 的 x にサンプリングする x x
x x
x 方 x 法 x
x
x
x
x
x
x
(Sethuraman, x
x 1994; x Ishwaran x & xJames , 2001) x x
x
x
x
x x
x x
x x
長 さ1の 棒 を v
x i ~ Beta(1, α
x 0 ) の 比
率 で 折 りながら、G x x 0 から 選 んだ x 点
i に 確 率 を 振 る
x x
x
x x
x x
x
x x
x
x
x
x x
x x
x
x
x
x
G 0 : Prior Distribution
of English words
x x
x
x
x
x
x
x
x
x
x
x
60
x

Stick-breaking construction
x x
x
x
x
x
x
x
x x
x x
x x
x x
x x
x x
分 x 布 x Gx
を x明 示 x 的 x にサンプリングする x x
x x
x 方 x 法 x
x
x
x
x
x
x
(Sethuraman, x
x 1994; x Ishwaran x & xJames , 2001) x x
x
x
x
x x
x x
x x
長 さ1の 棒 を v
x i ~ Beta(1, α
x 0 ) の 比
率 で 折 りながら、G x x 0 から 選 んだ x 点
i に 確 率 を 振 る
x x
x
x x
x x
x
x x
x
x
x
x x
x x
x
x
x
x
G 0 : Prior Distribution
of English words
x x
x
x
x
x
x
x
x
like
x
x
x
61
x

Stick-breaking construction
x x
x
x
x
x
x
x
x x
x x
x x
x x
x x
x x
分 x 布 x Gx
を x明 示 x 的 x にサンプリングする x x
x x
x 方 x 法 x
x
x
x
x
x
x
(Sethuraman, x
x 1994; x Ishwaran x & xJames , 2001) x x
x
x
x
x x
x x
x x
長 さ1の 棒 を v
x i ~ Beta(1, α
x 0 ) の 比
率 で 折 りながら、G x x 0 から 選 んだ x 点
i に 確 率 を 振 る
x x
x
x x
x x
x
x x
x
x
x
x x
x x
x
x
x
x
G 0 : Prior Distribution
of English words
x x
x
x
x
x
x
x
x
the
like
x
x
x
62
x

Stick-breaking construction
x x
x
x
x
x
x
x
x x
x x
x x
x x
x x
x x
分 x 布 x Gx
を x明 示 x 的 x にサンプリングする x x
x x
x 方 x 法 x
x
x
x
x
x
x
(Sethuraman, x
x 1994; x Ishwaran x & xJames , 2001) x x
x
x
x
x x
x x
x x
長 さ1の 棒 を v
x i ~ Beta(1, α
x 0 ) の 比
率 で 折 りながら、G x x 0 から 選 んだ x 点
i に 確 率 を 振 る
x x
x
x x
x x
x
x x
x
x
x
x x
x x
x
x
x
x
G 0 : Prior Distribution
of English words
x x
x
x
x
x
x
x
x
x
you
love
have
that
is
ball
he
the
like
…
x
=
x
p
63
x

Chinese Restaurant Process
x x
x
x
x
x
x
x
x x
x x
x x
x
Dirichlet x x
x Process x
x x のよい x x
x
x
x
x
x x
x
性 質 を 活 用 したいが、
x x
x x
無 x 限 個 のパラメータは
x
x
扱
x
いづらいx
x x
x
して、 確 率 変 数 x の 予 測
x
x
x
x
x
パラメータを 積 分 消 去
分 布 を 直 接 計 算 する
x
x
x x
x x
x x
G 0
x α x
x x
x x
x
x 0 x
x
x
x
x x
x x
Dirichlet x
xProcess
x
x
x
DP(α 0 ,G 0 )
x
G = (θx
x 1 , θ 2 ,…,)
x
x
無 限 個 のパラメータ
x 無 限 項 の 多 項 分 布 x
x
x
x
x
x
x
x
x x
無 限 値 の 離 散 確 率 変 数
x
-0.24, 0.93, 0.07, -0.24, … 64

Chinese Restaurant Process
x
x
x
x
x
x
x x
x x
x x
x x
x x
x x
x x
G
x
を
x
計 算
x
せず、
x
x
多
x
項 分
x
布
x
の
x予 x測 分
x
布
x
を 求
x
める
x
x
x
x
x
x
x
x
x
x (Aldous, x 1983; x Pitman, x 1995) x
客 x = 確 x 率 変 数 x x
x
x
x
x
x x
x x
x
x
x x
x
x
x G 0 : 英 単 語 の 分 布
皿 = 確 率 変 数 に 割 り 当 てられた 値
x
x x
x x
x
卓 = 客 と 皿 の 組 み 合 わせかた
x x
x x
x x
Partitioning に 関 する prior になっている
x
x
x
x
x
x
5 x
x 3
x
4
x
x
he the ball
x 1
x
x x
2
x x
x 6 5+α
2 5+α
2 5+α
1 5+α
α
x
65
x
x
x

Chinese Restaurant Process
x x
x
x
x
x
x
x
x x
x x
x x
x x
x x
x x
x x
G
x
を
x
計 算
x
せず、
x
x
多
x
項 分
x
布
x
の
x予 x測 分
x
布
x
を 求
x
める
x
x
x
x
x
x
x
x
(Aldous, x 1983; x Pitman, x 1995) x
客 x = 確 x 率 変 数 x x
x
x
x
x
皿 = 確 率 変 数 に 割 り 当 てられた 値
x x
x
卓 = 客 と 皿 の 組 み 合 わせかた
x
x x
x x
x x
x x
x x
Partitioning に 関 する prior になっている
x
x
x x
x x 3
x 7
4
x
x 5
x 2
he the ball
x
x
x
x
x
x
G 0 : 英 単 語 の 分 布
x
x
x
x
x x
x
x
x
x 1
x
x 7 6+α
2 6+α
3 6+α
1 6+α
α
x
x
x
66
x

Chinese Restaurant Process
x x
x
x
x
x
x
x
x x
x x
x x
x x
x x
x x
x x
G
x
を
x
計 算
x
せず、
x
x
多
x
項 分
x
布
x
の
x予 x測 分
x
布
x
を 求
x
める
x
x
x
x
x
x
x
x
(Aldous, x 1983; x Pitman, x 1995) x
客 x = 確 x 率 変 数 x x
x
x
x
x
皿 = 確 率 変 数 に 割 り 当 てられた 値
x x
x
卓 = 客 と 皿 の 組 み 合 わせかた
x
x x
x x
x x
x x
x x
Partitioning に 関 する prior になっている
x
x
x
x x 3
x
4
x
x 5
x 2
he the ball
love
x
x
x
x
x
x
G 0 : 英 単 語 の 分 布
x
x
x
x
x x
x
x 7 x 8
7+α
x
x
x 1
x
x 8 7+α
2 7+α
3 7+α
1 7+α
1
x
x
x
α
67
x

Dirichlet Process の 応 用
x x
x
x
x
x
x
x
x x
x x
混 x 合 x 正 x規 x分 布 x
x
x
x
x
x x
x x
x x
x x
x x
x
x x
x
x x
x x
それぞれの 皿 がひとつの
x x
x x
x
正 規 分 布 x(クラスタ) を 表 x わす
x
予 測 分 布 を
x
使 うことで、
x
各 データが
x
x
x
x
x
x
x
x
x x
x x
x x
x x
x
x
x
x
x x
x x
x
x x
x
x
x
x
Gauss-Gamma Distribution
x
x x
所 属 するクラスタを 再 計 算 = collapsed Gibbs sampling
x
x
x
x
x
1 , 1 2 , 2 3 , 3 4 , 4
68
x
x
x
x
x
x

Dirichlet Process の 応 用
x x
x
x
x
x
x
x
x x
x x
混 x 合 x 正 x規 x分 布 x
x
x
x
x
x x
x x
x x
x x
x x
x
x x
x
x x
x x
それぞれの 皿 がひとつの
x x
x x
x
正 規 分 布 x(クラスタ) を 表 x わす
x
予 測 分 布 を
x
使 うことで、
x
各 データが
x
x
x
x
x
x
x
x
x x
x x
x x
x x
x
x
x
x
x x
x x
x
x x
x
x
x
x
Gauss-Gamma Distribution
x
x x
所 属 するクラスタを 再 計 算 = collapsed Gibbs sampling
x
x
x
x
x
1 , 1 2 , 2 3 , 3 4 , 4
69
x
x
x
x
x
x

Dirichlet Process の 応 用
x x
x
x
x
x
x
x
x x
x x
混 x 合 x 正 x規 x分 布 x
x
x
x
x
x x
x x
x x
x x
x x
x
x x
x
x x
x x
それぞれの 皿 がひとつの
x x
x x
x
正 規 分 布 x(クラスタ) を 表 x わす
x
予 測 分 布 を
x
使 うことで、
x
各 データが
x
x
x
x
x
x
x
x
x x
x x
x x
x x
x
x
x
x
x x
x x
x
x x
x
x
x
x
Gauss-Gamma Distribution
x
x x
所 属 するクラスタを 再 計 算 = collapsed Gibbs sampling
x
x
x
x
x
1 , 1 2 , 2 3 , 3 4 , 4
70
x
x
x
x
x
x

Dirichlet Process の 応 用
x x
x
x
x
x
x
x
x x
x x
混 x 合 x 正 x規 x分 布 x
x
x
x
x
x x
x x
x x
x x
x x
x
x x
x
x x
x x
それぞれの 皿 がひとつの
x x
x x
x
正 規 分 布 x(クラスタ) を 表 x わす
x
予 測 分 布 を
x
使 うことで、
x
各 データが
x
x
x
x
x
x
x
x
x x
x x
x x
x x
x
x
x
x
x x
x x
x
x x
x
x
x
x
Gauss-Gamma Distribution
x
x x
所 属 するクラスタを 再 計 算 = collapsed Gibbs sampling
x
x
x
x
x
1 , 1 2 , 2 3 , 3 4 , 4
71
x
x
x
x
x
x

Dirichlet Process の 応 用
x x
x
x
x
x
x
x
x x
x x
混 x 合 x 正 x規 x分 布 x
x
x
x
x
x x
x x
x x
x x
x x
x
x x
x
x x
x x
それぞれの 皿 がひとつの
x x
x x
x
正 規 分 布 x(クラスタ) を 表 x わす
x
予 測 分 布 を
x
使 うことで、
x
各 データが
x
x
x
x
x
x
x
x
x x
x x
x x
x x
x
x
x
x
x x
x x
x
x x
x
x
x
x
Gauss-Gamma Distribution
x
x x
所 属 するクラスタを 再 計 算 = collapsed Gibbs sampling
x
x
x
x
x
1 , 1 2 , 2 3 , 3 4 , 4
72
x
x
x
x
x
x

そのほかの 主 な
ノンパラメトリックベイズモデル (1)
x
x x
x
x
x
x
x x
x x
x x
x x
Gaussian x x
x Process x
x x (O’Hagen, x x 1978) x
x
x
x
x
x
x
x
x x
x x
x
多 変 数 ガウス 分 布 の 無 限 変 数 版
x
x x
x x
x x
x x
関 数 回 帰 のノンパラメトリックモデル
x
x
x
x
x
双 対 表 現 、カーネルトリックを 利 用
x
x
x
x
x
x
x
x
x
x
x
x
x
x x
x
x
x
x
x
x
x x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x x
(Figure from Rasmussen&Williams, 2005)
x
x
x
73
x

そのほかの 主 な
ノンパラメトリックベイズモデル (2)
x x
x
x
x
x
x
x
x
x x
x x
x x
x x
x x
Pitman-Yor Process (Pitman & Yor, 1997)
x x
x x
x x
x x
x x
x
x
x
x
x
x
x
x x
x x
x x
x
Dirichlet Process の 拡 張
x x
x x
x x
x x
k 番 目 のStick を 折 る 比 率 が Beta( 1-d, α
x
x
x 0 +kd )
x
x Power-law x 分 布 のx
prior = 「ロングテール」を x x 表 現 x
Beta Process, Indian Buffet Process
x
x
(Griffiths&Ghahramani, 2005; Thibaux&Jordan, 2007)
x
xデータの 背 後 にある x 隠 れ 変 x数 が 単 一 の
カテゴリではなく、feature の 組 み 合 わせ
Mondorian Process
x x
k 次 元 treeに 対 する prior x
(Roy&Teh, 2008)
x
x
x
x
x
x
x
x
x
x
x
x
x
x
(Figure from
Ghahramani, 2005 / Roy&Teh, 2008)
x
x
x
x
74
x
x
x
x
x
x

Nonparametric Bayesian HMM (1)
x
x
x
x
x x
x x
x x
x x
x x
x x
直
x
観
x
的
xには、 x
遷
x
移
x
行
x節 xの 各
x
列
x
のpriorを
x x
x
x
x
x
x
x
x
x Dirichlet x 分 x 布 x から Dirichlet x x Process x x に 置 き x 換 x
えればよさそうに x x
x 思 x える x x
x x
x
x
x
x
x
x x
Transition a 11 a 12
Matrix a 21 x
a 22 x
A
x=
xa N1 a N2
x
a 1i
a 2i
a Ni
x
a 1N
a 2N
x
a NN
x
x
x
Transition
Matrix
x
A =
x
x
a 11 a 12
x
a 21 a 22
x
a 1i
a 2i x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
しかし、これはうまくいかない
x
x
x
75
x

Nonparametric Bayesian HMM (2)
x
x
x
x
x x
x x
x x
x x
x x
x x
x x
Dirichlet x x
x Process x
x x からサンプルした x x
x x
x多 x項 分 x 布 x に
x
x
x
x
x
x
x
x
x
x
x
x x
x x
x x
x x
おいては、 有 限 個 の 点 だけが 非 0 確 率 を 持 つ
x x
x x
x x
x
x
x
列 iと 列 jは 確 率 1でdisjoint
x
x
遷 移 先 は 常 に 未 知 の 状 態 に
なってしまう
x x
x
Transition x 0
Matrix
x 0
0
A =
x a ji
x 0
x
x
x
x x
a j'i'
x
x
x
x
x
x
x
x
x
x
x
x
G 0
x x
x
x
x
x
76
x
x

Nonparametric Bayesian HMM (3)
x x
x
x
x
x
x
x
x
x x
x x
x x
x x
x x
Hierarchical x x
x x Dirichlet x x
xProcess x
x を x 使 うx
x
x
x
x
x
(Beal+, x 2002; Teh+, x 2006) x
x
x
x
x x
x x
x
x x
x
x
x
x x
x x
x x
Dirichlet x x Process x からサンプルした x
x x 分 布 x を、 x別 の
x
x
x
x
Dirichlet Process の 基 底 測 度 に 使 う
G
G
x
i
, H
x
x
~ DP( , H)
x
x
x
0,
G ~ DP( 0,
G
x
G が 離 散 なので、 多 数 の 分 布
がサポートを x x 共 有 するように
できる
x
)
x
x
x
H
G
x
G 1
x
x
x
x x
x
x
G 2
77
x
x
x
x

Infinite Hidden Markov Models
x
x x
x x
x x
x x
x x
HMM で 使 うことのできるすべて
x
x x
x x
x x
x x
x
x
x
x
x
x
x
x
x x
x x
この HMM で 利 用 される
x
x
x
の 状 態 に 対 する ( 一 様 ) 分 布
状 態 の 確 率 分 布
x
G
G
x
i
, H
x
x
x
x
x x
x
x
0,
G ~ DP( 0,
xG)
~ DP( , H)
遷 移 行 列 の i 列 目
= 状 態 i からの x 遷 x移 先 の
x 状 態 の 確 率 分 布
x
x
x
x
x
x
x
x
x
Transition
Matrix
A =
H
x
x
G
x
x
x
x
a 11
x
x
x
x
x
x
a 12
a 21 a 22
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
G i
a 1i
x
x
a 2i
x
x
78
x
x

Infinite Hidden Markov Models
x
x x
H
x
x
x
x
x
x
x
x
x x
x
x
x x
x x
x
x
x x
x x
x
x
x
x
x x
x x
x x
x
x
x
x
x x
G 0
x
x
x
Gs t-1
x
x
x
0
∞
x
s
t
x
x
x
G
x
x x
e
G
t
i
s
x
t-1
x
x
x
x
x
x
x
x
x
x
x x
x
x
x
~ some x distribution
x
x
x
x
x
t
x
x
x
x x
x x
x
s 0
x
x x
e 1
x e 2 e 3 e 4 e 5
x
79
Es t
s 1 s 2 s 3 s 4 s 5
s
, H x
, G
t
E
s
, E
t-1
s
i
t
~ DP( x
, Hx
)
x
, G ~ DP(
0
~
~
G
E
s
s
t-1
0
, G)
x

Infinite Hidden Markov Models
x
x x
H
x
x
x
x
x
x
x
Size
x
x
x
x
x
x x
x x
Stickiness
x
x x
x
x
x
x
x
x
x x
x x
x x
x
x
x
x
x x
G 0
x
x
x
Density
x
Gs t-1
x
x
x
0
∞
x
s 0
b
x
x
x
x
x x
x
s
t
G
x
x x
e
G
t
i
s
x
t-1
s
, H x
t
x
x
x
, G
E
s
, E
t-1
s
t
x
x
x
x
x
x
x
x x
x
x
x
~ some x distribution
x
x
x
x
i
x
~ DP( x
, Hx
)
x
, G ~ DP(
0
~
~
G
E
x
t
t-1
x x
s
s
0
, G)
x
x
x
x x
Es t
s 1 s 2 s 3 s 4 s 5
e 1 e 2 e 3 e 4 e 5
x
80
x

State Sequence Produced by iHMMs
x
x
x
x
x
x x
x x
x x
x x
x x
x x
x x
ハイパーパラメータを x x
x x
x x
x 設 x 定 することで、 x x
x x 様 々な
x x
x
x
x
x
x
x
x
x
x x
x x
系 列 が 生 成 される
0 1000
x
b 0.1
100 x
x x
x x
x
x x
x x
x
x x
x x
x
x
x x
x x
x
x 0 0.1
x
b 0
x 100
x
x
x
0 2
b 8
2
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
Taken from (Beal+, 2002)
x
81
x
0 1
b 1
10000
x

iHMM の 学 習
x x
x
x
x
x
x
x
x
x x
x x
x x
x
変 分 ベイズ 法 (Beal, 2003)
x x
x x
x x
x x
x
x
x
x
x状 態 数 を x 有 限 x 個 ( 多 めに) x x置 いて 近 x 似 する x
Blocked x Gibbs x Sampler x x (Teh+, x 2006) x
x
x
x
x
x
x
Stick-Breaking x process x を 使 い、 x遷 移 行 x列 を sampling x
状 態 が 無 限 個 あるため、Forward-backward が 利 用
不 x能 x
Beam Sampler x (Van x Gael+, 2008) x
x
x
Collapsed x Gibbs Sampler x
Chinese Restaurant Process を 使 い、 遷 移 行 列 の 期 待
分 布 を 計 算
Conditional Simultaneous Draws Sampler (Makino+,
x
2009)
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
82
x
x
x
x
x

Hierarchical Dirichlet Process の 応 用 (1)
x x
x
x
x
x
x
x
x
x x
x x
x x
x x
x x
x 0
x
x x
文 x 書 x のトピックモデル x x
x x
x (Teh, x Jordan, x x Beal&Blei x 2004) G
x
x x
x
x
x
x
x
x 0
x
x
x
x x
x x
x x
Latent Dirichlet Allocation (Blei, Ng&Jordan 2003)
x x
x x
x x
x x
のノンパラメトリック x 版 x
x
x
トピック 数
xK を 明
x示 的 に 与 えず、
x
各
x文 書 の
トピック 分 布 を 生 成 する
x x
x x
データ ( 文 書 集 x 合 ) 観 測 後 の 事 後 x
x分 布 を 計 算 することで、 x 最 適 x な
トピック 数 の 分 布 とともに、
各 トピックの 単 語 分 布 を 推 定 できる
x x
x
x
x
β
x
x
x
x
x
x
x
G j
z ji
w ji
x
N
83
x
xM
x
x

Hierarchical Dirichlet Process の 応 用 (2)
x x
x
x
x
x
x
x
x
x x
x x
x x
N-gram model (Teh, 2006)
x x
x x
x x
x
x
x
x
x
x
Suffix tree x の 各 x node に、 x x
単 語 分 布 を 表 わす Pitman-Yor
x
x x
x x
Process を 割 x り 当 てる
学 習 は 階 層 x Chinese x Restaurant x
process 上 のサンプリングで 実 現
Kneser-Ney スムージング
x x
x x
が 帰 着 できる
さらに x N を 積 分 消 去 x した
∞-gram モデル (Mochihashi
&Sumita, 2007)、Sequence
Memoizer x (Wood+, x 2009) …
x
x
x
x x
x x
x
x
x x
x x
x
x
x
x
x
x
G bag of
x x
x
x
of
x
x
x
x x
x x
x
x
x
x x
x
x x
G of G to
bag
three
G three states of
G
x states x
x
x
G states of
to
x
84
x
x
united
G united states of
x

iHMM の 状 態 の 階 層 クラスタリング
(Makino+, 2009; Makino+, in submission)
x
x
x
x
x
x x
x x
x x
x x
x
HMM:
x x
各
x
々の
x
x隠 xれ 状
x
態
x
は 独
x
立
x
x
x
x
x
x
x
x
x
x
x x
x x
x x
x x
x x
x x
x x
現 実 には、 状 態 間 の 類 似 性 がある 場 合 が 多 い
x x
x x
x x
x x
x
Dirichlet x Process x は、クラスタリングのためにも
x
x
x
利
x
用 できるx
x
うまく 組 み 合 わせて、
x
x
x
x x
x
隠 れ 状 態 x をクラスタリングする
x
x
x
adjective noun noun noun noun verb noun aux verb verb
superlative common common common proper transitive pronoun present transitive
x
time title title name past bare form
x
family
x
Last night Prime Minister Koizumi said he will make
x
x
x
x
x
x
x
x
x
x
x
x
x
x
85
x
x
x

iHMM with Dirichlet Process Mixtures
(Fox+, 2008)
x x
x
x
x
x
x
x
x
x x
x x
x x
x x
x x
x
HMMからの x x
x x 出 x 力 x をクラスタリングする
x x
x x
x x
x
x
x
x
x
x
x
x
x
x
x x
x x
x x
x
Nested Chinese Restaurant Process (Blei+, 2004)
x x
x x
x x
x x
を HMM に x 拡 張 したものに x 相 当 x
x
x x
x
x
x
x
x
x
x x
x x
x x
x
State x 1
State 2 State 3
x
x
x
x
G
x 0
x x E
x
~ DP( , H )
x
x
Gsx
~ DP( T
, G0
)
Z ~ DP( , H )
s
z
0
Z
x
x
~ some x distribution x
e.g. Gauss-Wishart
x
86
x

iHMM with Dirichlet Process Mixtures
x x
x
x
x
0
x
x
G 0
x
x x
x
x
x
T
x
x x
x
x x
x
x
x
x
x
Gs t-1
x x
x
x
x x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
G
G
x
Z
E
x x
x
0
~ DP(
x
x x
x
s
s
z
x~ DP( x
x
0
x
, H
x
x
, G
T
x
x x
~ DP( , H )
Z
x x
x
x
x
x
x
x
~ xsome distributi x
)
0
)
on
x
x
Z
x
x
x
∞
x
x
x x
x
x
x x
Zs t
s 1 s 2 s 3 s 4 s 5
x
x
x
z 1 z 2 z 3 z 4 z 5
Ez x t x
x x
∞
x
e 1 e 2 e 3 e 4 e 5
87
x

提 案 手 法
x x
x
x
x
x
x
x
x
x x
x x
x x
x x
x x
クラスタ x x
x 構 x 造 が、 x x 遷 移 x に x 影 響 x しない
x
x
x
x
x
x
x
x
x x
x x
x x
x x
欲 しいのは、むしろ 遷 移 確 率 に 関 するクラスタ
x x
x x
x x
x x
x
x
x
x
x
x
x
x
クラスタ 内 の 各 状 態 への 遷 移 が 類 似
x
x
クラスタ 内 の 各 状 態 からの 遷 移 が 類 似
x
x
x
x
x
x
z t も 状 態 の 一 部 となるようにできないか?
Hierarchical Nested infinite HMM (HN-iHMM)
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
88
x
x
x
x

2 階 層 HN-iHMM
x
x
x
x x
x x
x x
x x
x x
zx
x
x
x x
x x
x t が 状 態 x の x 一 x部 となるためには:
x
x
x
x
x
x
x
x
x x
x
t
t
x
x x
x x
z t が s t+1 の 確 率 に 影 響 する
x x
x x
x x
z x
x
x
t の 確 率 が s t-1 (と z t-1 ) に 依 存 する
st
-
z
e
x
~ p(
st
| st
1)
x x
~ p(
zt
| st
)
x
~ p(
e | z )
t
t
x
x
x
x x
s
x
t
~
zt
~
x
e ~
t
x
x
p(
s
p(
e
x
t
p(
z
t
t
x x
x x
x x
x x
x
x
x
x
x x
x x
x
x
| st
| s
| z
-1
x
t
t
, s
)
,
z
t-1
t-1
x
)
, zt-
1)
x
x x
x
x
s 1 s 2
s 1 s 2
x x
x
z 1 z 2
z 1 z 2
x
e 1 e 2
x
e 1 e 2
89
x

2 階 層 HN-iHMMの 構 成 (1)
x x
x
x
x
0
x
x
G 0
x
x
x
x
x
x x
x
T
x
x
x
Gs t-1
∞
x x
x
x x
x x
x x
x x
x x
x x
x
x
x
x x
x x
x
x x
x
x
x
∞
x
x
x
x x
x
x
x
x x
x x
0
~ GEM(
x
x x 0
x
x
x
x x
~ DP(
x
~ xGEM(
x
x x
x
x
x x
x
x
x
x
x
x
Zs t
s 1 s 2 s 3 s 4 s 5
G
G
x
Z
E
s
s
z
, G
T
x
x
~ some distribution
Z
)
0
)
)
x
x
x
Z
90
x
z 1 z 2 z 3 z 4 z 5
Ez t x x
x x
∞
x
x
e 1 e 2 e 3 e 4 e 5

2 階 層 HN-iHMMの 構 成 (2)
x
x x
x x
x
x x
x
x
x
T x x
0 T 1
x T x2
x
x x
x
x
x
x
G 0 Gs t-1
x x
x
Z x
∞
x x
x x
x x
x x
x
x x
x x
x x
x zx
t が s t+1 の x 確 率 x
x
x
Gs t-1
z t-1 ∞
x x
に 影 響 する
x
x x
x
x
x
∞
x x
x
x
x
x
x
x
x
s
x
~ GEM( x x
x
~ DP( x
x
1x
T
x
2
T
,
x
~ DP(
~ GEM( )
x x
0
)
, G
x
x
Z
x
x
x x
x
x
x
x
~ some distribution
Zs t
s 1 s 2 s 3 s 4 s 5
G
G
G
0
s,
z
Z
E
s
z
T
G
0
s
)
)
x
x
x
z 1 z 2 z 3 z 4 z 5
Ez t x x
x x
∞
x
x
e 1 e 2 e 3 e 4 91e
5

x x
x x
x
x
x x
x
x
x
T x x
0 T 1
x
x
x x
G 0
x
2 階 層 HN-iHMMの 構 成 (3)
x
x T x2
x x
x
x
Gs t-1
x x
Zs t
x
x
x x
x
Gs t-1
z t-1
s t x
Zs
z t-1
t-1
∞ ∞
Zs t x
s t-1
Z 0 Z 1
x Z x2
x
x x
x
x x
x
x x
x x
x z t の 確 x率 が
x x
s t-1 (と z t-1 )
x x
x
x
x
x
x
x x
x
∞
に 依 存 する
x
x
x
x
s,
z
s'
x
s',
s,
z
0
~ GEM( )
x
~ DP( x
x
1
, G
, G
2
T
x
x
0
x
s
0
~ GEM( )
1
~ DP( , Z
x s'
2
~ DP( , xZ
x
x
x
x
Ez
~ some distribution
x x
x x
s 1 s 2 s
x 3 s 4 s
x 5
x
x
z 1 z 2 z 3 z 4 z 5
x
) x
Ez t
x x
∞ x
x
e 1 e 2 e 3 e 4 92e
5
Z
G
Z
G
G
Z
0
s',
s
~ x DP( x
s
T
Z
Z
T
Z
)
)
)
s',
s

2 階 層 以 上 のHN-iHMM
x
x x
x
x
x
x
x
x
x
x
x x
x x
x x
x x
x x
x x
が x 状 態 x の x 一 x部 xであるように x x
x 表 x 記 を x 変 x 更 x
x
x
x
x
x
x
x
x x
x x
x x
x
x
x x
x x
x x
x
x
x
x
x
- 階 層 状 態 の HMM に 自 然 に 拡 張 できる
x
x
x x
x
x
x
x
x
x
x x
x
x
k
x
kx
1: k-1
1:
st
~ p(
st
| st
, xs
t-
x
e ~
t
p(
e
t
|
s
n
t
)
x x
1)
x
n
x
G
k
s'
x
G
x
k
s'
1: k-1
E
1: k
x
k
-1
~ GEM( x 0
)
x
k
~ DP( , G
, s
s
1: l
1: n
l
k
s'
1: k-1
x
, s
x
)
1: l-1
~ some distribution
x x
x
93
x

HN-iHMMの 例
x x
x
x
x
x
x
x
x x
x x
生 x 成 x された
x x
x
x
x
x x
遷 移 行 列 の 例
x
x x
クラスタ 構 x造
x による、 遷 x移
確 率 の 類 似
x x
性 が 実 現 され
xている
x
x
x
x
x
x
x
From x
x
x
x
x
x
To
x x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x x
x x
x
x
x
x x
x
x
x
x
x
x x
x
x
x
x
x
x
x
94
x

実 験 (1)
x x
x
x
x
x
x
x
x
x x
x x
x x
x x
x x
x x
x
人 x 工 x HMMから x x
x 生 x 成 したシーケンスをもとに、
x x
x x
x x
x x
x
x
x
x
x
x
x
x x
x x
もとの HMM を 推 定 する
x
x x
x x
x x
x x
x
一 見 、ノイズの x 多 い A-B-C x の 繰 り 返 x しに
x 見 えるが、 x尐 しずつ x 性 質 の 異 x なる 多 x 数 の
x
x
x
x x
x
x
x
x x
x x
x x
Beam Sampling x 50,000 step 後 xの 状 態 列 と、
x
シーケンスの 組 み 合 わせで 構 成 されている
x
真 の 状 態 列 との 間 の 相 互 情 報 量 で 評 価
x x
データ 長 N=500
x x
x x
x
x
x
x
x

頻 度
結 果 (1)
x x
x
x
x
x
x
x
x
x x
x x
従 x 来 x のx
iHMM
x
x
x
x
x
x x
では、 正 しく 分 離
x x
x
して x 隠 れ 状 態 x を
学
x
習 することが
x
できない
x
x x
x x
MCMC サンプリングの x 系 列 が
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x x
x
相 互 情 報 x 量
x x
local maximum に 陥 ってしまい、
脱 出 できない
x
x
x
x
x
x
x
x
x
x
x
x
x x
サンプリングされた 状 態
真 の 状 態
x
x
このときの
相 互 情 報 量
MI = 3.61
x
x
x
x
x
x
x
x
x
96
x
x
x
x
x

頻 度
結 果 (2)
x x
x
x
x
x
x
x
x
x x
x x
x
2 x 階 x 層 HN-iHMM
x x
x x
x
x
x
x x
を 使 うと、より 精
x x
x
度 x よく 推 定 できる
x
x
x
しかし、 手 掛
かりの 尐 ない
x x
状 態 につい
xては、 分 離
できないこ
とが 多 い
x x
x
x
真 の 状 態
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x x
x
相 互 情 報 x 量
サンプリングされた x 状 x 態
x
このときの
相 互 情 報 量
MI = 4.18
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
97
x
x
x
x
x
x

頻 度
結 果 (3)
x
x x
x
x
x
x x
x x
x x
3 x 階 x 層 HN-iHMM
x x
x x
x
x
x
x
x x
x x
を 使 うと、かなり
x x
x x
精 x 度 よく 推 定 x 可 能
サンプリングされた x
x状 態
x
x
x x
x x
x
x
x x
x x
x
x
x
x
x x
x x
x
相 互 情 報 x 量
x x
x
x
x
x
x
x x
x
x
x
x
x
x
x x
真 の 状 態
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
このときの
相 互 情 報 量
MI = 4.65
x
x
x
98
x

実 験 1の 考 察
x x
x
x
x
x
x
x
x
x x
x x
x x
x x
x x
x x
x
HN-iHMM x x
x x では、 x x余 分 x なx
state x が x 多 x数 x生 成 x さx
x
x
x
x
x
x
x
x x
x x
れるが、 精 度 が 下 がらない
x
x x
x x
x x
x x
通 常 の HMM x (や iHMM) x では、 余 分 x な state があ x
x ると 精 度 が x 低 下 する x
x
HN-iHMM では、クラスタ 中 の 他 状 態 の 情 報 が 使
x x
x x
えるので、 精 度 x が 下 がりにくい
x x
x
逆 に、 学 習 における local maximum からの 脱 出
を 助 ける 効 果 がある
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
99
x
x
x
x
x

実 験 (2)
x x
x
x
x
x
x
x
x
x x
x x
x x
x x
x x
x x
x
Alice’s Adventure in Wonderland のテキストを 利
x x
x x
x x
x x
x x
x x
x x
x
x
x
x
x
x
用 した x 実 験 x (Makino+, x in submission)
x x
x
x
x
2 階 層 状 態 HMM を 利 用
x x
x x
x x
x
x
28,120 語 (End-Of-Sentence 含 む)
x
x
2 回 以 下 しか 登 場 しない 単 語 は UNK に 置 換 異 な
り 単 語 数 1,078 語
x x
x x
x x
Conditional Simultaneous x Draws Sampler x (Makino+,
x
x
2009) によりサンプリング
19,000 回 目 の sweep の 後 では、34 個 のクラスタ 中 に
774 個 の 状 態 があった
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
100
x
x
x
x
x

x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
結 果 (2)
101

x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
結 果 (2)
102

x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
結 果 (2)
103

まとめ
x x
x
x
x
x
x
x
x
x x
x x
x x
x x
x x
x x
機 械 学 習 におけるベイジアンの 位 置 づけ
x x
x x
x x
x x
x x
x x
x
x
x
x
x
x
x
x
x x
x x
不 確 かさを x明 示 的 に 扱 える x
x パラメータを x 積 分 消 x 去 予 測 分 x 布 の x利 用
x
パラメータの x 分 x 布 を 考 xえることで、パラメータ x
x x 空 間 x の
取 り 方 に 依 存 せず、 過 学 習 しにくい 推 定 を 可 能 に
Infinite HMM: HMMのノンパラメトリックベイズ 版
x
x
x
HN-iHMM: HMM 隠 れ 状 態 の 階 層 クラスタリング
遷 移 確 x 率 の 類 x 似 に 基 づいて 隠 れ 状 x態 を 階 層 x 化
x
x
x
x
x
x
x
x
x
x
x
x
x x
x
x
x
x
x x
隠 れ 状 態 数 N を 積 分 消 去 し、 理 論 上 、 無 限 個 の 隠 れ
x
x
状 態 を 扱 える 学 習 xモデル
x
x
Hierarchical Dirichlet Process を 利 用
類 似 する 系 列 が 多 数 現 れる 場 合 の 学 習 ・ 予 測 の 実 現
x
104
x