情 報 理 論 入 門 第 7 回
情 報 理 論 入 門 第 7 回
情 報 理 論 入 門 第 7 回
You also want an ePaper? Increase the reach of your titles
YUMPU automatically turns print PDFs into web optimized ePapers that Google loves.
<strong>情</strong><strong>報</strong>源符号化のさらなる展開<br />
• ハフマン符号の計算量の問題<br />
符 計算量<br />
– 1、0の発生確率が0.01、0.99の場合、<strong>情</strong><strong>報</strong>源のエ<br />
、 発 確率 、 場合、<strong>情</strong><strong>報</strong>源<br />
ントロピーは0.081ビット。平均符号長をエントロピーの1<br />
割り増しにするには、20次の拡大<strong>情</strong><strong>報</strong>源が必須<br />
割り増 する 、 次 拡大<strong>情</strong><strong>報</strong>源 必須<br />
→計算量が膨大になり、現実的で無い<br />
– ランレングスハフマン符号 ランレングスハフマン符号、算術符号等が提案さ<br />
算術符号等が提案さ<br />
れ、それぞれの特性に応じて使われている。<br />
• 生起確率が未知の場合<br />
– Ziv‐Lempel符号のような、辞書を使う方式などが<br />
開発され、データの圧縮で活用されている。