23.11.2014 Views

幻灯片1

幻灯片1

幻灯片1

SHOW MORE
SHOW LESS

Create successful ePaper yourself

Turn your PDF publications into a flip-book with our unique Google optimized e-Paper software.

第<br />

三<br />

章<br />

信<br />

道<br />

容<br />

量<br />

(2) 信 道 的 信 息 传 输 率<br />

• 如 果 信 源 熵 为 H(X), 希 望 在 信 道 输 出 端 接 收 的 信 息 量 就<br />

是 H(X), 由 于 干 扰 的 存 在 , 一 般 只 能 接 收 到 I(X;Y)。<br />

• 信 道 的 信 息 传 输 率 : 就 是 平 均 互 信 息 R=I(X;Y)。<br />

• 输 出 端 Y 往 往 只 能 获 得 关 于 输 入 X 的 部 分 信 息 , 这 是 由 于<br />

平 均 互 信 息 性 质 决 定 的 :I(X;Y)≤H(X)。<br />

• I(X;Y) 是 信 源 输 入 概 率 分 布 p(x i ) 和 信 道 转 移 概 率 p(y j /x i ) 的<br />

二 元 函 数 :<br />

p(<br />

y<br />

j<br />

)<br />

I(<br />

X ; Y )<br />

n<br />

= ∑<br />

i=<br />

1<br />

=<br />

p(<br />

x ) p(<br />

y<br />

n<br />

i<br />

m<br />

∑∑<br />

i= 1 j=<br />

1<br />

p(<br />

x<br />

i<br />

j<br />

/<br />

y<br />

j<br />

x<br />

i<br />

)<br />

)log<br />

2<br />

p(<br />

y<br />

j<br />

p(<br />

y<br />

/ x )<br />

j<br />

)<br />

i<br />

p(<br />

x<br />

=<br />

i<br />

y<br />

j<br />

)<br />

=<br />

n m<br />

p(<br />

y j / xi<br />

)<br />

p(<br />

xi<br />

) p(<br />

y<br />

j<br />

/ xi<br />

)log2<br />

n<br />

i= 1 j=<br />

1 p(<br />

xi<br />

) p(<br />

y j / xi<br />

)<br />

∑∑<br />

p(<br />

x ) p(<br />

y<br />

i<br />

j<br />

/<br />

x<br />

i<br />

)<br />

∑<br />

i=<br />

1<br />

2006-10-18 25

Hooray! Your file is uploaded and ready to be published.

Saved successfully!

Ooh no, something went wrong!