å¹»ç¯ç1
å¹»ç¯ç1
å¹»ç¯ç1
Create successful ePaper yourself
Turn your PDF publications into a flip-book with our unique Google optimized e-Paper software.
第<br />
三<br />
章<br />
信<br />
道<br />
容<br />
量<br />
(2) 信 道 的 信 息 传 输 率<br />
• 如 果 信 源 熵 为 H(X), 希 望 在 信 道 输 出 端 接 收 的 信 息 量 就<br />
是 H(X), 由 于 干 扰 的 存 在 , 一 般 只 能 接 收 到 I(X;Y)。<br />
• 信 道 的 信 息 传 输 率 : 就 是 平 均 互 信 息 R=I(X;Y)。<br />
• 输 出 端 Y 往 往 只 能 获 得 关 于 输 入 X 的 部 分 信 息 , 这 是 由 于<br />
平 均 互 信 息 性 质 决 定 的 :I(X;Y)≤H(X)。<br />
• I(X;Y) 是 信 源 输 入 概 率 分 布 p(x i ) 和 信 道 转 移 概 率 p(y j /x i ) 的<br />
二 元 函 数 :<br />
p(<br />
y<br />
j<br />
)<br />
I(<br />
X ; Y )<br />
n<br />
= ∑<br />
i=<br />
1<br />
=<br />
p(<br />
x ) p(<br />
y<br />
n<br />
i<br />
m<br />
∑∑<br />
i= 1 j=<br />
1<br />
p(<br />
x<br />
i<br />
j<br />
/<br />
y<br />
j<br />
x<br />
i<br />
)<br />
)log<br />
2<br />
p(<br />
y<br />
j<br />
p(<br />
y<br />
/ x )<br />
j<br />
)<br />
i<br />
p(<br />
x<br />
=<br />
i<br />
y<br />
j<br />
)<br />
=<br />
n m<br />
p(<br />
y j / xi<br />
)<br />
p(<br />
xi<br />
) p(<br />
y<br />
j<br />
/ xi<br />
)log2<br />
n<br />
i= 1 j=<br />
1 p(<br />
xi<br />
) p(<br />
y j / xi<br />
)<br />
∑∑<br />
p(<br />
x ) p(<br />
y<br />
i<br />
j<br />
/<br />
x<br />
i<br />
)<br />
∑<br />
i=<br />
1<br />
2006-10-18 25