Übertragungssysteme - ByteLABS
Übertragungssysteme - ByteLABS
Übertragungssysteme - ByteLABS
Erfolgreiche ePaper selbst erstellen
Machen Sie aus Ihren PDF Publikationen ein blätterbares Flipbook mit unserer einzigartigen Google optimierten e-Paper Software.
Informationstheorie<br />
■ formale Beschreibung der Nachrichtenquelle<br />
◆ Maßzahl für mittleren Informationsgehalt einer Quelle?<br />
◆ jedes Zeichen aus Nachrichtenvorrat X={x 1 ,...,x n } hat wieder die<br />
Auftrittswahrscheinlichkeit p(x 1 ), ... ,p(x n ) zugeordnet<br />
◆ mittlerer Informationsgehalt einer Quelle (Entropie) ist dann<br />
definiert mit<br />
H ( X )<br />
◆ Bsp:<br />
=<br />
N<br />
N<br />
N<br />
k=<br />
1<br />
k<br />
k=<br />
1 p(<br />
xk)<br />
k=<br />
1<br />
p(<br />
xk)<br />
ld(<br />
p(<br />
xk<br />
∑ p(<br />
x ) I(<br />
xk)<br />
= ∑ p(<br />
xk)<br />
ld(<br />
) = −∑<br />
alle Zeichen haben gleiche Auftrittswahrscheinlichkeit p(x i )=1/N<br />
H (<br />
X )<br />
=<br />
N<br />
∑<br />
k=<br />
1<br />
1<br />
N<br />
ld(<br />
N )<br />
Entscheidungsgehalt H 0 = mittlerer Informationsgehalt H(X)<br />
1<br />
=<br />
ld(<br />
N )<br />
Telemedia 1 Vorlesungsskript 40<br />
))