14.01.2013 Aufrufe

Übertragungssysteme - ByteLABS

Übertragungssysteme - ByteLABS

Übertragungssysteme - ByteLABS

MEHR ANZEIGEN
WENIGER ANZEIGEN

Erfolgreiche ePaper selbst erstellen

Machen Sie aus Ihren PDF Publikationen ein blätterbares Flipbook mit unserer einzigartigen Google optimierten e-Paper Software.

Informationstheorie<br />

■ formale Beschreibung der Nachrichtenquelle<br />

◆ Maßzahl für mittleren Informationsgehalt einer Quelle?<br />

◆ jedes Zeichen aus Nachrichtenvorrat X={x 1 ,...,x n } hat wieder die<br />

Auftrittswahrscheinlichkeit p(x 1 ), ... ,p(x n ) zugeordnet<br />

◆ mittlerer Informationsgehalt einer Quelle (Entropie) ist dann<br />

definiert mit<br />

H ( X )<br />

◆ Bsp:<br />

=<br />

N<br />

N<br />

N<br />

k=<br />

1<br />

k<br />

k=<br />

1 p(<br />

xk)<br />

k=<br />

1<br />

p(<br />

xk)<br />

ld(<br />

p(<br />

xk<br />

∑ p(<br />

x ) I(<br />

xk)<br />

= ∑ p(<br />

xk)<br />

ld(<br />

) = −∑<br />

alle Zeichen haben gleiche Auftrittswahrscheinlichkeit p(x i )=1/N<br />

H (<br />

X )<br />

=<br />

N<br />

∑<br />

k=<br />

1<br />

1<br />

N<br />

ld(<br />

N )<br />

Entscheidungsgehalt H 0 = mittlerer Informationsgehalt H(X)<br />

1<br />

=<br />

ld(<br />

N )<br />

Telemedia 1 Vorlesungsskript 40<br />

))

Hurra! Ihre Datei wurde hochgeladen und ist bereit für die Veröffentlichung.

Erfolgreich gespeichert!

Leider ist etwas schief gelaufen!