Erdfernerkundung - Numerische Physik: Modellierung

302 KAPITEL 6. KOMMUNIKATION
Tabelle 6.2: ASCII-
Code
Tabelle 6.3: Zwei Codes für einen vierelementigen
Zeichenvorrat
Zeichen Wahrscheinlichkeit Code 1 Code 2
a 1/2 00 0
b 1/4 01 10
c 1/8 10 110
d 1/8 11 111
eine deutliche Schwäche: im Mittel sind wesentlich mehr Bits zur Informationsdarstellung
aufzuwenden, als vom Informationsgehalt her notwendig wären.
§ 996 Daher versucht man, Codes zu entwickeln, in denen die einzelnen Zeichen unterschiedliche
Längen haben, wobei die häufigsten Zeichen die geringste Länge haben. Zur Illustration
betrachten wir dazu den vierelementigen Zeichenvorrat A, wie in Tabelle 6.3 dargestellt. Bei
den beiden dort vorgeschlagenen Codierungsmöglichkeiten handelt es sich um einen Blockcode
der Länge zwei (Code 1) und einen Code mit unterschiedlichen Längen der Codewörter
(Code 2). Der mittlere Informationsgehalt der Zeichen ergibt sich nach (6.3) zu
H = 1 1 1 1
ld(2) + ld(4) + ld(8) + ld(8) = 1.75 bit .
2 4 8 8
Das ist nach Shannon und Weaver [223] auch die minimale Anzahl von Bits, die bei einer
Codierung pro Zeichen benötigt werden. Im Code 1 (Blockcode) ist die Menge der Bits,
die für die Darstellung eines Zeichens benötigt werden (Elementarzeichenbedarf) für jedes
Zeichen gleich 2, im Code 2 liegt der Elementarzeichenbedarf je nach Zeichen zwischen 1
und 3. So wie sich der mittlere Informationsgehalt durch Mittelwertbildung über alle Zeichen
ergibt, so errechnet sich der mittlere Elementarzeichenbedarf als der Mittelwert des
Elementarzeichenbedarfs über alle Zeichen. Dieser mittlere Elementarzeichenbedarf m ist bei
Code 1 gleich 2, bei Code 2 dagegen ist der Elementarzeichenbedarf eines Zeichens gleich
seinem Informationsgehalt. Der mittlere Elementarzeichenbedarf ist daher auch gleich dem
mittleren Informationsgehalt, d.h. m=H=1.75 bit. Diese Form der Codierung wird als Quellencodierung
bezeichnet, da die Zeichen so behandelt werden, wie sie von der Datenquelle
geliefert werden, d.h. die Datenquelle und deren Symbolstatistik bestimmen den Code.
§ 997 Die Güte eines Codierungsverfahrens lässt sich durch die Redundanz bestimmen. Nach
der Definition der Redundanz in (6.4) und Einsetzen des mittleren Elementarzeichenbedarfs
m lässt sich der mittlere Mehraufwand je Zeichen beschreiben als die Redundanz des Codes,
d.h.
R = m − H .
2. Juli 2008 c○ M.-B. Kallenrode