Erdfernerkundung - Numerische Physik: Modellierung

6.3. CODIERUNG I: QUELLENCODIERUNG 301
kleiner sind als die Unterschiede zwischen zwei verschiedenen Buchstaben. Daher ist es kein
Problem, für einen PC oder anderen Rechner einen halbwegs anständig arbeitenden Scanner
mit Texterkennung zu finden. Spracheingabe in den Computer dagegen hat sich, trotz
intensiver Bemühungen, nur langsam bis hin zu den heute halbwegs zuverlässigen Systemen
entwickeln können.
6.2.8 Zusammenfassung
§ 992 In diesem Abschnitt haben wir Information als das Unbekannte bzw. Unerwartete
kennengelernt. Die ‘Bedeutungsschwere’ einer Nachricht ist dabei unerheblich, es zählt nur,
was sie beim Empfänger an Unsicherheit oder Unwissen beseitigt. Formal wird Information
mit Hilfe der Wahrscheinlichkeitsrechnung oder Statistik beschrieben, eine mathematische
Formulierung, die den Aspekt des Unerwarteten in der Information noch unterstreicht. Allerdings
zeigt diese Definition auch, dass der Informationsgehalt einer Nachricht eine subjektive
Größe ist, die einerseits vom Kenntnisstand des Empfängers abhängt, andererseits aber auch
von den physikalischen Eigenschaften des Empfängers. So wird zur digitalen Speicherung
eines Musikstückes eine wesentlich größere Zahl von bits benötigt, d.h. ein größerer Informationsfluss
erzeugt, als das Ohr beim Hören der gleichen Zeitreihe, allerdings unter anderen
Verarbeitungsprinzipien, erkennen könnte. Nicht alle Zeichen, die wahrgenommen werden,
tragen auch Information bzw. den vollen Informationsgehalt. Dies wird durch das Konzept
der Redundanz oder Weitschweifigkeit beschrieben. Ist die Codierung der Information optimal,
so wird die Redundanz Null. Sprache dagegen ist hochgradig redundant, nur 27% der
Sprache tragen wirklich Information. Was einerseits als Verschwendung erscheinen mag, hat
andererseits den Vorteil, dass eine Verständigung auch bei gestörten Kommunikationskanälen
noch möglich ist, da die fehlenden Teile aus dem Zusammenhang ergänzt werden können.
6.3 Codierung I: Quellencodierung
§ 993 Codierung hat zwei Aufgaben: bei der Quellencodierung geht es darum, die Signale
einer Quelle in Abhängigkeit von den Eigenschaften dieser Quelle in einen möglichst sparsamen
(Binär-)Code umzusetzen. Sparsam bedeutet dabei, mit einer geringst möglichen Zahl
an Bits auszukommen, d.h. die Zahl der benötigten Bits soll den Informationsgehalt der Quelle
(in bits) nicht überschreiten. Diese komprimierende Codierung erfolgt durch Verringerung
bzw., wenn möglich, vollständige Entfernung der Redundanz.
§ 994 Eine andere Form der Codierung, die Kanalcodierung, expandiert diesen komprimierten
Code wieder: im optimal komprimierten Code können Fehler weder erkannt noch ausgebessert
werden. Hier führt die Kanalcodierung, in Abhängigkeit von den Eigenschaften des
Übertragungskanals, gezielt Redundanzen ein, die bei minimaler Expansion des Codes eine
maximale Fehlererkennung und -korrektur ermöglichen sollen.
Definition 4 Bei der Quellencodierung geht es darum, die Signale einer Quelle in Abhängigkeit
von den Eigenschaften dieser Quelle so in einen Code umzusetzen, dass mit möglichst
wenigen Bit möglichst viele bit ausgedrückt werden.
6.3.1 Präfix-Code und Decodierbarkeit
§ 995 Ein Codierungsverfahren, das allgemein bekannt ist, ist der ASCII-Code (vgl. Tab. 6.2),
der mit 7 (bzw. in der neueren Form 8) Bits (Bit mit großem B als Binärzeichen, nicht zu
verwechseln mit bit mit kleinem b als Maß für den Informationsgehalt) die Zeichen einer
Schreibmaschinen- bzw. Computertastatur darstellt. Hierbei handelt es sich um ein typisches
Beispiel für einen Blockcode, d.h. die einzelnen Zeichen werden unabhängig von ihrer
Häufigkeit stets mit der gleichen Anzahl von Bits codiert. Blockcodierung ist für die Datenverarbeitung
aufgrund der stets gleichen Länge von Zeichen besonders gut geeignet. Denkt man
jedoch an die Speicherung und Übertragung von Information, so zeigt die Blockcodierung
c○ M.-B. Kallenrode 2. Juli 2008