Vorlesung

Vorlesung Informations- und Kodierungstheorie 26
SHANNON-FANO-Verfahren (1949)
1. Ordnen der zu kodierenden Quellenzeichen nach fallenden Werten
der Auftrittswahrscheinlichkeiten
2. Teilen des geordneten Wahrscheinlichkeitsfeldes in zwei Gruppen;
die Teilsummen der Wahrscheinlichkeiten in jeder Gruppe sollten
möglichst gleich groß sein.
Aufgrund dieses Teilungsprinzips enthält jeder Teilungsschritt und
damit jedes Kodewortelement die größte Entropie bzw. Informationsmenge.
3. Kodieren nach dem Prinzip, dass der ersten Gruppe immer einheitlich
das Zeichen 0 (bzw. 1) und der zweiten Gruppe immer einheitlich
das Zeichen 1 (bzw. 0) zugeordnet wird.
4.
Beispiel´Ô´Üµµ´¼½½¼¿¼¼½¼¾¼¼¼¼¼¼µÐÑ
Wiederholen der Schritte 2. und 3.; solange, bis jede Teilgruppe nur
noch ein Element enthält.
3 Kodierung diskreter Quellen 3.4 Optimalkodierung 3.4.1 SHANNON-FANO