Teil 4: Algorithmen-Entwurfstechniken Idee der Greedy-Algorithmen ...

Datenkompression (1)
Problem:
Gegeben ist ein Text t als Folge von ASCII-Zeichen,
deren Häufigkeiten im Text bekannt sind.
Beispiel:
Datenkompression (2)
Codebäume:
Wir wollen uns hier auf binäre Codierung der Einzelzeichen einschränken,
wobei sich der Binärcode in einem Code-Baum darstellen lässt.
Wichtig: Zu codierende Zeichen sind die Blätter des Code-Baums.
Zeichen
a
e
Häufigkeit
10
15
Beispiele:
nl
i
s
12
3
a e i s t sp nl
a e i s
t
sp
t
4
Zeichen
Code
Zeichen
Code
space
newline
13
1
a
e
i
000
001
010
a
e
i
0000
0001
0010
Gesucht ist eine möglichst kurze binäre Codierung des Textes t.
Selbstverständlich sollte der codierte Text auch wieder decodierbar sein.
s
t
sp
nl
011
100
101
110
s
t
sp
nl
0011
010
011
1
Binärcode mit
konstanter Bitlänge
Binärcode mit
variabler Bitlänge
O. Bittel; Juli 2007 Algorithmen und Datenstrukturen - Algorithmen-Entwurfstechniken 4-9
O. Bittel; Juli 2007 Algorithmen und Datenstrukturen - Algorithmen-Entwurfstechniken 4-10
Datenkompression (3)
Fano-Bedingung:
Ein Code erfüllt die Fano-Bedingung, falls keine Codierung eines Zeichens Präfix
(Anfangstück) einer Codierung eines anderen Zeichen ist.
Durch Code-Bäume dargestellte Bäume erfüllen immer die Fano-Bedingung.
Codes, die Fano-Bedingung erfüllen, sind eindeutig decodierbar.
Beispiel:
Decodieren Sie folgende Binärfolge mit dem unten gegebenen Binärcode:
0010110110100010
Datenkompression (4)
Algorithmus von Huffman:
• Idee:
Verwende einen Binärcode variabler Länge, wobei häufigere Zeichen kürzere
Codierungen erhalten.
• Verfahren:
(1) Beginne mit einem Wald von Code-Bäumen,
wobei jeder Baum anfangs aus genau einem Zeichen besteht.
Jeder Baum besitzt außerdem ein Gewicht w, das gleich der Summe der
Häufigkeiten der Zeichen im Baum ist.
nl
Zeichen
a
Code
0000
(2) Greedy-Schritt:
Wähle die beiden Bäume t 1
und t 2
mit den kleinsten Gewichten w 1
und w 2
und bilde daraus einen neuen Baum mit dem Gewicht w = w 1
+ w 2
:
a e i s
t
sp
e
i
s
0001
0010
0011
t 1
t 2
t
010
sp
nl
011
1
(3) Wiederhole Schritt (2) solange, bis nur noch ein Baum vorhanden ist.
Dieser Baum ist dann der gesuchte optimale Binärcode.
O. Bittel; Juli 2007 Algorithmen und Datenstrukturen - Algorithmen-Entwurfstechniken 4-11
O. Bittel; Juli 2007 Algorithmen und Datenstrukturen - Algorithmen-Entwurfstechniken 4-12