Bildklassifikation unter Verwendung kompressionsbasierter Methoden

4.2. Standardmaße
können aber beliebig lang sein. Deshalb nimmt die Kodierung der Positionen
den meisten Platz in Anspruch. Die minimal unterschiedliche Kodierungslänge
der Operationen können wir darum ignorieren. Analog zum Hammingabstand
fassen wir diese Kodierung als Approximation der Informationsdistanz auf (siehe
Definition 2.10).
Die Levenshtein-Distanz erlaubt im Vergleich zum Hammingabstand jedoch eine
verbesserte Approximation der Kolmogorov-Komplexität. Erstens ermöglicht
sie die Bestimmung einer Ähnlichkeit von Strings verschiedener Länge. Zweitens
ist der Hammingabstand bei Strings gleicher Länge immer eine Obergrenze für
die Levenshtein-Distanz. Ist nämlich der Hammingabstand d H (x, y) = k, dann
ist eine Korrektur von y nach x mit k Ersetzungen möglich. Durch den geschickten
Einsatz von Lösch- und Einfügeoperationen könnte eine Korrektur
aber auch in weniger Schritten möglich sein. Also ist d L (x, y) k.
Satz 4.7. Die Levenshtein-Distanz ist eine Metrik.
Beweis. Für die Identitätsbedinung d L (x, x) = 0 ist das unmittelbar klar, denn
es sind keine Korrekturoperationen erforderlich.
Die Invertierung einer Ersetzungsoperation (z.B. 0 für 1) erfolgt mittels der gegenteiligen
Ersetzung (hier dann 1 für 0). Eine kürzere Variante kann es nicht
geben, da die einzige Alternative eine Kombination aus Löschen und Einfügen
und damit mindestens doppelt so lang ist. Wir bezeichnen im Folgenden die
Transformation von y nach x als Hinweg und die Inverse als Rückweg. Ist eine
Löschoperation Teil des kürzesten Hinwegs, so bedarf es für die Invertierung einer
Einfügeoperation. Könnte man auf dem Rückweg auf diese Einfügeoperation
verzichten, da sie Teil einer Kombination aus Löschen- und Einfügen ist, dann
hätte man auf dem Hinweg bereits auf die Löschoperation verzichten können, da
sie ebenfalls Teil einer Löschen- und Einfügen-Kombination sein muss. Stattdessen
hätte man die Ersetzungsoperation gewählt. Dann wäre aber der Hinweg
nicht der kürzeste gewesen, was ein Widerspruch zur Annahme ist.
Gleiches gilt für die Invertierung einer Einfügeperation auf dem Hinweg. Damit
ist auch die Symmetriebedingung d L (x, y) = d L (y, x) erfüllt. Die Erfüllung
der Dreiecksungleichung ergibt sich implizit aus der Definition. Jeder explizit
geforderte Zwischenschritt liegt entweder auf einem kürzesten Weg oder erhöht
die Anzahl der Operatoren.
Wir haben bereits argumentiert, dass die Levenshtein-Distanz als Approximation
der Informationsdistanz besser geeignet ist als der Hammingabstand. Ob
sich diese theoretischen Überlegungen in der Praxis bestätigen, werden wir nun
experimentell überprüfen. Die Laufzeit des Algorithmus zur Berechnung der
Distanz d L (x, y) liegt in O(mn), wobei m und n die Längen der Strings x und y
bezeichnen [WF74]. Bei gleich langen Strings ist die Laufzeit also O(n 2 ). Zwar
ist polynomielle Laufzeit gleichbedeutend mit effizienter Berechenbarkeit, diese
Definition von Effizienz ist in der Praxis aber mit Vorsicht zu genießen. Ein
Klassifikationstest mit vertretbarem Rechenaufwand ist mit der Levenshtein-
39