Bildklassifikation unter Verwendung kompressionsbasierter Methoden

Kapitel 2. Kompressionsbasierte Ähnlichkeitsdistanz
dass sie nicht berechenbar ist. Wir können sie jedoch durch stetige Verbesserung
einer oberen Schranke immer genauer approximieren. Basierend auf der
Kolmogorov-Komplexität definieren wir dann die Informationsdistanz zwischen
zwei Strings und ihre normalisierte Variante Nid. Schlußendlich entwickeln wir
mit der Ncd eine reale Möglichkeit der Approximation.
2.2 Turingmaschinen
2.2.1 Berechenbarkeit als Äquivalent zur Modellierbarkeit
Intuitiv kann man ein Problem als berechenbar bezeichnen, wenn es prinzipiell
von einem Menschen auf einem Blatt Papier schriftlich gelöst werden könnte.
Die dafür benötigte Zeit und die Größe des Papierblatts spielen keine Rolle. Es
muß lediglich sicher sein, dass die Berechnung irgendwann mit einem Ergebnis
endet. Dieser Definition folgend besagt die Churchsche These, dass die Menge
der im intuitiven Sinne berechenbaren Funktionen der Menge der von einer
Turingmaschine berechenbaren Funktionen entspricht (vgl. [Rei99, S.16]).
Die Turingmaschine ist ein bereits im Jahr 1936 von Alan Turing veröffentlichtes
abstraktes Modell eines Rechners. Die einfachste Form ist die 1-Band-Turingmaschine.
Sie wird vollständig definiert über ein Tupel
M = (Σ, Q, q 0 , Q f , ∆) . (2.2)
Σ bezeichnet dabei ein endliches Alphabet und Q eine Menge abstrakter Zustände
mit q 0 ⊆ Q als ausgezeichnetem Startzustand sowie Q f ⊆ Q als ausgezeichneter
Menge von Endzuständen, bei denen die Maschine stoppt. Die
Übergänge zwischen den Zuständen werden über die Übergangsrelation ∆ mit
∆ ⊆ Q × Σ × Q × Σ × R (2.3)
definiert. Anschaulicher ist die Darstellung als partielle und möglicherweise
mehrdeutige Abbildung
∆ : Q × Σ → Q × Σ × R. (2.4)
Ein- und Ausgabe erfolgen über ein unendliches Band, welches in Speicherzellen
unterteilt ist. Jede dieser Zellen bietet Speicherplatz für ein Symbol aus
Σ. In jedem Zustand wird mittels des Schreib-/Lesekopfes der Turingmaschine
zunächst das Symbol an der aktuellen Bandposition eingelesen. Die Kombination
aus aktuellem Zustand und eingelesenem Symbol bestimmt einen odere
mehrere parallele Folgezustände, in denen dann das Symbol an der aktuellen
Bandposition zunächst überschrieben wird. Danach bewegt sich der Kopf in
die angegebene Richtung r ∈ R. Ist die o.g. Abbildung ∆ rechtseindeutig, so
spricht man von einer deterministischen Turingmaschine (DTM), sonst von einer
nichtdeterministischen (NTM).
4