Klassifikation von Mustern

404 KAPITEL 4. NUMERISCHE KLASSIFIKATION (VK.2.3.3, 07.09.2005)
dynamischen Programmierung (DP), bei der eine vollständige Suche über alle zulässigen
Funktionen k = w(j) ausgeführt wird. Der für l Wertepaare fλj, fk berechnete Abstand D l λ mit
1 ≤ l ≤ MW in (4.6.15) bleibt unverändert, wenn ein (l+1)-tes Wertepaar hinzukommt, sodass
gilt
für den mit l + 1 Wertepaaren berechneten Abstand D l+1
λ
D l+1
λ = Dl λ + d(fλj(l+1), fk(l+1)) . (4.6.19)
Offensichtlich ist dieses eine monotone und separierbare Gütefunktion wie sie für die DP erforderlich
ist. Hat man also zu irgendeinem Punkt (j(l), k(l)) der (j, k)-Ebene einen optimalen
Pfad gefunden – d. h. einen Pfad, auf dem der Abstand minimiert wird – so muss wegen des
Optimalitätsprinzips jeder andere optimale Pfad zu einem Punkt (j(l + 1), k(l + 1)), der auch
(j(l), k(l)) enthalten soll, den optimalen Pfad nach (j(l), k(l)) enthalten. Daraus folgt, dass man
bei der Suche der besten Funktion w ∗ nicht alle möglichen Pfade, die zu einem Punkt führen,
speichern muss, sondern nur den jeweils besten. Der dynamischen Programmierung liegt die
Anwendung dieses Prinzips zugrunde, die zu einer ganz wesentlichen Reduktion des Speicherund
Rechenaufwandes führt, wie in Abschnitt 1.6.8 erläutert. Wenn die zulässigen Vorgänger
zunächst nicht eingeschränkt sind, ergibt sich damit die Rekursionsgleichung
D ∗ (j, k) = d(fλj, fk) + min{mögliche Vorgänger} . (4.6.20)
Als Beispiel wird die Berechnung von w ∗ unter Berücksichtigung von (4.6.18) angegeben.
Mit den Bezeichnungen von Bild 4.6.7 erfolgt die Berechnung spaltenweise, d. h. für festes j
werden alle Abstände zu Punkten (j, k), k = 0, . . . , M − 1 berechnet und dann j um 1 erhöht.
Mit D ∗ (j, k) wird der minimale Abstand bezeichnet, wenn man die Werte 0, 1, . . . , j von f λ
mit den Werten 0, 1, . . . , k von f vergleicht. Es ist wichtig, dass D ∗ (j, k) der minimale Abstand
ist, den man mit der optimalen Funktion w ∗ erreicht. In der ersten Spalte (j = 0) ist jeder Punkt
(j = 0, k) nur auf einem Weg erreichbar, also jeder Abstand bereits minimal. In der zweiten
Spalte kann z. B. der Punkt (j = 1, k = 3) in einem Schritt wegen (4.6.18) von den drei
Vorgängern (j = 1, k = 2), (j = 0, k = 2), (j = 0, k = 3) erreicht werden. Es gilt also für den
minimalen Abstand D ∗ (j, k) die rekursive Beziehung
D ∗ (j, k) = d(fλj, fk) + min {D ∗ (j, k − 1), D ∗ (j − 1, k − 1), D ∗ (j − 1, k)} . (4.6.21)
Es gibt hier also nur drei möglichen Vorgänger. Die Gleichung (4.6.21) wird für die gesamte
(j, k)-Ebene ausgewertet bis man mit D ∗ (Mλ − 1, M − 1) den gesuchten minimalen Abstand
zwischen f λ und f erhält. Wenn der Punkt (j, k) von mehr oder anderen als den oben genannten
drei Vorgängern erreichbar ist, ändert sich in (4.6.21) lediglich die Menge der Abstände, über
die das Minimum gesucht wird. Wenn man nach Erreichen von j = Mλ − 1 und k = M − 1
den optimalen Pfad angeben will, muss bei jeder Auswertung von (4.6.21) nicht nur D ∗ (j, k)
gespeichert werden, sondern auch die Indizes des auf dem optimalen Pfad nach (j, k) liegenden
Vorgängers. Eine Beschränkung des Bereiches der (j, k)-Ebene, in der der optimale Pfad oder
w ∗ liegen darf, erhält man, indem in jeder Spalte der Index k nicht von 0 bis M − 1, sondern
nur über einen geeignet gewählten Bereich variiert wird. Zusammengefasst ergibt sich der in
Bild 4.6.8 gezeigte Algorithmus.
Erweiterungen
Klassifikatoren, die auf einer nichtlinearen Normierung mit Hilfe der dynamischen Programmierung
beruhen, haben insbesondere im Bereich der Spracherkennung eine große Bedeutung