Klassifikation von Mustern

3.8. ANALYTISCHE METHODEN (VA.1.2.2, 10.01.2004) 243
5.2 Der Gradient der zu minimierenden Funktion uκ im Punkt c0 ist
∇ uκ(c0) = 2Σ −1
κ (c0 − µ κ) . (3.8.92)
5.3 Die Projektion des Gradienten auf die Hyperebene, welche Hκλ in c0 berührt, erhält man
aus
r = P · ∇ uκ(c0) . (3.8.93)
Dabei ist P die Projektionsmatrix
P = I − nnT
nT , (3.8.94)
n
und n ist der Normalenvektor der Hyperebene
n = 2Σ −1
κ (c0 − µ κ) − 2Σ −1
λ (c0 − µ λ) . (3.8.95)
5.4 Man bestimme nun das Minimum von uκ(c0 + θr ), indem man die Gleichung
duκ(c0 + θr)
dθ
nach θ auflöst. Man erhält die Gleichung
θ0 = rT Σ −1
κ (c0 − µ κ)
r T Σ −1
κ r
= 0 (3.8.96)
5.5 Mit θ0 ergibt sich der gesuchte Lösungspunkt c ′ zu
. (3.8.97)
c ′ 0 = c0 + θ0r . (3.8.98)
5.6 Nun wird der neue Punkt c1 auf der Klassengrenze Hκλ bestimmt. Man erhält ihn entsprechend
dem Verfahren in Schritt 5.1, wenn man µ λ durch c ′ 0 ersetzt.
5.7 Die Rechnungen ab Schritt 5.1 werden auch für uλ(c ) durchgeführt.
5.8 Von den in beiden Rechnungsgängen gewonnenen Punkten c1 wird der ausgewählt, der
uκ(c1) minimiert.
5.9 Die Schritte 5.1–8 werden wiederholt, bis sich uκ(c ) kaum noch verändert. Der zugehörige
Punkt auf der Klassengrenze Hκλ sei c ∗ . Dann gilt in (3.8.83)
uκλ = uκ(c ∗ ) und uλκ = uλ(c ∗ ) . (3.8.99)
Es wurde bereits erwähnt, dass die Matrix Φ in (3.8.87) n(M − n) unbekannte Elemente
enthält. Um diese Zahl zu reduzieren, kann man statt des Musters f mit M Koeffizienten auch
eine Approximation von f mit M ′ < M Koeffizienten verwenden. Dafür bietet sich z. B. die
KARHUNEN–LOÈVE oder Hauptachsentransformation an, die im vorigen Abschnitt definiert
wurde. Das hat den weiteren Vorteil, dass diese Koeffizienten näherungsweise normalverteilt
und daher für den MMA besser geeignet sind als das ursprüngliche Muster f. Zwar wurde hier
explizit nur der MMA diskutiert. Es ist aber offensichtlich, dass die Schritte 8. bis 11. des Algorithmus
auf jeden Klassifikator anwendbar sind. Die Abschätzung s6 ist durch eine geeignete
andere zu ersetzen, beispielsweise eine direkte Schätzung der Fehlerwahrscheinlichkeit wie in
(3.9.9), (3.9.10). Sicherlich ist der Rechenaufwand erheblich, aber das, was praktisch berechenbar
ist, hängt vor allem vom Stand der Rechnertechnologie ab, die ständig verbessert wird.