Klassifikation von Mustern

4.4. POLYNOMKLASSIFIKATOR (VA.2.2.3, 07.09.2005) 377
1. Die Auswahl des maximalen Elements in der aktuellen Zeile, wie in Schritt 3 oben erwähnt.
2. Die Auswahl des Polynomterms, der minimale lineare Abhängigkeit zu den schon ausgewählten
hat.
3. Die Auswahl des Polynomterms, der zur maximalen Verminderung des Approximationsfehlers
ε führt.
Die beiden letzten Kriterien sowie die Anwendung des GAUSS–JORDAN-Algorithmus zur Berechnung
von A ∗ werden im Folgenden genauer betrachtet.
Minimierung der linearen Abhängigkeiten
Nach (4.4.28) gilt für die optimale Parametermatrix A ∗ = B −1 D. Mit den in (4.4.25) – (4.4.28)
eingeführten Bezeichnungen wird eine m × (m + k) Matrix
1
(B |D) = Φ ΦT
1
N N Φ∆T
≈ E{ϕ(c)ϕ T (c)}|E{ϕ(c)δ T (c)}
eingeführt. Diese wird von links mit B −1 multipliziert und ergibt
(4.4.40)
B −1 (B |D) = (I |B −1 D) = (I |A ∗ ) . (4.4.41)
Die Normierung der linken Spalten der Ausgangsmatrix (B |D) ist genau das, was der oben
beschriebene GAUSS–JORDAN-Algorithmus bewirkt .
Eine geeignete Pivotisierung empfiehlt sich auch für diesen Fall. Man kann zeigen, dass
die Pivotisierung durch Auswahl des größten Hauptdiagonalelementes der Auswahl desjenigen
Merkmals (bzw. desjenigen Polynomterms) entspricht, das am wenigsten linear abhängig von
den schon ausgewählten Merkmalen ist. Die schon ausgewählten Merkmale entsprechen bereits
normierten Spalten der Matrix B. Für die Qualität der Merkmale ist es sinnvoll, solche
zu wählen, die keine oder nur geringe lineare Abhängigkeiten aufweisen, wie es auch schon in
Abschnitt 3.9.2 diskutiert wurde. Bricht man die Normierung nach m ′ < m Schritten ab, d. h.
normiert nur m ′ Spalten der Matrix B, so erhält man die optimale Parametermatrix A ∗′
m ′ Zeilen und k Spalten. Das bedeutet, dass man statt der m Polynomterme, welche die Merkmale
für die Klassifikation darstellen, nur die m ′ mit den geringsten linearen Abhängigkeiten
verwendet. Man bekommt also durch das Verfahren eine analytische Merkmalsauswahl.
Maximierung der Abnahme des Fehlers
Statt der Pivotisierung durch Auswahl des größten Hauptdiagonalelementes ist es aus Sicht der
Klassifikation sinnvoll, diejenige Spalte zu normieren, die zur größten Abnahme des Fehlers ε
in (4.4.14) führt. Zu diesem Zweck wird die Matrix in (4.4.40) erweitert zu der Matrix
S = E{(ϕ T , δ T ) T (ϕ T , δ T )}
T m×m E{ϕϕ }
T m×k
E{ϕδ }
(m+k)×(m+k)
=
≈ 1
N
E{δϕ T } k×m E{δδ T } k×k
ΦΦ T Φ∆ T
∆Φ T ∆∆ T
mit
. (4.4.42)