Klassifikation von Mustern

378 KAPITEL 4. NUMERISCHE KLASSIFIKATION (VK.2.3.3, 07.09.2005)
Wegen der Definition der idealen Trennfunktionen δ in (4.4.8) und (4.4.11) ist E{δδ T } eine
Diagonalmatrix diag(pκ), deren Hauptdiagonalelemente die a priori Wahrscheinlichkeiten pκ
der k Klassen sind. Wenn man den Spaltenvektor der Trennfunktionen gemäß (4.4.5) in der
Form ϕ(c) = (1, ϕ T rest )T verwendet und im Vektor p die a priori Wahrscheinlichkeiten zusam-
menfasst, hat daher S die Form
⎛
1 . E{ϕ
⎜
rest(c)}
⎜
S = ⎜
⎝
T | pT . . . . . . . . . . . · . . . . . . . . . . . . . . . . . . . . . . |
|
p | E{δ(c)ϕrest(c) T } | diag(pκ)
|
m
k
Mit der weiteren Matrix
T =
E{ϕ rest(c)} . E{ϕ rest(c) ϕ rest(c) T } | E{ϕ rest(c)δ(c) T }
[E{ϕϕ T }] −1 0
−E{δϕ T }[E{ϕϕ T }] −1 I
und mit Berücksichtigung von (4.4.19) gilt
U = T S =
=
T −1 T
I [E{ϕϕ }] E{ϕδ }
0 E{δδ T } − E{δϕTA} I A ∗
0 Kɛ
Dabei ist Kɛ die Kovarianzmatrix des Fehlervektors
⎞
⎟
⎠
(4.4.43)
(4.4.44)
. (4.4.45)
ɛ = δ − A T ϕ , (4.4.46)
die wegen (4.4.22) definiert ist mit
Kɛ = E (δ − A T ϕ)(δ − A T ϕ) T
= E δ(δ − A T ϕ) T − A T ϕ(δ − A T ϕ) T
= E δ(δ − A T ϕ) T − A T E ϕ(δ − A T ϕ) T
= E (δ(δ − A T ϕ) T . (4.4.47)
Die letzte Zeile der obigen Gleichung folgt für die optimale Parametermatrix aus (4.4.21). Wenn
man also die linken m Spalten der Matrix S normiert, entsteht in den rechten k Spalten die
gesuchte optimale Parametermatrix A ∗ . Zur Normierung sind, wie oben ausgeführt, die obigen
Schritte 1 und 2 des GAUSS-JORDAN-Algorithmus hinreichend, nämlich Multiplikation einer
Zeile mit einer Konstanten und Addition des Vielfachen einer Zeile zu einer anderen Zeile. Ein
wesentlicher Vorteil der schrittweisen Umformung besteht darin, dass nach jeder Normierung
einer weiteren Spalte (nach jedem „Schritt“) eine Matrix U ′ entsteht von der in Bild 4.4.1
gezeigten Form. Dort ist zunächst der Einfachheit halber angenommen, dass die Spalten in
ihrer üblichen Reihenfolge, d. h. ohne Pivotisierung, normiert werden.