Klassifikation von Mustern

3.8. ANALYTISCHE METHODEN (VA.1.2.2, 10.01.2004) 225
Mit (3.2.2) ergeben sich dann aus einem Muster j f die n Merkmale j cν, ν = 1, . . . , n. Bevor
unten am Beispiel von s2 der Beweis zu obigem Satz geführt wird, werden der Vollständigkeit
halber noch die Kernmatrizen angegeben. Die Kerne sind definiert durch
Q (1) = R − mm T , (3.8.8)
R = 1
N
Q (2) = 1
k
Rκ = 1
Nκ
Q (3) = 1
k
Q (4) =
N
j=1
j f j f T , m = 1
N
k
Rκ −
κ
Nκ
j=1
1
k(k − 1)
N
j
f ,
j=1
k κ−1
κ=2 λ=1
Nκ
j f κ j f T
κ , mκ = 1
Nκ
j f ∈ ω , (3.8.9)
(mκm T λ + mλm T κ
j=1
j f κ ,
) , (3.8.10)
j f κ ∈ ωκ , (3.8.11)
k
(Rκ − mκm T κ ) , (3.8.12)
κ=1
1
k(k − 1)
k κ−1
(mκ − mλ) (mκ − mλ) T , (3.8.13)
κ=2 λ=1
Q (2) = Q (3) + Q (4) . (3.8.14)
Dabei ist Q (1) die (symmetrische) Kovarianzmatrix der Muster in der Stichprobe. Alle obigen
Matrizen haben die Größe M × M, wenn M die Zahl der Abtastwerte des Musters f ist.
Die Matrizen lassen sich in der Form
Q = V V T . (3.8.15)
faktorisieren, was im Hinblick auf die Berechnung der Eigenvektoren u. U. zweckmäßig ist, wie
weiter unten noch ausgeführt wird. Die Faktoren der verschiedenen Kernmatrizen sind
V (1) M×N =
V (2) =
1
√ 1f
N
− m, . . . , f − m , (3.8.16)
N
V (3) | V (4)
V (3) | V (4)
T , (3.8.17)
V (3) V κ
=
=
(V 1, . . . , V κ, . . . , V k) ,
1
√ 1f
κ − mκ, . . . ,
Nκ
(3.8.18)
Nκ
f κ − mκ , (3.8.19)
V (4) = 1
√ (m1 − m, . . . , mk − m) ,
k
m = 1
k
mκ .
k
(3.8.20)
Q (l) M×M = V (l) M×N V (l)T N×M
κ=1
, l = 1, 2, 3, 4 . (3.8.21)
Beweis zu Satz 3.8: Grundlage des Beweises ist die bekannte Tatsache, dass eine quadratische
Form x T Qx, in der x ein beliebiger Vektor und Q eine positiv definite symmetrische
Matrix ist, dann ihren Maximalwert (bzw. Minimalwert) annimmt, wenn x der Eigenvektor ist,
der zum größten (bzw. kleinsten) Eigenwert von Q gehört. Der zweitgrößte (bzw. zweitkleinste)
Wert wird angenommen, wenn man den zum zweitgrößten (bzw. zweitkleinsten) Eigenwert
gehörigen Eigenvektor wählt, usw. Wie in (3.2.1) eingeführt, betrachten wir nur normierte