Klassifikation von Mustern

4.4. POLYNOMKLASSIFIKATOR (VA.2.2.3, 07.09.2005) 373
∂ε
∂A = 2E ϕϕ T A − ϕδ T = 0 . (4.4.21)
Die Einzelheiten der obigen Ableitung erhält man einfach, wenn man den Fehler ε mit Hilfe der
Elemente aij und Komponenten δµ, ϕν ausdrückt. Ein Vergleich von (4.4.21) mit dem Beweis
von Satz 3.1, S. 167, in Abschnitt 3.2.1 zeigt, dass auch hier eine Orthogonalitätsbedingung
vorliegt. Wegen der Wahl der Funktionen ϕ in (4.4.5) ist die erste Komponente eine Eins.
Daraus und aus (4.4.21) folgt, dass der Erwartungswert des Fehlers verschwindet, nämlich
0 = E ϕ(ϕ T A − δ T )
1
= E
ϕrest
(ϕ T A − δ T
)
= E
(A T ϕ − δ) T
ϕ rest(A T ϕ − δ) T
0 = E ϕ T A − δ T = E A T ϕ − δ . (4.4.22)
Die Berechnung von A ∗ in (4.4.19) ist mit einer klassifizierten Stichprobe möglich. Bekanntlich
gilt für den Erwartungswert einer Funktion g(x)
E{g(x)} =
g(x)p(x) dx 1
N
sodass sich die Erwartungswerte in (4.4.19) schätzen lassen mit
E{ϕ(c)ϕ T (c)} 1
N
E{ϕ(c)δ T (c)} 1
N
N
g( j x) , (4.4.23)
j=1
N
ϕ( j c)ϕ T ( j c) ,
j=1
N
ϕ( j c)δ T ( j c) . (4.4.24)
j=1
Es wird daran erinnert, dass für alle jc ∈ ω der Wert von δ( jc) bekannt ist, wenn ω eine
klassifizierte Stichprobe ist.
Definiert man eine Matrix Φ, deren N Spalten die m-dimensionalen Merkmalsvektoren der
Stichprobe enthalten, sowie eine Matrix ∆, deren N Spalten die k-dimensionalen Einheitsvektoren
der Klassenzugehörigkeiten enthalten, so lässt sich (4.4.19) mit den Schätzwerten in
(4.4.24) angeben; die beiden Matrizen sind
Φ =
∆ =
Damit ist z. B.
⎛
⎜
⎝
⎛
⎜
⎝
ϕ1( 1 c) ϕ1( 2 c) . . . ϕ1( N c)
ϕ2( 1 c) ϕ2( 2 c) . . . ϕ2( N c)
.
.
ϕm( 1 c) ϕm( 2 c) . . . ϕm( N c)
δ1( 1 c) δ1( 2 c) . . . δ1( N c)
δ2( 1 c) δ2( 2 c) . . . δ2( N c)
.
.
δk( 1 c) δk( 2 c) . . . δk( N c)
.
.
⎞
⎞
⎟ , (4.4.25)
⎠
⎟ . (4.4.26)
⎠
E{ϕ(c)ϕ T (c)} 1
N Φ ΦT , (4.4.27)
,