Klassifikation von Mustern

3.8. ANALYTISCHE METHODEN (VA.1.2.2, 10.01.2004) 231
Original n = 20 n = 40 n = 60 n = 80 n = 800
Bild 3.8.6: Die Approximation des 1. und 19. Bildes aus Bild 3.8.2 mit unterschiedlicher Zahl
n von Eigenvektoren
Kombinierte Kriterien
Die Vergrößerung des Interklassenabstandes (3.8.2) hat nur dann einen offensichtlichen Vorteil,
wenn gleichzeitig der Intraklassenabstand konstant bleibt, bzw. sogar verkleinert wird. Dieses
kann durch eine Kombination von Kriterien erreicht werden. Mögliche Kombinationen von
jeweils zwei der obigen Abstände sind die Kriterien
s5,1 = s2 + ϑs3 , (3.8.35)
s5,2 = s4 + ϑs3 , (3.8.36)
s5,3 = s2
s3
. (3.8.37)
wobei ϑ ein LAGRANGE-Multiplikator ist. Das Kriterium s5,3 ist das FISHER-Kriterium. Die
Kernmatrizen sind
Q (5,1) = Q (2) + ϑQ (3) , Q (5,2) = Q (4) + ϑ ′ Q (3) . (3.8.38)
Das Kriterium s5,1 in (3.8.35) lässt sich so interpretieren, dass eine Transformationsmatrix
Φ gesucht wird, welche s2 maximiert unter der Nebenbedingung s3 = const. Dieses ist
intuitiv eine vernünftige Forderung, da ein großer Wert von s2, also ein großer Interklassenabstand,
dann sinnlos ist, wenn gleichzeitig s3, also der Intraklassenabstand, groß wird. Es sei
angemerkt, dass bei Fehlen dieser Nebenbedingung trotzdem die Triviallösung s2 → ∞ ausgeschlossen
ist, da die ϕ ν als normiert vorausgesetzt werden. Mit der Nebenbedingung s3 =
const lässt sich zwar die Kernmatrix in (3.8.38) ableiten, jedoch ist es nicht möglich, den Wert
des LAGRANGE-Multiplikators ϑ geschlossen zu berechnen. Man kann ihn allerdings näherungsweise
ermitteln, indem man für verschiedene Werte von ϑ die zugehörige Transformationsmatrix
Φ (5) gemäß Satz 3.8 bestimmt, ein Klassifikationssystem realisiert und die damit
erreichbare Fehlerrate schätzt. Derjenige Wert von ϑ, der die kleinste Fehlerrate ergibt, wird für
die Merkmalsgewinnung verwendet.
Die obige Vorgehensweise hat engen Zusammenhang zur Diskriminanzanalyse. Diese optimiert
das Kriterium
s5,4 = Sp(Q −1
1 Q 5) , (3.8.39)