Klassifikation von Mustern

352 KAPITEL 4. NUMERISCHE KLASSIFIKATION (VK.2.3.3, 07.09.2005)
2. Man versucht, andere Merkmale zu finden, für die die Annahme der Normalverteilung
besser zutrifft.
3. Man untersucht, ob ein anderer Klassifikator, wie die in den folgenden Abschnitten beschriebenen,
bessere Ergebnisse liefert.
Die hier aufgezeigten Möglichkeiten erfordern einen hohen experimentellen Aufwand. Das mag
für den elegante geschlossene Lösungen suchenden Theoretiker unbefriedigend und für den
schnelle Erfolge erwartenden Anwender unrealistisch erscheinen. Es gibt aber nicht einige wenige
mit einer kleinen Stichprobe einfach zu schätzende Parameter, mit denen sich eine Aussage
machen ließe, welche Merkmale und welcher Klassifikator der beste ist; bei der Komplexität
des Problems ist das auch nicht zu erwarten. Sorgfältige und entsprechend aufwendige experimentelle
Untersuchungen sind daher unerlässlich. Natürlich wird man dabei bereits bekannte
experimentelle Ergebnisse berücksichtigen und nicht erneut erarbeiten.
Die Realisierung eines Klassifikators gemäß (4.1.33) und (4.2.116) unter der Annahme normalverteilter
Merkmale ist relativ einfach, vorausgesetzt es steht eine klassifizierte Stichprobe
mit Nκ > n Mustern je Klasse zur Verfügung. Auch wenn die Merkmale nur näherungsweise
normalverteilt sind, gibt es erfahrungsgemäß verschiedene praktisch interessante Aufgaben, bei
denen dieser Klassifikator gute Ergebnisse liefert.
4.2.6 Nichtparametrische Schätzung von Verteilungsdichten
In Abschnitt 4.2 wurde mit (4.1.1) vorausgesetzt, dass bestimmte statistische Vorkenntnisse in
Form einer parametrischen Familie von Verteilungsdichten gegeben sind. Mit Hilfe nichtparametrischer
statistischer Verfahren ist es möglich, Verteilungsdichten zu schätzen, ohne solche
Vorkenntnisse zu verlangen.
Als nichtparametrisches statistisches Verfahren bezeichnet man eines, das für viele,
wenn möglich für alle, Familien von Verteilungsdichten gültig ist.
Der Preis dafür ist meistens, wie sich noch zeigen wird, dass die gesamte Stichprobe ω gespeichert
werden muss. Bei den Klassifikatoren von Abschnitt 4.2.5 und Abschnitt 4.4 genügt
die Speicherung der Parametervektoren, deren Größe insbesondere unabhängig vom Umfang
der Stichprobe ist. Die praktische Bedeutung dieser nichtparametrischen Schätzungen ist daher
begrenzt, sodass nur kurz auf sie eingegangen wird. Als Beispiele für nichtparametrische
Schätzungen werden die direkte Schätzung und die PARZEN-Schätzung behandelt. Die direkte
Schätzung beruht darauf, dass man einen Schätzwert p(c|Ωκ) für die Verteilungsdichte im
Punkt c erhält aus
p(c|Ωκ) = Pκ
V
, (4.2.132)
wobei V ein bestimmtes Volumen des R n ist und c enthält, und Pκ ist die Wahrscheinlichkeit,
dass Merkmalsvektoren aus Ωκ im Volumen V liegen. Ist eine Stichprobe von Mustern aus Ωκ
vom Umfang Nκ gegeben und liegen mκ Muster in V , so ist ein Schätzwert für Pκ
Pκ = mκ
Nκ
. (4.2.133)
Als Schätzwert der bedingten Dichte wird nun
p(c|Ωκ) = Pκ
V
= mκ
Nκ V
(4.2.134)