Klassifikation von Mustern

3.9. MERKMALSBEWERTUNG UND –AUSWAHL (VA.1.2.3, 13.04.2004) 247
Bild 3.9.1: Beispiele für Bereiche, die von Merkmalen verschiedener Klassen eingenommen
werden. Der Abstand der Mittelwerte |µ 1 − µ 2| ist allein nicht ausreichend, die Güte der Merkmale
zu beurteilen.
Aus der obigen Diskussion geht hervor, dass es i. Allg. nicht möglich ist, die beste Untermenge
von Merkmalen zu bestimmen. Andererseits liefern erfahrungsgemäß auch einfache
Auswahlverfahren bereits wesentlich bessere Ergebnisse als eine Zufallsauswahl. Es wird noch
erwähnt, dass oft auch die Verfahren von Abschnitt 3.8 als Merkmalsauswahl bezeichnet werden,
da eine Reduzierung der Zahl der Variablen erreicht wird. Der Unterschied ist, dass dort
neue Merkmale durch Linearkombination der vorhandenen gebildet werden, während hier die
n besonders geeigneten unverändert aus der Menge der vorgegebenen übernommen werden.
3.9.2 Gütemaße für Merkmale
Der erste Schritt zur Auswahl einer Untermenge von Merkmalen aus einer Menge vorgegebener
Merkmale ist, wie im vorigen Abschnitt erörtert, die Vorgabe eines Maßes zur Bewertung
der Güte von Merkmalen. Dieses Gütemaß sollte im Zusammenhang mit der Fehlerwahrscheinlichkeit
bei der Klassifikation stehen. Theoretisch besonders befriedigend sind natürlich solche
Gütemaße, mit denen sich sehr enge obere und untere Schranken der Fehlerwahrscheinlichkeit
angeben lassen. Das Gütemaß sollte aber auch numerisch noch mit vertretbarem Aufwand
berechenbar sein, um für Zwecke der Musterklassifikation praktisch interessant zu sein; besonders
günstig sind dafür solche Gütemaße, für die sich bei bestimmten Verteilungsdichten
der Merkmale geschlossene Formeln angeben lassen. Diese beiden sich widersprechenden Forderungen
führen zu der Vermutung, dass eine enge Abschätzung der Fehlerwahrscheinlichkeit
(im Extremfall die Fehlerwahrscheinlichkeit selbst) numerisch nicht mehr auswertbar ist und
eine auswertbare Abschätzung nur sehr grob ist. Ein sinnvoller Kompromiss wird stets vom
jeweiligen Problem und der verfügbaren Rechenkapazität abhängen.
Zunächst geht aus Bild 3.9.1 hervor, dass die Güte von Merkmalen sicher mit dem Abstand
von Merkmalsvektoren verschiedener Klassen zusammenhängt, dass aber der Abstand
der Mittelwerte allein nicht ausreicht, um vernünftige Aussagen zu bekommen. Im Allgemeinen
kommt es darauf an, ein geeignetes Maß für den Abstand der Verteilungsdichten der Merkmale
aus verschiedenen Klassen zu finden, und dabei spielen alle Parameter eine Rolle. Dieses wird
auch in Abschnitt 4.8.4 in (4.8.26), S. 424, und (4.8.44), S. 427, wieder aufgegriffen. Praktisch
alle Gütemaße für Merkmale beruhen daher auf geeigneten verallgemeinerten Abstandsmaßen.
In Abschnitt 4.1.4 wird gezeigt, dass der Klassifikator, der die Fehlerwahrscheinlichkeit
pf minimiert (der sog. BAYES-Klassifikator, Satz 4.3), die a posteriori Wahrscheinlichkeiten
p(Ωκ|c ), κ = 1, . . . , k der Klassen berechnet und sich für die Klasse mit maximaler a posteriori
Wahrscheinlichkeit entscheidet. Die Fehlerwahrscheinlichkeit dieses Klassifikators ist pB.