Klassifikation von Mustern

4.1. STATISTISCHE ENTSCHEIDUNGSTHEORIE (VA.1.2.3, 13.04.2004) 319
Problem der Berücksichtigung von Kontext, das Problem der Kombination von Informationsquellen
und i. Allg. das Problem des Treffens einer optimalen Folge von Entscheidungen durch
den BAYES-Klassifikator lösen. Was die statistische Entscheidungsthoerie nicht leistet ist die
Entwicklung von statistischen Modellen, die die Gegebenheiten eines Problemkreises angemessen
approximieren, und die Entwicklung von effizienten Algorithmen für die Auswertung
z. B. von (4.1.43) oder (4.1.44).
Jeder gute Algorithmus zur Klassifikation von Mustern wird versuchen, ein geeignetes Gütekriterium
zu optimieren. Die mittleren Kosten bzw. das Risiko V in (4.1.10) sind ein Beispiel
für ein relativ allgemeines Gütekriterium, die Fehlerwahrscheinlichkeit pf ist ein Beispiel für
ein spezialisiertes Gütekriterium. Für beide wurden in diesem Abschnitt Lösungen angegeben.
Weitere Elemente eines Gütekriteriums können z. B. die Komplexität (Rechenzeit), der Trainingsaufwand,
die Kosten einer speziellen Hardwarerealisierung, die Adaptierbarkeit an neue
Beobachtungen oder die Wartbarkeit sein. Diese Elemente entziehen sich bisher einer formalen
Behandlung. Wie schon erwähnt, ist ein anderer Ansatz die Einbeziehung des Einflusses
einer endlichen Stichprobe in die Ableitung eines Klassifikators; dafür wird auf Abschnitt 4.3
verwiesen.
Schließlich ist es naheliegend, die gleiche Klassifikationsaufgabe mit mehreren Klassifikatoren
durchzuführen und deren Ergebnisse so zu kombinieren, dass die resultierende Fehlerrate
kleiner ist als die jedes einzelnen Klassifikators. Im Prinzip liegt hier ein erneutes Klassifikationsproblem
vor, das in optimaler Weise zu lösen ist; wie das geschieht, folgt grundsätzlich aus
Satz 4.1 – Satz 4.3. Soll also z. B. die aus der Kombination oder Fusion von Klassifikatoren
resultierende Fehlerrate minimiert werden, so werden die (nichtquantisierten analogen) Ausgaben
der Klassifikatoren als Merkmalsvektor eines weiteren BAYES-Klassifikators aufgefasst.
Auf diese Weise können prinzipiell ganz verschiedene Klassfikationsergebnisse wie die eines
statistischen Klassifikators, einer Support Vektor Maschine und eines neuronalen Netzes kombiniert
werden. Da der BAYES-Klassifikator auf recht unterschiedliche Arten approximiert werden
kann (wie eben z. B. mit einem statistischen Klassifikator, einer Support Vektor Maschine
oder einem neuronalen Netz) ergeben sich hier zahlreiche mögliche Varianten. Für systematische
Verfahren zur Generierung unterschiedlicher Klassifikatoren sowie zur Fusion von deren
Ergebnissen wird auf die Literatur in Abschnitt 4.11 verwiesen.
4.1.7 Klassenspezifische Klassifikation
Die optimale Entscheidungsregel in (4.1.16) sowie auch speziell der BAYES-Klassifikator in
Satz 4.3 sind so aufgebaut, dass ein und derselbe Merkmalsvektor für jede der k Klassen Ωκ
verwendet wird. Es ist bemerkenswert, dass die statistische Entscheidungstheorie sich auch so
formulieren lässt, dass für jede Klasse klassenspezifische Merkmale gemäß (3.1.3), S. 164, verwendet
werden, was in einer klassenspezifischen Klassifikation resultiert. Die Entscheidungsregel
(4.1.35) gilt im Prinzip für beliebige Merkmalsvektoren, insbesondere natürlich auch für
die ursprünglichen Abtastwerte des Musters. Wenn im Merkmalsvektor die gleiche Information
enthalten ist wie in den Abtastwerten, gilt
κ = argmax pλp(c|Ωλ)
λ∈{1,...,k}
= argmax pλp(f |Ωλ) ,
λ∈{1,...,k}
(4.1.45)