Klassifikation von Mustern

4.1. STATISTISCHE ENTSCHEIDUNGSTHEORIE (VA.1.2.3, 13.04.2004) 307
p(c|Ωκ) hat. Ergebnis des Zufallsprozesses ist also das Paar (κ, ϱ c), d. h. eine Klassennummer
(Zusatzinformation, s. (1.3.1), S. 19) und eine Beobachtung (Wert einer Zufallsvariablen).
Die BAYES-Regel ist die Basis der statistischen Inferenz, mit der, wie schon in Abschnitt 1.5
erwähnt, die a priori Wahrscheinlichkeit pκ einer Klasse vor Beobachtung eines Merkmalsvektors
c in die a posteriori Wahrscheinlichkeit p(Ωκ|c) nach Beobachtung eines Merkmalsvektors
transformiert wird. Sie bildet eine mathematisch einwandfreie Basis für statistische Inferenzen.
Wenn Muster klassifiziert werden, können Fehlklassifikationen auftreten. Um den Einfluss
von Fehlern bei der Beurteilung der Klassifikatorleistung zu erfassen, werden den Fehlern wie
erwähnt Kosten zugeordnet. Mit
rλκ = r(Ωλ |Ωκ) , λ = 0, 1, . . . , k , κ = 1, . . . , k (4.1.4)
werden die Kosten bezeichnet, die entstehen, wenn man ein Muster nach Ωλ klassifiziert, obwohl
es tatsächlich aus Ωκ stammt. Es wird vorausgesetzt, dass die Kosten rλκ bekannt sind und
der Bedingung
0 ≤ rκκ < r0κ < rλκ , λ = κ (4.1.5)
genügen, d. h. Kosten sind nicht negativ und die Kosten einer richtigen Entscheidung sind geringer
als die einer Rückweisung, und diese sind wiederum geringer als die Kosten einer Fehlklassifikation.
Bei geeigneter Wahl der Kosten ergeben sich auch Beziehungen zur Fehlerwahrscheinlichkeit,
wie später noch gezeigt wird.
Die frei wählbare Entscheidungsregel wird mit δ(Ωλ|c) bezeichnet und gibt die Wahrscheinlichkeit
an, mit der man sich für die Klasse Ωλ entscheidet, wenn der Merkmalsvektor c
beobachtet wurde. Eine solche randomisierte Entscheidungsregel wird wegen ihrer größeren
Allgemeinheit hier zunächst zugelassen. Allerdings wird sich zeigen, dass der optimale Klassifikator
eine nicht randomisierte Regel verwendet. Diese ist ein Spezialfall der randomisierten
Regel, bei dem für jeden Merkmalsvektor mit der Wahrscheinlichkeit 1 eine Entscheidung für
genau eine der möglichen Klassen erfolgt und alle anderen die Wahrscheinlichkeit 0 haben. In
der Literatur wird vielfach der optimale Klassifikator bestimmt, wenn von vornherein nur eine
nicht randomisierte Regel zugelassen wird. Es wird noch vorausgesetzt, dass
k
δ(Ωλ |c) = 1 oder
λ=1
k
δ(Ωλ |c) = 1 (4.1.6)
λ=0
ist, d. h. auch bei der randomisierten Regel erfolgt immer eine Entscheidung für eine der vorhandenen
Klassen. Der wesentliche Unterschied zwischen nicht randomisierter und randomisierter
Regel ist, dass bei mehrfacher Beobachtung des gleichen Merkmalsvektors von ersterer auch
stets für die gleiche Klasse entschieden wird, von letzterer dagegen nicht. Intuitiv scheint eine
randomisierte Regel für die Mustererkennung wenig sinnvoll, jedoch ist zunächst offen, ob sich
durch ihre Anwendung nicht ein geringeres Risiko ergibt.
Die wesentlichen Elemente eines Klassifikators sind also:
• Die a priori Wahrscheinlichkeiten pκ der Klassen. Sie sind durch den Problemkreis bestimmt
und müssen gegebenenfalls vom Entwickler eines Klassifikators geschätzt werden.
• Die bedingten Verteilungsdichten p(c|Ωκ) der Merkmalsvektoren. Sie liegen durch den
Problemkreis, die verwendeten Sensoren und die gewählte Vorverarbeitung und Merkmalsgewinnung
fest und müssen vom Entwickler eines Klassifikators geschätzt werden.