Klassifikation von Mustern

320 KAPITEL 4. NUMERISCHE KLASSIFIKATION (VK.2.3.3, 07.09.2005)
wobei p(c|Ωλ) und p(f |Ωλ) natürlich verschiedene Funktionen bezeichnen. Der Vorteil der
oberen Gleichung liegt darin, dass man i. Allg. versucht, Merkmalsvektoren zu finden, die wesentlich
kleiner sind als das gegebene Muster und die fast die gleiche Information enthalten wie
dieses.
Bei der klassenspezifischen Klassifikation wird zunächst die bedingte Verteilungsdichte
der klassenspezifischen Merkmale bestimmt, d. h. ein Problem in einem niedrigdimensionalen
Raum gelöst. Von dieser Verteilungsdichte wird auf die der Abtastwerte zurückgeschlossen,
indem sie mit Hilfe des Projektionstheorems in den Raum der Abtastwerte projiziert wird. Im
Allgemeinen können viele Verteilungsdichten der (hochdimensionalen) Abtastwerte zur gleichen
Verteilung der (niedrigdimensionalen) Merkmale führen. Es ist also nur möglich, eine
Approximation der tatsächlichen Verteilungsdichte der Abtastwerte zu finden. Das Projektionstheorem
erfordert dafür die Verteilungsdichte einer Referenz– oder Nullhypothese. Man kann
den ganzen Prozess so interpretieren, dass nicht mehr wie bisher eine Menge von Merkmalen
bestimmt wird, welche die Klassen möglichst gut trennen, sondern mehrere Mengen, von denen
jede die Muster einer Klasse möglichst gut beschreibt.
Als erstes sind also k klassenspezifische Merkmalsvektoren zu wählen, deren bedingte Verteilungsdichten
hier wie in (4.1.1) bis auf unbekannte Parameter als bekannt vorausgesetzt werden
ϱ c (λ) = T (λ) { ϱ f } , p(c (λ) |Ωλ) = p(c (λ) |aλ) .
Das Projektionstheorem ist eine Verallgemeinerung der Beziehung zur Variablentransformation
von Verteilungsdichten. Wenn eine Zufallsvariable y mit der Verteilungsdichte p(y)
gegeben ist und wenn y durch eine eineindeutige Transformation y = φ(x) aus einer Zufallsvariablen
x hervorgeht, so kann die Verteilungsdichte von x bestimmt werden aus p(x) =
|J |p(y) = |∂φ/∂x|p(y). Ein Merkmalsvektor c hat aber i. Allg. weniger Komponenten als
das Muster f Abtastwerte hat, d. h. die Transformation ist nicht eindeutig umkehrbar und man
kann nicht eindeutig von der Verteilung p(c) der Merkmalsvektoren auf die Verteilungsdichte
p(f) der Abtastwerte zurückschließen. Das Projektionstheorem ist gerade für diesen Fall der
nicht eindeutigen Umkehrbarkeit anwendbar. Voraussetzung für dieses Theorem ist, dass für eine
Referenzhypothese H0 das Paar von Verteilungsdichten p(f |H0), p(c|H0) bekannt ist und
das Verhältnis p(f |H0)/p(c|H0) für alle Werte von Transformationspaaren (f, c) existiert.
Satz 4.4 (Projektionstheorem) Unter den genannten Voraussetzungen ist
p(f) =
p(f |H0)
p(c) (4.1.46)
p(c|H0)
eine Verteilungsdichte, deren Integral 1 ist. Werden Werte f mit dieser Verteilungsdichte
generiert, so haben daraus gewonnene Merkmale c die Verteilungsdichte p(c).
Beweis: s. z. B. [Baggenstoss, 2001].
Der Quotient p(f |H0)/p(c|H0) übernimmt formal die Rolle der JACOBI-Matrix J. Wie
schon erwähnt ist aus p(c) nicht eindeutig auf p(f) zu schließen, d. h. (4.1.46) gibt eine Verteilungsdichte
mit den genannten Eigenschaften, aber nicht die einzige; dieses wird in der Notation
jedoch nicht zum Ausdruck gebracht. Von den i. Allg. unendlich vielen in Frage kommenden
Verteilungsdichten p(f), die unter der (nicht eindeutigen) Merkmalstransformation zur beobachteten
Verteilungsdichte p(c) der Merkmale führen können, wird mit (4.1.46) diejenige ausgewählt,
die das Likelihood–Verhältnis in beiden Repräsentationen konstant hält, d. h. für die