Klassifikation von Mustern

354 KAPITEL 4. NUMERISCHE KLASSIFIKATION (VK.2.3.3, 07.09.2005)
eine Fensterfunktion, deren Breite durch den Parameter hN bestimmt wird und den Bedingungen
∞
0 ≤ g0(x) , g0(x) dx = 1 ,
genügt.
0 = lim g0(x)
|x|→∞
−∞
n
xν , sup g0(x) < ∞ ,
ν=1
0 = lim
N→∞ hn N , lim
N→∞ Nhn N = ∞ (4.2.141)
Satz 4.10 Die PARZEN-Schätzung
p(c|Ωκ) = 1
Nκ
g0
Nκ
j=1
j
(c − cκ)|hN
(4.2.142)
konvergiert im quadratischen Mittel gegen die Dichte p(c|Ωκ), wenn diese an der Stelle c
stetig ist.
Beweis: s. z. B. [Parzen, 1962, Murthy, 1965].
Mögliche Fensterfunktionen sind z. B. das Rechteckfenster und die GAUSS-Funktion. Bei
letzterer wird oft, wie auch in (4.8.37), S. 426, die Kovarianzmatrix vereinfacht zu Σ = σ 2 I,
womit sich hN = σ 2 ergibt; zur Verwendung einer allgemeinen Matrix Σ bei der Schätzung
wird auf die Literatur verwiesen. Auch bei dieser Schätzung muss die gesamte Stichprobe gespeichert
werden. Eine Reduktion oder Verdünnung, z. B. durch Ersetzung der Stichprobe durch
eine genügend große Anzahl von Kodebuchvektoren einer Vektorquantisierung oder durch ein
anderes Verfahren zur Analyse von Häufungsgebieten (s. Abschnitt 4.8.4, „Clusteranalyse“),
kann dieses Problem mildern. Es ist weiterhin möglich, auf dieser Basis auch die Moden (relativen
Extrema) einer Verteilungsdichte zu schätzen. Durch Einsatz von Optimierungsverfahren
kann die Stichprobe reduziert und damit die Schätzung vereinfacht werden. Auch dafür wird
auf die Literatur verwiesen.
4.2.7 Nächster Nachbar Klassifikator
Der nächste Nachbar (NN) Klassifikator beruht darauf, ein Muster der Klasse zuzuordnen, zu
der auch der nächste Nachbar im Merkmalsraum bzw. die Mehrzahl seiner m nächsten Nachbarn
gehören. Dieser zunächst rein intuitiv naheliegende Ansatz lässt sich auch als Schätzung
der a posteriori Wahrscheinlichkeiten p(Ωκ |c) auffassen und damit auf Satz 4.3 zurückführen.
Ersetzt man in (4.1.34) die bedingte Dichte durch den Schätzwert (4.2.134), die a priori Wahrscheinlichkeit
durch den Schätzwert
pκ = Nκ
N
und die Dichte p(c) analog zu (4.2.134) durch den Schätzwert
p(c) = m
NV
(4.2.143)
, (4.2.144)