Klassifikation von Mustern

342 KAPITEL 4. NUMERISCHE KLASSIFIKATION (VK.2.3.3, 07.09.2005)
gesetzt. Aus der zitierten Literatur geht hervor, dass die Dichte p(aκ) in (4.2.70) selbstreproduzierend
ist. Man erhält die MAPS (bzw. die BAYES-Schätzwerte) nach Beobachtung von Nκ
Mustern ϱ cκ ∈ ωκ aus denen nach der Beobachtung von Nκ − 1 Mustern zu
µ κNκ = (β0 + Nκ − 1)µ κ,Nκ−1 + Nκcκ (β0 + Nκ)
ΣκNκ = ν0 + Nκ − 1
Σκ,Nκ−1 +
ν0 + Nκ
β0 + Nκ − 1
(ν0 + Nκ)(β0 + Nκ)
,
Nκcκ Nκcκ T
− µ κ,Nκ−1 − µ κ,Nκ−1 .
(4.2.73)
Dabei ist µ κ0 = µ 0 und Σκ0 = K0. Die rekursive Berechnung von Σ −1
κNκ ist mit (4.2.61)
ebenfalls möglich.
Ein Vergleich der MLS (4.2.59) mit den MAPS (4.2.73) zeigt, dass beide sich nur in der Verwendung
von Anfangswerten für die Schätzung unterscheiden. Setzt man ν0 = β0 = 0, µ κ0 =
0, Σκ0 = 0, geht (4.2.73) in (4.2.59) über. Das Lernen von Parametern statistischer Klassifikatoren
durch laufende Verbesserung der Parameter mit neu beobachteten Mustern ist also
problemlos, wenn die Muster bekannte Klassenzugehörigkeit haben (überwachtes Lernen) und
wenn die Merkmale klassenweise normalverteilt sind. Es kann zweckmäßig sein, mit festen Gewichten
zu arbeiten. Zum Beispiel würde man dann den Schätzwert für µ κ in (4.2.59) ersetzen
durch
µ κNκ = (1 − β)µ κ,Nκ−1 + β Nκ cκ , 0 < β ≤ 1 . (4.2.74)
Natürlich ist das kein MLS , und die Konvergenz ist experimentell zu sichern durch geeignete
Wahl von β. Der Vorteil einer festen Gewichtung besteht darin, dass eine relativ rasche Adaptation
an neue Beobachtungen erfolgt, wobei die Geschwindigkeit der Adaptation von der Wahl
von β abhängt.
In Abschnitt 4.2.1 wurde erwähnt, dass mit den Schätzwerten (4.2.8), (4.2.9) für µ κ, Kκ so
gerechnet wird, als seien es die richtigen Werte. Dieses ist natürlich nur eine näherungsweise
Betrachtung. Genaugenommen ist die Verteilungsdichte p(c|Ωκ) = p(c|aκ) der Merkmalsvektoren
zu ersetzen durch p(c|Ωκ, ωκ), um den Einfluss der endlichen Stichprobe zu berücksichtigen.
Dieser besteht darin, dass man nicht die tatsächlichen Parametwerte aκ zur Verfügung hat
sondern Schätzwerte aκ mit der Verteilungsdichte p(aκ|ωκ). Die gesuchte Verteilungsdichte
der Merkmalsvektoren ist damit
p(c|Ωκ, ωκ) = p(c|aκ) p(aκ|ωκ) daκ . (4.2.75)
Raκ
Setzt man für die Verteilungsdichte der Merkmalsvektoren eine GAUSS-Verteilung an und für
die der Parameter (4.2.70), so ist die Integration in (4.2.75) ausführbar. Als wesentliche Ergebnisse
sind festzuhalten, dass die resultierende Verteilungsdichte keine GAUSS-Verteilung
ist, dass diese aber für großen Stichprobenumfang gegen eine GAUSS-Verteilung strebt und
dass dieses praktisch schon für relativ kleinen Stichprobenumfang geschieht. In diesem Sinne
ist es gerechtfertigt, mit den Schätzwerten so zu rechnen, als seien es die richtigen. Es bleibt
dagegen das Problem, dass die Annahme klassenweise normalverteilter Merkmale i. Allg. nur
eine Näherung an die tatsächlichen Verhältnisse ist. Bereits in Abschnitt 4.2.1 wurde darauf