Klassifikation von Mustern

422 KAPITEL 4. NUMERISCHE KLASSIFIKATION (VK.2.3.3, 07.09.2005)
zuverlässigen Schätzungen, die z. B. mit einer kleinen klassifizierten Stichprobe gemäß (4.2.8),
(4.2.9) berechnet wurden.
4.8.4 Analyse von Häufungsgebieten
In diesem Abschnitt werden Methoden zum unüberwachten Lernen vorgestellt, bei denen die
Ermittlung von Klassen in einer Stichprobe im Vordergrund steht, aber nicht das Training eines
Klassifikators; dieses ließe sich mit der zerlegten Stichprobe nachträglich überwacht ausführen.
Zu diesem Gebiet der Analyse von Häufungsgebieten (“cluster analysis”) gibt es zahlreiche
Ansätze, von denen hier einige als Beispiel erläutert werden. Die Grundlage aller Verfahren ist
Postulat 6 von Abschnitt 1.3.
Abbildung in die Ebene
Einen ersten (subjektiven) Eindruck von der Struktur einer unklassifizierten Stichprobe erhält
man, wenn man die M–dimensionalen Muster f oder die n–dimensionalen Merkmalsvektoren
c in eine Ebene (auf ein Display) abbildet, d. h. auf n ′ = 2–dimensionale Vektoren reduziert.
Ähnliche Muster, die vermutlich in eine Klasse gehören, sind in einer grafischen Darstellung
als benachbarte Punkte erkennbar. Die Klasseneinteilung erfolgt also interaktiv. Die Abbildung
muss die im R n vorhandenen Abstände möglichst gut im R 2 wiedergeben. Die lineare Abbildung
(3.2.2), wobei die Matrix Φ mit Satz 3.8, S. 224, und dem Kern Q (1) in (3.8.8), S. 225,
berechnet wird, ist eine einfache Methode. Bessere Ergebnisse werden in der Regel von strukturerhaltenden
nichtlinearen Abbildungen erwartet, jedoch zeigt ein Vergleich an verschiedenen
Beispielen, dass die einfache lineare Abbildung oft ausreicht bzw. zumindest ein guter Startpunkt
ist.
Im Allgemeinen wird eine Stichprobe ω = { ϱ c, ϱ = 1, . . . , N} von Mustern ϱ c ∈ R n
in eine Stichprobe ω ′ = { ϱ c ′ , ϱ = 1, . . . , N} von Mustern ϱ c ′ ∈ R n′
, n ′ < n abgebildet.
Die Abbildung soll so sein, dass möglichst alle Abstände von Mustern aus ω gleich denen von
Mustern aus ω ′ sind. Da dieses für n ′ < n i. Allg. nicht exakt möglich ist, wird iterativ eine
Abbildung bestimmt, die die Unterschiede in den Abständen minimiert. Dazu werden Abstände
djk bzw. d ′ jk für zwei Muster j c, k c ∈ ω bzw. j c ′ , k c ′ ∈ ω ′ sowie ein Fehler ε(ω, ω ′ ) für den
Unterschied der Abstände der Muster definiert. Beispiele sind
djk = ( j c − k c) T ( j c − k c) , d ′ jk = (j c ′ − k c ′ ) T ( j c ′ − k c ′ ) ,
ε(ω, ω ′ ) =
N
j−1
d
j=2 k=1
p
jk (djk − d ′ jk )2
N j−1
d
j=2 k=1
p+2
jk
,
(4.8.24)
wobei die einfache Version mit p = 0 bereits sehr gute Ergebnisse bringt. Durch ein Iterationsverfahren
werden die Muster ϱc ′ ∈ Rn′ so verschoben, dass ε(ω, ω ′ ) minimiert ist. Dieses ist
offenbar für beliebige Werte von n ′ < n möglich. Für Einzelheiten zu geeigneten Iterationsverfahren
wird auf die Literatur verwiesen.