Klassifikation von Mustern

4.2. STATISTISCHE KLASSIFIKATOREN (VA.3.3.4, 29.09.2004) 357
Initialisiere zwei Speicherbereiche SPEICHER und REST zur Aufnahme von Mustern;
beide sind anfänglich leer.
Bringe das erste Muster aus ω nach SPEICHER.
FOR i = 1 TO N (N = Stichprobenumfang)
Klassifiziere mit der NN-Regel das i-te Muster aus ω nur unter Verwendung
von Mustern aus SPEICHER.
IF i-tes Muster richtig klassifiziert
THEN Bringe das Muster nach REST.
ELSE Bringe das Muster nach SPEICHER.
FOR i = 1 TO NR (NR = Anzahl der Muster in REST)
Klassifiziere das i-te Muster aus REST nur unter Verwendung von Mustern
aus SPEICHER.
IF i-tes Muster nicht richtig klassifiziert
THEN Entferne das Muster aus REST und bringe es nach SPEICHER.
UNTIL [Rest ist leer] ODER [es wurde kein Muster von REST nach SPEICHER
gebracht]
Bild 4.2.7: Berechnung einer „verdichteten“ Stichprobe für die NN–Regel
Die Einführung von Rückweisungen ist bei der mNN–Regel ebenfalls möglich. Dafür gibt
es die zwei Vorschriften
bestimme die m nächsten Nachbarn eines neuen Musters c;
wenn alle m Nachbarn aus Ωκ sind,
dann klassifiziere c nach Ωκ, sonst weise c zurück, (4.2.155)
bestimme die m nächsten Nachbarn eines neuen Musters c;
wenn mindestens m ′ der m Nachbarn aus Ωκ sind,
dann klassifiziere c nach Ωκ, sonst weise c zurück. (4.2.156)
Für das Zweiklassenproblem lassen sich auch hier Abschätzungen der Fehlerwahrscheinlichkeiten
angeben. Bei ungeraden Werten von m und k = 2 Klassen ist es nicht sinnvoll,
m ′ ≤ (m + 1)/2 zu wählen, da es dann keine Rückweisungen geben kann.
Bei Anwendung der Regeln (4.2.147), (4.2.154) – (4.2.156) muss man die gesamte Stichprobe
speichern und durchsuchen. Um den damit verbundenen Aufwand zu reduzieren, wurden
verschiedene Vorschläge zur Verdichtung der Stichprobe gemacht, d. h. zur Eliminierung „unwichtiger“
Muster. Zum einen wird auf die Anmerkungen bei der PARZEN-Schätzung verwiesen,
d. h. die Verwendung einer Vektorquantisierung oder eines anderen Ansatzes zur Analyse
von Häufungsgebieten; zum anderen wurden spezielle Verfahren entwickelt, von denen einige
kurz erwähnt werden. Jedes Muster aus einer klassifizierten Stichprobe ω wird mit der NN–
Regel richtig klassifiziert. Wenn man nun Muster aus ω entfernen kann und immer noch alle
Muster mit der verdichteten Stichprobe richtig klassifiziert werden, so ist diese bezüglich der
Klassifikation äquivalent zu ω. Einen darauf basierenden Algorithmus zeigt Bild 4.2.7.
Am Ende des Algorithmus in Bild 4.2.7 enthält SPEICHER eine verdichtete Stichprobe,
mit der ebenfalls alle Muster aus ω richtig klassifiziert werden. Ein Nachteil dieses Algorithmus
ist, dass ein einmal in SPEICHER befindliches Muster nie mehr daraus entfernt wird. Im
Allgemeinen wird daher SPEICHER keine minimale Stichprobe enthalten, d. h. es ist möglich,