Klassifikation von Mustern

412 KAPITEL 4. NUMERISCHE KLASSIFIKATION (VK.2.3.3, 07.09.2005)
4.8 Unüberwachtes Lernen (VA.1.2.3, 13.04.2004)
4.8.1 Anliegen
Die Ermittlung der Klassenbereiche, also der Teilbereiche des Merkmalsraums Rc, die den
einzelnen Klassen zugeordnet sind, erfolgt durch Verarbeitung einer Stichprobe ω von Mustern.
Dabei sind folgende zwei Fälle zu unterscheiden:
1. Von jedem Muster ϱ f ∈ ω ist die richtige Klasse bekannt, die Muster in der Stichprobe
sind also klassifiziert, bzw. die Stichprobe ω ist zerlegt in k Teilmengen ωκ gemäß (4.2.1),
S. 323. Die Zusatzinformation in (1.3.1), S. 19, hat dann die Form yϱ ∈ {1, . . . , κ, . . . , k}.
In diesem Fall zerfällt auch das Lernen in k unabhängige Einzelprobleme, je eines für jede
der k Klassen. Es ist intuitiv klar und wird auch durch die entsprechenden theoretischen
Ergebnisse bestätigt, dass dieses Problem relativ einfach ist. Man bezeichnet einen Lernprozess,
der mit klassifizierten Mustern ausgeführt wird, auch als „überwachten“ Lernprozess
(„Lernen mit Lehrer“). Beim überwachten Lernen sind wiederum zwei Fälle zu
unterscheiden:
1.1 Die Bestimmung der Klassenbereiche erfolgt mit klassifizierten Mustern einmal
vorweg (Lernphase), danach werden Muster ohne Veränderung des Klassifikators
klassifiziert (Klassifikationsphase). Ein wiederholter Wechsel zwischen Lern- und
Klassifikationsphase ist dem System nicht möglich. Beispiele dafür wurden in Abschnitt
4.2 – Abschnitt 4.6 behandelt.
1.2 Die Klassenbereiche können mit klassifizierten Mustern laufend verändert werden,
bzw. das System kann wiederholt zwischen Lern- und Klassifikationsphase wechseln.
Die Basis dafür sind rekursive Parameterschätzungen, die in Abschnitt 4.2.3
und Abschnitt 4.4.3 kurz erwähnt wurden.
2. Die richtige Klasse eines Musters ϱ f ∈ ω ist nicht bekannt, die Muster in der Stichprobe
sind also nicht klassifiziert, bzw. die Stichprobe ω ist nicht gemäß (4.2.1) in Teilmengen
ωκ zerlegt.
Das Lernen muss hier im Prinzip gemeinsam für alle k Klassen durchgeführt werden. Dieses
Problem ist im Vergleich zu Fall 1 wesentlich komplizierter. Man bezeichnet Lernen
mit nicht klassifizierten Mustern als unüberwachtes Lernen („Lernen ohne Lehrer“).
Auch hier sind zwei Fälle zu unterscheiden:
2.1 Mit nicht klassifizierten Mustern sind die Klassenbereiche einmal vorweg zu bestimmen,
danach bleibt der Klassifikator unverändert.
Dieser Fall wird, wie in der Literatur üblich, als unüberwachtes Lernen bezeichnet;
dazu werden auch Verfahren zur Analyse von Häufungsgebieten (“cluster analysis”)
gerechnet. Beispiele dafür werden in Abschnitt 4.8.2 bis Abschnitt 4.8.5 behandelt.
2.2 Die Klassenbereiche sollen mit nicht klassifizierten Mustern laufend verändert werden.
Die zugehörigen Verfahren werden ebenfalls als unüberwachtes Lernen bezeichnet.
Beispiele dafür enthalten die Schätzgleichungen in Abschnitt 4.8.2 und Abschnitt
4.8.3 in ihrer Anwendung auf jeweils ein Muster.