Nichtlineare Dimensionsreduktionsmethoden in der ... - DPI

Kapitel 5
Isomap
Isomap [31], [15] ist eine nichtlineare Erweiterung des klassischen MDS (Abschnitt
4.1.1). Das klassische MDS liefert optimale niedrigdimensionale euklidische
Einbettungen nur für Eingabedaten, die auf einer linearen Untermannigfaltigkeit
des Eingaberaumes liegen. Wenn auch die Ergebnisse des klassischen
MDS für schwach gekrümmte nichtlineare Mannigfaltigkeiten noch
zufriedenstellend sein mögen, so versagen diese linearen Verfahren jedoch
völlig bei Mannigfaltigkeiten mit starker Krümmung wie z.B. der Swiss Roll
(1.1), von der in Abbildung 5.1(a) ein Datensatz aus 1000 zufälligen Samples
gezeigt ist. MDS würde für diesen Datensatz eine Einbettung finden, die
die euklidischen Abstände bestmöglich erhält. Diese unterscheiden sich aber
für eine solche stark gekrümmte Mannigfaltigkeit ganz erheblich von den
tatsächlichen geodätischen Abständen, was man deutlich in Abb. 5.1(a) sehen
kann. Die Folge ist, dass eine zweidimensionale Einbettung mit MDS die
Nachbarschaftsverhältnisse völlig zerstören würde.
Der Isomap-Algorithmus geht hier einen anderen Weg: Anstatt einfach die
paarweisen euklidischen Abstände der Eingangsdaten als Input zu nehmen
und eine diese Abstände bestmöglich erhaltende niedrigdimensionale Einbettung
in einen linearen Raum zu bestimmen, versucht Isomap zuerst, die den
Daten zugrunde liegende Geometrie zu ”
lernen“. Was ist damit gemeint? Eine
(niedrigdimensionale) Einbettung in einen euklidischen Raum erhält dann
die Merkmale oder wesentlichen Strukturen der Daten, wenn die Nachbarschaften
der Daten erhalten bleiben. Das bedeutet, dass Punkte, die im Eingaberaum
einen kleinen Abstand voneinander haben, auch in der euklidischen
Einbettung dicht benachbart sein müssen. Entsprechend müssen aber auch
Punkte mit großem Abstand auf weiter entfernte Punkte im Einbettungsraum
abgebildet werden. Von ganz entscheidender Bedeutung ist dabei, dass