Nichtlineare Dimensionsreduktionsmethoden in der ... - DPI

42 Isomap
In dem so konstruierten Graphen bestimmt man dann die kürzesten Wege
zwischen allen Knoten, wobei hier der Algorithmus von Dijkstra zum Einsatz
kommt (vgl. Algorithmus A.1). Es ist |V | = N die Anzahl der Knoten
in G, und für k nächste Nachbarn ist |E| = N · k die Anzahl der Kanten
zwischen diesen Knoten. Die Laufzeit des Algorithmus’ lässt sich dann
abschätzen durch O(N 2 (k + log N)). Für zwei beliebige Punkte x i und x j
lässt sich deren geodätischer Abstand nun aproximieren durch die Länge des
kürzesten Weges zwischen v i und v j im Graphen G. Die Eingabedaten werden
zu einer Matrix X = (x 1 , . . . , x N ) T mit den x i als Zeilen zusammengefasst.
Weiterhin bezeichne ∆ G (X) die Matrix mit den Längen der kürzesten Wege
zwischen den Daten, wobei wieder wie im vorigen Abschnitt δ ij
G
(X) die Länge
des kürzsten Weges zwischen v i und v j bezeichnet. Definiert man außerdem
analog ∆ M (X) als Matrix der paarweisen geodätischen Distanzen der x i ,
so betrachtet man also ∆ G (X) als eine Näherung an die (unbekannte) Matrix
∆ M (X). Mit Hilfe des klassischen MDS (vgl. Abschnitt 4.1.1) wird nun
durch Minimierung des Strain (4.13) eine euklidische Einbettung für die approximierten
geodätischen Distanzen ∆ G (X) berechnet. Man wendet also die
doppelte Zentrierung (4.7) auf die Matrix ∆ (2) G mit (∆ (2) G) ij = (δ ij
G )2 an
und erhält die Matrix B ∆G . Der zu minimierende Strain hat dann analog zu
(4.13) die Form
L(Y) = ‖YY T − B ∆G ‖ 2 F . (5.1)
Die Lösung Y ∈ R N×d für eine d-dimensionale Einbettung ist nach (4.17)
gerade gegeben durch
Y = V d Λ 1 2
d
, (5.2)
wobei Λ 1/2
d
= diag(λ 1/2
1 , . . . , λ 1/2
d
) die Diagonalmatrix mit den Quadratwurzeln
der d größten Eigenwerte λ 1 ≥ . . . ≥ λ d ≥ 0 von B ∆G ist und V d
die N × d-Matrix mit den zugehörigen Eigenvektoren als Spalten bezeichnet.
Isomap verwendet also einen globalen Ansatz, bei dem die geodätischen
Abstände zwischen allen Eingabedaten durch Distanzen in einem Graphen
approximiert werden und anschließend ein globales Minimum von (5.1) bestimmt
wird.
In Pseudocode lässt sich der Isomap-Algorithmus folgendermaßen formulieren: