Nichtlineare Dimensionsreduktionsmethoden in der ... - DPI

10 Einführung und Überblick
mit nur drei Parametern beschreiben zu können. Diese Einschränkung auf nur
drei Freiheitsgrade rührt daher, dass die Pixel nicht zufällig verteilte Werte
annehmen, sondern eben insgesamt ein Gesicht zeigen, und zwar ein bestimmtes.
Es herrschen also starke Korrelationen zwischen den Pixeln eines Bildes
und auch zwischen den Bildern selbst. Dies führt dazu, dass die Vektoren im
Eingaberaum auf einer glatten, niedrigdimensionalen Untermannigfaltigkeit
liegen, die in diesem Beispiel dreidimensional ist. Dass die Mannigfaltigkeit
glatt ist, kann man sich intuitiv so überlegen: ”
Wackelt“ man nur etwas an einer
beliebigen Komponente eines Bild-Vektors, so zeigt das Bild immer noch
dieselbe Person mit derselben Pose, es gibt dann also keine Sprünge zwischen
verschiedenen Posen oder Bildern. Die Mannigfaltigkeit ist außerdem dünn
in dem Sinne, dass sie nur einen kleinen Teil des Eingaberaumes ausfüllt,
d.h. wenn man einen zufälligen Punkt aus dem Eingaberaum auswählt, was
einem Bild mit zufälligen Pixelwerten entspricht, so wird dieses Bild mit sehr
hoher Wahrscheinlichkeit nicht den Kopf aus Abb. 1.1 zeigen.
In einem solchen Fall sollte eine Dimensionsreduktion möglich sein, und ein
entsprechender Algorithmus sollte eine Anordnung der Punkte im Einbettungsraum
finden können, in dem bestimmte Richtungen bestimmten Änderungen
der Posen entsprechen, diese also in bestimmter Weise durch die
Richtungen im Einbettungsraum parametrisiert werden. Die Wahl der Koordinaten
ist dabei allerdings nicht eindeutig, und die von den Algorithmen
gefundenen Parametrisierungen der Mannigfaltigkeit entsprechen nicht unbedingt
der Parametrisierung, die ein menschlicher Beobachter erwarten würde.
Zwischen verschiedenen Parametrisierungen besteht auch nicht notwenigerweise
ein linearer Zusammenhang – man denke zum Beispiel an die Parametrisierung
einer euklidischen Ebene, die z.B. durch kartesische Koordinaten
erfolgen kann, aber auch durch Polarkoordinaten, wobei beide Parametrisierungen
durch nichtlineare Transformationen auseinander hervorgehen.
Oft sind die den Daten unterliegenden niedrigdimensionalen Mannigfaltigkeiten
nichtlinear. Ein linearer Dimensionsreduktionsalgorithmus kann dann
keine Einbettung in einen euklidischen Raum finden, dessen Dimension der
Dimension der Mannigfaltigkeit entspricht und deren Struktur vollständig
beschreibt. Es werden dann mehr Einbettungsdimensionen benötigt als die
Anzahl der Freiheitsgrade der Daten, oder aber die Einbettung kann die
Mannigfaltigkeit nicht vollständig parametrisieren. Linear bedeutet in diesem
Zusammenhang, dass die Koordinaten des Einbettungsraumes durch lineare
Transformationen aus den Koordinaten des Eingaberaumes hervorgehen. Ein
anschauliches Beispiel für eine nichtlineare Mannigfaltigkeit ist die in Abb.
1.2 gezeigte Swiss Roll, die in [30] eingeführt wird. Die Swiss Roll stellt eine
zweidimensionale Mannigfaltigkeit dar, die in den R 3 eingebettet ist und