Nichtlineare Dimensionsreduktionsmethoden in der ... - DPI

8 Einführung und Überblick
gangsdaten x gebildeten Vorhersagen möglichst gut den richtigen Werten y
entsprechen. Die Hoffnung ist dann, dass der Algorithmus auch für andere
als die Trainingsdaten richtige Ergebnisse liefert.
Beim unsupervised learning hat man keine Trainingsdaten zur Verfügung, anhand
derer man die Lernalgorithmen trainieren kann. Es stehen einzig und
allein die Eingangsdaten selbst zur Verfügung, aus denen wichtige Merkmale
extrahiert werden sollen. Wie diese Merkmale aussehen oder was sie
beschreiben, ist je nach Datensatz a priori völlig unbekannt. Das Ziel dabei
ist, dass z.B. Maschinen mit sehr vielen Sensoren für unterschiedliche
Messgrößen die riesigen Mengen an anfallenden Sensor-Rohdaten verarbeiten
können und kompakte Repräsentationen dafür finden, ähnlich wie dies auch
(meist unbewusst) der Mensch tut. Die Dimensionsreduktion ist eine Form
des unsupervised learning, die automatisch niedrigdimensionale Repräsentationen
für hochdimensionale Daten finden soll. Dabei soll eine möglichst
starke Reduzierung der Dimension unter gleichzeitiger Erhaltung der wesentlichen
Merkmale oder Strukturen erreicht werden, wobei diese Merkmale
allein aus den Daten selbst extrahiert werden müssen, also ohne irgendwelche
äußeren Informationen oder sonstigen Hilfen.
Die Dimensionsreduktion findet also eine Abbildung f vom Raum der Eingangsdaten
R D (Eingaberaum oder Input Space) in einen niedrigdimensionalen
Merkmalsraum R d (Feature Space), wobei d < D und oft d ≪ D. Jeder
Punkt x i ∈ R D aus dem Eingaberaum wird dabei auf einen Punkt y i ∈ R d
aus dem Merkmalsraum abgebildet: y i = f(x i ). Die meisten Algorithmen
führen diese Abbildung nur implizit aus, d.h. sie berechnen die Bilder der
Eingangsdaten, ohne f irgendwie explizit zu bestimmen oder gar zurückzuliefern.
Man spricht in diesem Zusammenhang auch von einer Einbettung
der Eingangsdaten in den Merkmalsraum. Der Merkmalsraum wird dann oft
auch Einbettungsraum genannt.
Anwendungen der Dimensionsreduktion sind z.B. die Visualisierung hochdimensionaler
Daten, bei der man eine niedrigdimensionale Einbettung der
Daten berechnet und diese graphisch darstellt in der Hoffnung, dass in diesem
Graphen die wesentliche Struktur der Daten enthalten ist. Weiterhin
eignen sich diese Methoden sehr gut als Vorverarbeitung für Algorithmen zur
Klassifikation, indem die Daten sinnvoll nach Merkmalen sortiert im Einbettungsraum
angeordnet werden, was die Komplexität des Klassifizierungsalgorithmus’
wesentlich reduzieren kann [27]. Andere Anwendungen sind die
Kompression von Daten durch Beseitigung von Redundanzen und die Interpolation,
Erzeugung und Entrauschung von Daten [24]. Neben den hier
vorgestellten Algorithmen existieren noch einige weitere wie z.B. die Self