Optimierte lokale Modelle in der nichtlinearen Zeitreihenanalyse

Seite 60
3.6. Approximation durch Gitterpunkte
1
0.5
0
−0.5
−1
MSE
6 x 10−3
5
4
3
2
1
Zahl der Gitterpunkte
−1.5
−1.5 −1 −0.5 0 0.5 1
(a) Trainingsmenge mit den ersten 70 Gitterpunkten.
0
50 100 150
(b) Trainingsfehler (durchgezogene Linie),
Testfehler (gestrichelte Linie) und Fehler der
LOO-CV (gepunktete Linie).
Abbildung 3.10: Approximation des unverrauschten Hénon-Attraktors durch ein Gitter
(a) mit Trainings- und Testfehler (b).
ler aufgetragen, sowie als Vergleich das Ergebnis der Leave-one-out Cross-Validation
über dem Trainingsdatensatz. Erneut geht der Trainingsfehler unter den Wert der
LOO-CV, da in den Gitterpunkten Informationen der Trainingsmenge enthalten
sind. Der Testfehler bleibt allerdings recht groß. Zudem zeigt der plötzliche Abfall
bei ca. 50 Gitterpunkten, wie lokale Minima den Aufbau des Gitters erschweren, die
durch die “Greedy-Strategie” verursacht werden, die ausschließlich danach trachtet,
den Fehler für den nächsten Gitterpunkt zu minimieren.
Auch wenn das Problem lokaler Minima durch bessere Auswahl-Strategien gelöst
werden kann und für verrauschte Daten sich gute Ergebnisse zeigen, bleibt dennoch
das Ergebnis, dass im Falle von Daten mit wenig oder keinem Rauschen die Approximation
durch ein Gitter eine schlechtere Modellierung ergibt. Die Vermeidung von
Overfitting kann bereits durch den herkömmlichen Ansatz über die LOO-CV geschehen;
die Approximation durch Gitterpunkte bietet hier keine wesentlichen Vorteile.
Auch der Gewinn an Rechenzeit durch weniger Datenpunkte und weniger nächsten
Nachbarn verschwindet, wenn man die Zeit zur Optimierung des Gitters hinzuzieht.