Optimierte lokale Modelle in der nichtlinearen Zeitreihenanalyse

Kapitel 3. Lokal polynomiale Modellierung Seite 59
1
0.5
0
−0.5
−1
−1.5
MSE
0.22
0.2
0.18
0.16
0.14
0.12
0.1
−1.5 −1 −0.5 0 0.5 1 1.5
(a) Trainingsmenge mit den ersten 30 Gitterpunkten.
50 100 150
Zahl der Gitterpunkte
(b) Trainingsfehler (durchgezogene Linie),
Testfehler (gestrichelte Linie) und Fehler der
LOO-CV (gepunktete Linie).
Abbildung 3.9: Approximation des verrauschten Hénon-Attraktors (SNR=20dB)
durch ein Gitter (a) mit Trainings- und Testfehler (b).
In Abbildung 3.9(b) ist Trainingsfehler (durchgezogene Kurve) und Testfehler (gestrichelte
Kurve) gezeigt. Als Vergleich dient der Fehler der Leave-one-out Cross-
Validation der Trainingsmenge (gepunktete Linie). Test- und Trainingsfehler sind in
Abhängigkeit von der Anzahl der Gitterpunkte aufgetragen.
Wie man sieht, reichen bereits die 30 gezeigten Gitterpunkte, um den verrauschten
Hénon-Attraktor gut zu modellieren. Dass der Trainingsfehler immer deutlich unter
dem Testfehler bleibt rührt daher, dass in den Gitterpunkten durch die gespeicherten
Koeffizientenvektoren Informationen aus den Trainingspunkten vorhanden sind.
Deshalb ist für die Bewertung der Vorhersagequalität des Gitters zwingend eine
unabhängige Testmenge nötig, die nicht für die Berechnung der Gitterwerte verwendet
wurde. Ein Overfitting ist allerdings kaum zu beobachten, im Gegenteil: auch
der Trainingsfehler steigt zum Ende hin, da hier Gitterpunkte eingebunden werden,
die sich aus den Trainingsdaten nur schlecht vorhersagen ließen und die sich daher
negativ auf die Modellierung auswirken.
Zumindest im verrauschten Fall liefert die Approximation durch das Gitter somit
gute Ergebnisse. Allerdings muss gesagt werden, dass die Berechnung des Gitteraufbaus
recht langwierig ist und eine Leave-one-out Cross-Validation nicht durchgeführt
werden kann, d.h. in der Praxis eine Teilung des vorhandenen Datensatzes notwendig
ist. Zudem liefert die Gitterapproximation im unverrauschten Fall schlechte Ergebnisse.
In Abbildung 3.10(a) ist ein Gitter mit 70 Punkten über einem unverrauschten
Hénon-Attraktor zu sehen, in Abbildung 3.10(b) ist wieder Test- und Trainingsfeh-