Download (1800Kb) - oops/ - Oldenburger Online-Publikations-Server

Abbildung 3.14: Visualisierung der Gewichtsmatrizen w i, j eines neuronalen Netzes. Der Grauwert
eines Pixels steht für den Wert eines Gewichts, i und j sind durch die Position in der Graphik gegeben.
Die rechten Quadrate stehen für die Verbindungen vom aktuellen Bild zum vorherzusagenden
Bild, die linken Quadrate stehen für die Verbindungen vom vergangenen Bild zum vorherzusagenden
Bild. oben: Vorhersagezeitraum 30 Minuten, N = 60, unten: Vorhersagezeitraum 2 Stunden,
N = 15.
Die Darstellung der Gewichte läßt für die 30 Minuten Vorhersage erwarten, daß die Vorhersagefehler
für die integrierte Testmenge nur sehr geringfügig ansteigen, wenn die Moden der Ausgabeschicht
jeweils nur mit den entsprechenden Moden der Eingabeschicht verbunden sind. Andererseits
verringert sich dadurch die Anzahl der Verbindungen von 2N 2 auf 2N, und es ist eine deutliche
Reduktion des Übertrainings zu erwarten. Dies wird durch Abb. 3.15 bestätigt, wo die Vorhersagefehler
für die beiden Modelle, vollständige Verbindung der Schichten und Verbindung einzelner
Neuronen, aufgetragen sind. Dabei werden die Vorhersagefehler jeweils für die integrierte und die
unabhängige Testmenge betrachtet.
Es wird deutlich, daß für das Modell mit der reduzierten Anzahl an Verbindungen kaum noch
Übertraining auftritt, die Kurven für die integrierte und die unabhängige Testmenge liegen sehr
nahe zusammen. Dadurch ist für die unabhängige Testmenge der Fehler gegenüber vollständiger
Verbindung der Schichten reduziert. Entsprechend des relativ geringen Unterschiedes der Fehler
für integrierte und unabhängige Testmenge, auch für das Modell mit vollständiger Verbindung der
Schichten (ε 1 (te ∈ tr)=18.3,ε 1 (te /∈ tr)=19.5), ist die Verbesserung nicht sehr groß (ε 2 (te /∈
tr)=19.0).
Die Anzahl der Verbindungen kann für den Vorhersagezeitraum 30 Minuten für Netze mit zwei
44