Download (1800Kb) - oops/ - Oldenburger Online-Publikations-Server

mean rmse
23
22.5
22
21.5
21
20.5
20
Gleichbleibende Reihenfolge der Trainingsmuster
η=0.1
η=0.05
η=0.02
η=0.01
mean rmse
23
22.5
22
21.5
21
20.5
20
Wechselnde Reihenfolge der Trainingsmuster
η=0.1
η=0.05
η=0.02
η=0.01
19.5
19.5
19
19
18.5
5000 10000 15000 20000
Anzahl der Trainingsschritte
18.5
1000 2000 3000 4000 5000 6000
Anzahl der Trainingsschritte
Abbildung 3.10: Mittlerer Vorhersagefehler in Abhängigkeit von der Anzahl der Trainingsschritte
für verschiedene Lernschrittweiten am Beispiel von Klasse 3, Vorhersagezeitraum 30 Minuten,
N=60 und vollständiger Verbindung der Schichten. Im linken Bild wurden die Trainingsbeispiele
in gleichbleibender Reihenfolge präsentiert, im rechten Bild wechselte die Reihenfolge bei jedem
Trainingsschritt.
nistisch, es gibt einen Anteil in der Entwicklung der Bewölkungssituation, der nicht berechenbar
ist. Die Ein- und Ausgabepaare sind daher gegenüber der zugrunde liegenden deterministischen
Dynamik verrauscht. Ist die Anzahl der Trainingsbeispiele im Vergleich zu der Anzahl der festzulegenden
Verbindungen zu klein, wird das neuronale Netz durch das Training auch an das Rauschen
angepaßt, was als Übertraining bezeichnet wird. Das neuronale Netz kann dann weniger gut
generalisieren, neue Beispiele können weniger gut vorhergesagt werden.
Zur Vereinfachung der Ausdrucksweise wird im Weiteren eine zur Trainingsmenge disjunkte Testmenge
als unabhängige Testmenge bezeichnet. Ist die Testmenge ein Teil der Trainingsmenge,
wird sie integrierte Testmenge genannt.
Der Einfluß der Länge der Trainingsmenge wurde am Beispiel des Vorhersagezeitraums 30 Minuten
für Netze mit 2 Schichten und vollständiger Verbindung der Schichten untereinander untersucht.
Die Lernschrittweite wurde auf η = 0.2 gesetzt, und es wurden jeweils 500 Trainingsschritte
durchgeführt.
In Abb. 3.11 sind die Vorhersagefehler auf der Testmenge für zwei verschiedene Anzahlen von
Moden zur Repräsentation der Bilder, N = 20 und N = 60, in Abhängigkeit von der Anzahl der
Trainingsbeispiele dargestellt. Dabei wird der Fehler für unabhängige Testmengen zu integrierten
Testmengen in Bezug gesetzt. Wie zu erwarten, sinkt der Fehler für unabhängige Testmengen
mit der Anzahl der Trainingsbeispiele. Der Vergleich der beiden Bilder für N = 20 und N = 60
zeigt, daß bei einer geringeren Anzahl von Moden weniger Trainingsbeispiele notwendig sind, um
Übertraining zu vermeiden. Dies läßt sich darauf zurückführen, daß zum einen bei Verwendung
von weniger Moden der Rauschanteil geringer ist. Zum anderen steigt die Anzahl der Verbindungen
M mit der Anzahl der Moden, die verwendet werden (für ein zweischichtiges Netz: M = 2N 2 )
und verstärkt so die Überanpassung an die Trainingsmenge zusätzlich.
39