Diplomarbeit von Michael Schindler

E.3 Wie lernen Neuronale Netze in veränderlichen Umwelten? 7
E.3 Wie lernen Neuronale Netze in veränderlichen
Umwelten?
Einige der oben genannten Algorithmen gibt es sowohl in batch- als auch in sequentieller
Formulierung. Es stellt sich nun die Frage, ob beide Lernszenarien die gleichen
Konvergenzeigenschaften haben, und wenn ja, unter welchen Bedingungen. Die meisten
Algorithmen werden in ihrer batch-Version untersucht, da sich dann ihr Konvergenzverhalten
wesentlich leichter formulieren und beweisen lässt (siehe z.B. Benveniste et al.
1990; Ritter et al. 1992 und Heskes et al. 1993). Die so gefundenen Aussagen lassen
sich nur dann auf sequentielles Lernen übertragen, wenn die Trajektorie des stochastischen
Gradientenabstiegs eine leicht verrauschte Version der glatten Kurve ist. Für die
beiden Trajektorien in Abb. 4 würde das bedeuten, dass sich die sequentielle immer
in einer Umgebung der deterministischen Abstiegskurve befinden müsste. Dies kann
jedoch nicht immer garantiert werden. Ein prototypisches Beispiel, bei dem es nicht
der Fall ist, findet sich schon beim allereinfachsten ANN, das nun zur Erläuterung der
auftretenden Probleme diskutiert werden soll und das in Abbildung 5 skizziert ist.
x w a
Abbildung 5: Das einfachste zwei-Schichten-ANN. Der Eingabeknoten hat die
Aktivität x, der Ausgabeknoten a. Das Signal wird mit der Stärke w propagiert.
Das einfachste adaptive Neuronale Netzwerk
Das ANN aus Abb. 5 hat nur einen Eingabeknoten, eine Kante und einen Ausgabeknoten.
Es folge der Lernregel
Px : w(t+1) = w(t) + ε(xt − w(t)). (15)
Die Form der Verarbeitungsabbildung Aw ist an dieser Stelle unwichtig, da sie in die angenommene
Lernregel nicht eingeht. Man sieht sofort, dass der stochastisch stationäre
Zustand w ∗ der Lernregel (15) bei
〈x − w ∗ 〉 X = 0, oder w ∗ = 〈x〉 X (16)
erreicht ist. Der optimale Wert von w ist demnach der globale Mittelwert des Datensatzes
X. Dieses adaptive Neuronale Netz führt also eine Mittelwertsbildung durch.
Wie verhält sich die batch-Version des Algorithmus? Für sie gilt der Mittelwert von (15),
was sich zusammen mit (16) zu der Lernregel
Px : w(t+1) = w(t) + ε(w ∗ − w(t)) (17)
reduziert. Man erkennt sofort die exponentielle Konvergenz auf der Zeitskala 1/ε,
w(t) − w ∗ = � w(0) − w ∗� (1 − ε) t , und für kleine ε
≈ � w(0) − w ∗� exp(−εt).
(18)