Diplomarbeit von Michael Schindler

(a)
(b)
E.3 Wie lernen Neuronale Netze in veränderlichen Umwelten? 9
w(t)
0 T
x(t)
0
w
T
′ w
(t)
′′ (t)
Abbildung 6: Gleitende Mittelwerte nach der Lernregel (15), aufgetragen als Funktion der Zeit. In
(a) werden randomisierte Daten gemittelt. Man sieht deutlich die Abweichungen vom globalen Mittelwert
〈x〉 X (gepunktet eingezeichnet), der Parameter w entfernt sich jedoch nie weit von ihm. In (b)
sind zwei gleitende Mittelwerte einer on-line Datensequenz eingezeichnet, die sich in der Wahl von ε
unterscheiden. Für sehr kleines ε sieht man eine einigermaßen glatte Kurve w ′ (t), die sich wie in (a)
nicht weit von 〈x〉 X entfernt. Dazu ist jedoch notwendig, dass ε wesentlich kleiner als in (a) gewählt
wird. Für das gleiche ε wie in (a) ergibt sich im on-line-Fall die stark gezackte Kurve w ′′ (t), die sich
immer wieder weit vom globalen Mittelwert 〈x〉 X entfernt.
Verweildauern in seinen Zuständen. Das ANN vergisst vergangene Zustände erst dann,
wenn neue Systemzustände so lange verweilen, dass sein Gedächtnis die alten nicht
mehr behalten kann. Hier wird also die Dauer des Gedächtnisses mit der Zeitskala des
Systems verglichen. Der Effekt des Lernens auf Kosten von vorher Gelerntem tritt also
auf, wenn Lern- und Systemzeitskala von derselben Größenordnung sind. Ich möchte
ihn als Kopplung der Lerndynamik an die Systemdynamik bezeichnen.
Die Trajektorie w ′ in Abb. 6b hat einen viel kleineren Lernparameter ε (hier 1/20 des
ursprünglichen Wertes). Dadurch ist ihr Mittelungsfenster länger und kann die verschiedenen
Systemzustände noch gut mitteln. Die Kopplung der Lerndynamik an die
Systemdynamik kann hier nicht stattfinden, da die Lernzeitskala wesentlich größer als
die des Systems ist. Die Trajektorie w ′ weist deshalb wieder ähnlich kleine Abweichungen
vom globalen Mittelwert 〈x〉 X auf wie die des randomisierten Lernens.
Das Problem des on-line Lernens
Jedes Lebewesen befindet sich in einer physikalischen Umwelt, in welcher die Zeit stetig
voranschreitet. Alle Beobachtungen, die es von seiner Umgebung macht, müssen notwendigerweise
sequentiell sein. Die Gegenstände der Beobachtung weisen eine gewisse
zeitliche Konstanz auf. Ein einzelner Ton in einem Klavierkonzert von Bach hat eine
x(t)