Diplomarbeit von Michael Schindler

E.3 Wie lernen Neuronale Netze in veränderlichen Umwelten? 11
werkparametern. An diesen Aufspaltungen lässt sich das Problem der on-line Mittelung
sehr gut demonstrieren.
(x(t))sel
w(t)
0 T
Abbildung 7: Der Lernprozess aus Abbildung 6b, angewandt auf abgekürzte Datenfolgen.
Gezeigt sind die selektierten Daten (x(t))sel, die gelernt werden, und
der Parameter w(t) als Funktion der Zeit.
Datenpunkte ignorieren
Die Idee, die zur Lösung des on-line Problems führt, ist denkbar einfach. In Abb. 6b
wird deutlich, dass das Problem der on-line Mittelung auf – im Vergleich zur Dauer
des Gedächtnisses des ANN – zu lange Verweildauern des Systems in einem Zustand
zurückzuführen ist. Die gelernten Daten sind eine Weile lang quasistationär. Man
kann das verhindern, indem man den Lernprozess abbricht, sobald die Daten redundant
werden. Dazu ist notwendig, einen Filter für irrelevante Reizdaten einzuführen.
Dieser kann aber nicht starr sein, denn ob Daten redundant sind, also für den Lernprozess
irrelevant, kann nur am jeweiligen Zustand des Lerners selbst festgestellt werden.
Der Filter muss sich also selbst zusammen mit den Netzwerkparametern adaptiv an
die präsentierten Daten anpassen. Wie ich in meiner Diplomarbeit zeigen möchte,
kann ein solches Modell für einen selbstreferentiellen Selektionsprozess aus einem einfachen
Verhaltensmuster der Meeresschnecke Aplysia californica 1 abgeleitet werden.
Dieses einfache Lebewesen ignoriert nach einer Weile Reizungen am Kiemen, wenn sie
häufig wiederholt werden (Habituation). Wenn sich die Reizumgebung jedoch schnell
verändert, beispielsweise durch einen zusätzlichen Schlag auf den Kopf oder Schwanz
der Aplysia, wird die Habituation sofort wieder aufgehoben (Sensitivierung).
Wenn wir dieses Verhaltensmuster auf das einfache Beispiel in Abb. 6b übertragen, so
erhalten wir, ähnlich wie in Abbildung 7, eine Abkürzung der gelernten Datensequenzen.
Durch ein noch zu spezifizierendes Kriterium soll der Lernprozess unterbrochen
werden, wenn das Verhalten der Datensequenz stagniert. Falls es gelingt, ein solches
Kriterium anzugeben, so erwarten wir das in Abb. 7 skizzierte Ergebnis. Wie
gewünscht, entfernt sich der Parameter w auch bei kurzer Gedächtnisdauer nicht mehr
weit von seinem Optimalwert. Wie ein solches Abbruchkriterium formuliert werden
1 Das Nervensystem der Aplysia ist eines der am besten untersuchten im Tierreich. Für die weitgehende
Aufklärung seiner Bestandteile und Funktionsweise wurde im Jahr 2000 der Nobelpreis an
Eric Kandel verliehen.