Diplomarbeit von Michael Schindler

Kapitel 4
Neuigkeitsorientiertes Lernen
In Kapitel 2 wurde die Verschiebung des Phasenübergangs durch die dynamische Kopplung
von Codebuch und System als das on-line Lernproblem des univar-Algorithmus
entdeckt. Dort ergab sich als natürliches Maß für die effektive Beweglichkeit der Codebuchzentren
die inversen Längen des Gedächtniskernes, also im wesentlichen der
Lernparameter ε, moduliert durch die räumliche Aufteilung des Merkmalsraumes, die
durch ar(x) vorgenommen wird. In Zusammenhang mit Abb. 26 konnte gezeigt werden,
dass räumliche Kompetition die effektive Lerndynamik so stark verlangsamen
kann, dass die Dynamikkopplung aufgehoben wird und ein Phasenübergang geschieht.
Phasenübergang und Entkopplung bedingen einander dabei gegenseitig.
Im letzten Kapitel wurde daraufhin anhand des Gewöhnungsverhaltens von Aplysia
eine weitere Möglichkeit zur Modulation der Lernrate entdeckt, und zwar der Faktor
f in der Lernregel (3-1). Dieser ist nicht primär räumlicher, sondern auch zeitlicher
Natur, da er von Aplysia als Filter für zeitlich redundante Daten verwendet wird. Die
neurophysiologischen Untersuchungen an Aplysia wurden nicht so weit betrieben, dass
sich bereits eine Regel erkennen ließe, wie f aus dem aktuellen Reiz x und dem Netzwerkzustand
θ, der das effektive Gedächtnis an die vergangenen Reizmuster ist, zu
berechnen sei. Da der univar-Algorithmus kein physiologienahes Modell ist, wie aus
Abschnitt 1.2 ersichtlich wird, wäre dieser Ansatz hier auch nicht angemessen. Vielmehr
soll nur das Prinzip der Datenfilterung von Aplysia übernommen werden. Dazu
wurde bemerkt, dass f, welches ja die Netzwerkparameter θ verändern soll, auf jeden
Fall auch von θ abhängen muss, was die Filterung von Datenpunkten selbstreferentiell
werden lässt.
An dieser Stelle soll nun ein konkreter Algorithmus vorgeschlagen werden, der durch
die neue Lernregel (3-1) und eine einfache selbstreferentielle Regel für f(x, θ) in der
Lage ist, die Lern- und die Systemdynamik so weit voneinander zu trennen, dass ihre
Kopplung zwar nicht immer vollständig unterbunden, aber auf jeden Fall abgeschwächt
wird. Wegen dieser Eigenschaft werde ich ihn ANTS (Algorithm for Neural Timescale
Separation) nennen. Er ist eine Modifikation des univar-Algorithmus und als solcher
auch eine Art Dichteschätzer. Welche Verteilungsdichte er approximiert, und welche
Änderungen an seinem dynamischen Verhalten sich daraus ergeben, wird auf den folgenden
Seiten dargestellt.