Adaptive Modellierung und Simulation - Adaptive Systemarchitektur ...

2-38 Black-Box-Modellierung
Art von Strategien empfiehlt sich auch bei sequentieller Approximation unbekannter
Daten, wobei mit fortlaufender Zeit auch die Schranken erniedrigt und somit
die Ansprüche erhöht werden können.
Ein überwachter Clusteralgorithmus zum Erzeugen und Anpassen von Glockenkurven
ist beispielsweise auch von (Lee und Kil ,1991) vorgestellt worden. Hier
werden solange neue Glockenfunktionen erzeugt, bis alle Eingabemuster innerhalb
eines sog. "effektiven Radius" fallen und somit durch eine Glockenfunktion
"abgedeckt" werden. Tritt keine Verkleinerung des Fehlers mehr ein ("Sättigung")
und ist der Fehler noch zu hoch, so werden die Weiten σ der Glockenfunktionen
verkleinert und Training und Erzeugung neuer Funktionen erneut durchgeführt,
bis der vorgegebene Maximalfehler unterschritten wird.
2.9.2 Anpassen der Parameter der zweiten Schicht
Die Approximation mit Radialen Basisfunktionen verbindet verschiedene Mechanismen
miteinander. In der ersten Schicht werden Muster aus dem Eingaberaum
auf Reaktionen von RBF-Neuronen abgebildet. Durch ihre Eigenschaften wird
trotz geringen Variationen die Eingabe auf gleiche Ausgabe abgebildet; dies bedeutet
eine Tolerierung von Abweichungen. Beispielsweise wird eine Linie im
zwei-dimensionalen Eingaberaum bei radialsymmetrischer RBF immer auf die
gleiche Ausgabeerregung abgebildet, egal in welchem Winkel sie durch den Eingaberaum
des RBF-Neurons verläuft, was große Vorteile, z.B. bei der Erkennung
von handgeschriebenen Buchstaben, bedeutet. Die erste Schicht lässt sich dabei
als deformationsinvariante Mustervorverarbeitung betrachten, die von der zweiten
Schicht, einem adaptiven Filter, weiterverwendet wird.
Für die Verbesserung der Gewichte wi dieser zweiten, linearen Schicht lässt
sich nun, wie für einen adaptiven, linearen Filter üblich, beispielsweise die
Backpropagation-Lernregel (2.70) verwenden, sich für lineare Neuronen zu
Δwij (2) (x) = –γ (yi (2) – Li) xj (2) (2.85)
verkürzt.
Eine andere Möglichkeit ist die Minimierung des TLSME aus Gl.(2.19). Hierbei
lernt ein Neuron mit einem Gradientenabstieg, d.h. einer negativen Hebb-Regel
(Anti-Hebb-Regel) bei normierten Gewichten, den Eigenvektor mit dem kleinsten
Eigenwert für das Minimum der Varianz. Für den stochastischen Fall ist dies
w ~ w%
(t + 1)
(t+1) = w(t) − γ1xy und w(t+1) =
w%
(t + 1)
(2.86)
wobei mit x := (x1,..,xn,L) und w := (w1,..,wn,wn+1) für die Neuronenausgabe y =
S(x) := g(x) = x T w – w0 geschrieben wird. Die konstante Nullpunktsverschiebung
w0 lässt sich ebenfalls als Mittelwert lernen
w0(t+1) = w0(t) + γ2(x T w - w0(t)) (2.87)