Identifikation nichtlinearer mechatronischer Systeme mit ...

20 2 Statische und dynamische Neuronale Netze
Setzt man die mathematischen Beschreibungen der statischen Neuronalen Netze
(2.4), (2.6) oder (2.8) in Gleichung (2.10) ein, so erhält man
E( ˆ Θ) = 1
y −
2
ˆ Θ T
2 A(u)
(2.16)
Differenziert man nun Gleichung (2.16) unter Beachtung der Kettenregel nach dem
Gewichtsvektor ˆ Θ, so erhält man die Suchrichtung
∂E( ˆ Θ)
∂ ˆ Θ
= − y − ˆ Θ T
A(u) · A(u) = −e( ˆ Θ) · A(u) (2.17)
Die Berechnung der Suchrichtung für das MLP-Netz erfolgt analog zu der oben
beschriebenen Vorgehensweise durch konsequentes Anwenden der Differentiationsregeln
auf Gleichung (2.10). Man erhält somit eine Verallgemeinerung des Gradientenverfahrens
über mehrere Schichten hinweg. Dies wird in der Literatur auch als
Backpropagation-Lernalgorithmus beschrieben. Auf eine genauere Herleitung soll
an dieser Stelle verzichtet werden. Sie kann in der Literatur (z. B. [Schmidt, 1997;
Zell, 1994]) nachgelesen werden.
2.4 Dynamische Neuronale Netze
Im Rahmen dieses Kapitels werden drei klassische partiell rekurrente Neuronale
Netze untersucht.
• Time-Delay-Neural-Network (TDNN)
• Jordan-Network
• Elman-Network
Diese Arbeit beschränkt sich auf die partiell rekurrenten Netze, da bereits in [Tsoi
und Back, 1994] beschrieben ist, dass vollrekurrente Netze hinsichtlich ihrer Architektur
zu komplex für praktische Anwendungen sind.
2.4.1 Time-Delay-Neural-Network
Als erstes dynamisches Neuronales Netz wird das Time-Delay-Neural-Network (TD-
NN) betrachtet.
In Abbildung 2.11 ist die Struktur eines TDNN als Nonlinear-Output-Error (NOE)-
Modell dargestellt. Diese Struktur wird in der Literatur auch als Parallel-Modell