Diplomarbeit von Michael Schindler

ar(t+1) = Θ ��
q
E.2 Lernende Neuronale Netze 3
� �
� 1 falls q wrqaq(t) − sr :=
wrqaq(t) > sr,
0 sonst.
Der Schwellenwert sr ist mithin einer der zusätzlich zu den wqr zu spezifizierenden
Parameter aus der Menge θ.
Feed-forward-Netzwerke
Alle in der vorliegenden Arbeit verwendeten Netzwerke sind feed-forward-Schichtennetze.
Allgemein sind sie dadurch definiert, dass sich ihre Knoten so in Untermengen
einteilen lassen, dass die Aktivitätsberechnung in einer Menge lediglich die Aktivitäten
einer weiteren Menge benötigt. Die Mengen sind auf diese Weise hintereinandergeschaltet.
Abbildung 2 zeigt den Graphen eines einfachen feed-forward Netzes aus zwei
Schichten, welches nach Rosenblatt (1958) als Perzeptron bezeichnet wird. Die Aktivitäten
a der unteren Schicht hängen nur von denen der oberen Schicht, x, ab. Die
Aktivitäten x errechnen sich aus Eingaben, die nicht als Teil des Netzwerkes angesehen
werden. Sie sind Reize, die dem Netz von außen präsentiert werden.
Eingabeschicht
aus N Knoten
Ausgabeschicht
aus M Knoten
x1 x2 x3 x4 x5
w11
w31
w21
a1 a2 a3
w35
Aktivität x ∈ R N
Aktivität a ∈ R M
(3)
Übertragungsgewichte
W ∈ R N×M
Abbildung 2: Das Perzeptron: ein feed-forward-Netz aus zwei Knotenschichten
ohne laterale Verschaltung. Es gibt nur Kanten von allen oberen zu allen unteren
Knoten. Eingezeichnet sind auch die Aktivitäten x und a der Knoten sowie die
Übertragungsgewichte W der Kanten.
E.2 Lernende Neuronale Netze
Das Netzwerk aus Abb. 1 berechnet seine Aktivitäten immer und immer wieder, bis
ein stationäres Aktivitätsmuster oder ein Grenzzyklus gefunden wurde. Feed-forward
Netze propagieren jeden Reiz auf der Eingabeschicht einmal durch alle nachgeschalteten
Schichten. Sie beide und jedes andere Neuronale Netz, das der Definition (2)
entspricht, sind darauf angewiesen, die richtigen Parameter θ zu besitzen, die dem
Problem angepasst sind, zu dessen Lösung das Netz eingesetzt werden soll. Es stellt
sich nun die Frage, wie die Verschaltungen und die Parameter derart bestimmt werden
können, dass ein Netz eine gegebene Aufgabe der Informationsverarbeitung löst.