Lernverfahren von Künstlichen Neuronalen Netzwerken

hinausgeschossen.
In einer Pseudo-Programmiersprache könnte der Algorithmus etwa so aussehen. t j ist dabei der erwartete Output:
while Menge der Eingabemuster nicht leer do
lege neues Eingabemuster p an und berechne den Output o j
if o j = t j then mache nichts
else if o j = 0 then { Ausgabe ist 0, sollte 1 sein, also w ij erhöhen}
for each i ≤ n do w ij := w ij + η · o i endfor
endif
if o j = 1 then { Ausgabe ist 1, solle 0 sein, also w ij verringern}
for each i ≤ n do w ij := w ij − η · o i endfor
endif
endif
endwhile
3.1.5 Lernverfahren bei Randerkennung
Zur Veranschaulichung des Lernalgorithmus wird hier einem einstufigen Perzeptron
mit drei Eingabeneuronen die logische AND-Funktion beigebracht. Für
die Gewichte und den Schwellenwert des Ausgabeneurons werden am Anfang
zufällige Werte eingesetzt. Als Schwellenwert hat sich 1.5 ergeben, diese Zahl
wird in der Lernphase nicht mehr geändert. Die Lernrate ist mit 0.7 relativ
hoch.
Wie in Abb. 10 ersichtlich, hat das Netz die Funktion nach vier Schritten gelernt.
Dem Netz wurden dazu verschiedene Eingabemuster und die dazugehörige
Ausgabe t 4 präsentiert. Beim ersten Muster, ist das Ausgabeneuron aktiv, sollte
es aber nicht sein. Darum werden die Gewichte w 24 und w 34 um die Lernrate
erniedrigt, das Gewicht w 14 bleibt gleich, weil das Neuron 1 nicht aktiviert ist.
Dies geht so weiter bis nach dem vierten Schritt die Gewichte richtig eingestellt
sind und somit keine weiteren Gewichtsänderungen mehr gemacht werden, weil
dann o 4 und t 4 bei jedem beliebigen Eingabemuster übereinstimmen.
Man merkt, wenn man den Algorithmus an einem konkreten Beispiel durchrechnet,
dass er der Hebbschen Lernregel sehr ähnlich ist. Es mussten nur einige
Abb. 10: Ein Perzeptron lernt die
Anpassungen gemacht werden, da es sich um überwachtes Lernen handelt. Im
AND-Funktion
Vergleich mit der Hebbschen Lernregel erkennt man bei diesem Lernalgorithmus folgende Unterschiede:
1. Es erfolgt nur eine Gewichtsänderung, wenn das Netz einen Fehler gemacht hat. Dies ist auch sinnvoll ist
aber nur möglich, weil es sich um überwachtes Lernen handelt.
2. Ist das Ausgabeneuron nicht aktiv, sollte aber aktiv sein, werden die Gewichte zwischen den aktiven Eingabeneuronen
und dem nicht aktiven Ausgabeneuron geändert. Das wäre bei strikter Anwendung der Hebbschen
Lernregel nicht möglich.
3. Der Wert der Gewichte kann auch kleiner werden, bei der Hebbschen Lernregel gibt es keinen Fall bei dem
eine Verbindung an Stärke abnimmt.
14