Heuristiken

Eingabe-,
AktivierungsundAusgabefunktion.
7.3 Lernverfahren
Ein Neuron besitzt drei Teilfunktionen:
Erstens werden die eingehenden Reize in der Eingabe- bzw. Propagierungsfunktion
verarbeitet. In den meisten Fällen werden die gewichteten eingehenden Reize
aufsummiert; es sind jedoch auch andere Propagierungsfunktionen möglich.
Dann wird aus dem so berechneten Eingabewert der Aktivierungszustand des
Neurons mit Hilfe der Aktivierungsfunktion berechnet. Aus der Aktivierung
wird über die Ausgabefunktion die Ausgabe des Neurons berechnet.
Lernverfahren Lernverfahren dienen zur Bestimmung der Gewichte auf den Verbindungen
des neuronalen Netzes. Während des Lernprozesses werden diese iterativ
adaptiert. Beim überwachten Lernen benötigt man Eingabevektoren mit
bekannten Ausgaben, die als Muster bezeichnet werden. Das am häufigsten
eingesetzte Verfahren des überwachten Lernens ist der Backpropagation-
Algorithmus.
Teilt man dem Netz während der Trainingsphase mit, ob seine Ausgabe richtig
oder falsch war, nicht jedoch die erwünschte Ausgabe, so wird dies als
bestärkendes Lernen bezeichnet.
Beim unüberwachten Lernen organisiert sich das neuronale Netz selbständig,
in dem beispielsweise statistische Eigenschaften der Eingabemuster extrahiert
werden um ähnliche Eingabemuster zu clustern (z.B. bei Self Organizing Maps).
Diese Lernverfahren bedienen sich verschiedener Lernalgorithmen, wie der Hebb-
Regel, der Delta-Regel oder der verallgeminerten Delta-Regel. Nähere Erläuterungen
zu diesen Lernalgorithmen finden Sie hier.
7.3.1 Nebenpfad: Aktivierungsfunktion
Aktivierungsfunktion Entscheidend für die Anwendung neuronaler Netze ist die Form der Aktivierungsfunktion.
Der Aktivierungszustand eines Neurons zum Zeitpunkt t+1 ist
durch die Aktivierungsfunktion f¡sub¿act¡/sub¿ in Abhängigkeit vom Aktivierungszustand
im Zeitpunkt t, von der Eingabe net¡sub¿j¡/sub¿(t) in ein Neuron j
zum Zeitpunkt t und von einem Neuron-spezifischen Schwellwert θj bestimmt:
aj(t + 1) = fact(aj(t) + netj(t), θj)
37