Heuristiken

7.2 Reizweiterleitung
ReizweiterleitungDie Neuronen erhalten über die gerichteten Verbindungen Reize (Eingaben).
Diese Eingaben werden verarbeitet und erzeugen eine Ausgabe, die über Verbindungen
zu anderen Neuronen weitergeleitet wird. Die Reihenfolge, in der die
Neuronen aktiviert werden, wird festgelegt (z.B. durch eine topologische Sortierung
im Graphen).
Diese Vorgänge können parallel ausgeführt werden, was die Leistungsfähigkeit
des Gesamtsystems erheblich steigert. Die Anpassung eines neuronalen Netzes
erfolgt über die Verbindungen, indem die Reizweiterleitung an andere Neuronen
unterschiedlich stark erfolgt und variiert werden kann. Die unterschiedlich
starke Weiterleitung der Reize wird über die Bewertung der Verbindungen mit
Gewichten erreicht.
RückkopplungRückkopplung
Feedback-
Netze
Feedforward-
Netze
In Bezug auf die Informationsverarbeitung werden Netze mit und ohne Rückkopplung
( Feedback-Netze und Feedforward-Netze) unterschieden. Die
Abbildung zeigt, in welchen Neuronalen Netzen Feedback- und Feedforward-
Verfahren eingesetzt werden.
7.2.1 Nebenpfad: Feedback-Netze
Feedback-Netze erlauben Rückkopplungsmöglichkeiten, d.h. bei einem solchen
Netz kann eine Ausgabe wieder als Eingabe benutzt werden, wodurch ein
Iterationsprozess in Gang gesetzt wird. Es werden so viele Iterationen durchlaufen
bis das Netz einen stabilen Zustand erreicht und sich die Gewichte nur noch
minimal ändern. Beispiele hierfür sind das Hopfield-Netz und die Boltzmann-
Maschine.
7.2.2 Nebenpfad: Feedforward-Netze
Feedforward-Netze sind rückkopplungsfrei, d.h. Neuronen einer Ebene werden
nur mit Neuronen einer höheren Ebene verknüpft. Werden eine Ebene oder
mehrere Ebenen übersprungen, so wird dies eine ” shortcut connection“ genannt
oder ein Feedforward-Netz zweiter oder höherer Ordnung.
Bei vollständig vernetzten Netzen wird jedes Neuron mit jedem anderen
Neuron verknüpft. Bei vollständigen Feedforward-Netzen wird ein Neuron mit
35