Neuronale Netze - D. Kriesel

Ist wi,j positiv, versucht es die beiden Neurone zur Gleichheit zu zwingen, je größer
wi,j, desto stärker ist der Zwang. Wenn das Neuron i den Zustand 1 hat, das
Neuron j aber den Zustand −1, vermittelt ein hohes positives Gewicht den beiden
Neuronen, dass es energetisch günstiger ist, wenn sie gleich sind.
Ist wi,j negativ, verhält es sich analog, nur werden hier i und j zur Unterschiedlichkeit
gedrängt. Ein Neuron i mit Zustand −1 würde versuchen, ein Neuron j in den
Zustand 1 zu drängen.
Null-Gewichte sorgen dafür, dass sich die beiden beteiligten Neurone nicht beeinflussen.
Die Gesamtheit der Gewichte beschreibt also offensichtlich den Weg zum nächsten
Minimum der Energiefunktion vom aktuellen Netzzustand aus – wir wollen nun untersuchen,
auf welche Weise die Neurone diesen Weg einschlagen.
8.2.3 Ein Neuron wechselt den Zustand anhand des Einflusses der
anderen Neurone
Die Funktionsweise des einmal trainierten und mit einem Anfangszustand initialisierten
Netzes liegt darin, die Zustände xk der einzelnen Neurone k nach dem Schema
⎛
xk(t) = fact ⎝
⎞
wj,k · xj(t − 1) ⎠ (8.1)
j∈K
mit jedem Zeitschritt zu ändern, wobei die Funktion fact in aller Regel die binäre
Schwellenwert-Funktion (Abb. 8.2 auf der rechten Seite) mit Schwellenwert 0 ist. Umgangssprachlich:
Ein Neuron k berechnet die Summe der wj,k · xj(t − 1), die angibt,
wie stark und in welche Richtung das Neuron k von den anderen Neuronen j gedrängt
wird. Der neue Zustand des Netzes (Zeitpunkt t) ergibt sich also aus dem Netzzustand
zum vorherigen Zeitpunkt t − 1. Die Summe ergibt dann die Gesamtrichtung, in die
das Neuron k gedrängt wird. Je nach Vorzeichen der Summe nimmt das Neuron den
Zustand 1 oder −1 an.
Ein weiterer Unterschied der Hopfieldnetze zu anderen Netztopologien, welche wir
bereits kennengelernt haben, ist das asynchrone Update: Es wird jedes mal ein Neuron k
zufällig gewählt, welches dann die Aktivierung neu errechnet. Die neuen Aktivierungen
der jeweils vorher geänderten Neurone nehmen also direkt Einfluss, ein Zeitschritt
bezeichnet also die Änderung eines einzigen Neurons.
Ungeachtet der hier beschriebenen zufälligen Wahl des Neurons findet die Implementierung
eines Hopfieldnetzes oft einfacher statt: die Neurone werden einfach nacheinander