Heuristiken

7.5 Hopfield-Netz
Hopfield-Netz Das Hopfield-Netz wurde 1982 von J.J. HOPFIELD [] vorgestellt. Es handelt
sich hierbei um ein rückgekoppeltes autoassoziatives Netzwerk, d.h. bei dem sich
der Zustand eines Neurons auf die Eingänge aller übrigen Neuronen auswirkt
bzw. das Eingangsmuster eines Neurons von den Zuständen aller übrigen Neuronen
gebildet wird.
Das Hopfield-Netzwerk ist also ein einschichtiges, vollständig verbundenes
und symmetrisches Netzwerk. Der Eingabevektor entspricht der Anfangsaktivität
des Netzes, der Ausgabevektor der Aktivität des Netzes im stabilen
Zustand. Als Aktivierungsfunktion kann eine binäre Schwellwertfunktion
eingesetzt werden.
MustererkennungDie Hauptanwendung von Hopfield-Netzen liegt in der Mustererkennung.
Wird beispielsweise ein zweifarbiges Bild vorgegeben, so kann jeder Farbpunkt
durch eine 0 oder eine 1 kodiert werden. Werden dem Hopfield-Netz mehrere
Muster vorgegeben, die gespeichert werden soll, so gehört zu jedem Muster eine
Matrix welche die Gewichte w¡sub¿ij¡/sub¿ speichert.
Aus den Matrizen aller Muster wird eine Gesamtmatrix M berechnet. Bei wenigen
Mustern speichert die Matrix M alle Muster. Wird die Anzahl der Muster
jedoch über einen bestimmten Grenzwert erhöht, speichert das Netz nicht mehr
länger die vorgegebenen Muster, da die Speicherkapazität nicht mehr ausreicht.
Die Wahrscheinlichkeit, dass ein Bild gespeichert wird, sinkt mit steigender Zahl
an Mustern. Die Kapazität kann nach Hopfield mit k = 0,15N abgeschätzt werden.
N steht für die Anzahl der Neuronen des Netzes.
Hopfield-Netze sind in der Lage, fehlerhafte und gestörte Mustern fehlerfreien
Vorgabemustern zuzuordnen und somit die Störung bzw. den Fehler auszuheilen.
Wenn jedoch einzelne Muster stark von den bekannten Mustern abweichen konvergiert
das Netz nicht gegen eine Lösung sondern pendelt zwischen verschiedenen
Mustern hin und her. Korrelierende Muster können nur schlecht gespeichert
werden. Auch ist es möglich, dass ein Netz gegen einen Zustand konvergiert, der
keinem der vorgegebenen Muster entspricht.
43