Diplomarbeit von Michael Schindler

36 1. Grundlagen
1.2.4 Hebb’sches Lernen
Durch die Verwendung von Aktivität und synaptischer Stärke legt man ein Modell
zugrunde, das aus zwei Größen mit unterschiedlichen Zeitskalen besteht. Beim Lernen
wird durch die schnell veränderlichen Aktivitätsmuster eine langsame Veränderung der
synaptischen Gewichte hervorgerufen. Dieser Vorgang wurde zuerst von Hebb (1949,
S. 62) postuliert:
✮✮When an axon of cell A is near enough to excite a cell B and repeatedly or
persistently takes part in firing it, some growth process or metabolic change
takes place in one or both cells such that A’s efficiency, as one of the cells firing
B, is increased.✭✭
Diese Feststellung, auch als Hebb’sche Lernregel bezeichnet, legt die Art der Verstärkung
und die beteiligten Nervenzellen nicht fest. Es sind verschiedene Szenarien denkbar,
die zu einer Verstärkung der synaptischen Verbindung zweier Zellen führen (Sejnowski
& Tesauro, 1989). Ein häufiger Ansatz ist jedoch die Verwendung des Korrelationsproduktes
aus prä- und postsynaptischer Aktivität, im Falle des ANN in Abb. 14
also des Produktes arhq, als Wachstumsterm für die Verbindungsstärke Srq. Eine solche
Lernregel hat dann die Form
Srq(t+1) = Srq(t) + εar(t)hq(t). (1-67)
Die Bedingung der wiederholten oder ständigen Aktivierung wurde schon in der Einleitung
als Mittelungsprozess hervorgehoben. Die Lernregel (1-67) führt jedoch zu unbeschränktem
Wachstum, da nur positive Terme addiert werden. Zieht man ar(t)Srq(t)
als Beschränkungsterm ab, so bekommt man die kompetitive Form der Hebb’schen
Lernregel,
Srq(t+1) = Srq(t) + εar(t) � hq(t) − Srq(t) � . (1-68)
Bei ihrer Anwendung bleibt die Norm von Sr erhalten, denn mit der Normierung von
h aus (1-62) folgt sofort auch
N�
Srq(t) = 1 =⇒
q=1
Abbildung 17: Schrittweite von vier Neuronen
im Merkmalsraum, entsprechend der kompetitiven
Hebb’schen Lernregel (1-70). Die Zentren
rutschen in die Richtung des Reizes x,
aber nur einen gewissen Anteil εar < 1 der
Gesamtstrecke.
N�
Srq(t+1) = 1 ∀r. (1-69)
q=1
c3
c1
x
c4
c2
M