Diplomarbeit von Michael Schindler

2 Einleitung
a3
a4
a1
a2
Abbildung 1: Das Standardmodell der Neuroinformatik, ein gerichteter Graph
aus Knoten und gerichteten Kanten. Jeder Knoten besitzt eine Aktivität a und
eventuell Parameter, die in die Neuberechnung der Aktivität nach Gleichung (1)
eingehen. Jede Kante besitzt eine Übertragungsstärke wqr, die ebenfalls in (1)
eingeht.
ten entsprechen den Nervenzellen, die Kanten den synaptischen Verbindungen. Jeder
Knoten r besitzt eine bestimmte Aktivität ar, die er über seine Kanten mit der Stärke
wqr an andere Knoten weitergibt. Auf diese Weise wird die zeitliche Folge der Aktivierungsmuster
berechnet.
Der Zustand eines Neuronalen Netzwerks aus N Knoten ist durch den Aktivitätsvektor
a = (a1, . . ., aN) T der Knoten zum aktuellen Zeitpunkt gegeben. Zum Modell gehört
außerdem eine Vorschrift A, die angibt, wie sich ein Zustand aus seinem Vorgänger
berechnen lässt,
w25
a6
w56
A�: R N → R N : a(t) ↦→ a(t+1), (1)
wobei t die diskretisierte Zeitvariable bezeichnet. Die Update-Regel (1) hängt von der
Wahl der Netzwerkparameter θ ab, was durch den entsprechenden Index angedeutet
ist. Zu den Parametern θ der Abbildung A�gehören natürlich die Verbindungsstärken
wrq der Kanten, aber, je nach Modellbildung, noch weitere.
Ein Neuronales Netz ist also ein mathematisches Modell aus drei Elementen, dem zugrundeliegenden
gerichteten Graphen, den Aktivitäten a und der parameterabhängigen
Abbildung A�,
McCulloch & Pitts-Netzwerke
NN := � G,a, A�� . (2)
Das erste Modell für ein solches Netzwerk war dasjenige von McCulloch & Pitts (1943).
Ein Knoten r ist dabei ein logisches Schwellwertelement mit zwei möglichen Zuständen
(Ruhe- oder Aktivierungszustand, ar =0 oder 1). Es hat eine Reihe von Eingangsleitungen
(afferente Verbindungen) und eine Ausgangsleitung (efferentes Axon), die verschiedene
nachgeschaltete Knoten kontaktieren kann. In jedem Rechenschritt ergibt
sich sein Zustand aus dem Vergleich der anliegenden Aktivitäten mit einem Schwellenwert
sr,
a5