Diplomarbeit von Michael Schindler

4.2 Das Verhalten des ANTS
4.2 Das Verhalten des ANTS 81
Die Einführung der modifizierten Lernregel (4-8) und der Aufmerksamkeitsschwelle in
Schritt (TS-3) hat nicht nur zeitliche, sondern auch räumliche Auswirkungen. Zunächst
sollen ihre Auswirkungen auf die stationären Eigenschaften des ANTS beschrieben werden,
anschließend wird beschrieben, wie sie Lern- und Systemdynamik so entkoppelt,
dass die Hierarchie in den Phasenübergängen erhalten bleibt.
4.2.1 Stationäre Approximationseigenschaften
In Abschnitt 1.1 wurde erklärt, warum der univar-Algorithmus eine Approximation
der Verteilungsdichte p des präsentierten Datensatzes durchführt. Die Frage nach
der Approximationseigenschaft des ANTS ist wesentlich schwieriger zu beantworten.
Die Verteilungsdichte wird, da Datenpunkte nach der Regel (TS-3) ignoriert werden
können, ständig selbstreferentiell modifiziert. Deswegen wird nicht eine einfache Loglikelihood-Funktion
der ursprünglichen Form
�
p(x) ln A(x, θ) dx (4-10)
M
maximiert, sondern es wird p durch die Verteilungsdichte ˜p der tatsächlich gelernten
Datenpunkte ersetzt. Diese hängt selbst von den Parametern θ ab.
Abbildung 41 zeigt, dass die Codebuchzentren selbst im stationären Endzustand des
Lerners ständig hin- und hergezogen werden. Sie weisen dadurch unterschiedliches
Selektionsverhalten zu unterschiedlichen Zeitpunkten auf. Datenpunkte an der Stelle
x∈M können, je nach Zustand des Lerners, einmal gelernt und zu einem anderen Zeitpunkt
ignoriert werden. Beim Versuch, diejenige Menge Ω ⊂ M zu charakterisieren,
in der Datenpunkte gelernt werden, stellt man fest, dass die kleinen Bewegungen im
Codebuch diese ständig ” verschmieren.“ Man bekommt also nicht eine scharfe Menge
Ω, sondern für jeden Punkt x ∈ M eine Wahrscheinlichkeit ωA(x), dass dort gelernt
wird. Diese Wahrscheinlichkeiten kann man auch als Zuordnungsfunktion ωA der fuz-
(a)
At
c1
f(xt) = 0
c2
ǫA
(b)
At+1
c1
f(xt+1) = 1
c2
(c)
At+2
c1
f(xt+2) = 1
Abbildung 41: Skizze eines quasistationären Zustands im Lerner aus zwei Neuronen zu drei aufeinanderfolgenden
Zeitpunkten. In (a) wird ein Datenpunkt xt ignoriert, da die Aktivierung A(xt; θ(t))
größer als die Schwelle ǫA ist. Der darauffolgende Punkt (b) wird gelernt, die Zentren rutschen leicht
nach rechts. In (c) wird zufällig wieder der gleiche Punkt wie in (a) gezeigt, diesmal kann er jedoch
gelernt werden.
c2
ǫA