Diplomarbeit von Michael Schindler

−1.4
−1.5
〈f lnA〉
σopt/σS
(a)
0.35 0.3 0.25 0.2 0.15 0.1 σ/σS
4.2 Das Verhalten des ANTS 85
p c
A
c1 · · · c12
Abbildung 43: (a) Bestimmung des Maximums von Funktional (4-15) unter langsamem Annealing der
Breite σ. Im Optimalfall wird die Verteilungsdichte p c (graue Linie) relativ gut von der Mischung A
univariater Normalverteilungen mit gleicher Varianz und gleichem statistischem Gewicht angenähert
(b). Dieser Zustand des Codebuchs wurde auch in Abb. 42 verwendet.
Abbildung 44: Die mit der Load modifizierte
Schätzung A l (kontinuierliche Linie) aus Formel
(4-16) im Vergleich zu p (gepunktet). In einem
einfachen Fall wie diesem lassen sich die Prototypen
der Verteilung gut identifizieren. Die Aktivierungsfunktion
A (gestrichelt) ist dieselbe wie
in Abb. 43b.
4.2.2 Eigenschaften der Phasenübergänge
A
A l
c1 · · · c12
Die Phasenübergangskurve, wie sie in Kapitel 2 charakterisiert wurde, hängt immer
auch vom gelernten Datensatz ab. Da dieser durch den ANTS im Vergleich zum ursprünglichen
verändert wird, muss sich auch die kritische Parameterkurve verändern.
Dabei lassen sich räumliche und zeitliche Aspekte zunächst noch klar trennen, sobald
die Daten jedoch etwas kompliziertere Struktur aufweisen, vermischen sich Raum- und
Zeitskalen wieder, wie die folgenden Beispiele zeigen werden.
Verschiebung in σ-Richtung
Im letzten Abschnitt wurde klar, dass der ANTS den Dichtestumpf p c approximiert,
der wesentlich breiter als die ursprüngliche Dichte ist. Seine Varianz ist also größer
als die von p. Dadurch wird die Kurve der kritischen Parameter ebenfalls zu größeren
σ-Werten geschoben, denn zumindest im Bereich τS ≪ 1 findet der Phasenübergang
immer bei Gleichheit von σ 2 und der Varianz der zugrundegelegten Verteilung statt.
In Abbildung 45 ist die kritische Parameterkurve eines Beispiels gegeben, welches aus
zwei verrauschten Systemzuständen besteht (wie in Abb. 22 und 42), das jedoch nicht
Markov-artig schaltet, sondern deterministisch wie die Beispiele in Abb. 32. Deshalb
findet man, wenn alle Datenpunkte gelernt werden (α=1), eine ähnliche Kurve kritischer
Parameter wie in Abb. 32. Wieder stimmt sie hervorragend mit den theoretischen
Kurven aus den Abbildungen 30 und 31 überein (hier ist M =20). Wenn dagegen nur
p
(b)