Diplomarbeit von Michael Schindler

48 2. On-line Lernen mit univar
x/σS
1
−1
1
−1
σ/σS =1 0.9 0.8 0.7
c1(t)
c2(t)
c1(t), c2(t)
t = 0 t −→ t = 20 TS
Abbildung 22: Rasches σ-Annealing bei on-line Lernen, dynamisch stark gekoppeltes und ungekoppeltes
Codebuch. Verwendet wurde ein Datensatz des Markov-Prozesses aus Abb. 6b. Er besteht aus
zwei Zuständen mit gleicher Gewichtung und hat nach (2-12) die Zeitskala TS =100. Wegen der langen
Lebensdauern im System ist das Codebuch nicht in der Lage, den Phasenübergang zu vollziehen. Die
oberen Kurven (a) wurden mit relativ großem Lernparameter berechnet, woraus sich Relaxationszeiten
Tr ≈TL=0.4 TS ergeben, sie sind also wesentlich kürzer als TS, und das Codebuch ist so beweglich,
dass es, auch wenn sein Optimalzustand längst aufgebrochen wäre, immer wieder an den Orten der
Systemzustände quasi entartet. Dazwischen gibt es kurze Momente, an denen die Entartung aufgehoben
wird (Pfeile). Erst bei σ