Diplomarbeit von Michael Schindler

50 2. On-line Lernen mit univar
der gegenseitigen Kompetition kurzfristig voneinander (z.B. bei den beiden Pfeilen in
Abb. 22a), können sich aber wieder am Ort des neuen Systemzustandes sammeln. Auf
diese Weise wird die Kompetition zwischen den beiden Neuronen immer wieder aufgehoben,
und zwar auch dann, wenn σ eigentlich so klein ist, dass sie entsprechend der
optimalen Kurve (wieder gepunktet eingezeichnet) bereits zu einer Aufspaltung geführt
haben sollte. Dies ist in allen Bereichen von Abb. 22a mit σ < σS, also rechts vom
senkrechten Strich der Fall, sieht man vom Bereich kleiner σ < 0.7σS ab; hier scheint
sich eine Aufspaltung abzuzeichnen.
Wir bezeichnen diesen Fall eines schnell relaxierenden Codebuchs, das sich an wechselnde
Systemzustände anpassen kann, als ” dynamisch gekoppelt.“
Natürlich lässt sich dieser Fehler des Lernverfahrens, die dynamische Kopplung des
Codebuchs an die Systemzustände, zunächst durch eine drastische Verkleinerung von
ε beheben (Abb. 22b, ε ist um einen Faktor 500 kleiner als in 22a). 2 Dadurch kommt
es jedoch wieder zu den erwähnten Retardierungseffekten. Mit Tr = 200 TS ist die
Verzögerung diesmal so stark, dass sie die Aufspaltung des Codebuchs während der
kurzen Gesamtlerndauer von T =20 TS vollständig verhindert. Der Lernprozess müsste
also entsprechend langsamer durchgeführt werden. Das Ergebnis eines 500-mal langsameren
Annealingprozesses auf denselben Daten ist in Abbildung 23b zu sehen. Hier ist
T =10 4 TS, wodurch das Verhalten des Codebuchs als Funktion des Lernparameters σ
ähnlich wird wie beim randomisierten Lernen in Abb. 21, wo T =10 3 TS gilt. Dieses Ergebnis
zeigt, dass bei dynamisch entkoppeltem Lernen, bei der entweder ε klein oder TS
klein sein muss, die Retardierung durch ein kleineres ε problemlos durch langsameres
σ-Abkühlen aufgehoben werden kann.
Der dynamischen Kopplung dagegen, die in 22a stattfindet, ist durch langsameres
Annealing nicht beizukommen. Sie bleibt auch in Abb. 23a über weite Bereiche der
σ-Werte bestehen. Wie in 22a bricht das Codebuch erst bei σ≈0.7σS langsam auf, was
jedoch wegen der geringen Auflösung in Abb. 23a nicht zu bemerken ist. Abbildung 24
zeigt wieder den Abkühlprozess aus Abb. 23a, er wird jedoch bis zu wesentlich kleineren
σ/σS-Werten durchgeführt. Jetzt wird eine Aufspaltung sichtbar, und zwar bei σ ≈
0.6σS. Die dynamische Kopplung kann demnach durch weiteres Abkühlen aufgehoben
und so ein Phasenübergang erzwungen werden. An dem in Abb. 24 dargestellten
Verhalten cr(σ) ändert sich auch bei langsamerem Abkühlen nichts.
Die Verschiebung der Aufspaltung zu kleineren Werten σ/σS ist im dynamisch gekoppelten
Fall (Tr ≈ 0.4 TS) demnach kein Artefakt, wie es die Retardierung durch zu
kleines ε ist, sondern eine echte Eigenschaft der Lerndynamik.
Der Phasenübergang, der bei σ/σS = 1 erwartet wird, tritt im Fall starker Kopplung
immer bei zu kleinen Werten von σ/σS auf. Dies ist im Zusammenhang mit der Dichteschätzung
durch univar nicht erwünscht, denn es kommt wesentlich auf den hierarchi-
2 Ein ähnlicher Vergleich von Lernkurven mit großen und kleinen ε findet sich schon in Abb. 6b in der
Einleitung. Dort wurde das Problem des on-line Lernens nicht am Phasenübergang demonstriert,
sondern an der globalen Mittelwertsbildung. Jede einzelne lokale multivariate Geometrieoptimierung
in der zweiten Phase eines multivar-Trainings weist ähnliches dynamisches Verhalten auf wie
dasjenige in Abb. 6b.