Diplomarbeit von Michael Schindler

90 4. Neuigkeitsorientiertes Lernen
skalen im System auch mit unterschiedlicher Kompression zu reagieren. Dies wird
anhand einer Verteilungsdichte mit stark unterschiedlichen Clustergewichten wie in
Abb. 48 deutlich. Die präsentierte Verteilungsdichte dort weist einen großen und einen
kleinen Cluster auf, die beide von der Schwelle ǫA abgeschnitten werden. Dementsprechend
wird der große stärker komprimiert als der kleine.
Auf diese Weise wird das Problem symmetrisiert, und die Gewichte der tatsächlich
gelernten Cluster werden einander angeglichen. Das zu lernende System aus zwei
Zuständen mit unterschiedlichen Gewichten entpricht etwa demjenigen, deren theoretisch
erwartete Phasenübergangskurven in Abb. 34a gezeigt sind. Dort sind Systeme
mit ähnlichen Gewichten schwächer dynamisch gekoppelt als solche mit sehr unterschiedlichen
Clustergewichten. Im Bereich nicht zu starker dynamischer Kopplung,
also bei τS-Werten, die zwischen σ/σS = 0.5 und 1 eingezeichnet sind, bedeutet eine
Angleichung der beiden statistischen Gewichte also eine Entkopplung der Dynamiken.
Auch die beiden unterschiedlichen Lebensdauern aus Abb. 48 werden einander durch
die im ANTS vorgenommene Datenselektion angeglichen und somit aus dem dynamisch
gekoppelten Bereich entfernt.
Diese Fähigkeit, unterschiedlich auf unterschiedliche Lebensdauern im System zu reagieren,
entsteht im ANTSdadurch, dass eine feste oder nur langsam veränderliche
Schwelle verwendet wird. Die Aufmerksamkeitsschwelle unterscheidet nicht zwischen
verschiedenen Datenclustern. Es zeigt sich hier, dass die Zeitskala der Aufmerksamkeit
eine wichtige Rolle bei der Kompression unterschiedlicher Lebensdauern spielt. Ist ǫA
zu beweglich, dann passt sie sich, wie im Beispiel aus Abb. 47c, während der Lebensdauer
jedes Clusters an, und zwar so, dass sie leicht nach oben korrigiert wird, wodurch
ständig weitere Daten gelernt werden. Das Bild in 48 wird durch diese Schwellenanpassung
relativiert. Die effektiv wirksame Schwelle liegt bei dem großen Cluster mit
den langen Lebensdauern höher als bei dem kleinen. Die unterschiedliche Zeitskalenkompression
wird auf diese Weise etwas abgeschwächt.
Leider geht mit der Interpretation der Update-Regel (4-7) als gleitende Mittelwertsbildung
auch die Bedeutung von 1/η als deren Zeitskala verloren. Es ist also sehr
schwierig, die genaue Relaxationsgeschwindigkeit der Aufmerksamkeitsschwelle ǫA zu
bestimmen oder einzustellen. Diese ist jedoch nur dann wichtig, wenn man an einer
maximalen Kompression unterschiedlicher Lebensdauern interessiert ist. Für alle hier
besprochenen Beispiele reicht die grobe Approximation durch 1/η aus.
Wie bereits in Abb. 34b deutlich wurde, eignen sich Systeme aus nur zwei Zuständen
nur bedingt, um Effekte zu demonstrieren, die auf der Angleichung von statistischen
Gewichten beruhen. Schon im einfachen Fall von α = 1 können die theoretischen
Ergebnisse nur sehr schwer in numerischen Simulationen reproduziert werden. Aus
diesem Grund kann die unterschiedliche Zeitskalenkompression in Abb. 48 hier nicht
an einem solchen System vorgeführt werden.