Diplomarbeit von Michael Schindler

78 4. Neuigkeitsorientiertes Lernen
4.1 Entfernen von redundanten Daten
Der ANTS ist ein on-line lernender Algorithmus gemäß der Charakterisierung am Anfang
von Kapitel 2. Es kann vorkommen, dass in dem präsentierten on-line Datenstrom
zeitliche Korrelationen auf mehreren Zeitskalen vorkommen, ähnlich wie sie für
den Markovprozess in (2-12) definiert sind. Die Forderung an einen on-line-fähigen
Algorithmus ist, dass er keine a-priori Kenntnis dieser Skalen besitze, also insbesondere
keine starren Regeln kennen kann, welche einen Datenstrom nach einer bestimmter
Dauer als ” redundant“ einstufen.
Vielmehr muss die Relevanz eines Datenpunktes x vom Lerner selbst festgestellt werden.
Dafür stehen ihm ausschließlich der aktuelle Punkt x und seine Netzwerkparameter,
also sein Modell für die Umgebung und ihre Vergangenheit, zur Verfügung.
4.1.1 Die Aufmerksamkeitsschwelle
Die Relevanz muss aus dem aktuellen Modell A(· ; θ) bestimmt werden. Dazu führt
man üblicherweise eine Aufmerksamkeitsschwelle ein, mit der A(x; θ) verglichen wird
(Wilden, 1998; Albrecht et al. 2000). Für diejenigen Datenpunkte x, deren Aktivitäten
A(x; θ) einen Schwellenwert ǫA>0 überschreiten, darf angenommen werden, dass dort
bereits genügend Datenpunkte gesehen und gelernt wurden. Sie brauchen also nicht
weiter beachtet zu werden, schließlich werden sie von hinreichend vielen Neuronen
repräsentiert.
Das Relevanzkriterium ist hier also nichts anderes als ein Neuigkeitskriterium. Bereits
bekannte Daten werden als irrelevant, unbekannte mit kleinem Aktivitätswert dagegen
als relevant eingestuft.
Die einfachste Möglichkeit zur Berechnung von f aus dem Vergleich von A(x; θ) und ǫA
ist diejenige, einen Datenpunkt entweder genau wie im univar-Algorithmus zu lernen,
also mit f =1, oder ihn vollständig zu ignorieren (f =0). Formal wird dies durch die
Heavyside-Funktion ausgedrückt,
f(x) := Θ � ǫA − A(x; θ) � �
1 falls A(x; θ) < ǫA,
=
(4-1)
0 sonst.
Diese Regel ist die einfachste, die dem Prinzip der selbstreferentiellen Relevanzbestimmung
genügt. Kompliziertere Funktionen als Θ ließen sich ohne weiteres verwenden,
im folgenden soll jedoch von (4-1) ausgegangen werden. Es stellt sich nun die Frage,
wie die Schwelle ǫA zu bestimmen ist. Sie soll keine a-priori-Kenntnis über die Daten
enthalten, sich vielmehr nach den vorkommenden Werten von A(x) richten.
Für jede feste Schwelle beobachtet man, dass ein gewisser Prozentsatz der Datenpunkte
gelernt wird. Eine Schwelle ǫA>maxx{A(x)} lässt alle Punkte lernen, eine sehr kleine
Schwelle kaum Punkte. Jedem Wert von ǫA lässt sich also der entsprechende Anteil α
der gelernten Punkte am gesamten Datensatz zuordnen,
SA: [0, ∞) → [0, 1]: ǫA ↦→ α. (4-2)