Diplomarbeit von Michael Schindler

Weitere Magazine

Empfehlungen

Info

98 A. Gedächtniskerne Man sieht, dass das linke Produkt in (A-6), also k(t), implizit von allen bisherigen κ-Termen, explizit aber nur noch von dem Zeitparameter t abhängt. Es zerfällt wegen (1−κt)
A. Gedächtniskerne 99 Eine exponentiell abnehmende Lernrate ε(t) = ε(0) exp(−t/τ), wie sie momentan im multivar-Algorithmus implementiert ist, führt bei τ ≫ t zu einem exponentiell zerfallenden Gedächtniskern ähnlich demjenigen in Gleichung (A-9). Denn in diesem Fall kann von ε(t) = ε(0) e −t/�≈ ε(0) (A-11) ausgegangen werden. Er wird mit steigendem t langsam länger. Wenn dagegen schnell exponentiell abgekühlt wird, werden die Lernraten nach t ≫ τ Iterationsschritten so klein, dass praktisch nichts mehr hinzugelernt wird. Man bekommt dann eine zerfallenden Gewichtung, also einen Gedächtniskern, der dem vorigen gerade entgegengesetzt ist. Ausgehend von einem Lernparameter ε(t) = (1−e −1/�)e −t/�= (1−q)q t , (A-12) wobei q := e −1/�< 1 gelten soll, bekommt man unter der Annahme t ≫ τ eine sehr kleine Lernrate, also verändern sich die Codebuchzentren kaum noch. Dann ist c(t+1)≈c(t) und die Lernregel für die Zentren kann wiefolgt genähert werden, c(t) = c(t−1) + ε(t)(x(t) − c(t−1)) c(t) ≈ (1 − q t )c(t−1) + q t+1 c(t) + q t (1 − q)x(t) (A-13) t� = x(t ′ �� t t′ t′ − − )e e�für t ≫ τ. (A-14) t ′ =1 t ′ =1 Es gehen also fast ausschließlich die ersten Datenpunkte in die Repräsentation ein, da die Schrittweiten später zu klein werden. Der generische Fall im univar-Algorithmus ist derjenige, in dem ε langsam verkleinert wird. Dabei bekommt man Gedächtniskerne, die etwa denen mit konstantem ε entsprechen. Wegen (1−ε) t−t′ = exp � (t − t ′ ) ln(1−ε) � � t − � t′ = exp − τ und (A-15) 1/τ = − ln(1−ε) ≈ ε (A-16) ist die Länge dieses Gedächtniskernes etwa 1/ε. Er ” gleitet“ bei der Mittelung über den Datenstrom, wobei er sich selbst auch leicht verändert und länger wird, weil er parametrisch von t abhängt. Auf diese Weise bekommt man das erwähnte Mittelungsfenster als den Träger des Gedächtniskerns, in den oben besprochenen Beispielen immer das Intervall [0, t−1]. In diesem Fenster wird mit gr(t, ·) als Gewichtung der Mittelwert aller Datenpunkte berechnet.
Seite 1:
Modelle zur Entkopplung von Lern- u
Seite 4 und 5:
iv Inhaltsverzeichnis 3 Neuronale G
Seite 6 und 7:
2 Einleitung a3 a4 a1 a2 Abbildung
Seite 8 und 9:
4 Einleitung Das Auffinden der pass
Seite 10 und 11:
6 Einleitung In der folgenden Gleic
Seite 12 und 13:
8 Einleitung Gleitende Mittelung vo
Seite 14 und 15:
10 Einleitung Dauer. Die akustische
Seite 16 und 17:
12 Einleitung kann, insbesondere, w
Seite 18 und 19:
14 1. Grundlagen schen Methoden zu
Seite 20 und 21:
16 1. Grundlagen lichkeitsdichte je
Seite 22 und 23:
18 1. Grundlagen Glockenkurve zuord
Seite 24 und 25:
20 1. Grundlagen folgt. Dies ist di
Seite 26 und 27:
22 1. Grundlagen Mit den Eigenwertg
Seite 28 und 29:
24 1. Grundlagen verteilungen, was
Seite 30 und 31:
26 1. Grundlagen kann diese Analogi
Seite 32 und 33:
28 1. Grundlagen Kapitel 2 gewidmet
Seite 34 und 35:
30 1. Grundlagen Eingabeschicht ⏐
Seite 36 und 37:
32 1. Grundlagen h r Sr T −→ x
Seite 38 und 39:
34 1. Grundlagen Die Verarbeitungsa
Seite 40 und 41:
36 1. Grundlagen 1.2.4 Hebb’sches
Seite 42 und 43:
38 1. Grundlagen (a) (b) kleiner Fi
Seite 44 und 45:
40 1. Grundlagen 1.2.6 Dimensionsre
Seite 46 und 47:
42 2. On-line Lernen mit univar Nac
Seite 48 und 49:
44 2. On-line Lernen mit univar 0 t
Seite 50 und 51:
46 2. On-line Lernen mit univar Au
Seite 52 und 53: 48 2. On-line Lernen mit univar x/
Seite 54 und 55: 50 2. On-line Lernen mit univar der
Seite 56 und 57: 52 2. On-line Lernen mit univar vie
Seite 58 und 59: 54 2. On-line Lernen mit univar (a1
Seite 60 und 61: 56 2. On-line Lernen mit univar 2.1
Seite 62 und 63: 58 2. On-line Lernen mit univar (c)
Seite 64 und 65: 60 2. On-line Lernen mit univar Die
Seite 66 und 67: 62 2. On-line Lernen mit univar log
Seite 68 und 69: 64 2. On-line Lernen mit univar imm
Seite 70 und 71: 66 2. On-line Lernen mit univar in
Seite 72 und 73: 68 2. On-line Lernen mit univar und
Seite 74 und 75: 70 2. On-line Lernen mit univar
Seite 76 und 77: 72 3. Neuronale Gewöhnung in Aplys
Seite 82 und 83: 78 4. Neuigkeitsorientiertes Lernen
Seite 100 und 101: 96 5. Zusammenfassung und Ergebniss
Seite 104 und 105: Appendix B Einige einfache Modelle
Seite 106 und 107: 102 B. Einige einfache Modelle Nun
Seite 108 und 109: 104 B. Einige einfache Modelle bere
Seite 110 und 111: Appendix C Ergebnisse der Variation
Seite 112 und 113: 108 C. Ergebnisse der Variationsrec
Seite 118 und 119: Literatur Abramowitz, M. & Stegun,
Seite 120 und 121: 116 Literatur Rieke, F., Warland, D
Seite 122 und 123: 118 Notation cr Zentren der Gaußfu
Seite 124 und 125: 120
Alle anzeigen

Diplomarbeit von Michael Schindler

Erfolgreiche ePaper selbst erstellen

Template löschen?

Als Template speichern?