Diplomarbeit von Michael Schindler

Weitere Magazine

Empfehlungen

Info

38 1. Grundlagen (a) (b) kleiner Finger Ringfinger Handteller Mittelfinger Zeigefinger Daumen Abbildung 18: (a) Beispiel einer topographischen Karte nach einem Lernprozess des Kohonen-Netzes. Die dicht schraffierten Flächen sind Bereiche hoher Reizdichte, und entsprechend ist dort auch die Dichte der virtuellen Orte der Neuronen höher. In (b) ist die Zuordnung der Reizbereiche zu den Neuronen auf dem kortikalen Gitter zu sehen. Bilder aus Dersch (1995). Das bekannteste Beispiel eines Neuronalen Netzes zur Erstellung einer kortikalen Karte ist der Algorithmus von Kohonen (1982) (siehe auch Ritter, Martinetz & Schulten, 1992), dessen Lernregel für die virtuellen Orte cr der Neuronen im Merkmalsraum auch in der Form (1-70) geschrieben werden kann, jedoch mit einer anderen Aktivierungsfunktion als beim multivar-Algorithmus. Abbildung 18a zeigt das Ergebnis eines solchen Lernprozesses, einmal im Merkmalsraum (a) und einmal auf dem Kortex, der hier aus einem zweidimensionalen Gitter besteht. Im Merkmalsraum positionieren sich die virtuellen Orte so, dass ihre Dichte D(c) (definiert durch den Grenzübergang beliebig vieler Neuronen) dort groß ist, wo auch die Reizdichte p(x) groß ist. Eine genaue Analyse des funktionalen Zusammenhangs von D und p ist bei Dersch (1995) zu finden. Die physikalische Nachbarschaftsbeziehung der Neuronen wird im Kohonen- Algorithmus über ein festes Gitter modelliert. Abbildung 18b zeigt dieses Gitter und die Zuordnung zu den Orten auf der Reizfläche, die in Abb. 18a vorgenommen wurde. Das Ergebnis ist eine typische nachbarschaftserhaltende und dichteorienterte Merkmalskarte. Merkmalskarten durch lokale PCA Das MVNN, das in dieser Arbeit verwendet wird, hat keine vorgegebene Topologie. Seine räumliche Organisation beruht ausschließlich auf gegenseitiger Kompetition im Merkmalsraum nach Gleichung (1-10), weshalb die Merkmalskarten, die durch Anwenden der Lernregel (1-41) entstehen, nicht nachbarschaftserhaltend, sondern lediglich dichteorientiert sind. Eine neuronale Karte des Datensatzes aus Abb. 18 mit dem univar-Algorithmus bei gleicher Neuronenzahl (M = 256) würde ähnliche virtuelle Ort
(a) 1.2 Neuronale Interpretation von multivar 39 Abbildung 19: Eine Dichteschätzung durch lokale PCA mit multivar. Jede der Normalverteilungen in (a) überdeckt etwa gleich viele Datenpunkte, weshalb sie an den Fingerspitzen, wo die Datendichte höher ist, schmaler und höher sind als an den Fingern und am Handteller. Die langestreckte Form der Normalverteilungen an den Fingern zeigt deutlich die lokale PCA, wie man an den Hauptachsen sehen kann, die hier mit der Länge 1.4σir eingezeichnet sind. Am Handteller wird die Kompetition deutlich, die vier Neuronee versuchen gemeinsam, eine konstante Funktion zu approximieren. In (b) und (c) sind Ergebnis ˆp der Dichteschätzung und die Verteilungsdichte p dargestellt. aufweisen, nur dass die Dichte D der Orte und p gleich wären. 6 Eine multivariate Dichteschätzung des Hand-Datensatzes ist in Abbildung 19 zu sehen. Die Anzahl der Neuronen wurde dramatisch reduziert, weshalb nun nicht nur die virtuellen Orte der Neuronen zur Dichteschätzung benutzt werden können, sondern auch die Achsen ihrer synaptischen Bäume. In diesem Fall sind nun die Merkmale der Hand deutlicher zu sehen als in der Repräsentation durch viele Neuronen. So lassen sich etwa die Fingerspitzen gut erkennen, an denen die Reizdichte höher ist als an den restlichen Teilen der Hand, da sie durch jeweils ein einziges Neuron repräsentiert werden. Auch die Finger selbst lassen sich als langgestreckte Formen gut erkennen. Wenn also eine optimale Dichteschätzung mit wenigen Neuronen zur Verfügung steht, lassen sich Detektoren für Reize an den Fingerspitzen oder an den Handflächen finden. Dies erzeugt aus primären Features und einer lokalen Hauptkomponentenanalyse sekundäre Features. Hier klingt ein Prozess der automatischen Feature-Extraktion durch sukzessive Schätzung und Vereinfachung des Merkmalsraumes an, der aber hier nicht beschrieben werden kann, da er den Rahmen der vorliegenden Diplomarbeit sprengen würde. 6 Zunächst wären nach dem Dichteschätzungsprinzip p und die Mischung univariater Normalverteilungen – also die Faltung von D mit einer zentrierten univariaten Normalverteilung – gleich. Bei beliebig dichter Besetzung kann aber auch die Varianz der Normalverteilung beliebig reduziert werden, was in p=D resultiert. ˆp p (b) (c)
Seite 1: Modelle zur Entkopplung von Lern- u
Seite 4 und 5: iv Inhaltsverzeichnis 3 Neuronale G
Seite 6 und 7: 2 Einleitung a3 a4 a1 a2 Abbildung
Seite 8 und 9: 4 Einleitung Das Auffinden der pass
Seite 10 und 11: 6 Einleitung In der folgenden Gleic
Seite 12 und 13: 8 Einleitung Gleitende Mittelung vo
Seite 14 und 15: 10 Einleitung Dauer. Die akustische
Seite 16 und 17: 12 Einleitung kann, insbesondere, w
Seite 18 und 19: 14 1. Grundlagen schen Methoden zu
Seite 20 und 21: 16 1. Grundlagen lichkeitsdichte je
Seite 22 und 23: 18 1. Grundlagen Glockenkurve zuord
Seite 24 und 25: 20 1. Grundlagen folgt. Dies ist di
Seite 26 und 27: 22 1. Grundlagen Mit den Eigenwertg
Seite 28 und 29: 24 1. Grundlagen verteilungen, was
Seite 30 und 31: 26 1. Grundlagen kann diese Analogi
Seite 32 und 33: 28 1. Grundlagen Kapitel 2 gewidmet
Seite 34 und 35: 30 1. Grundlagen Eingabeschicht ⏐
Seite 36 und 37: 32 1. Grundlagen h r Sr T −→ x
Seite 38 und 39: 34 1. Grundlagen Die Verarbeitungsa
Seite 40 und 41: 36 1. Grundlagen 1.2.4 Hebb’sches
Seite 44 und 45: 40 1. Grundlagen 1.2.6 Dimensionsre
Seite 46 und 47: 42 2. On-line Lernen mit univar Nac
Seite 48 und 49: 44 2. On-line Lernen mit univar 0 t
Seite 50 und 51: 46 2. On-line Lernen mit univar Au
Seite 52 und 53: 48 2. On-line Lernen mit univar x/
Seite 54 und 55: 50 2. On-line Lernen mit univar der
Seite 56 und 57: 52 2. On-line Lernen mit univar vie
Seite 58 und 59: 54 2. On-line Lernen mit univar (a1
Seite 60 und 61: 56 2. On-line Lernen mit univar 2.1
Seite 62 und 63: 58 2. On-line Lernen mit univar (c)
Seite 64 und 65: 60 2. On-line Lernen mit univar Die
Seite 66 und 67: 62 2. On-line Lernen mit univar log
Seite 68 und 69: 64 2. On-line Lernen mit univar imm
Seite 70 und 71: 66 2. On-line Lernen mit univar in
Seite 72 und 73: 68 2. On-line Lernen mit univar und
Seite 74 und 75: 70 2. On-line Lernen mit univar
Seite 76 und 77: 72 3. Neuronale Gewöhnung in Aplys
Seite 82 und 83: 78 4. Neuigkeitsorientiertes Lernen
Seite 92 und 93:
88 4. Neuigkeitsorientiertes Lernen
Seite 94 und 95:
Seite 96 und 97:
Seite 98 und 99:
Seite 100 und 101:
96 5. Zusammenfassung und Ergebniss
Seite 102 und 103:
98 A. Gedächtniskerne Man sieht, d
Seite 104 und 105:
Appendix B Einige einfache Modelle
Seite 106 und 107:
102 B. Einige einfache Modelle Nun
Seite 108 und 109:
104 B. Einige einfache Modelle bere
Seite 110 und 111:
Appendix C Ergebnisse der Variation
Seite 112 und 113:
108 C. Ergebnisse der Variationsrec
Seite 114 und 115:
Seite 116 und 117:
Seite 118 und 119:
Literatur Abramowitz, M. & Stegun,
Seite 120 und 121:
116 Literatur Rieke, F., Warland, D
Seite 122 und 123:
118 Notation cr Zentren der Gaußfu
Seite 124 und 125:
120
Alle anzeigen

Diplomarbeit von Michael Schindler

Sie wollen auch ein ePaper? Erhöhen Sie die Reichweite Ihrer Titel.

Template löschen?

Als Template speichern?