Diplomarbeit von Michael Schindler

34 1. Grundlagen
Die Verarbeitungsabbildung (1-54) lässt sich jetzt als einfache Funktionenauswertung
schreiben,
�
A{cr,¦r}: x ↦→ ar(x(h)) = exp − 1
2 (x − cr) T Σ −1
�
1
r (x − cr)
(2π) d/2 |Σr| 1/2
(1-61)
= h T Sr ∀r.
Die Einführung des Merkmalsraumes vereinfacht die Berechnung von Aktivitäten ganz
erheblich. Statt komplizierte Aktivierungsmuster mit einem hochdimensionalen Skalarprodukt
weiterzuleiten, werden sie in den Merkmalsraum gebracht und dort als
einfache Punkte und als Funktionen mit wenigen Parametern verarbeitet. Wie sehr
dieses Vorgehen den Aufwand reduziert, wird in Abschnitt 1.2.6 ausgeführt.
Im Merkmalsraum, der in Abschnitt 1.1 einfach als reeller Raum vorausgesetzt wurde,
steckt nun ein wichtiger Teil der Modellierung durch das MVNN, nämlich die Definition
geeigneter Features. Bei konkreten Problemen muss die Transformation T in einer
Vorverarbeitung des Datensatzes verwirklicht sein. Zu dem einfachen Bild in Abb. 15
kommt man, indem man die i-te Koordinate des Punktes x als die Aktivität des i-ten
Knotens in der Eingabeschicht versteht.
1.2.3 Kompetition durch Aktivitätsnormierung
Die Aktivierung von Nervenzellen wird nicht nur durch die Verbindung zwischen Schichten
gesteuert, sondern auch durch Verbindungen innerhalb einer Schicht. Diese Lateralverschaltung
kann im Neuronalen Modell entweder explizit simuliert, oder durch eine
globale Normierung der Aktivität einer Schicht ersetzt werden (Willshaw & von der
Malsburg, 1976). In multivar wird der zweite Ansatz verwirklicht, wie durch die gepunkteten
Querverbindungen in Abb. 15 angedeutet wurde. Es wird sowohl die Aktivität
h der Eingabeschicht, als auch die der Verarbeitungsschicht normiert,
�
hq = 1 und �
ar = 1, (1-62)
q
wodurch sich auch die Abbildung A aus (1-61) verändert. Jede Einzelaktivität ar(x)
wird durch die Gesamtaktivität A(x) der Schicht dividiert,
r
A{cr,¦r}: x ↦→ ar(x(h)) = GF(x;cr, Σr)
A(x)
∀r, (1-63)
M�
A(x) := GF(x;ci, Σi). (1-64)
i=1
Die Funktionen ar sind nun keine einfachen Gaußfunktionen mehr, sondern werden
generalisierte Gaußfunktionen genannt. Sie bilden nun die tatsächlichen Aktivitäten
des Modells und unterscheiden sich nun von den synaptischen Bäumen, die im letzten
Abschnitt ebenfalls mit ar bezeichnet wurden. Die Aktivitäten können nicht mehr
beliebige Werte annehmen, sondern erhalten eine größere Aktivität nur noch auf Kosten