Diplomarbeit von Michael Schindler

40 1. Grundlagen
1.2.6 Dimensionsreduktion
Nachdem die einzelnen Schritte der neuronalen Modellbildung durch das MVNN besprochen
wurden, möchte ich hier ihre Wirkung im Sinne der Dimensionsreduktion
noch einmal zusammenstellen.
Es wurde mit einem Aktivitätsmuster h auf der Eingabeschicht begonnen, die je
nach Modellierung Teilmenge des Z 2 oder des R 2 ist. Der Raum aller möglichen
Muster ist wegen der Normierung (1-62) dann die Einheitskugel entweder im 10 8 -
dimensionalen Raum aller Rezeptorzellen, oder im unendlichdimensionalen Raum
aller integrablen Funktionen 7 L 1 (R 2 ).
Der Merkmalsraum wurde daraufhin gerade so definiert, dass die Näherung für h
auf Seite 33 gilt. Dann kann die Beschreibung der Reizmuster auf drastische Weise
vereinfacht werden. Sie werden Punkte des Merkmalsraumes, x ∈ M⊂R d , können
also durch d reelle Zahlen charakterisiert werden.
Die Gauß’schen Neuronen, die durch die zweite Näherung auf Seite 33 eingeführt
werden, sind durch ihre Zentren und Kovarianzmatrizen beschrieben, also durch
d 2 + 2d Parameter. Auf diese Parameter wird die gesamte Information über den
synaptischen Baum Sr reduziert.
Die Vereinfachungen des Merkmalsraumes betreffen jeden Reizvektor einzeln. Durch
die Erstellung einer neuronalen Merkmalskarte wird der gesamte Datensatz aus T
zeitlich geordneten Reizen vereinfacht. Wenn dazu M Neuronen verwendet werden,
dann bleiben also zur Charakterisierung des Datensatzes nur Md(d +2) Parameter
übrig.
Insgesamt ist durch die vereinfachenden Annahmen des letzten Abschnitts eine Beschreibung
der Umwelt des MVNN durch Md(d + 2) Parameter möglich geworden. Es
scheint also so zu sein, als habe man den größten Teil der durch die Aktivitätsmuster
übermittelten Information weggeworfen. Genau dies ist aber eines der Prinzipien neuronaler
Kodierung. Es ist nicht das Ziel, alle Details der präsentierten Daten zu wiederholen,
sondern eine vereinfachte Repräsentation zu erhalten, die auf die wichtigsten
Eigenschaften reduziert ist. Diese Repräsentation wird auch das effektive Modell genannt,
welches sich das MVNN von seiner Umwelt bildet.
7 Die Notation hält sich hier und im folgenden an Fischer & Kaul (1990).