Diplomarbeit von Michael Schindler

14 1. Grundlagen
schen Methoden zu analysieren, um auf diese Weise seine wichtigsten Eigenschaften,
funktionale Abhängigkeiten bzw. Korrelationen zwischen den Koordinatenwerten, zu
finden. Eine Vielzahl hochdimensionaler Beobachtungen muss auf einen kleinen Satz
von Modellparametern reduziert werden, mit denen der Datensatz hinreichend genau
beschrieben werden kann. Diese Aufgabe heißt Dimensionsreduktion.
Bei der Dimensionsreduktion mit der Absicht, die wichtigsten Eigenschaften eines Datensatzes
zu finden, oder ihn eventuell besser darstellen zu können, handelt es sich um
ein Standardproblem der klassischen Statistik. Eine bevorzugte Methode ist die Approximation
der Verteilungsdichte p des gegebenen Datensatzes durch eine Mischung
von Basisfunktionen, die durch wenige Parameter vollständig beschrieben sind (Duda
& Hart, 1973). Diese sollten auch in hohen Dimensionen einfach handhabbar sein,
weshalb man oft Gauß’sche Glockenkurven (GF) in d Dimensionen als Basisfunktionen
verwendet, die sich in eindimensionale Funktionen faktorisieren lassen,
GF(x;c, σ) =
d�
GF(xi; ci, σ) ∀x ∈ R d . (1-1)
i=1
Dabei ist c ∈ R d das Zentrum der Funktion und σ die Standardabweichung. Beim
Übergang zu multivariaten Normalverteilungen ändert sich bis auf eine Drehung des
Koordinatensystems nichts an der Faktorisierung.
Die parametrische Dichteschätzung mit einer gewichteten Summe multivariater Normalverteilungen
wurde von Duda & Hart (1973) ausführlich beschrieben. Im folgenden
Abschnitt möchte ich diese Methode und den multivar-Algorithmus von Kloppenburg
& Tavan (1997) vorstellen, welcher die Schätzung durch sequentielle Parameteradaption
durchführt. Erst nach der rein mathematischen Betrachtung werde ich in Abschnitt 1.2
genauer auf die biophysikalischen Interpretationen eingehen, die das multivar-Netzwerk
als effektives Modell für das Ein-/Ausgabe-Verhalten von Nervenzellverbänden ausweisen.
1.1 Dichteschätzung mit einer Mischung multivariater
Normalverteilungen
Das Ziel einer Dichteschätzung besteht darin, für einen gegebenen Datensatz X ⊂ M
im sogenannten Merkmalsraum M ⊂R d eine Approximation ˆp der zugrundeliegenden
Verteilungsdichte p zu finden. In praktischen Anwendungen enthält der Datensatz
immer endlich viele Punkte, 1
X := {x«∈ M | α=1, . . ., T }. (1-2)
1 Es handelt sich um ein Approximationsproblem mit unvollständigen Daten. Die Verteilungsdichte,
nach welcher der Datensatz generiert wurde, kann nicht beliebig genau bestimmt werden. Statt der
zugrundeliegenden Verteilungsdichte könnte man auch die Häufigkeit der Datenpunkte schätzen. Es
handelte sich dann strenggenommen um ein Interpolations- und kein Dichteschätzungsproblem. Im
folgenden wird kein Unterschied mehr zwischen diesen beiden Sichtweisen gemacht.