Diplomarbeit von Michael Schindler

1.1 Dichteschätzung mit einer Mischung multivariater Normalverteilungen 19
˜p(x|1; θ) ˜p(x|2; θ) ˜p(x|3; θ)
c1 c2 c3 x
Abbildung 10: Die drei lokalen Verteilungsdichten, die nach Gleichung (1-21) von
den einzelnen Normalverteilungen in Abb. 8a approximiert werden. Die Aufteilung
der ursprünglichen Verteilungsdichte p durch die Partitionierung in Abb. 8b
findet gerade so statt, dass jeder Teil selbst etwa die Form einer Normalverteilung
hat.
um lineare Korrelationen in den Koordinatenwerten der Daten zu finden. Dazu muss
die Kovarianzmatrix diagonalisiert werden. Orientiert man sich dabei hauptsächlich
an den Eigenvektoren zu den größten Eigenwerten, so spricht man auch von Hauptachsenanalyse
oder PCA (Principal component analysis).
Die Terme in (1-13) und (1-14), bei denen die Approximation mit mehreren Normalverteilungen
durchgeführt wird, sind jedoch keine globalen Momente, sondern werden
zusätzlich mit den Zuständigkeiten ˆ P(r|x; θ) der einzelnen Normalverteilungen gewichtet.
Somit erzeugen sie lokale Statistiken (Kloppenburg, 1996). Um dieses Konzept zu
verstehen, stellen wir zunächst fest, dass sich für jede Komponente r des Mischungsmodells
(1-3) ein zugehöriger Ausschnitt
˜p(x|r; θ) := ˆ � � �
P(r|x; θ) p(x) ˆP(r|x; θ) mit (1-21)
X
� �
ˆP(r|x; θ) X =
�
ˆP(r|x; θ) p(x) dx (1-22)
M
aus der Datenverteilung p(x) angeben lässt. Das statistische Gewicht (1-22) der rlokalen
Verteilung (1-21) wird gelegentlich auch als Load der r-ten Komponente bezeichnet.
Abbildung 10 zeigt die r-lokalen Verteilungen (1-21) für das Beispiel aus
Abb. 8a als hellgraue Linien. Wie man dort sieht, werden sie durch Normalverteilungen
approximiert. Dieser Approximation liegen die Näherungen
ˆPr ≈ � �
P(r|x; ˆ θ) (1-23)
für die statistischen Gewichte ˆ Pr und
X
ˆp(x; θ) ≈ p(x) (1-24)
für die Gesamtverteilung zugrunde; denn mit diesen Näherungen folgt aus (1-21)
zunächst
˜p(x|r; θ) ≈ ˆ P(r|x; θ) ˆp(x; θ) � ˆ Pr, (1-25)
woraus durch Einsetzen der Bayes’schen Formel (1-10) unmittelbar
˜p(x|r; θ) ≈ ˆp(x|r; θr) (1-26)