Nichtlineare Dimensionsreduktionsmethoden in der ... - DPI

22 Kern-PCA
meist als sehr schwierig. Deshalb sucht man eher nach Bedingungen, die eine
Funktion k(x, y) erfüllen muss, damit sie Kern-Funktion zu einer Abbildung
Φ ist. Nach Mercer (vgl. [27]) ist dies dann der Fall, wenn die Bedingung
∫
∀f ∈ L 2 (C) ⇒ k(x, y)f(x)f(y)dx dy ≥ 0 (3.16)
C×C
erfüllt ist, wobei C eine kompakte Untermenge des R n bezeichnet.
Der Trick, der die Berechnung der Kern-PCA ermöglicht, besteht nun darin,
in der Herleitung im Abschnitt 3.1 alle Skalarprodukte (Φ(x) · Φ(y)) durch
die Kernfunktion k(x, y) zu ersetzen. Für die Kernmatrix (3.9) gilt dann
K ij = k(x i , x j ) , i, j = 1, . . . , N , (3.17)
und die k-te Hauptkomponente (3.14) von x ′ wird zu
(x ′ · v ′ k) = (Φ(x) · v ′ k) =
N∑
αkk(x i i , x) , k = 1, . . . , p . (3.18)
i=1
In der bisherigen Herleitung steckt die Annahme ∑ N
i=1 Φ(x i) = 0, die im Allgemeinen
jedoch nicht zulässig ist. Für die Eingangsdaten ist eine Zentrierung
zwar ohne Weiteres möglich, aber dadurch werden nicht notwendigerweise
auch ihre Bilder zentriert. Da die Φ(x i ) meist nicht explizit berechnet werden
können, kann somit auch ihr Schwerpunkt 1 N
∑ N
i=1 Φ(x i) nicht explizit
bestimmt werden.
Es stellt sich aber heraus, dass dies auch gar nicht erforderlich ist, sondern
implizit geschehen kann. Man definiert
˜Φ(x i ) := Φ(x i ) − 1 N
N∑
Φ(x j ) i = 1, . . . , N . (3.19)
j=1
Dann gilt ∑ N ˜Φ(x i=1 i ) = 0. Mit diesen neuen zentrierten Bildern läuft die
weitere Herleitung analog zu der am Anfang dieses Abschnittes: Die Eigenvektoren
N∑
ṽ ′ k = ˜α k i ˜Φ(x i ) (3.20)
i=1
der Kovarianzmatrix ˜C ′ bekommt man durch Lösen des Eigenwertproblems
˜λ ˜α = ˜K ˜α (3.21)