Optimierte lokale Modelle in der nichtlinearen Zeitreihenanalyse

Seite 84
4.1. Lineare Support-Vektor-Regression
Merkmalsraum berechnet werden, ohne dass die Transformation φ hierfür überhaupt
bekannt sein muss.
Ersetzt man somit die Skalarprodukte bei der Berechnung der SVR durch eine Kern-
Funktion mit der Eigenschaft
K(x 1 , x 2 ) = 〈φ(x 1 ), φ(x 2 )〉 , (4.25)
so arbeitet der Algorithmus im Merkmalsraum, der je nach verwendeter Kern-
Funktion auch von sehr hoher Dimension oder auch unendlich-dimensional sein
kann. Die Laufzeit des Algorithmus erhöht sich hierbei nur um die Berechnung der
Kern-Funktionen. Der Algorithmus bleibt hierzu im Prinzip unverändert; es muss
lediglich in (4.15) das herkömmliche Skalarprodukt 〈x i , x j 〉 durch eine geeignete
Kern-Funktion K(x i , x j ) ersetzt werden. Das Problem bleibt dabei konvex, da die
Kern-Funktion positiv definit ist [35]. Nach Lösen des Maximierungsproblems ergibt
sich anschließend b durch
b = y i −
b = y i −
N∑
(α j − αj)K(x ∗ j , x i ) − ε für α i ∈ (0, C)
j=1
N∑
(α j − αj)K(x ∗ j , x i ) + ε für αi ∗ ∈ (0, C)
j=1
(4.26)
und die Regressionsfunktion kann mit
f(q) =
N∑
(α i − αi ∗ )K(x i , q) + b (4.27)
i=1
berechnet werden.
Bedingung von Mercer
Wie findet man aber zu einer gegebenen Abbildung φ und Merkmalsraum die passende
Kern-Funktion Leider lässt sich dies nur für einige wenige Fälle explizit
berechnen, zumal nicht für jede Kombination von Abbildung und Merkmalsraum
überhaupt eine solche Kern-Funktion existieren muss. Allerdings kann man für eine
gegebene Kern-Funktion eine Aussage darüber machen, ob diese ein Skalarprodukt