Optimierte lokale Modelle in der nichtlinearen Zeitreihenanalyse

Seite 38
3.1. Lokal konstantes und lokal lineares Modell
ν = (X T W X W ) −1 X T W y W
= (X W ) † y W , (3.11)
wobei die Pseudoinverse der Matrix X W
X † W = (XT W X W ) −1 X T W .
Die Hesse-Matrix ist gegeben durch
verwendet wurde, die definiert ist durch
∇ 2 νP (ν) = 2X T W X W . (3.12)
Sie ist positiv definit für jede Matrix X mit linear unabhängigen Spalten. Daher ist
P (ν) strikt konvex [27, Theorem 3.3.8] und somit ist (3.11) das globale Minimum
dieser Funktion [27, Theorem 3.4.3].
In obiger Formulierung sind immer noch alle Datenpunkte an der Modellbildung beteiligt,
auch wenn durch die Kernfunktion nur eine Umgebung des Anfragepunktes
Auswirkung auf den Koeffizientenvektor ν hat. Dies erleichtert zwar die mathematische
Behandlung, ist aber in der Praxis wenig sinnvoll; hier wird man überhaupt
nur eine gewisse Anzahl nächster Nachbarn x nn(1) , . . . , x nn(k) in die Berechnung des
Modells einbeziehen, die zusätzlich durch die Wichtungsmatrix W je nach Abstand
zum Anfragepunkt gewichtet werden können. Diese nächsten Nachbarn müssen in
die Matrix X eingesetzt werden und der Vektor y aus dem vorigen Abschnitt besteht
dann aus den Ausgaben dieser nächsten Nachbarn, d.h. y = (y nn(1) , . . . , y nn(k) ) T .
3.1 Lokal konstantes und lokal lineares Modell
Aus der allgemeinen Formulierung der lokal polynomialen Modellierung lassen sich
zwei wichtige Spezialfälle ableiten: das lokal konstante (Grad p=0) und das lokal
lineare Modell (Grad p=1).
Setzt man p = 0, so wird die Matrix X zu einem Spaltenvektor in dem in jeder Komponente
die Eins steht. Beschränkt man sich beim Modellieren auf die k nächsten
Nachbarn wie im vorigen Abschnitt beschrieben, so erhält man
ν = (1 T kW1 k ) −1 1 T kWy (3.13)
=
∑ k
i=1 w iy nn(i)
∑ k
i=1 w i
(3.14)
= ŷ ,