Optimierte lokale Modelle in der nichtlinearen Zeitreihenanalyse

Kapitel 2
Lokale Modelle
2.1 Das Modellierungsproblem
Gegeben sei eine Menge von Punktpaaren
Ω = {(x 1 , y 1 ), (x 2 , y 2 ), . . . , (x N , y N )} (2.1)
wobei x i ∈ K d die Eingabevektoren und y i ∈ K die zugehörigen beobachteten skalaren
Ausgangsgrößen eines unbekannten Systems sind. Das nichtlineare Modellierungsproblem
besteht darin, für einen neuen Eingabevektor q /∈ Ω (Query) einen
Schätzer ŷ für die Ausgabe des Systems zu finden.
Falls die Ausgangsgrößen keine Skalare sind sondern in einem höherdimensionalen
Raum liegen, kann durch Betrachtung der einzelnen Komponenten dieser Fall auf die
obige Formulierung zurückgeführt werden. In dieser Arbeit wird nur der Fall K = R
betrachtet, aber natürlich gibt es zahlreiche Modellierungsprobleme, in denen dies
nicht der Fall ist. Ein populäres Beispiel ist die Modellierung von DNA-Sequenzen
[28]. Die obige Formulierung des Modellierungsproblems findet insb. in der statistischen
Lerntheorie Verwendung. Da deren anfängliche Anwendungen im Bereich
der Klassifikation und Mustererkennung lagen, wird hier Ω auch als Menge von
Beobachtungen bezeichnet und die Eingabevektoren als Muster [16].
Ebenso kann das Modellierungsproblem unter dem für den Physiker sicherlich vertrauteren
statistischen Gesichtspunkt der Regression formuliert werden. Man betrachtet
hierbei die Paare (x i , y i ) als Realisierung von Zufallsvariablen X bzw. Y ,
wobei Y über eine unbekannte bedingte Wahrscheinlichkeitsverteilung P (Y | X) von
der Zufallsvariablen X abhängt [41]. Hierbei ist es natürlich auch möglich, dass die
y i eindeutig von den x i abhängen (der sog. degenerierte Fall). Die Regression (oder
synonym: bedingte Erwartung) E[Y | X] ist diejenige Zufallsvariable, deren Werte
21