Zeitreihenanalyse – Einstieg und Aufgaben - FernUniversität in Hagen

KAPITEL 2. AR-PROZESSE UND ELEMENTARES
LogLikelihood-Funktion für die unabhängigen Realisierungen (x 1 , . . . , x n )
l(µ, σ 2 ) = log L(µ, σ 2 ) = − n 2 log[2πσ2 ] − 1
2σ 2
n∑
(x k − µ) 2 . (2.43)
In (2.43) steht nun aufgrund der Logarithmierung kein Produkt mehr, sondern
lediglich eine Summe. Abbildung 2.5 (rechts) zeigt die Funktionswerte
der LogLikelihood-Funktion an den Datenpunkten x 1 bis x 3 aus Beispiel 2.2
auf Seite 28 für verschiedene Parameterkonfigurationen.
Wir wollen nun ML-Schätzer für den AR(1)-Prozess ausrechnen. Hier
stoßen wir jedoch auf die Schwierigkeit, dass die Realisierungen y t nicht unabhängig
sind. Dadurch zerfällt die gemeinsame Dichte nicht in ein Produkt
der Einzeldichten. Wir erinnern uns jedoch an die Markov-Eigenschaft des
AR(1)-Prozesses, speziell daran, dass die gesamte Vergangenheit des Prozesses
in der letzten Realisierung gespeichert ist. Das bedeutet, bei Kenntnis des
letzten Wertes y t−1 ist die Information über weiter zurückliegende Realisationen
des Prozesses im Hinblick auf y t irrelevant. Daher zerfällt die gemeinsame
Dichte p(y T , . . . , y 1 ) in ein Produkt von Einzeldichten unter der Bedingung,
dass die jeweils vorangegangene Realisierung, insbesondere y 0 , bekannt ist
k=1
p(y T , y T −1 , . . . , y 1 ) =
T∏
p(y t |y t−1 ). (2.44)
t=1
Die Dichte p(y t |y t−1 ) wird bedingte Dichte genannt, da sie an die Bedingung
der Kenntnis von y t−1 geknüpft ist. Für unseren allgemeinen AR(1)-Prozess
y t = θ 0 + φy t−1 + ɛ t mit ɛ t ∼ N(0, σ 2 ) und y 0 bekannt, gilt dann
p(y t |y t−1 ) =
1
√ 1 (y t −θ 0 −φy t−1 ) 2
2πσ
2 e− 2 σ 2 . (2.45)
Damit kann ebenfalls die LogLikelihood-Funktion für den gesamten Prozess,
vgl. (2.43), angegeben werden
l(θ 0 , φ, σ 2 ) =
T∑
t=1
log p(y t |y t−1 ) = − T 2 log[2πσ2 ] − 1
2σ 2 Q(θ 0, φ). (2.46)
Wir haben hier wieder die Abkürzung Q für die Quadratsumme verwendet,
vgl. (2.38) auf Seite 25. Wir stellen fest, dass der Parameter σ 2 offenbar nicht
in der Quadratsumme steht und leiten deswegen zunächst nach ihm ab
30
∂
∂σ 2 l(θ 0, φ, σ 2 ) = − T
2σ 2 + 1
2σ 4 Q(θ 0, φ) ! = 0. (2.47)