Zeitreihenanalyse – Einstieg und Aufgaben - FernUniversität in Hagen

KAPITEL 2. AR-PROZESSE UND ELEMENTARES
Aufgabe 2.6
Gegeben sei die (stationäre) Zeitreihe
(y t ) t=0,...,4 = {1, 2, 1, 0, 1}.
Gehen Sie zunächst davon aus, dass diese Zeitreihe
von einem AR(1)-Prozess erzeugt wurde, der einen
normalverteilten Fehlerterm besitzt. Bestimmen Sie
den KQ-Schätzer für θ = (θ 0 , φ) ′ .
2.3.3 Maximum Likelihood (ML)
Das Maximum-Likelihood-Prinzip wurde 1922 von Ronald Aylmer Fisher
vorgeschlagen und ist heute eins der meist verwendeten Schätzprinzipien
in der Statistik. Der Erfolg von ML leitet sich aus verschiedenen Komponenten
ab, wie zum Beispiel angenehme asymptotische Eigenschaften,
Anwendbarkeit für jede spezifizierbare Verteilung, Nähe zu Teststatistiken
usw. Wir werden den Grundgedanken zunächst an einem einfachen Beispiel
demonstrieren.
Beispiel 2.2: Maximum-Likelihood-Prinzip
Seien x = (x 1 , x 2 , x 3 ) drei unabhängige Realisierungen einer normalverteilten
Zufallsvariable X ∼ N(µ, σ 2 ). Dann zerfällt aufgrund
der Unabhängigkeit die gemeinsame Dichtefunktion von x
in das Produkt der Dichten von x 1 , x 2 und x 3
p(x 1 , x 2 , x 3 ) =
3∏
p(x k ) = p(x 1 )p(x 2 )p(x 3 ),
k=1
das Produktzeichen funktioniert hier genauso wie das Summenzeichen.
Nach dem Maximum-Likelihood-Prinzip wird nun dieses
Produkt von Dichten als Funktion der Parameter aufgefasst. Die
Likelihood-Funktion ist dann einfach
L(µ, σ 2 ) =
3∏
k=1
1
√
2πσ
2 e− 1 2( x k −µ
σ ) 2 .
Hier wurde die Dichtefunktion der Normalverteilung verwendet,
da die Zufallsvariable X ja normalverteilt ist. Maximierung der
Likelihoodfunktion ergibt dann den gesuchten Schätzer.
28