Statistik II für Statistiker, Mathematiker und Informatiker (SS ... - LMU

9. Schätzen 9.3 Konstruktion von Schätzfunktionen
9. Schätzen 9.3 Konstruktion von Schätzfunktionen
Definition: Likelihoodfunktion
Bei gegebenen x 1 , ...,x n heißt
Likelihoodfunktion für θ.
L(θ) = f(x 1 , ...,x n |θ) = f(x 1 |θ) · ... · f(x n |θ)
Definition: Likelihood-Prinzip/Maximum-Likelihood-Schätzung
Bestimme ˆθ so, dass
L(ˆθ) = max L(θ).
θ
Für stetige Zufallsvariablen X mit Dichte f(x|θ) überträgt man das Konzept in
völliger Analogie:
Wähle θ so, dass die gemeinsame Dichte L(θ) = f(x 1 , ...,x | θ) = f(x 1 |θ) · ... ·
f(x n |θ) maximal wird:
L(ˆθ) = max L(θ).
θ
I.a. ist ˆθ eine (komplizierte, nichtlineare) Funktion von x 1 , ...,x n :
ˆθ = g(x 1 , ...,x n ).
Setzt man statt der Realisierungen x 1 ,...,x n die Stichprobenvariablen
X 1 , ...,X n ein, wird T ≡ ˆθ zum Maximum-Likelihood-Schätzer.
Statistik II für Statistiker, Mathematiker und Informatiker im SS 2007 140
Statistik II für Statistiker, Mathematiker und Informatiker im SS 2007 141
9. Schätzen 9.3 Konstruktion von Schätzfunktionen
Konkrete Berechnung erfolgt meist durch Maximieren der log-Likelihood
log L(θ) =log f(x 1 |θ) + ... + log f(x n |θ) =
n∑
= log f(x i |θ)
i=1
Maxima ˆθ von L(θ) und log L(θ) sind identisch, da log eine streng monotone
Transformation ist.
Das Maximum wird i.a. durch Nullsetzen der ersten Ableitung berechnet.
9. Schätzen 9.3 Konstruktion von Schätzfunktionen
Beispiele
• Poisson-Verteilung
X 1 ,...,X 4 i.i.d. Po(λ) mit Realisierungen x 1 = 2, x 2 = 4,x 3 = 6, x 4 = 3.
⇒ Likelihoodfunktion
L(λ) = f(x 1 |λ) · · · f(x 4 |λ) = e −λλ2
2! e−λλ4
4! e−λλ6
6! e−λλ3
3!
= e −4λ λ 15 1
2! 4! 6! 3!
⇒ Log-Likelihoodfunktion
Ableiten und Nullsetzen
log L(λ) = −4λ + 15 log λ − log(2! 4! 6! 3!).
⇒
∂ log L(λ)
= −4 + 15ˆλ = 0 ⇔
∂λ
ˆλ = 15 4
Statistik II für Statistiker, Mathematiker und Informatiker im SS 2007 142
Statistik II für Statistiker, Mathematiker und Informatiker im SS 2007 143