Die asymptotische Verteilung des Likelihood-Quotienten-Tests für ...

4.3. Eingeschränkter ML-Schätzer 35
4.3 Asymptotik des eingeschränkten ML-Schätzers
Es wird der auf eine Menge M ⊆ R kd eingeschränkte ML-Schätzer betrachtet. Konvergiert
dieser in Wahrscheinlichkeit gegen einen Punkt θ ∗ ∈ M, so gibt Theorem 4.6 unter geeigneten
Regularitätsbedingungen die Konvergenz mit Rate √ n. Als Spezialfall erhält man mit
θ ∗ = θ (0) Korollar 4.8, das unter den Regularitätsbedingungen R für einen konsistenten
ML-Schätzer automatisch die √ n-Konsistenz dieses Schätzer liefert. Korollar 4.8 wurde für
den 1-Stichprobenfall bereits von Chernoff (1954) formuliert. Allerdings führt er nur eine
Beweisskizze an. Theorem 4.6 stellt eine Verallgemeinerung auf den k-Stichprobenfall und
θ ∗ ≠ θ (0) dar. Insbesondere muss somit der wahre Wert θ (0) des Parameters θ nicht in der
Menge M liegen.
Theorem 4.6. Der k-Stichprobenfall sei gegeben, θ ∗ = (θ1 ∗, . . . , θ∗ k ) ∈ M ⊆ Rkd und es gelte
P
→ θ ∗ . Weiter seien die nachstehenden Bedingungen erfüllt:
ˆθ M n
(i) Die Bedingung F ist erfüllt mit n i
n = c i + o(1/ √ n).
(ii) Für i = 1, . . . , k existieren die partiellen Ableitungen von f i (x, θ i ) bezüglich θ i und sind
stetig.
(iii) Es existiert eine Funktion K(x) mit E θ (0)K(X) < ∞, so dass die Norm von d/dθ W (x, θ)
gleichmäßig in einer Umgebung von θ ∗ durch K(x) beschränkt ist.
[ ] 2
(iv) Für i = 1, . . . , k existiert E (0) d/dθi θ
log f i (X i1 , θ i )| θi =θi
∗ und für
i
[ ] T
µ i := E (0) d/dθi θ
log f i (X i1 , θ i )| θi =θi
∗ gilt
i
k∑
c i µ i (ˆθ i, M n − θi ∗ ) =
i=1
(v) Für i = 1, . . . , k existiert D i := −E (0) θ i
D := diag (D 1 , . . . , D k ) gilt
Dann gilt
für ein α > 0.
k∑
o p (‖ ˆθ i, M n − θi ∗ ‖ 2 ).
i=1
[
d 2 /dθ 2 i log f i (X i1 , θ i )| θi =θ ∗ i
(ˆθ M i, n − θ ∗ i ) T D (ˆθ M i, n − θ ∗ i ) ≥ α ‖ ˆθ M i, n − θ ∗ i ‖ 2
√ n
(ˆθM n − θ ∗) = O p (1).
]
und für
Bemerkung 4.7. Bedingung (iii) wird für die Abschätzung des Restgliedes der Taylorentwicklung
um θ ∗ benötigt. Bedingung (iv) besagt, dass die erwartete Ableitung des log-
Likelihoods an der Stelle θ ∗ in Richtung des auf M eingeschränkten ML-Schätzers schneller
gegen null konvergiert als ‖ ˆθ n
M − θ ∗ ‖ 2 . Bedingung (v) sichert, dass sich die Matrix D gegenüber
dem eingeschränkten Schätzer ˆθ n
M wie eine positiv definite und symmetrische Matrix
verhält. Somit ist Bedingung (v) für eine positiv definite und symmetrische Matrix D automatisch
erfüllt mit α gleich dem kleinsten Eigenwert von D. Für θ ∗ = θ (0) werden die
Bedingungen (ii)-(v) durch die Regularitätsbedingungen R abgedeckt, siehe Korollar 4.8.