Vjerojatnost i matematička statistika - Poslijediplomski specijalistički ...

tada vrijedi da je
MSE(ˆθ) = Var[ˆθ(X)] + b 2 (ˆθ).
Dokaz.
MSE(ˆθ) = E[(ˆθ(X) − θ) 2 ] = E[((ˆθ(X) − E[ˆθ(X)]) + (E[ˆθ(X)] − θ)) 2 ] =
= E[(ˆθ(X) − E[ˆθ(X)]) 2 + 2(ˆθ(X) − E[ˆθ(X)])(E[ˆθ(X)] − θ) + (E[ˆθ(X)] − θ) 2 ] =
= Var[ˆθ(X)] + 0 + b 2 (ˆθ) =
= Var[ˆθ(X)] + b 2 (ˆθ).
Na slici se vidi odnos uzoračkih distribucija jednog pristranog procjenitelja male srednjekvadratne
pogreške i jednog nepristranog procjenitelja velike varijance (odnosno, srednjekvadratne
pogreške). Vertikalna crta označava vrijednost parametra. To je primjer kada
je pristrani procjenitelj bolji od nepristranog.
Kažemo da je procjenitelj konzistentan, odnosno asimptotski nepristran, ako njegova srednjekvadratna
greška teži ka nuli kada veličina uzorka raste u beskonačnost:
MSE(ˆθ) → 0, n → ∞.
Na primjer, X je konzistetan procjenitelj za populacijsko očekivanje.
7.5 Asimptotska razdioba od MLE
Za MLE ˆθ parametra θ na osnovi uzorka X duljine n iz populacije s populacijskom gustoćom
f(x|θ) varijable X, vrijedi
ˆθ ∼: N(θ, CRlb) za veliko n, (7.2)
gdje je
CRlb =
1
nE[( ∂ ∂θ log f(X|θ))2 ]
67