Vjerojatnost i matematička statistika - Poslijediplomski specijalistički ...

Primjer 7.5 Neka je x = (x 1 , x 2 , . . . , x n ) opaženi uzorak s populacijskom gustoćom
{ 2
x ako je 0 ≤ x ≤ θ,
f(x|θ) = θ 2 0 inače
i nepoznatim parametrom θ > 1. Vjerodostojnost od θ je:
{
n∏
2 n ∏ ni=1
x
L(θ) = f(x i |θ) = θ 2n i ako je θ ≥ x (n)
0 inače,
i=1
gdje je x (n) maksimalna vrijednost u nizu x. Budući da ImX = [0, θ] ovisi o parametru,
MLE ne možemo tražiti rješavajući stacionarnu jednadžbu log-vjerodostojnosti. Iz oblika
funkcije θ ↦→ L(θ) očito je da je L(θ) > 0 samo za θ ≥ x (n) , a na tom intervalu funkcija
strogo pada. Dakle, maksimum vjerodostojnosti se postiže u točki ˆθ = x (n) , pa je MLE za
θ statistika ˆθ(X) = X (n) .
7.2.2 Višeparametarski slučaj
Metoda je ista kao za jednoparametarski slučaj, samo što se kod traženja maksimuma
log-vjerodostojnosti stacionarna jednadžba svodi na sustav više jednadžbi s više nepoznanica.
Naime, taj sustav čine parcijalne derivacije log-vjerodostojnosti po nepoznatim
parametrima izjednačene sa nulom. Na taj način tražimo MLE samo ako slika varijable X,
ImX, ne ovisi o parametrima.
Primjer 7.6 Neka je x = (x 1 , x 2 , . . . , x n ) opaženi uzorak iz normalne populacije N(µ, σ 2 )
s nepoznatim parametrima µ, σ 2 . Vjerodostojnost i pripadna log-vjerodostojnost tih parametara
su
L(µ, σ 2 ) =
n∏
i=1
1
√
σ 2 2π e− 1
2σ 2 (x i−µ) 2 =
l(µ, σ 2 ) = log L(µ, σ 2 ) = − 1
2σ 2
n ∑
i=1
1
∑
1 n
(2πσ 2 e− 2σ
) n/2 2 i=1 (x i−µ) 2
(x i − µ) 2 − n 2 log σ2 − n 2 log(2π).
Budući da ImX = R ne ovisi o parametrima, MLE se nalazi rješavanjem sustava:
∂l
∂µ (µ, σ2 ) = 0,
Dakle, MLE za (µ, σ 2 ) je (X, n−1
n S2 ).
7.2.3 Nepotpuni uzorci
∂l
∂σ 2 (µ, σ2 ) = 0 ⇔ ˆµ = ¯x, ˆσ 2 = n − 1
n s2 .
Metoda ML se može primijeniti u situacijama kada je uzorak nepotpun. Na primjer, kada
imamo rezane podatke ili kada imamo cenzurirane podatke za koje znamo jedino da je
opažena vrijednost veća od neke fiksne vrijednosti. Preciznije, neka su opažene vrijednosti
x 1 , x 2 , . . . , x n , a za ostalih m vrijednosti u uzorku zna se samo da su veće od broja y.
Ako označimo sa P θ (X > y) vjerojatnost da će vrijednost varijable X (dakle, opažena
vrijednost) biti veća od y (budući da je to funkcija parametra θ, da bi to naglasili, θ pišemo
kao indeks), vjerodostojnost od θ je
n∏
L(θ) := f(x i |θ) · (P θ (X > y)) m .
i=1
MLE se kao i prije dobije maksimiziranjem te funkcije ili njenog logaritma. Pri tome je
često nemoguće dobiti eksplicitno rješenje, pa se do procjena dolazi numeričkim metodama.
64