Odabrane teme verovatnoÄe
Odabrane teme verovatnoÄe
Odabrane teme verovatnoÄe
Create successful ePaper yourself
Turn your PDF publications into a flip-book with our unique Google optimized e-Paper software.
3ULURGQRPDWHPDWLNLIDNXOWHW<br />
,QVWLWXW]D PDWHPDWLNX <br />
1RYL6DG <br />
<br />
<br />
6HPLQDUVNL UDG<br />
<br />
<br />
<br />
<br />
<br />
<br />
<br />
<br />
2G/D,E-U7D,Q3H0W9H0P2H0W9H0R4U7LMH0<br />
Y;H0U7R4Y;D,W9Q3R4þH 0<br />
$XWRU<br />
6$H0OH0åL'R4U7D,<br />
<br />
<br />
'HFHPEDU
Sadržaj<br />
I Aksiomatsko zasnivanje teorije verovatnoće 3<br />
1 Prostor verovatnoće 4<br />
1.1 Algebra i σ-algebra.................................. 4<br />
1.2 Verovatnosnamera .................................. 5<br />
1.3 Produženje mere sa algebre na σ-algebru...................... 6<br />
2 Borelova σ-algebra 8<br />
2.1 Borelova σ-algebra na R ............................... 8<br />
2.2 Borelova σ-algebra na R n ............................... 9<br />
2.3 Borelova σ-algebra na R ∞ .............................. 11<br />
2.4 Borelova σ-algebra na R T .............................. 13<br />
3 Verovatnosna mera na Borelovoj σ-algebri 16<br />
3.1 Verovatnosna mera na (R n , B(R n )) ......................... 16<br />
3.2 Verovatnosna mera na (R ∞ , B(R ∞ ))......................... 21<br />
3.3 Verovatnosna mera na ( R T , B(R T ) ) ......................... 23<br />
II Normalna raspodela 25<br />
4 Potrebno predznanje 26<br />
4.0.1 Osnovni pojmovi teorije verovatnoće .................... 26<br />
4.0.2 Elementilinearnealgebre........................... 31<br />
5 Jednodimenzionalna normalna raspodela 34<br />
6 Višedimenzionalna normalna raspodela 37<br />
6.1 Pojam n-dimenzionalne normalne raspodele . . . . . . . . . . . . . . . . . . . . 37<br />
6.2 Značenje parametara u normalnoj raspodeli . . . . . . . . . . . . . . . . . . . . 39<br />
6.3 Karakterističnafunkcijanormalneraspodele .................... 42<br />
6.4 Linearna kombinacija slučajnih promenljivih sa normalnom raspodelom . . . . . 44<br />
6.5 Singularnanormalnaraspodela ........................... 46<br />
III Uslovno matematičko očekivanje 50<br />
6.6 TeoremaRadon-Nikodima .............................. 51<br />
7 Pojam uslovnog matematičkog očekivanja 53<br />
1
8 Osobine uslovnog matematičkog očekivanja 58<br />
9 Uslovna verovatnoća 64<br />
10 Uslovno matematičko očekivanje u odnosu na σ-algebru generisanu merljivom<br />
funkcijom 67<br />
10.1 Uslovno očekivanje u odnosu na diskretno generisanu<br />
σ-algebru ....................................... 68<br />
10.2 Uslovno matematičko očekivanje u odnosu na σ-algebru generisanu slučajnom<br />
promenljivom ..................................... 69<br />
10.3Teorijaocenjivanja .................................. 71<br />
2
Deo I<br />
Aksiomatsko zasnivanje teorije<br />
verovatnoće<br />
3
Glava 1<br />
Prostor verovatnoće<br />
1.1 Algebra i σ-algebra<br />
Definicija 1 Familija A podskupova nepraznog skupa Ω se naziva algebra ako zadovoljava<br />
osobine<br />
(A1) Ω ∈A<br />
(A2) Ako A ∈A,ondaiA ∈A<br />
(A3) Ako A, B ∈A,ondaiA ∪ B ∈A<br />
Iz osobine (A3) se indukcijom lako pokazuje da je algebra zatvorena u odnosu na konačnu<br />
uniju skupova. Koristeći De Morganove zakone dobijamo da je algebra zatvorena i u odnosu<br />
na konačan presek skupova.<br />
Definicija 2 Familija F podskupova od Ω je σ-algebra, ako zadovoljava aksiome<br />
(A1) Ω ∈F<br />
(A2) Ako A ∈F,ondaiA ∈F<br />
⋃<br />
(A3’) Ako su A i ∈F,i∈ N, tada i ∞ A i ∈F.<br />
i=1<br />
Dakle σ−algebra je zatvorena u odnosu na prebrojivu primenu operacija unije, preseka i<br />
komplementa skupova.<br />
Primer 1 Familija F = {∅, Ω} čini tzv. trivijalnu σ-algebru.<br />
Primer 2 Partitivni skup P(Ω) predstavlja najveću σ-algebru na Ω.<br />
Lako se proverava da je presek proizvoljnog broja σ-algebri datih nad istim prostorom Ω<br />
ponovo σ-algebra.<br />
Definicija 3 Ako je K neka familija podskupova prostora Ω, tada presek svih σ-algebri koje<br />
sadrže familiju K nazivamo minimalna σ-algebra generisana sa K ioznačavamo je σ[K].<br />
U aksiomatskom zasnivanju teorije verovatnoće se polazi od osnovnog pojma elementarnog<br />
dogad¯aja ω,kojisenedefiniše eksplicitno, sličnokaoipojmovitačke, prave i ravni u geometriji.<br />
Neka je Ω skup elementarnih dogad¯ajai nekajenanjemudataσ-algebra F. Skupove iz<br />
σ-algebre F ćemo nazivati slučajnim dogad¯ajima, sam prostor Ω predstavlja izvestan<br />
dogad¯aj,a∅ je nemoguć dogad¯aj. Ured¯en par (Ω, F) nazivamo merljiv prostor dogad¯aja.<br />
4
1.2 Verovatnosna mera<br />
Definicija 4 Neka je (Ω, F) merljiv prostor dogad¯aja. Skupovna funkcija P : F→R naziva<br />
se verovatnosna mera ili kraće samo verovatnoća, ako ima sledeće osobine:<br />
1. P (A) ≥ 0 za svaki dogad¯aj A ∈F (nenegativnost)<br />
2. P (Ω) = 1 (normiranost)<br />
3. Ako su A 1 ,A 2 ,A 3 ... disjunktni dogad¯aji iz F, tada važi (σ-aditivnost)<br />
∞⋃<br />
∞∑<br />
P ( A n )= P (A n )<br />
n=1<br />
Neposredno iz definicije verovatnosne mere slede njena sledeća svojstva:<br />
1. P (∅) =0<br />
2. P (A) =1− P (A)<br />
3. Ako je A ⊂ B, onda P (A) ≤ P (B)<br />
(monotonost)<br />
⋃<br />
4. Ako su A 1 ,A 2 ,...,A n disjunktni dogad¯aji iz F, tadavaži P ( n ∑<br />
A i )= n P (A i )<br />
(konačna aditivnost)<br />
n=1<br />
5. Za proizvoljne dogad¯aje A 1 ,A 2 ,A 3 ... iz F važi P ( ∞ ⋃<br />
(lema o pokrivanju ili subaditivnost)<br />
n=1<br />
i=1<br />
i=1<br />
∑<br />
A n ) ≤ ∞ P (A n )<br />
Definicija 5 Ured¯ena trojka (Ω, F,P) gde je Ω prostor elementarnih dogad¯aja, F data σ-<br />
algebra dogad¯aja na Ω i P verovatnosna mera na σ-algebri F, nazivaseprostor verovatnoće.<br />
Napomena 1 Verovatnosna mera se može definisati i na algebri A kao funkcija P : A→R<br />
koja je nenegativna, normirana i σ-aditivna. Primetimo da σ-aditivnost u ovom slučaju znači<br />
∞⋃<br />
da za svaki disjunktan niz dogad¯aja A 1 ,A 2 ,A 3 ... iz A sa osobinom da i A n ∈A,važi da<br />
n=1<br />
⋃<br />
je P ( ∞ ∑<br />
A n )= ∞ P (A n ).<br />
n=1<br />
n=1<br />
Definicija 6 Neka je (Ω, F) merljiv prostor. Dogad¯aji {A n } n∈N čine rastući niz dogad¯aja<br />
⋃<br />
ako važi A 1 ⊂ A 2 ⊂ A 3 ⊂···.Utomslučaju definišemo granicu niza kao ∞ A n ioznačavamo<br />
n=1<br />
⋃<br />
je sa lim A n = ∞ A n .<br />
n→∞ n=1<br />
Dogad¯aji {A n } n∈N čine opadajući niz dogad¯aja ako važi A 1 ⊃ A 2 ⊃ A 3 ⊃ ···. U tom<br />
⋂<br />
slučaju definišemo granicu niza kao ∞ ⋂<br />
A n ioznačavamo je sa lim A n = ∞ A n .<br />
n=1<br />
n→∞ n=1<br />
Teorema 1 Neka je (Ω, F) merljiv prostor i P : F→R funkcija koja je konačno aditivna na<br />
F. Tada su sledeći uslovi ekvivalentni:<br />
1. P je σ-aditivna.<br />
2. P je neprekidna odozgo tj. za proizvoljan rastući niz dogad¯aja A 1 ⊂ A 2 ⊂ A 3 ⊂··· važi<br />
n=1<br />
lim P (A n)=P ( ⋃ A n ) (1.1)<br />
n→∞<br />
n∈N<br />
5
3. P je neprekidna odozdo tj. za svaki opadajući niz dogad¯aja A 1 ⊃ A 2 ⊃ A 3 ⊃··· važi<br />
lim P (A n)=P ( ⋂ A n ).<br />
n→∞<br />
n∈N<br />
4.<br />
⋂<br />
P je neprekidna u nuli tj. ako je A 1 ⊃ A 2 ⊃ A 3 ⊃ ··· takav opadajući niz dogad¯aja da je<br />
A n = ∅, ondavaži lim P (A n )=0.<br />
n→∞<br />
n∈N<br />
Dokaz.<br />
(1 ⇒ 2) Neka je dat proizvoljan rastući niz dogad¯aja {A n } n∈N . Kako je ∞ ⋃<br />
(A 3 \A 2 ) ∪··· ,toizσ-aditivnosti sledi da je P ( ∞ ⋃<br />
lim (P (A ∑<br />
1)+ n [P (A k ) − P (A k−1 )]) = lim P (A n ).<br />
n→∞ n→∞<br />
k=2<br />
k=1<br />
n=1<br />
A n = A 1 ∪ (A 2 \A 1 ) ∪<br />
∑<br />
A k )=P (A 1 )+ ∞ P (A k \A k−1 )=<br />
(2 ⇒ 3) Posmatrajmo opadajući niz skupova {A n } n∈N . Tada je niz {A 1 \A n } n∈N rastući, pa na<br />
osnovu (1.1) dobijamo da važi lim P (A 1 \A n ) = P ( ⋃ (A 1 \A n )). Sada iz jednakosti<br />
n→∞<br />
n∈N<br />
P (A n )=P (A 1 \(A 1 \A n )) = P (A 1 ) − P (A 1 \A n ) prelaskom na graničnu vrednost dobijamo<br />
lim P (A n )=P (A 1 ) − lim P (A 1 \A n )=P (A 1 ) − P ( ⋃ (A 1 \A n )) = P (A 1 ) −<br />
n→∞ n→∞<br />
n∈N<br />
P (A 1 \ ⋂ A n )=P ( ⋂ A n ).<br />
n∈N<br />
(3 ⇒ 4) Trivijalno.<br />
n∈N<br />
(4 ⇒ 1) Neka je {A n } n∈N niz disjunktnih dogad¯aja iz F. Tada na osnovu konačne aditivnosti<br />
dobijamo<br />
∞⋃<br />
n∑<br />
∞⋃<br />
P ( A k )= P (A k )+P ( A k ) (1.2)<br />
Stavimo A = ⋃<br />
i<br />
⋂<br />
n∈N<br />
k∈N<br />
B n = ⋂ (A\<br />
n∈N<br />
k=1<br />
k=1<br />
A k . Formirajmo skupove B n =<br />
n ⋃<br />
k=1<br />
A k )=A\ ⋃<br />
n⋃<br />
n∈N k=1<br />
∞ ⋃<br />
k=n+1<br />
A k = A\ ⋃<br />
k∈N<br />
u nuli dobijamo da je lim P (B n )=0.<br />
n→∞<br />
⋃<br />
Sada u 1.2 pustimo da n →∞ i dobijamo da važi P ( ∞<br />
dokazati.<br />
k=n+1<br />
k=2<br />
A k . Tada važi B 1 ⊃ B 2 ⊃ B 3 ⊃···<br />
A k = ∅, pa na osnovu neprekidnosti<br />
k=1<br />
∑<br />
A k )= ∞ P (A k ) što je i trebalo<br />
k=1<br />
1.3 Produženje mere sa algebre na σ-algebru<br />
Neka je A algebra dogad¯aja i P verovatnosna mera na algebri A. Opisaćemo konstrukciju kako<br />
se mera P može proširiti na σ-algebru generisanu algebrom A. Ovakvoproširenje je jedinstveno<br />
odred¯eno.<br />
6
Definicija 7 Neka je data algebra A na prostoru Ω i neka je P verovatosna mera na algebri<br />
A. Tada definišemo spoljnu meru P ∗ : P(Ω) → R za proizvoljan podskup E ⊂ Ω sa<br />
∞∑<br />
∞⋃<br />
P ∗ (E) =inf{ P (A n ):(∀n)(A n ∈A)(E ⊂ A n )}<br />
n=1<br />
Definicija 8 Za skup A ⊂ Ω kažemo da je P ∗ −merljiv, ako za svako D ⊂ Ω važi<br />
n=1<br />
P ∗ (D) =P ∗ (A ∩ D)+P ∗ (A ∩ D)<br />
Označimo sa A ∗<br />
skup svih P ∗ -merljivih skupova.<br />
Teorema 2 (Karateodori) A ∗ je σ-algebra na P(Ω) i P ∗ je kompletna 1 mera na A ∗ .<br />
Propozicija 1 Važi σ[A] ⊂A ∗ i P ∗ ↾ A = P.<br />
Akosadadefinišemo meru ˜P kao restrikciju spoljne mere P ∗ na σ-algebru σ[A], tada prema<br />
prethodnoj propoziciji važi da je ˜P ↾ A =(P ∗ ↾ σ[A] ) ↾ A = P ∗ ↾ A = P , dakle ˜P i P se poklapaju<br />
na algebri A.<br />
Teorema 3 Neka je A algebra na prostoru Ω i P verovatnosna mera na algebri A.<br />
postoji jedinstvena verovatnosna mera ˜P na σ-algebri σ[A] takva da važi ˜P ↾A = P.<br />
Tada<br />
Napomena 2 ˜P više ne mora biti kompletna mera na σ[A]. Jedno kompletno proširenje prostora<br />
(Ω,σ[A], ˜P ) daje teorema Karateodorija u vidu prostora (Ω, A ∗ ,P ∗ ). No, najmanje kompletno<br />
proširenje se dobija sledećom konstrukcijom: definišemo<br />
F kompl = {E ⊂ Ω: postoje A, B ∈ σ[A] takvi da je A ⊂ E ⊂ B i P(B\A) =0}<br />
P kompl (E) = ˜P (A)<br />
Tada je (Ω,F kompl ,P kompl ) najmanje kompletno proširenje prostora (Ω,σ[A], ˜P ).<br />
1 Mera je kompletna ako je svaki podskup skupa mere nula , takod¯e merljiv skup.<br />
7
Glava 2<br />
Borelova σ-algebra<br />
2.1 Borelova σ-algebra na R<br />
Definicija 9 Posmatrajmo skup realnih brojeva R sa uobičajenom topologijom O 1 . Familija<br />
svih otvorenih skupova generiše σ-algebru koja se naziva Borelova σ-algebra i označava<br />
se sa B(R). Elementi Borelove σ-algebre se nazivaju Borelovi skupovi na realnoj<br />
pravoj.<br />
Kako se svaki otvoren skup u R može prikazati kao disjunktna unija najviše prebrojivo<br />
mnogo otvorenih intervala, sledi da se generatorna familija može smanjiti, odnosno da otvoreni<br />
intervali generišu B(R).<br />
Borelovi skupovi su dakle svi otvoreni skupovi, zatvoreni skupovi (kao komplementi otvorenog),<br />
jednoelementni skupovi {a} = ⋂ (a− 1 ,a+ 1 ), poluzatvoreni intervali oblika (a, b] =(a, b)∪{a}<br />
n n<br />
n∈N<br />
ianalogno[a, b), intervali oblika (−∞,b], (a, ∞) itd. Borelov skup je Q = ⋃ {q} kao i I = Q.<br />
Borelova σ-algebra sadrži dakle sve intervale i sve skupove koji se dobijaju od intervala<br />
pomoću najviše prebrojivo mnogo primena operacija unija, preseka i komplementa.<br />
Napomena 3 Borelova σ-algebra se može generisati i familijom K = {(a, b] :a, b ∈ R, a < b}.<br />
Naime važi (a, b) =<br />
⋃ (a, b − 1 ] ∈ σ[K], a kako je B(R) najmanja -algebra koja sadrži<br />
n<br />
n∈N<br />
otvorene intervale, sledi B(R) ⊂ σ[K]. Analognim zaključivanjem iz jednakosti (a, b] = ⋂ (a, b+ 1 ) n<br />
dobijamo obratnu inkluziju σ[K] ⊂B(R).<br />
Primetimo još da disjunktne konačne unije intervala iz K čine algebru.<br />
Napomena 4 Iz teoreme 3 sledi da je za proizvoljan Borelov skup E<br />
∞∑<br />
∞⋃<br />
P (E) =inf{ P ((a n ,b n )) : E ⊂ (a n ,b n )} (2.1)<br />
n=1<br />
gde je P verovatnosna mera na B(R), amože se pokazati da važe i relacije<br />
P (E) =inf{P (O) :E ⊂ O, O je otvoren skup} (2.2)<br />
P (E) = sup{P (Z) :Z ⊂ E, Z je zatvoren skup}. (2.3)<br />
1 U topološkom prostoru (R, O) je skup otvoren ako i samo ako je unija neke (konačne ili beskonačne)<br />
familije otvorenih intervala.<br />
8<br />
n=1<br />
q∈Q<br />
n∈N
U narednoj teoremi će biti pokazano da je dovoljno da se ovaj supremum uzima samo po<br />
kompaktnim podskupovima skupa E, učijem dokazu ključnu ulogu igra činjenica da se na<br />
realnoj pravoj klasa kompaktnih skupova poklapa sa klasom zatvorenih i ograničenih skupova.<br />
Teorema 4 Neka je dat prostor verovatnoće (R, B(R),P). Tada za svako E ∈B(R) važi<br />
P (E) = sup{P (K) :K ⊂⊂ E, K∈B(R)}. (2.4)<br />
Dokaz. Neka je E proizvoljan Borelov skup realne prave. Po definiciji supremuma,<br />
treba dokazati da za proizvoljno ε > 0 postoji kompaktan skup K ∈ B(R) takavdavaži<br />
P (K) >P(E) − ε.<br />
1. slučaj: E je ograničen skup.<br />
Prema (2.3) znamo da za E postoji zatvoren skup Z ⊂ E takav da je P (Z) >P(E) − ε.<br />
Kako je Z podskup ograničenog skupa E, sledi da je i on sam ograničen, a kako je i zatvoren<br />
dobijamo da je Z kompaktan.<br />
2. slučaj: E je neograničen skup.<br />
Iz 2.3 dobijamo egzistenciju zatvorenog skupa Z ⊂ E takvog da je<br />
P (Z) >P(E) − ε 2 . (2.5)<br />
Formirajmo sada skupove S k =[−k, k] koji su jasno kompaktni i pripadaju Borelovoj σ-algebri.<br />
Formirajmo i skupove K k = S k ∩Z. Skup K k je kompaktan kao zatvoren podskup kompaktnog<br />
skupa S k .<br />
Jasno je da važe relacije K k ⊂ K k+1 i Z = ⋃ K k odakle zbog neprekidnosti verovatnoće P<br />
dobijamo P (Z) = lim<br />
k→∞<br />
P (K k ). Odavde sledi da za dato ε>0 postoji skup K k0<br />
k∈N<br />
takav da je<br />
P (K k0 ) >P(Z) − ε 2 . (2.6)<br />
⋃<br />
Kako je niz {K n } rastući niz skpova sa granicom Z, jasno je da važi K k0 = k 0<br />
i=1<br />
K i ⊂ Z.<br />
K k0 je konačna unija zatvorenih skupova pa je zato zatvoren i Borelov, a po konstrukciji K k -ova<br />
je i ograničen. Dakle K k0 je kompaktan Borelov skup za koji prema 2.5 i 2.6 važi nejednakost<br />
Time je teorema dokazana.<br />
P (K k0 ) >P(E) − ε.<br />
2.2 Borelova σ-algebra na R n<br />
• Neka je J familija n-dimenzionalnih pravougaonika oblika I = I 1 × I 2 ×···×I n ,gde<br />
je I k =(a k ,b k ] za svako k =1, 2,...,n<br />
Označimo najmanju σ-algebru koju generiše J sa B(R n ).<br />
• Neka je B skup svih ”pravougaonika” oblika B = B 1 × B 2 ×···×B n čije su ”stranice”<br />
Borelovi skupovi realne prave tj. B k ∈B(R) zasvek =1, 2,...,n<br />
Označimo σ-algebru generisanu sa B kao B(R) ⊗B(R) ⊗···⊗B(R)<br />
} {{ }<br />
n<br />
Glavni cilj ovog poglavlja je da dokažemodaseovedveσ-algebre poklapaju. Pokažimo<br />
utusvrhuprvosledeću lemu.<br />
9
Lema 1 Posmatrajmo proizvoljnu familiju E⊂P(Ω) i neki skup B ⊂ Ω. Tada važi<br />
σ[E ∩B] =σ[E] ∩ B (2.7)<br />
gde je E∩B = {E ∩ B : E ∈E} i σ[E] ∩ B = {A ∩ B : A ∈ σ[E]}.<br />
Dokaz.<br />
(⊆) Iz E⊂σ[E] dobijamo E∩B ⊂ σ[E] ∩ B.<br />
Kako σ[E] ∩ B jeste σ-algebra na skupu B, tonajmanjaσ-algebra generisana sa E∩B<br />
mora biti sadržana u njoj, odakle dobijamo inkluziju σ[E ∩B] ⊂ σ[E] ∩ B.<br />
(⊇) Formirajmo familiju Z B = {A ∈ σ[E] :A ∩ B ∈ σ[E ∩B]}. Cilj nam je da dokažemo da<br />
je Z B = σ[E].<br />
Pokažimo prvo da je Z B σ-algebra.<br />
1. Ω ∈ Z B jer važi Ω ∩ B = B ∈ σ[E ∩B].<br />
2. Ako je A ∈ Z B ,što znači da je A ∈ σ[E] i A ∩ B ∈ σ[E ∩B], tada iz jednakosti<br />
A ∩ B = B\(A ∩ B) ∈ σ[E ∩B] dobijamo da je i A ∈ Z B .<br />
3. Neka je dat niz A i ∈ Z B tj. A i ∩ B ∈ σ[E ∩B] za i =1, 2,...<br />
Tada iz ( ⋃ A i ) ∩ B = ⋃<br />
⋃<br />
(A i ∩ B) dobijamo da je i A i ∈ Z B .<br />
i∈N<br />
i∈N<br />
Dakle, Z B jeste σ-algebra što znači σ[Z B ]=Z B .<br />
Sada iz E⊂Z B ⊂ σ[E] dobijamo niz inkluzija σ[E] ⊂ σ[Z B ]=Z B ⊂ σ[E] odakle sledi<br />
tražena jednakost Z B = σ[E]. Odavde direktno dobijamo σ[E] ∩ B ⊂ σ[E ∩B].<br />
i∈N<br />
Teorema 5 B(R n )=B(R) ⊗B(R) ⊗···⊗B(R)<br />
} {{ }<br />
n<br />
Dokaz. Za n = 1 tvrd¯enje trivijalno važi.<br />
Dokazaćemo teoremu za n =2, a dalje se dokazuje analogno indukcijom.<br />
Kako je J⊂B, to sledi B(R 2 ) ⊂B(R) ⊗B(R).<br />
Da bi smo dokazali i obratnu inkluziju dovoljno je pokazati da je za proizvoljne Borelove skupove<br />
B 1 ,B 2 ∈B(R) zadovoljeno B 1 × B 2 ∈B(R 2 ) odakle će sledeti<br />
B(R) ⊗B(R) =σ[B 1 × B 2 ] ⊂B(R 2 ).<br />
Neka R 1 i R 2 predstavljaju redom prvu odnosno drugu ”kopiju” realne prave tj. možemo pisati<br />
R 2 = R 1 × R 2 . Uvedimo sledeće oznake:<br />
˜B 1 = B 1 × R 2 gde je B 1 ∈B 1 proizvoljan Borelov skup iz σ-algebre B 1 = B(R 1 )<br />
˜B 2 = R 1 × B 2 gde je B 2 ∈B 2<br />
˜B 1 = B 1 × R 2 = {B 1 × R 2 : B 1 ∈B 1 }, ˜B2 = R 1 ×B 2<br />
Ĩ 1 = I 1 × R 2 , Ĩ2 = R 1 × I 2<br />
˜J 1 = J 1 × R 2 , ˜J2 = R 1 ×J 2 .<br />
Tada je<br />
B 1 × B 2 = ˜B 1 ∩ ˜B 2 ∈ ˜B 1 ∩ ˜B 2 = σ[ ˜J 1 ] ∩ ˜B 2<br />
lema<br />
= σ[ ˜J 1 ∩ ˜B 2 ] ⊂ σ[ ˜J 1 ∩ ˜J 2 ]=σ[J 1 ×J 2 ]=B(R 2 ).<br />
10
2.3 Borelova σ-algebra na R ∞<br />
Sa R ∞ = {(x 1 ,x 2 ,x 3 ,...):x k ∈ R, k ∈ N} označavamo prostor nizova realnih brojeva. Neka<br />
je I k =(a k ,b k ] i B k Borelov skup iz B(R).<br />
Definisaćemo tri tipa tzv. cilindričnih skupova i dokazati teoremu da se Borelova σ-algebra<br />
na R ∞ može generisati bilo kojom od te tri familije.<br />
Definicija 10 Cilindrični skupovi u R ∞<br />
su skupovi sledećeg oblika:<br />
•J(I 1 × I 2 ×···×I n )={x =(x 1 ,x 2 ,...): x i ∈ I i za i =1, 2,...,n}<br />
za različite izbore I i =(a i ,b i ] je cilindar prve vrste. Označimo sa B(R ∞ ) najmanju<br />
σ-algebru koju generiše familija svih cilindara prve vrste.<br />
•J(B 1 ×B 2 ×···×B n )={x =(x 1 ,x 2 ,...): x i ∈ B i gde je B i ∈B(R) za i =1, 2,...,n}<br />
je cilindar druge vrste. Označimo sa B 1 (R ∞ ) najmanju σ-algebru koju generiše familija<br />
svih cilindara druge vrste.<br />
•J(B n )={x =(x 1 ,x 2 ,...): (x 1 ,x 2 ,...,x n ) ∈ B n za neko B n ∈B(R n )}<br />
je cilindar treće vrste. Označimo sa B 2 (R ∞ ) najmanju σ-algebru koju generiše familija<br />
svih cilindara treće vrste.<br />
Skupove I 1 × I 2 ×···×I n , B 1 × B 2 ×···×B n , i B n nazivamo osnova cilindra.<br />
Dakle cilindar prve vrste čine svi oni nizovi koji na prvih n koordinata pripadaju redom<br />
intervalima I 1 ,...,I n .<br />
R<br />
I 1<br />
I 2<br />
I n<br />
x 2<br />
Ö<br />
x n<br />
x 1<br />
1 2<br />
Ö<br />
n<br />
T<br />
Jasno je da važe relacije J (B 1 ×···×B n )=J (B 1 ×···×B n × R),<br />
J (B n )=J (B n × R).<br />
Propozicija 2 Familija disjunktnih konačnih unija cilindara prve vrste je algebra. Familija<br />
cilidara druge vrste je alebra. Familija cilindara treće vrste čini alebru.<br />
11
Dokaz. Prvo ćemo dokazati tvrd¯enje za familiju cilindara treće vrste, a za druge dve familije<br />
cilindara je dokaz analogan.<br />
1. R ∞ ∈J(B n ) za izbor osnove cilindra B n = R n .<br />
2. Ako je J (B n )={x =(x 1 ,x 2 ,...): (x 1 ,x 2 ,...,x n ) ∈ B n } za neko B n ∈B(R n )tadaje<br />
J (B n )={x ∈ R ∞ : (x 1 ,x 2 ,...,x n ) ∈ B n } = {x ∈ R ∞ : (x 1 ,x 2 ,...,x n ) /∈ B n } =<br />
= {x ∈ R ∞ : (x 1 ,x 2 ,...,x n ) ∈ B n } i B n ∈B(R n ), tako da je J (B n ) ponovo cilindar trećeg<br />
tipa.<br />
3. Neka su dati cilindri J (A n )={x ∈ R ∞ :(x 1, ...,x n ) ∈ A n } i<br />
J (B m )={x ∈ R ∞ :(x 1, ...,x m ) ∈ B m } gde su A n ∈B(R n )iB m ∈B(R m ). Pretpostavimo da<br />
je n
{x ∈ R ∞ :(x 1 ,...,x n ) ∈ B n }∈B(R ∞ ).<br />
Pošto generatorni skup σ-algebre B 2 (R ∞ ) pripada B(R ∞ ) sledi da i<br />
B 2 (R ∞ ) ⊂B(R ∞ )<br />
Sada iz lanca inkluzija B(R ∞ ) ⊂B 1 (R ∞ ) ⊂B 2 (R ∞ ) ⊂B(R ∞ ) dobijamo da svuda važi jednakost.<br />
2.4 Borelova σ-algebra na R T<br />
Sa R T označavamo familiju svih preslikavanja T → R gde je T podskup skupa realnih brojeva<br />
proizvoljne kardinalnosti.<br />
Definicija 11 Cilindrični skupovi u R T<br />
Za fiksirane t 1 ,t 2 ,...,t n ∈ T<br />
su skupovi sledećeg oblika:<br />
•J t1 ,t 2 ,...,t n<br />
(I 1 × I 2 ×···×I n )={x ∈ R T : x(t 1 ) ∈ I 1 , x(t 2 ) ∈ I 2 , ..., x(t n ) ∈ I n }<br />
za različite izbore I i =(a i ,b i ] je cilindar prve vrste. Označimo sa B(R T ) najmanju<br />
σ-algebru koju generiše familija svih cilindara prve vrste.<br />
•J t1 ,t 2 ,...,t n<br />
(B 1 × B 2 ×···×B n )={x ∈ R T : x(t i ) ∈ B i gde je B i ∈B(R) za i =<br />
1, 2,...,n}<br />
je cilindar druge vrste. Označimo sa B 1 (R T ) najmanju σ-algebru koju generiše familija<br />
svih cilindara druge vrste.<br />
•J t1 ,t 2 ,...,t n<br />
(B n )={x ∈ R T : (x(t 1 ),x(t 2 ),...,x(t n )) ∈ B n za neko B n ∈B(R n )}<br />
je cilindar treće vrste. Označimo sa B 2 (R T ) najmanju σ-algebru koju generiše familija<br />
svih cilindara treće vrste.<br />
Skupove I 1 × I 2 ×···×I n , B 1 × B 2 ×···×B n , i B n nazivamo osnova cilindra.<br />
Dakle cilindar prve vrste čine sve one funkcije T → R koje u tačkama t 1 ,...,t n prolaze kroz<br />
”kapije” I 1 ,...,I n .<br />
R<br />
I 1<br />
I 2<br />
I n<br />
x(t) 1<br />
x(t) 2<br />
x(t) n<br />
t 1<br />
t 2<br />
Ö<br />
t n<br />
T<br />
13
Jasnojedavaži B(R T ) ⊂B 1 (R T ) ⊂B 2 (R T ), a naredna teorema daje glavni rezultat ovog<br />
poglavlja o jednakosti ove tri σ-algebre, i o reprezentaciji skupova iz B(R T ). Naime važi da<br />
se svi skupovi iz B(R T )mogu predstaviti preko nekog NAJVIŠE PREBROJIVOG skupa tačaka<br />
iz T i nekog Borelovog skupa iz B(R ∞ ).<br />
Teorema 7 Važi B(R T )=B 1 (R T )=B 2 (R T ).<br />
Svaki skup A ∈B(R T ) ima strukturu<br />
A = {x ∈ R T :(x(t 1 ),x(t 2 ),x(t 3 ),...) ∈ B} (2.8)<br />
za najviše prebrojiv skup tačaka t 1 ,t 2 ,t 3 ,...∈ T i neki skup B ∈B(R ∞ ).<br />
Dokaz. Neka je E = {A ∈B(R T ): A ima reprezentaciju oblika (2.8) }. Treba pokazati<br />
da je E = B(R T ).<br />
Pokažimo prvo da je E σ-algebra. Aksiome (A1) i (A2) se lako proveravaju pa ćemo proveriti<br />
samo (A3’).<br />
Neka su A 1 ,A 2 ,...∈E i njima odgovarajući najviše prebrojivi indeksi T (1) =(t (1)<br />
1 ,t (1)<br />
2 ,t (1)<br />
3 ,...),<br />
T (2) =(t (2)<br />
1 ,t (2)<br />
2 ,t (2)<br />
3 ,...), ···⊂T odnosno skupovi B 1 ,B 2 ,...∈B(R ∞ ) takvi da<br />
A i = {x ∈ R T :(x(t (i)<br />
1 ),x(t (i)<br />
2 ),x(t (i) ),...,) ∈ B<br />
Tada možemo uzeti skup T (∞) = ⋃3 i }.<br />
T (k) za jedini sistem indeksa takav da je svaki<br />
k∈N<br />
A i = {x ∈ R T :(x(τ 1 ),x(τ 2 ),x(τ 3 ),...,) ∈ B i } za τ i ∈ T (∞) i B i ∈B(R ∞ ) su svi iz iste<br />
σ-algebre, i ∈ N.<br />
Odavde sledi da je ⋃ A i = {x ∈ R T :(x(τ 1 ),x(τ 2 ),x(τ 3 ),...,) ∈ ⋃ ⋃<br />
B i }, i B i ∈B(R ∞ ) a<br />
T (∞)<br />
i∈N<br />
je kao prebrojiva unija najviše prebrojivih skupova ponovo prebrojiv skup.<br />
Odavde sledi da je sistem skupova E σ-algebra na R T .<br />
σ-algebra E sadrži sve cilindre oblika J t1 ,t 2 ,...,t n<br />
(B n ) (cilindri već imaju reprezentaciju oblika<br />
(2.8) i to za konačan skup tačaka iz T ), akakojenajmanjatakvaσ-algebra B 2 (R T )sledi<br />
B(R T ) ⊂B 1 (R T ) ⊂B 2 (R T ) ⊂E (2.9)<br />
Posmatrajmo proizvoljan A ∈Eoblika (2.8). Ako fiksiramo izbor (t 1 ,t 2 ,...), tada sličnim<br />
rasud¯ivanjem kao u slučaju prostora (R ∞ , B(R ∞ )) možemo pokazati da je skup A element σ-<br />
algebre generisane cilindrima J t1 ,t 2 ,...,t n<br />
(I 1 × I 2 ×···×I n ). No, ta σ-algebra je upravo σ-algebra<br />
B(R T ). Dakle važi<br />
E⊂B(R T ), (2.10)<br />
pa iz (2.9) i (2.10) slede oba tvrd¯enja teoreme.<br />
Napomena 5 Posmatrajmo R ∞ = R × R × R ×··· kao proizvod kopija realne prave u tačkama<br />
1, 2, 3,... redom. Skup B ∈B(R ∞ ) čine svi oni nizovi koji prolaze kroz neke ”kapije” koje se<br />
nalaze na ovim kopijama realnih prava. Prethodna teorema kaže da se proizvoljan Borelov skup<br />
A ∈B(R T ) stvara odred¯ivanjem gde će tačke funkcije x(t) pripadati u najviše prebrojivo mnogo<br />
tačaka S =(t 1 ,t 2 ,t 3 ,...). To nam daje za pravo da malo promenimo perspektivu:<br />
Posmatrajmo sada da je R ∞ ∼ = R S = R t1 ×R t2 ×R t3 ×··· (translirali smo kopije realnih prava iz<br />
tačaka 1, 2, 3,... utačke t 1 ,t 2 ,t 3 ,...redom. Posmatrajmo sada pojam niza ne kao preslikavanje<br />
N → R, nego kao preslikavanje S → R. Sada funkciju x ∈ A možemo gledati kao funkciju čije<br />
vrednosti u tačkama t 1 ,t 2 ,t 3 ,... čine niz u B(R S ). Time skup A ∈B(R T ) postaje Borelov u<br />
A ∈B(R S ).<br />
Na kraju dajemo primer jednog Borelovog skupa i jednog skupa koji nije Borelov u R T .<br />
14<br />
i∈N<br />
i∈N
Primer 3 Skup A = {x : N → R | (∀n) x(n) ≤ C} gde je C proizvoljna konstanta, je Borelov<br />
u R ∞ .<br />
Dokaz. Neka je B n =[0,C] ×···×[0,C] i posmatrajmo cilindre A<br />
} {{ }<br />
n = J (B n ). Cilindar<br />
n<br />
A n čine svi oni nizovi koji su od prve do n-te koordinate ograničeni sa C, aposleseproizvoljno<br />
ponašaju. Tada je A = ⋂ A n ∈B(R ∞ ) jer je PREBROJIV presek cilindara.<br />
n∈N<br />
Primer 4 Skup A = {x : R → R | (∀t) x(t) ≤ C} nije Borelov u R T .<br />
Dokaz. Pretpostavimo suprotno, da A ∈B(R T ). Tada prema teoremi 7 o reprezentaciji<br />
sledi da postoji najviše prebrojivo mnogo tačaka t 1 ,t 2 ,...∈ T i B ∈B(R ∞ )takodavaži<br />
{x : R → R | (∀t) x(t) ≤ C} = A = {x : R → R | (x(t 1 ),x(t 2 ),...) ∈ B}.<br />
Funkcija y(t) =C−1 jeste ograničena sa C pa zato y(t) ∈ A odake sledi (y(t 1 ),y(t 2 ),...) ∈<br />
B.<br />
{ y(t), za t ∈{t1 ,t<br />
Definišimo sada funkciju z(t) =<br />
2 ,...}<br />
C +1, inače.<br />
Tada je (z(t 1 ),z(t 2 ),...)=(y(t 1 ),y(t 2 ),...) ∈ B odakle dobijamo da je z(t) ∈ A.<br />
Ali s druge strane, z(t) nije svuda ograničena sa C, pazato z(t) /∈ A. Kontradikcija!<br />
PrimetimodaskupAnijebioBorelovzatošto je zavisio od ”ponašanja” funkcije u neprebrojivo<br />
mnogo tačaka, što je u skladu sa napomenom 5.<br />
15
Glava 3<br />
Verovatnosna mera na Borelovoj<br />
σ-algebri<br />
U prethodnoj glavi bilo je pokazano kako se konstruišu Borelove σ-algebre na skupu realnih<br />
brojeva R, na konačnodimenzionalnom prostoru R n ,azatiminabeskonačnodimenzionalnim<br />
prostorima R ∞ i R T . Uovojglaviće biti data konstrukcija verovatnosnih mera na ovim prostorima.<br />
Na ovaj način će biti odred¯ena četiri specijalna prostora verovatnoće u kojima je skup<br />
ishoda upravo skup realnih brojeva, skup vektora sa realnim komponentama, skup realnih nizova<br />
odnosno skup realnih funkcija. Ta konstrukcija će biti takva da će se verovatnosna mera<br />
na beskonačnodimenzionalnim prostorima dobiti produženjem mera sa konačnodimenzionalnih<br />
prostora koje zadovoljavaju tzv. uslov saglasnosti ( teorema Kolmogorova ).<br />
3.1 Verovatnosna mera na (R n , B(R n ))<br />
Posmatrajmo prvo prostor (R, B(R)) .<br />
Definicija 12 Preslikavanje F : R → R naziva se funkcija raspodele verovatnoće ili<br />
kraće samo funkcija raspodele, ako ima sledeće osobine:<br />
1. F je monotono neopadajuća tj. x 1
(b) Ako je F data funkcija raspodele, tada postoji jedinstvena verovatnosna mera P na<br />
(R, B(R)) takva da za svako x ∈ R važi jednakost (3.1).<br />
Dokaz. Dokažimo tvrd¯enje pod (b). Tvrd¯enje pod (a) biće dokazano u višedimenzionalnom<br />
slučaju.<br />
Posmatrajmo familiju intervala K = { (a, b] ; (−∞,b]; (a, ∞) ; (−∞, ∞) }.<br />
Definišimo skupovnu funkciju P na familiji K sa<br />
P ((a, b]) = F (b) − F (a) (3.2)<br />
P ((−∞,b]) = F (b)<br />
P ((a, ∞)) = 1 − F (a)<br />
P (R) =1<br />
Primetimo da prvi od navedenih uslova implicira nenegativnost skupovne funkcije P, a poslednji<br />
daje njenu normiranost.<br />
Označimo sa B 0 algebru koju čine disjuktne konačne unije intervala iz K .<br />
Definišimo P na algebri B 0 sa:<br />
⋃<br />
Ako je A ∈B 0 , A = n I i gde su I i disjunktni intervali iz familije K, tadaje<br />
i=1<br />
P (A) =<br />
n∑<br />
P (I i ). (3.3)<br />
i=1<br />
Pokažimo prvo da je ova definicija korektna tj. da ne zavisi od izbora reprezentacije skupa A<br />
iz B 0 .<br />
⋃<br />
Pretpostavimo da se skup A ∈B 0 može predstaviti na dva načina A = n ⋃<br />
I i = m J j gde su I i<br />
i J j iz familije K. Tadaje<br />
( )<br />
n∑ ∑<br />
P (I i )= n ∑<br />
P (I i ∩ A) = n ⋃<br />
P I i ∩ m ∑<br />
J j = n m∑<br />
P (I i ∩ J j )<br />
i=1<br />
i=1<br />
i=1<br />
j=1 i=1 j=1<br />
( )<br />
∑<br />
= m ⋃<br />
P J j ∩ n ∑<br />
I i = m ∑<br />
P (J j ∩ A) = m P (J j ) .<br />
j=1<br />
i=1<br />
Da bi smo dokazali da je P verovatnosna mera pokazaćemo:<br />
1. P je σ-aditivna na K<br />
2. P je σ-aditivna na B 0<br />
j=1<br />
Dakle P je verovatnosna mera na algebri B 0 , a familija K generiše upravo Borelovu σ-algebru,<br />
pa se na osnovu teoreme 3 mera P na jedinstven način proširuje na B(R).<br />
1. Pokažimo prvo da je P σ-aditivna funkcija na K.<br />
⋃<br />
Neka je I = ∞ I i tako da su I i ∈K med¯usobno disjunktni i da je i I ∈K. Želimo da<br />
i=1<br />
∑<br />
dokažemo da je P (I) = ∞ P (I i ). Primetimo da je P monotono neopadajuća skupovna<br />
i=1<br />
n⋃<br />
∑<br />
funkcija (jer je i F takva), pa iz I i ⊂ I sledi da je n P (I i ) ≤ P (I), odakle graničnim<br />
procesom n →∞dobijamo<br />
i=1<br />
j=1<br />
∞∑<br />
P (I i ) ≤ P (I).<br />
i=1<br />
Ostaje da se pokaže nejednakost i u drugom pravcu.<br />
17<br />
i=1<br />
i=1<br />
j=1
1. slučaj Neka je I prvo konačan interval tj. oblika je I =(a, b]. Tada su i I i -ovi konačni, pa neka<br />
je I i =(a i ,b i ].<br />
Kako je funkcija F neprekidna zdesna, to za unapred dato proizvoljno ε>0 možemo<br />
izabrati brojeve δ i δ i takve da važi<br />
∑<br />
Iz 3.4 sledi da je ∞ F (b i + δ i ) − F (b i )
što je i trebalo pokazati.<br />
2. slučaj Neka je I beskonačan interval npr. oblika I =(−∞,b].<br />
Birajmo ceo broj m ∈ Z takav da je b ∈ (m, m +1].<br />
⋃<br />
Ako je I = ∞ ⋃<br />
I k , tada je I ∩ (n, n +1]= ∞ (I k ∩ (n, n + 1]), odakle prema dokazanom<br />
k=1<br />
prvom slučaju za konačne intervale dobijamo da je za svaki prirodan broj n<br />
k=1<br />
P (I ∩ (n, n +1])≤<br />
∞∑<br />
P (I k ∩ (n, n +1]). (3.7)<br />
k=1<br />
Sada je<br />
P (I) =F (b) =F (b) ±<br />
m ∑<br />
i=−∞<br />
∑<br />
= P ((m, b]) + P ((m − 1,m]) + ···= ∞<br />
∑<br />
= ∞ ∞∑<br />
∑<br />
P (I k ∩ (n, n +1])= ∞ P (I k )<br />
k=1 n=−∞<br />
F (i) =F (b) − F (m)+F (m) − F (m − 1) + ···<br />
k=1<br />
n=−∞<br />
P ((n, n +1]∩ I) (3.7)<br />
≤<br />
Dokaz se slično vršiizabeskonačne intervale oblika (a, ∞).<br />
2. Dokažimo sada da je funkcija P σ-aditivna na algebri B 0 .<br />
∞ ∑<br />
n=−∞ k=1<br />
∞∑<br />
P (I k ∩ (n, n +1])<br />
⋃<br />
Neka su dati disjunktni skupovi A i ∈B 0 takvi da je A = ∞ A i ∈B 0 .<br />
i=1<br />
Algebra B 0 se sastoji od konačnih disjunktnih intervala iz K, pajezato<br />
A i = m ⋃i<br />
⋃<br />
I ik i A = s I n gde su I n ,I ik ∈K za sve n =1,...,s i k =1,...,m i i ∈ N.<br />
k=1<br />
i=1 k=1<br />
n=1<br />
n=1<br />
Tada je<br />
P (A) def ∑<br />
= s ∑<br />
P (I n )=<br />
s ∑<br />
P (I n ∩ A) =<br />
s ⋃<br />
P (I n ∩ ∞ m⋃<br />
i<br />
σ−adit. na K<br />
s∑ ∞∑ ∑m i<br />
I ik ) =<br />
P (I n ∩ I ik )=<br />
n=1<br />
n=1<br />
n=1 i=1 k=1<br />
n=1 i=1 k=1<br />
∑<br />
= ∞ ∑m i ⋃<br />
P ( s ∑<br />
I n ∩ I ik )= ∞ ∑m i<br />
∑<br />
P (A ∩ I ik )= ∞ ∑m i ∑<br />
P (I ik )= ∞ P ( m ⋃i<br />
∑<br />
I ik )= ∞ P (A i )<br />
i=1 k=1<br />
Time je teorema dokazana do kraja.<br />
Primer 5 Funkcija raspodele F (x) =<br />
⎧<br />
⎨<br />
⎩<br />
i=1 k=1<br />
0, x ≤ 0<br />
x, 0 1<br />
i=1<br />
k=1<br />
generiše tzv.<br />
i=1<br />
Borelovu meru na<br />
Borelovim skupovima intervala (0, 1]. Kompletiranjem ove mere dobijamo Lebegovu meru na<br />
Lebegovim skupovima intervala (0, 1].<br />
Napomena 6 Zahtev da funkcija raspodele bude neprekidna sa desne strane obezbed¯uje da<br />
poznajemo verovatnoću poluzatvorenih intervala oblika (a, b] (sa kojima smo generisali Borelovu<br />
σ-algebru) samo na osnovu tačaka koje pripadaju datom intervalu.<br />
Funkcija raspodele se može definisati i tako da se traži da bude neprekidna sa leve strane.<br />
Tada se Borelova σ-algebra se generiše poluzatvorenim intervalima oblika [a, b),a u relaciji (3.1)<br />
se uzima F (x) =P ((−∞,x)).<br />
Posmatrajmo sada prostor (R n , B(R n )).<br />
19
Svaki n-dimenzionalni pravougaonik I =(a 1 ,b 1 ] × (a 2 ,b 2 ] ×···×(a n ,b n ] ima <strong>teme</strong>na u vidu<br />
tačaka oblika x =(x 1 ,x 2 ,...,x n ) gde je x k = a k ili x k = b k .<br />
Definišimo znak <strong>teme</strong>na x uoznaci z I (x) sa:<br />
{ +1 ako je broj indeksa k za koje važi xk = a<br />
z I (x) =<br />
k paran<br />
−1 ako je broj indeksa k za koje važi x k = a k neparan.<br />
Na primer u R 2 to izgleda na sledeći način:<br />
Za proizvoljnu funkciju F : R n → R definišimo<br />
∆ F (I) = ∑ x<br />
z I (x)F (x) (3.8)<br />
gde se sabiranje vrši po svim <strong>teme</strong>nima x n-dimenzionalnog pravougaonika I.<br />
Na primer, u R 2 to znači da je ∆ F (I) =F (b 1 ,b 2 ) − F (b 1 ,a 2 ) − F (a 1 ,b 2 )+F (a 1 ,a 2 )<br />
Definicija 13 Funkcija F : R n → R naziva se n-dimenzionalna funkcija raspodele, ako<br />
ima osobine:<br />
1. ∆ F (I) ≥ 0 za svaki n-dimenzionalni pravougaonik I.<br />
2. lim F (x 1,x 2 ,...,x n )=0 za svako k =1, 2,...,n i<br />
x k →−∞<br />
F (x 1 ,x 2 ,...,x n )=1<br />
lim<br />
(x 1 ,x 2 ,··· ,x n)→(∞,∞,...,∞)<br />
3. F je neprekidna zdesna po svakom argumentu.<br />
Teorema 9 (a) Neka je P verovatnosna mera na merljivom prostoru (R n , B(R n )). Tada je<br />
funkcija F : R n → R definisana sa<br />
F (x 1 ,x 2 ,...,x n )=P ((−∞,x 1 ] × (−∞,x 2 ] ×···×(−∞,x n ]) (3.9)<br />
n-dimenzionalna funkcija raspodele.<br />
(b) Ako je F n-dimenzionalna funkcija raspodele, tada postoji jedinstvena verovatnosna mera<br />
na (R n , B(R n )) takva da za svako (x 1 ,x 2 ,...,x n ) ∈ R n važi relacija (3.9) i da za svaki<br />
n-dimenzionalni pravougaonik I, važi<br />
P (I) =∆ F (I) (3.10)<br />
20
Dokaz. Dokaz ćemodatizatvrd¯enje pod (a), a (b) se slično dokazuje kao i u jednodimenzionalnom<br />
slučaju.<br />
Neka je n =2 inekajeP verovatnosna mera na (R 2 , B(R 2 )).<br />
1. ∆ F (I) =F (b 1 ,b 2 ) − F (b 1 ,a 2 ) − F (a 1 ,b 2 )+F (a 1 ,a 2 )=<br />
P ((−∞,b 1 ] × (−∞,b 2 ]) − P ((−∞,b 1 ] × (−∞,a 2 ]) − P ((−∞,a 1 ] × (−∞,b 2 ])+<br />
P ((−∞,a 1 ] × (−∞,a 2 ]) = P ((a 1 ,b 1 ] × (a 2 ,b 2 ]) ≥ 0<br />
2. Neka je x 2 fiksiran i posmatrajmo proizvoljan niz {x (n)<br />
1 } n∈N takav da {x (n)<br />
1 }↘−∞.<br />
Treba dokazati da je lim F (x (n)<br />
1 ,x 2 )=0. Kako je<br />
n→∞<br />
(−∞,x (1)<br />
1 ] × (−∞,x 2 ] ⊃ (−∞,x (2)<br />
1 ] × (−∞,x 2 ] ⊃ (−∞,x (3)<br />
1 ] × (−∞,x 2 ] ⊃···→∅,<br />
to iz neprekidnosti mere P dobijamo<br />
lim F<br />
n→∞ (x(n) 1 ,x 2 ) = lim P ((−∞,x (n)<br />
1 ] × (−∞,x 2 ]) = P (∅) =0.<br />
n→∞<br />
3. Neka vektor (x (n)<br />
1 ,x (n)<br />
2 ) →∞. Želimodapokažemodavaži F (x (n)<br />
1 ,x (n)<br />
2 ) → 1<br />
2 }↗+∞ to dobijamo monoton niz skupova<br />
Kako {x (n)<br />
1 }↗+∞, i {x (n)<br />
(−∞,x (1)<br />
1 ] × (−∞,x (1)<br />
2 ] ⊂ (−∞,x (2)<br />
1 ] × (−∞,x (2)<br />
2 ] ⊂ (−∞,x (3)<br />
1 ] × (−∞,x (3)<br />
2 ] ⊂···→R 2<br />
pa iz neprekidnosti mere P sledi lim F (x (n)<br />
1 ,x (n)<br />
n→∞<br />
2 )=P (R 2 )=1.<br />
4. Dokažimo neprekidnost zdesna po argumentu x 1 pri fiksiranom x 2 tj.<br />
lim F (x 1 + h, x 2 )=F (x 1 ,x 2 ). Pokažimo neprekidnost u tački (x 1 ,x 2 ). Neka je dat niz<br />
h→0 +<br />
{x (n)<br />
1 }↘x 1 . Tada je<br />
(−∞,x (1)<br />
1 ] × (−∞,x 2 ] ⊃ (−∞,x (2)<br />
1 ] × (−∞,x 2 ] ⊃···<br />
···→ ⋂ (−∞,x (n)<br />
1 ] × (−∞,x 2 ]=(−∞,x 0 ] × (−∞,x 2 ]<br />
n∈N<br />
odakle sledi<br />
lim F<br />
n→∞ (x(n) 1 ,x 2 ) = lim P ((−∞,x (n)<br />
1 ] × (−∞,x 2 ]) = P ((−∞,x 1 ] × (−∞,x 2 ]) = F (x 1 ,x 2 ).<br />
n→∞<br />
3.2 Verovatnosna mera na (R ∞ , B(R ∞ ))<br />
Posmatrajmo cilindar oblika J (B n )={x ∈ R ∞ :(x 1 ,x 2 ,...,x n ) ∈ B n }, za neko B n ∈B(R n ).<br />
PretpostavimodajedatameraP na (R ∞ , B(R ∞ )) i definišimo meru P n na (R n , B(R n )) sa<br />
P n (B n )=P (J (B n )) za B n ∈B(R n ), n =1, 2,...<br />
Tako dobijen niz mera P n (n =1, 2,...) zadovoljava uslov saglasnosti:<br />
P n+1 (B n × R) =P n (B n ),<br />
n ∈ N<br />
Sledeća teorema daje obrat ovog tvrd¯enja.<br />
Teorema 10 (Kolmogorova o produženju mere na (R ∞ , B(R ∞ ))) Neka su P 1 ,P 2 ,...<br />
verovatnosne mere na merljivim prostorima (R, B(R)) ; (R 2 , B(R 2 )) ; ... redom koje zadovoljavaju<br />
uslov saglasnosti. Tada postoji jedinstvena verovatnosna mera P na (R ∞ , B(R ∞ )) takva<br />
da važi<br />
P (J (B n )) = P n (B n )<br />
za sve n ∈ N i sve B ∈B(R n ).<br />
21
Dokaz. Definišimo prvo funkciju P<br />
na cilindrima sa:<br />
P (J (B n )) = P n (B n )<br />
za proizvoljan cilindar J (B n ).<br />
Pokažimo da je ova definicija korektna tj. da ne zavisi od izbora osnove cilindra.<br />
Neka clindar ima dva oblika reprezentacije J (B n )=J (B n+k ) gde je B n+k = B n × R k .<br />
Koristeći uslov sagalsnosti dobijamo<br />
P (J (B n )) = P n (B n )=P n+1 (B n+1 )=P n+2 (B n+2 )=···= P n+k (B n+k )=P (J (B n+k )).<br />
Skup svih cilindara čini algebru (propozicija 2). Označimo je sa A(R ∞ ), i uvedimo novu<br />
oznaku za cilindre: ˆBn = J (B n ).<br />
Dokažimo sada da je P konačnoaditivnanaalgebriA(R ∞ ).<br />
Neka su ˆB 1 , ˆB 2 ,..., ˆB k disjunktni cilindri iz algebre A(R ∞ ). Kako ovih cilindara ima konačno<br />
mnogo, možemo uzeti da je n maksimalna dimenzija osnove pa sve cilindre posmatrati kao<br />
ˆB i = J (Bi n ) gde su Bi<br />
n ∈B(R n ) za sve i =1, 2,...,k.Kako su cilindri disjunktni, to i njihove<br />
osnove Bi<br />
n moraju biti disjunktne. Sada je<br />
⋃<br />
P ( k ⋃<br />
ˆB i )=P ( k ⋃<br />
J (Bi n )) = P (J ( k ⋃<br />
Bi n )) = P n ( k Bi n )=<br />
i=1<br />
i=1<br />
i=1<br />
i=1<br />
∑<br />
= k ∑<br />
P n (Bi n )= k ∑<br />
P (J (Bi n )) = k P ( ˆB i ).<br />
i=1<br />
i=1<br />
Time je dokazana konačna aditivnost.<br />
Dokažimo sada da je P neprekidna u nuli. Tada će na osnovu teoreme 1 slediti i σ-<br />
aditivnost na algebri A(R ∞ ), tj. P je verovatnosna mera na algebri, pa se ona na jedinstven<br />
način proširuje na σ-algebru B(R ∞ ).<br />
Neka je { ˆB n } n∈N niz cilindara takav da je ˆB1 ⊃ ˆB 2 ⊃ ˆB ⋂<br />
3 ⊃ ... → ∞ ˆB n = ∅. Treba<br />
pokazati da tada P ( ˆB n ) → 0.<br />
Pretpostavimo suprotno da je lim P ( ˆB n )=δ>0.<br />
n→∞<br />
Ne umanjujući opštost možemo pretpostaviti da su svi cilindri iz datog niza oblika<br />
ˆB n = {x ∈ R ∞ : (x 1 ,x 2 ,...,x n ) ∈ B n } gde je B n ∈B(R n ).<br />
Za svaki skup B n ∈B(R n ) i za dato δ>0 postoji kompaktan skup A n ∈B(R n ), A n ⊂ B n<br />
takav da važi<br />
P n (B n \A n ) ≤<br />
δ<br />
2 . n+1<br />
Formirajmo sada cilindre  n = {x ∈ R ∞ : (x 1 ,x 2 ,...,x n ) ∈ A n }. Tada važi<br />
Neka je Ĉn = n ⋂<br />
k=1<br />
P ( ˆB n \Ân) =P n (B n \A n ) ≤<br />
δ<br />
2 n+1<br />
 k odnosno Ĉn = {x ∈ R ∞ : (x 1 ,x 2 ,...,x n ) ∈ C n } gde je C n = n ⋂<br />
Tada koristeći konačnu subaditivnost dobijamo<br />
P ( ˆB n \Ĉn) =P ( ˆB ⋂<br />
n \ n ⋃<br />
 k )=P ( n ( ˆB ∑<br />
n \Âk) ≤ n P ( ˆB ∑<br />
n \Âk) ≤ n P ( ˆB k \Âk) ≤ δ 2<br />
k=1<br />
odnosno P ( ˆB n ) − P (Ĉn) ≤ δ 2<br />
k=1<br />
k=1<br />
i=1<br />
k=1<br />
odakle graničnim procesom dobijamo<br />
n=1<br />
k=1<br />
A k .<br />
lim<br />
n→∞ P (Ĉn) ≥ δ 2<br />
(3.11)<br />
22
Dokazaćemo da je ovo u kontradikciji sa ⋂<br />
n∈N<br />
ˆB n = ∅.<br />
Iz (3.11) sledi da je svaki skup Ĉn neprazan, pa možemo iz njega birati tačku ˆx (n) =(x (n)<br />
1 ,x (n)<br />
2 , ... )<br />
za koju je (x (n)<br />
1 ,x (n)<br />
2 , ... ,x (n)<br />
n ) ∈ C n . To uradimo za svako n ≥ 1. Primetimo još dajesvaki<br />
skup C n kompaktan, jer je dobijen presekom kompaktnih skupova. Sada imamo<br />
(x (1)<br />
1 ) ∈ C 1<br />
(x (2)<br />
1 ,x (2)<br />
2 ) ∈ C 2 ⊂ C 1<br />
(x (3)<br />
1 ,x (3)<br />
2 ,x (3)<br />
3 ) ∈ C 3 ⊂ C 2 ⊂ C 1<br />
.<br />
Posmatrajmo sada niz prvih koordinata: niz<br />
zato ima konvergentan podniz<br />
x (n 1)<br />
1 → x 0 1 ∈ C 1 .<br />
{x (n)<br />
1 } n je niz u C 1 koji je kompaktan, pa<br />
Dalje, posmatramo niz ured¯enih parova {(x (n 1)<br />
1 ,x (n 1)<br />
2 )} n1 koji je sada niz u kompaktnom<br />
skupu C 2 pa sledi da postoji podniz niza {n 1 } tako da je<br />
(x (n 2)<br />
1 ,x (n 2)<br />
2 ) → (x 0 1,x 0 2) ∈ C 2<br />
. itd. postoji podniz {n k } tako da je<br />
(x (n k)<br />
1 ,x (n k)<br />
2 ,...,x (n k)<br />
k<br />
) → (x 0 1,x 0 2,...,x 0 k ) ∈ C k.<br />
Sada napravimo dijagonalni podniz uzimajući iz niza {n k } k-ti član - označimo ga sa m k .<br />
Tada x (m k)<br />
i → x 0 i za m k →∞ i sve i ∈ N.<br />
Pri tome je (x 0 1,x 0 2, ... ) ∈ Ĉn ⊂ ˆB n za sve n ∈ N.<br />
Sledi da je ⋂ ˆB n ≠ ∅ što je u kontradikciji sa polaznom pretpostavkom!<br />
n∈N<br />
Napomena 7 U dokazu smo koristili svojstvo realne prave topološkog karaktera da se za proizvoljan<br />
skup iz B(R n ) može naći kompaktan podskup čija je verovatnosna mera ”dovoljno blizu”<br />
mere polaznog skupa. Ovo svojstvo važi i u svakom kompletnom separabilnom metričkom prostoru<br />
sa σ-algebrom koju generišu otvorene lopte. Teorema Kolmogorova važiinatakvimprostorima.<br />
3.3 Verovatnosna mera na ( R T , B(R T ) )<br />
Posmatrajmo neured¯enu n-torku indeksa τ =[t 1 ,t 2 ,...,t n ] gde su t i ∈ T inekaje P τ<br />
mera<br />
na (R τ , B(R τ )) gde je R τ = R t1 ×R t2 ×···×R tn<br />
Definicija 14 Kažemo da je familija mera {P τ } saglasna (τ prolazi kroz skup svih konačnih<br />
izbora neured¯enih n-torki iz T ) ako važi:<br />
Za proizvoljnu funkciju x : T → R, za svaka dva izbora τ =[t 1 ,t 2 ,...,t n ] i σ =[s 1 ,s 2 ,...,s k ]<br />
takva da je σ ⊂ τ i za proizvoljno B ∈B(R σ ) važi<br />
P σ {(x(s 1 ),x(s 2 ),...,x(s k )) : (x(s 1 ),x(s 2 ),...,x(s k )) ∈ B} =<br />
P τ {(x(t 1 ),x(t 2 ),...,x(t n )) : (x(s 1 ),x(s 2 ),...,x(s k )) ∈ B}.<br />
Teorema 11 (Kolmogorova o produženju mere na ( R T , B(R T ) ) ) Neka je {P τ } familija<br />
saglasnih verovatnosnih mera na (R τ , B(R τ )) . Tada postoji jedinstvena mera P na (R T , B(R T )<br />
takva da je<br />
P {x ∈ R T :(x(t 1 ),x(t 2 ),...,x(t n )) ∈ B} = P [t1 ,t 2 ,...,t n](B) (3.12)<br />
23
za sve izbore τ =[t 1 ,t 2 ,...,t n ] ⊂ T i B ∈B(R τ ).<br />
Dokaz. Premateoremi7zasvakiBorelovskupB ∈B(R T ) postoji najviše prebrojiv skup<br />
S = {s 1 ,s 2 ,...}⊂T takav da je B ∈B(R S ). Definišimo<br />
P (B) =P S (B), (3.13)<br />
gde je P S mera na prostoru nizova (R S , B(R S )) čiju egzistenciju garantuje teorema Kolmogorova<br />
o produženju mere na R S .<br />
Pokažimo da je ova definicija korektna.<br />
Neka za skup B postoje prebrojivi skupovi indeksa S 1 i S 2 takvi da je B ∈B(R S 1<br />
)i B ∈B(R S 2<br />
).<br />
Treba pokazati da je P S1 (B) =P S2 (B).<br />
Iz S 1 ⊂ S 1 ∪S 2 sledi B(R S 1<br />
) ⊂B(R S 1∪S 2<br />
), a iz B ∈B(R S 1<br />
)i B ∈B(R S 2<br />
)slediB ∈B(R S 1∪S 2<br />
).<br />
Posmatrajmo sada R ∞ -cilindre<br />
ˆB k = {x ∈ R S 1<br />
:(x (s 1 ) ,x(s 2 ) ,...,x(s k )) ∈ C k }<br />
gde je C k ∈B(R k ).<br />
Na cilindrima ovog tipa se P S1 i P S1 ∪S 2<br />
poklapaju po uslovu saglasnosti. Naime,<br />
P S1 ( ˆB k )=P [s1 ,s 2 ,...,s k ](C k ) (teorema Kolmogorova na R ∞ )<br />
= P [s1 ,s 2 ,...,s k ]{(x (s 1 ) ,x(s 2 ) ,...,x(s k )) : (x (s 1 ) ,x(s 2 ) ,...,x(s k )) ∈ C k }<br />
= P [s1 ,s 2 ,...,s k ,t 1 ,t 2 ,...,t m]{(x (s 1 ) ,x(s 2 ) ,...,x(s k ) ,x(t 1 ),x(t 2 ) ,...,x(t m )) :<br />
(x (s 1 ) ,x(s 2 ) ,...,x(s k )) ∈ C k }<br />
= P S1 ∪S 2<br />
( ˆB k+m )<br />
= P S1 ∪S 2<br />
({x ∈ R S 1∪S 2<br />
:(x (s 1 ) ,x(s 2 ) ,...,x(s k ) ,x(t 1 ),x(t 2 ) ,...,x(t m )) ∈ C k })<br />
= P S1 ∪S 2<br />
( ˆB k )<br />
Kako se P S1 i P S1 ∪S 2<br />
poklapaju na cilindrima, to iz teoreme 10 (jedinstvenost) sledi da se P S1<br />
i P S1 ∪S 2<br />
poklapaju na čitavoj σ-algebri B(R S ).<br />
Dakle, P S1 ≡ P S1 ∪S 2<br />
≡ P S2 .<br />
Jasno je i da P zadovoljava traženi uslov (3.12) što sledi direktno iz (3.13) za specijalan<br />
slučaj kada je skup S konačan.<br />
Ostaje još samo da se proveri da je P i σ-aditivna na B(R T ).<br />
Neka je {B n } disjunktan niz skupova iz B(R T ). Znamo da za svako B n postoji skup S n ,<br />
Card(S n ) < ℵ 0 takav da je B n ∈B(R Sn ).<br />
Formirajmo skup S = ⋃ S n . Tada je Card(S) < ℵ 0 i važi da je B n ∈B(R S ) za svako<br />
⋃<br />
n∈N<br />
n ∈ N. Sledi da je i B n ∈B(R S ).<br />
Kako P S<br />
n∈N<br />
jeste mera, dobijamo da je<br />
P ( ⋃ B n )=P S ( ⋃ B n )= ∑ P S (B n )= ∑ P (B n ).<br />
n∈N<br />
n∈N n∈N<br />
n∈N<br />
Time je teorema dokazana.<br />
Napomena 8 Ako se posmatraju ured¯ene n-torke (t 1 ,t 2 ,...,t n ), tada se zahteva još iuslov<br />
simetričnosti:<br />
P (t1 ,...,t n)(A t1 ×···×A tn )=P (ti1 ,...,t in )(A ti1 ×···×A tin )<br />
gde je (i 1 ,...,i n ) proizvoljna permutacija brojeva (1,...,n), a A ti ∈B(R ti ).<br />
24
Deo II<br />
Normalna raspodela<br />
25
Glava 4<br />
Potrebno predznanje<br />
Drugi deo seminarskog rada posvećen je slučajnim promenljivama i slučajnim vektorima sa<br />
normalnom raspodelom. U prvom poglavlju navedene su definicije nekih osnovnih pojmova u<br />
teoriji verovatnoće (slučajna promenljiva, matematičko očekivanje, disperzija, karakteristična<br />
funkcija, itd.) a date su i najvažnije teoreme i tvrd¯enja vezana za njih. Zatim sledi kratak<br />
pregled potrebnog predznanja iz linearne algebre o matricama i kvadratnim formama. Cilj<br />
ovakvog uvoda je da čitaocu omogući lakše praćenje dokaza u narednim poglavljima, u kojima<br />
se u velikoj meri koriste elementi linearne algebre.<br />
4.0.1 Osnovni pojmovi teorije verovatnoće<br />
Definicija 15 Preslikavanje X :Ω→ R iz prostora verovatnoće (Ω, F,P) u merljiv prostor<br />
(R, B(R)) naziva se slučajna promenljiva ako inverzna slika svakog Borelovog skupa pripada<br />
σ-algebri F, odnosno važi:<br />
X −1 (B) ∈F<br />
za proizvoljno B ∈B(R).<br />
Na merljivom prostoru (R, B(R)) uvodimo verovatnosnu meru P X<br />
definisanu relacijom<br />
P X (B) =P (X −1 (B)).<br />
Prema teroremi 8 za meru P X postoji jedinstvena funkcija raspodele F X : R → R za koju važi<br />
F X (x) =P X ((−∞,x]) = P {ω ∈ Ω:X(ω) ≤ x}.<br />
Funkciju F X nazivamo funkcija raspodele slučajne promenljive X.<br />
Definicija 16 Slučajna promenljiva I A data sa I A (ω) =<br />
{ 1, ω ∈ A<br />
0, ω /∈ A<br />
za dogad¯aj A ∈ F<br />
naziva se indikator dogad¯aja A.<br />
Ako postoji disjunktno razbijanje sigurnog dogad¯aja Ω=A 1 ∪ A 2 ∪ ..., iakopostojinajviše<br />
prebrojiv skup {x 1 ,x 2 ,...}⊂R, tada slučajnu promenljivu oblika<br />
X(ω) =<br />
∞∑<br />
x i I Ai (ω) (4.1)<br />
i=1<br />
nazivamo diskretna slučajna promenljiva.<br />
26
Definicija 17 Slučajna promenljiva je apsolutno neprekidnog tipa, ako postoji nenegativna<br />
funkcija ϕ : R → R takva da važi<br />
F X (x) =<br />
∫ x<br />
−∞<br />
ϕ(t)dt, (4.2)<br />
gde je integral u (4.2) u opštem slučaju Lebegov integral. Funkcija ϕ(x) se naziva funkcija<br />
gustine slučajne promenljive X.<br />
U terminima teorije mere relacija (4.2) znači da je verovatnosna mera P X apsolutno<br />
neprekidna u odnosu na Lebegovu meru tj. za svaki Borelov skup A ∈B(R) važi implikacija<br />
λ(A) =0 ⇒ P X (A) =0 gdejeλ oznaka za Lebegovu meru. Funkcija gustine ϕ(x) je<br />
Radon-Nikodimov izvod mere P X po meri Lebega λ.<br />
Definicija 18 Slučajna promenljiva (različita od konstantne) je singularnog tipa, ako izvod<br />
F X ′ postoji i jednak je nuli skoro svuda, gde se izraz ”skoro svuda” odnosi na Lebegovu meru.<br />
Može se pokazati da je uslov F X<br />
′ s.s.<br />
= 0 ekvivalentan činjenici da su mere P X i Lebegova mera<br />
λ uzajamno singularne mere što znači da postoji Borelov skup A ∈B(R) takav da je λ(A) =0<br />
i P X (A) =0.<br />
Definicija 19 Preslikavanje X :Ω→ R n iz prostora verovatnoće (Ω, F,P) u merljiv prostor<br />
(R n , B(R n )) naziva se slučajan vektor, ako inverzna slika svakog Borelovog skupa pripada<br />
σ-algebri F, odnosno za proizvoljno B ∈B(R n ) važi X −1 (B) ∈F.<br />
Pojmovi funkcije raspodele, apsolutne neprekidnosti i singularne raspodele se definišu analogno<br />
kao i u jednodimenzionalnom slučaju.<br />
Teorema 12 Preslikavanje X :Ω→ R n čija su komponentna preslikavanja<br />
X(ω) =(X 1 (ω),X 2 (ω),...,X n (ω)) je slučajan vektor akko je svako X i slučajna promenljiva<br />
(i =1, 2,...,n).<br />
Teorema 13 Ako je X slučajan vektor i preslikavanje h : R n → R n Borelovo preslikavanje,<br />
tada je kompozicija preslikavanja h(X) takod¯e slučajan vektor.<br />
Ako je X slučajan vektor apsolutno neprekidnog tipa kojem odgovara funkcija gustine ϕ(x)<br />
i ako je preslikavanje h bijekcija, tada je funkcija gustine za slučajan vektor h(X) data sa<br />
ϕ(y) =ϕ(h −1 (y)) |J| gde je |J| Jakobijan inverzne transformacije h −1 .<br />
Definicija 20 Za slučajan vektor X =(X 1 ,X 2 ,...,X n ) definišemo marginalne funkcije<br />
raspodele po komponentama (X 1 ,X 2 ,...,X k ) k ≤ n sa<br />
F X1 ,...,X k<br />
(x 1 ,...,x k ) =<br />
lim F X (x 1 ,x 2 ,...,x n ).<br />
(x k+1,..., x n)→∞<br />
U slučaju apsolutno neprekidnog slučajanog vektora ima smisla govoriti i o marginalnim<br />
funkcijama gustine datima relacijom<br />
∫ ∫<br />
ϕ X1 ,...,X k<br />
(x 1 ,...,x k )= ··· ϕ X (x 1 ,x 2 ,...,x n )dx k+1 ...dx n.<br />
R n−k<br />
27
Definicija 21 Komponente X 1 ,X 2 ,...,X n slučajanog vektora X =(X 1 ,X 2 ,...,X n ) su<br />
nezavisne, ako za svako k ≤ n, za svaki izbor indeksa (i 1 ,...,i k ) i za proizvoljne Borelove<br />
skupove B 1 ,...,B k ∈B(R) važi<br />
P (<br />
k⋂<br />
{X ij ∈ B j })=<br />
j=1<br />
k∏<br />
P {X ij ∈ B j }.<br />
Teorema 14 Komponente X 1 ,X 2 ,...,X n slučajanog vektora X =(X 1 ,X 2 ,...,X n ) su<br />
nezavisne akko je<br />
F X (x 1 ,x 2 ,...,x n )=F 1 (x 1 )F 2 (x 2 ) ...F n (x n ),<br />
gde je sa F i (x i ) označena marginalna funkcija raspodele po i−toj komponenti vektora X.<br />
Komponente X 1 ,X 2 ,...,X n slučajanog vektora X =(X 1 ,X 2 ,...,X n ) apsolutno neprekidnog<br />
tipa su nezavisne akko je<br />
j=1<br />
ϕ X (x 1 ,x 2 ,...,x n )=ϕ 1 (x 1 )ϕ 2 (x 2 ) ...ϕ n (x n ),<br />
gde je sa ϕ i (x i ) označena marginalna funkcija gustine po i−toj komponenti vektora X.<br />
Slučajna promenljiva X je merljiva funkcija na prostoru verovatnoće (Ω, F,P), pa možemo<br />
posmatrati i njen integral po meri P. Ovaj integral ćemo označavati sa E(X) inazivaćemo ga<br />
matematičkim očekivanjem slučajne promenljive X.<br />
Dajemo ukratko ideju konstrukcije matematičkog očekivanja kao integrala po meri P.<br />
Ako je X nenegativna slučajna promenljiva diskretnog tipa tj. ima oblik (4.1), tada<br />
definišemo njeno matematičko očekivanje uoznaciE(X) kao<br />
E(X) =<br />
∞∑<br />
x k P (A k ).<br />
k=1<br />
Ako je X nenegativna slučajna promenljiva, tada znamo da postoji rastući niz diskretnih<br />
slučajnih promenljivih {X n } n∈N koji uniformno nad Ω konvergira ka X. Utomslučaju<br />
definišemo<br />
E(X) = lim E(X n ).<br />
n→∞<br />
Ovaj limes ne zavisi od izbora niza X n , amože biti konačan broj ili +∞.<br />
Ako je X proizvoljna slučajna promenljiva, tada je razbijamo na njen pozitivan i negativan<br />
deo X = X + − X − gde su X + =max{X, 0} i X − =max{−X, 0}, idefinišemo<br />
E(X) =E(X + ) − E(X − ),<br />
ako je bar jedan od brojeva E(X + ),E(X − ) konačan. Ako su oba broja beskonačna, reći ćemo<br />
da matematičko očekivanje E(X) ne postoji.<br />
U daljem radu koristićemo ravnopravno oznake<br />
∫ ∫<br />
E(X) = XdP = XdF X ,<br />
Ω<br />
R<br />
što se u slučaju apsolutno neprekidne slučajne promenljive svodi na E(X) = ∫ R<br />
xϕ(x)dx.<br />
Ako E(X) postoji kao konačan broj tj. E(X + ) < ∞ i E(X − ) < ∞, tada iz |X| = X + +X −<br />
sledidajeE(|X|) =E(X + )+E(X − ) < ∞, pa se tu zapravo radi o apsolutnoj konvergenciji<br />
integrala.<br />
28
Teorema 15 (o monotonoj konvergenciji) Neka je {X n } monoton niz slučajnih promenljivih<br />
takav da X n ↗ X s.s. Neka postoji slučajna promenljiva Y, takva da je E(Y ) > −∞ i<br />
Y (ω) ≤ X n (ω) za sve n ∈ N i skoro sve ω ∈ Ω. Tada važi E(X n ) ↗ E(X).<br />
Teorema 16 (Lebegova o dominantnoj konvergenciji) Neka za niz slučajnih promenljivih<br />
{X n } važi da X n (ω) → X (ω) za skoro sve ω ∈ Ω kad n →∞. Neka postoji slučajna promenljiva<br />
Y sa konačnim matematičkim očekivanjem i osobinom da je |X n (ω)| ≤Y (ω) za sve n ∈ N i<br />
skoro sve ω ∈ Ω. Tada važi<br />
E(|X n − X|) → 0,<br />
kad n →∞.<br />
Iz prethodne relacije dobijamo kao posledicu da važiirazmenagraničnog procesa i integrala,<br />
odnosno<br />
E(X n ) → E(X), kad n →∞.<br />
Teorema 17 Osobine matematičkog očekivanja:<br />
1. E(cX) =cE(X), gde je c proizvoljna realna konstanta.<br />
2. Ako je X(ω) ≤ Y (ω) za skoro sve ω ∈ Ω, tada je E(X) ≤ E(Y ).<br />
3. E(X + Y )=E(X)+E(Y ).<br />
4. Ako su X i Y nezavisne, tada je E(XY )=E(X)E(Y ).<br />
Teorema 18 Neka je X slučajna promenljiva i h : R → R Borelova funkcija. Tada je<br />
∫<br />
∫<br />
E(h(X)) = (h ◦ X)dP = h(x)dF X (x).<br />
Ω<br />
R<br />
Definicija 22 Neka je X slučajna promenljiva. Disperzija slučajne promenljive X, uoznaci<br />
D(X) je veličina<br />
D(X) =E(X − E(X)) 2 .<br />
Teorema 19 Osobine disperzije su:<br />
1. D(X) =E(X 2 ) − (E(X)) 2 .<br />
2. D(X) ≥ 0.<br />
3. D(cX) =c 2 D(X), gde je c proizvoljna realna konstanta.<br />
4. D(X) =0 akko je X =0skoro svuda.<br />
Definicija 23 Neka su X i Y slučajne promenljive sa konačnim disperzijama različitim od<br />
nule. Kovarijansa slučajnih promenljivih X i Y je broj cov(X, Y ) dat sa<br />
cov(X, Y )=E((X − EX)(Y − EY )) = E(XY ) − E(X)E(Y ).<br />
Koeficijent korelacije slučajnih promenljivih X i Y je broj<br />
ρ(X, Y )= cov(X, Y )<br />
√<br />
D(X)D(Y )<br />
.<br />
Slučajne promenljive X i Y su nekorelirane, ako im je kovarijansa jednaka nuli.<br />
29
Primetimo da je cov(X, X) =D(X). Važi da iz nezavisnosti slučajnih promenljivih X i Y<br />
sledi i njihova nekoreliranost, dok obrnuta implikacija u opštem slučaju ne vredi.<br />
Definicija 24 Neka je X =(X 1 ,X 2 ,...,X n ) slučajan vektor. Kovarijaciona matrica<br />
vektora X je matrica data sa B =[cov(X i ,X j )] n×n .<br />
Teorema 20 Matrica B je kovarijaciona matrica nekog slučajnog vektora akko je simetrična i<br />
pozitivno semidefinitna.<br />
Teorema 21 Neka su X 1 ,X 2 ,...,X n proizvoljne slučajne promenljive. Tada je<br />
D(<br />
n∑<br />
X i )=<br />
n∑<br />
cov(X i ,X j )=<br />
D(X i )+ ∑<br />
i=1 i=1 i≠j<br />
i=1<br />
Ako su X 1 ,X 2 ,...,X n nezavisne slučajne promenljive, tada je<br />
D(<br />
n∑<br />
X i )=<br />
i=1<br />
n∑<br />
D(X i ).<br />
i=1<br />
n∑<br />
n∑<br />
cov(X i ,X j ). (4.3)<br />
Definicija 25 Karakteristična funkcija slučajne promenljive X je funkcija f : R → C<br />
definisana relacijom<br />
∫<br />
f X (t) =E(e itX )= e itx dF X .<br />
Karakteristična funkcija slučajne promenljive apsolutno neprekidnog tipa je zapravo<br />
Furijeova transformacija funkcije gustine. Karakteristična funkcija postoji za svaku slučajnu<br />
promenljivu i ona je jednoznačno odred¯uje (teorema Levija o formuli inverzije).<br />
Teorema 22 Ako je karakteristična funkcija f(t) neke slučajne promenljive apsolutno integrabilna<br />
tj. ∫ |f(t)| dt < ∞, tada je odgovarajuća funkcija raspodele F X apsolutno neprekidna i<br />
R<br />
važi<br />
ϕ(x) = 1 ∫<br />
e −itx f(t)dt,<br />
2π<br />
R<br />
gde je ϕ(x) gustina raspodele za F X (x).<br />
Teorema 23 Osobine karakteristične funkcije:<br />
1. f(0) = 1.<br />
2. |f(t)| ≤1.<br />
3. f aX+b (t) =e itb f X (at).<br />
4. f(−t) =f(t).<br />
5. Ako su X 1 ,X 2 ,...,X n nezavisne, tada je f X1 +X 2 +···+X n<br />
(t) =f X1 (t)f X2 (t) ···f Xn (t).<br />
Definicija 26 Karakteristična funkcija slučajnog vektora X je funkcija f : R n → C<br />
definisana relacijom<br />
R<br />
i=1<br />
f X (t 1 ,t 2 ,...,t n )=E(e i〈t|X〉 )=E(e i ∑ n<br />
k=1 t kX k<br />
),<br />
gde je t =(t 1 ,t 2 ,...,t n ), a 〈·|·〉 je oznaka za skalarni proizvod.<br />
30
Lema 2 Ako su X 1 ,X 2 ,...,X n proizvoljne slučajne promenljive i λ 1 ,λ 2 ,...,λ n proizvoljni<br />
realni brojevi, tada je<br />
f λ1 X 1 +λ 2 X 2 +···+λ nX n<br />
(t) =f X (λ 1 t , λ 2 t,...,λ n t), (4.4)<br />
gde je f X (t 1 ,t 2 ,...,t n ) karakteristična funkcija za slučajan vektor X =(X 1 ,X 2 ,...,X n ).<br />
Teorema 24 Komponente X 1 ,X 2 ,...,X n slučajnog vektora X =(X 1 ,X 2 ,...,X n ) su<br />
nezavisne akko za sve t 1 ,t 2 ,...,t n važi<br />
f X (t 1 ,t 2 ,...,t n )=f X1 (t 1 )f X2 (t 2 ) ···f Xn (t n ).<br />
Teorema 25 Neka je f X (t 1 ,t 2 ,...,t n ) karakteristična funkcija slučajnog vektora<br />
X =(X 1 ,X 2 ,...,X n ). Tada je karakteristična funkcija marginalnog slučajnog vektora<br />
(X 1 ,X 2 ,...,X r ) oblika<br />
f(t 1 ,t 2 ,...,t r )=f X (t 1 ,t 2 ,...,t r , 0, 0,...,0).<br />
Definicija 27 Označimo sa L 2 (Ω, F,P) ili kraće samo sa L 2 prostor slučajnih promenljivih za<br />
koje je E(X 2 ) < ∞. UprostoruL 2 uvodimo skalarni proizvod kao<br />
〈X | Y 〉 = E(XY ) za proizvoljne X, Y ∈ L 2 .<br />
Norma indukovana ovim skalarnim proizvodom je oblika ||X|| = √ E(X 2 )ivaži da je prostor<br />
L 2 kompletan 1 u odnosu na ovu normu. Konvergencija slučajnih promenljivih u prostoru L 2 je<br />
L<br />
srednjekvadratna konvergencija definisana sa: X 2<br />
n → X, ako E |X n − X| 2 → 0 kad n →∞.<br />
Prostor L 2 je Hilbertov prostor.<br />
4.0.2 Elementi linearne algebre<br />
Definicija 28 Neka je A realna, simetrična, kvadratna matrica dimenzije n × n. Funkcija<br />
Q : R n → R data sa<br />
Q(x) =〈Ax | x〉 , gde je vektor x ∈ R n<br />
naziva se kvadratna forma.<br />
Ekvivalentni zapisi kvadratne forme su<br />
Q(x) =〈Ax | x〉 = x T Ax =<br />
n∑ n∑<br />
a ij x i x j ,<br />
i=1 j=1<br />
gdejevektorx =(x 1, x 2 ,...,x n ) i matrica A =[a ij ] n×n<br />
,ax T je oznaka za transponovani vektor.<br />
Definicija 29 Kvadratna forma je pozitivno definitna, ako za svaki nenula vektor x ∈ R n<br />
važi<br />
〈Ax | x〉 > 0.<br />
Kvadratne forma je pozitivno semidefinitna, ako za svaki vektor x ∈ R n važi<br />
〈Ax | x〉 ≥0.<br />
1 P rostor je kompletan ako svaki Košijev niz konvergira.<br />
31
Kvadratna forma je negativno definitna, ako za svaki nenula vektor x ∈ R n važi<br />
〈Ax | x〉 < 0.<br />
Kvadratne forma je negativno semidefinitna, ako za svaki vektor x ∈ R n važi<br />
〈Ax | x〉 ≤0.<br />
Matrica A je pozitivno (respektivno negativno) (semi)definitna, ako je njome data kvadratna<br />
forma 〈Ax | x〉 pozitivno (resp. negativno) (semi)definitna.<br />
Teorema 26 Neka je A realna, pozitivno semidefinitna, simetrična matrica ranga r. Tada<br />
postoji regularna matrica M, takva da je<br />
A = M T E (r) M, (4.5)<br />
gde je E (r) matrica sa tačno r jedinica na glavnoj dijagonali, a sa nulama na ostalim mestima.<br />
Specijalno, ako je matrica A regularna tj. njen rang je jednak redu, r = n, tada relacija<br />
(4.5) prima oblik<br />
A = M T M,<br />
ivaži da je det A =(detM) 2 .<br />
Iz teoreme sledi da se smenom promenljivih z = Mx kvadratna forma 〈Ax | x〉 svodi na<br />
kanonički oblik z 2 1 + z 2 2 + ···+ z 2 r.<br />
Teorema 27 Neka je A realna, pozitivno semidefinitna, simetrična matrica.<br />
ortogonalna matrica O (što znači da je OO T = O T O = E), takva da je<br />
Tada postoji<br />
A = O T DO,<br />
gde je D dijagonalna matrica čiji su elementi karakteristični koreni matrice A, i oni su nenegativni.<br />
Ako je matrica A regularna, tada su svi njeni karakteristični koreni strogo pozitivni.<br />
Definicija 30 Neka je data matrica A =[a ij ] n×n<br />
. Minor elementa a kl je determinanta matrice<br />
reda (n − 1) × (n − 1) koje se dobija kada se u matrici A izostave k-ta vrsta i l-ta kolona.<br />
Označimo minor elementa a kl sa M kl .<br />
Lema 3 Važi da je<br />
∂<br />
∂a kl<br />
(det A) =(−1) k+l M kl .<br />
Definicija 31 Adjungovana matrica matrice A =[a ij ] n×n<br />
,uoznaciA ∗ , je matrica sa elementima<br />
a ∗ ij =(−1) i+j M ij . Inverzna matrica regularne matrice A, uoznaciA −1 , je matrica<br />
data sa A −1 = A∗<br />
det A .<br />
Lema 4 Važe identiteti det(A −1 )=(detA) −1<br />
i det A T =detA.<br />
Definicija 32 Neka je V vektorski prostor nad skalarnim poljem R. Vektori v 1 ,v 2 ,...,v n ∈ V<br />
su linearno nezavisni, ako za proizvoljne skalare a 1 ,a 2 ,...,a n ∈ R važi implikacija<br />
n∑<br />
a i v i =0 ⇒ a i =0 za sve i =1, 2,...,n.<br />
i=1<br />
32
Teorema 28 Neka je A matrica reda n irangar. Tada za kvadratnu formu Q(x) =〈Ax | x〉<br />
postoji tačno n − r linearno nezavisnih vektora v (1) ,v (2) ,...,v (n−r) takvih da je<br />
Q(v (i) )=0 za sve i =1, 2,...,n− r.<br />
Definicija 33 Neka su v 1 ,v 2 ,...,v n elementi vektorskog prostora V. Skup svih linearnih<br />
kombinacija ovih vektora ćemo nazivati lineal (linearna mnogostrukost) generisan vektorima<br />
v 1 ,v 2 ,...,v n ioznačavaćemo ga sa L{v 1 ,v 2 ,...,v n }.<br />
Lineal L{v 1 ,v 2 ,...,v n } je podprostor vektorskog prostora V. Transliranu linearnu<br />
mnogostrukost, tj. skup oblika m + L{v 1 ,v 2 ,...,v n } gde je m ∈ V, nazivaćemo hiperravan<br />
(afini podprostor).<br />
Teorema 29 Ako je v 1 ,v 2 ,...,v k (k ≤ n) maksimalan linearno nezavisan podskup skupa vektora<br />
v 1 ,v 2 ,...,v n , tada je L{v 1 ,v 2 ,...,v n } = L{v 1 ,v 2 ,...,v k }.<br />
Definicija 34 Neka je V vektorski prostor sa skalarnim proizvodom.<br />
vektora x =(x 1 ,x 2 ,...,x n ), je matrica data sa G(x) =[〈x i | x j 〉] n×n<br />
.<br />
Gramova matrica<br />
Teorema 30 Gramova matrica je regularna akko su x 1 ,x 2 ,...,x n linearno nezavisni.<br />
33
Glava 5<br />
Jednodimenzionalna normalna<br />
raspodela<br />
Definicija 35 Slučajna promenljiva X ima normalnu (Gausovu) raspodelu sa parametrima<br />
m i σ 2 , m ∈ R, σ > 0, što označavamo sa X : N (m, σ 2 ), ako je njena funkcija gustine<br />
Smenom t = x−m<br />
σ<br />
ϕ(x) =<br />
dobijamo da je<br />
1 (x−m)2<br />
√ e− 2σ 2 , x ∈ R. (5.1)<br />
2πσ<br />
2<br />
∞∫<br />
−∞<br />
ϕ(x)dx = 1 √<br />
2π<br />
∞∫<br />
−∞<br />
e − t2 2 dt = 1, dakle funkcija ϕ(x)<br />
definisana izrazom (5.1) zaista jeste funkcija gustine.<br />
Funkcija ϕ(x) ima maksimum u tački x = m, a za različite vrednosti parametra σ je njen<br />
grafik više izdužen ili spljošten.<br />
Za slučajnu promenljivu X : N (m, σ 2 ) parametri m i σ 2 imaju sledeće značenje:<br />
E(X) =m (5.2)<br />
D(X) =σ 2 (5.3)<br />
Dokaz ovih jednakosti je elementaran, a dokaz analognog tvrd¯enja u višedimenzionalnom<br />
slučaju je dat u narednom poglavlju.<br />
Iz relacija (5.2) sledi da slučajna promenljiva X sa normalnom raspodelom ima konačan<br />
moment drugog reda, pa zato ona pripada Hilbertovom prostoru L 2 .<br />
34
Ako pustimo da parametar σ → 0, tada funkcija gustine ϕ(x)teži ka funkciji skoncentrisanoj<br />
utački x = m. Smatraćemo da X : N (m, 0) ako je P {X = m} =1.<br />
Svaka slučajna promenljiva sa normalnom raspodelom se odgovarajućom transformacijom<br />
može svesti na slučajnu promenljivu sa N (0, 1) raspodelom. Naime, ako X : N (m, σ 2 ), tada<br />
X−m<br />
σ<br />
: N (0, 1).<br />
Funkcija raspodele za normalnu N (0, 1) raspodelu je data izrazom<br />
Φ(x) = 1 √<br />
2π<br />
∫x<br />
e − t2 2 dt.<br />
inazivaseLaplasova funkcija. Na osnovu osobina funkcije gustine (simetričnost grafika<br />
u odnosu na y-osu), Laplasova funkcija se obično piše u obliku Φ(x) = 1 +Φ 2 0(x), gde je<br />
x∫<br />
Φ 0 (x) = √ 1<br />
2π<br />
e − t2 2 dt.<br />
0<br />
Propozicija 3 Neka slučajna promenljiva X : N (m, σ 2 ). Tada slučajna promenljiva koja se<br />
dobija linearnom transformacijom Y = aX + b (a ∈ R\{0},b ∈ R), takod¯e ima normalnu<br />
raspodelu sa parametrima Y : N (am + b, a 2 σ 2 ).<br />
−∞<br />
Dokaz. Inverzna transformacija je data sa x = y−b<br />
a<br />
dobija izraz za funkciju gustine slučajne promenljive Y :<br />
ϕ(y) =<br />
1<br />
√<br />
2πσ<br />
2<br />
y−b<br />
(<br />
a<br />
−m)2 1<br />
e− 2σ 2<br />
|a| = 1<br />
√<br />
2πσ2 a<br />
sa Jakobijanom<br />
2<br />
e−<br />
(y−(b+ma))2<br />
∣<br />
∣ ∂x<br />
∂y<br />
2σ 2 a 2 , y ∈ R<br />
što je upravo oblik funkcije gustine za normalnu N (am + b, a 2 σ 2 )raspodelu.<br />
∣ = 1 , odakle se<br />
Teorema 31 Karakteristična funkcija za slučajnu promenljivu X : N (m, σ 2 ) raspodelu je oblika<br />
f(t) =e itm− 1 2 σ2 t 2 (5.4)<br />
Dokaz. Posmatrajmo prvo normalizovanu slučajnu promenljivu Y = X−m<br />
σ koja ima N (0, 1)<br />
raspodelu. Prema definiciji karakteristične funkcije slučajne promenljive apsolutno neprekidnog<br />
tipa je<br />
|a|<br />
∫<br />
f Y (t) =<br />
R<br />
e ity ϕ Y (y)dy = 1 √<br />
2π<br />
∫<br />
R<br />
e ity e − y2 2 dy =<br />
1<br />
√<br />
2π<br />
∫<br />
R<br />
(cos(ty)+i sin(ty))e − y2 2 dy.<br />
Odavde zbog neparnosti sinusne funkcije dobijamo da je<br />
f Y (t) = √ 1 ∫<br />
cos(ty)e − y2 2 dy.<br />
2π<br />
Diferenciranjem po t ispod znaka integrala dobijamo<br />
f Y ′ (t) = √ 1 ∫<br />
−y sin(ty)e − y2 2 dy.<br />
2π<br />
R<br />
R<br />
35
Razmena nesvojstvenog integrala i izvoda je korektna, jer su funkcije cos(ty)e − y2 2 i −y sin(ty)e − y2 2<br />
neprekidne, a integral ∫ R<br />
−y sin(ty)e − y2 2 dy je uniformno konvergentan po t.<br />
Parcijalnom integracijom dobijamo da je<br />
f ′ Y (t) = 1 √<br />
2π<br />
[sin(ty)e − y2 2<br />
∫<br />
|<br />
∞<br />
−∞ −t<br />
e − y2 2 cos(ty)dy ].<br />
Prvi sabirak u zagradi je jednak nuli, jer je sinus ograničena funkcija i lim<br />
x→∞<br />
e −x =0. Odavde<br />
dobijamo da karakteristična funkcija zadovoljava diferencijalnu jednačinu sa početnim uslovom<br />
R<br />
f Y ′ (t) =−tf Y (t)<br />
f Y (0) = 1.<br />
Rešavanjem ovog početnogproblemadobijamodaje<br />
f Y (t) =e − t2 2 , t ∈ R. (5.5)<br />
Karakterističnu funkciju slučajne promenljive X dobijamo koristeći poznate osobine karakterističnih<br />
funkcija, pa je<br />
f X (t) =f σY +m (t) =e itm f Y (σt) =e itm− 1 2 (σ2 t 2 )<br />
što je i trebalo dokazati.<br />
36
Glava 6<br />
Višedimenzionalna normalna raspodela<br />
6.1 Pojam n-dimenzionalne normalne raspodele<br />
Definicija 36 Slučajan vektor X =(X 1 ,X 2 ,...,X n ) ima n-dimenzionalnu normalnu<br />
(Gausovu) raspodelu sa parametrima m i B, što označavamo sa X : N (m, B), gde je<br />
m =(m 1 ,m 2 ,...,m n ) ∈ R n , i B je regularna, simetrična, pozitivno semidefinitna matrica, ako<br />
je njena funkcija gustine data sa<br />
ϕ(x 1 ,x 2 ,...,x n )=<br />
√<br />
det A<br />
e − 1<br />
(2π) n 2 (x−m)T A(x−m) , x =(x 1 ,x 2 ,...,x n ) ∈ R n , (6.1)<br />
2<br />
a A je inverzna matrica za B.<br />
Ekvivalentan zapis funkcije gustine je<br />
ϕ(x 1 ,x 2 ,...,x n )=<br />
√<br />
det A<br />
(2π) n 2<br />
e − n∑ n∑<br />
1 a 2<br />
kl (x k −m k )(x l −m l )<br />
k=1 l=1 .<br />
Propozicija 4 Funkcija ϕ(x 1 ,x 2 ,...,x n ) data relacijom (6.1) jeste funkcija gustine.<br />
Dokaz. Jasno je da je ϕ(x 1 ,x 2 ,...,x n ) nenegativna funkcija, pa ostaje samo da se pokaže<br />
da važi<br />
∫ ∫<br />
··· ϕ(x 1 ,x 2 ,...,x n )dx 1 dx 2 ···dx n =1. (6.2)<br />
R n<br />
Linearnom smenom y = x−m, za koju je Jakobijan inverzne transformacije jednak jedinici,<br />
podintegralna funkcija u relaciji (6.2) se svodi na<br />
ϕ(y 1 ,y 2 ,...,y n )=<br />
√<br />
det A<br />
(2π) n 2<br />
e − 1 2 yT Ay<br />
(6.3)<br />
A je inverzna matrica simetrične, pozitivno semidefinitne matrice, pa je i ona sama simetrična i<br />
pozitivno semidefinitna. Prema teoremi 26 iz linearne algebre sledi da postoji regularna matrica<br />
M, takvadaje<br />
A = M T M.<br />
Smenom<br />
z = My (6.4)<br />
37
se kvadratna forma y T Ay svodi na kanonički oblik z T z = z 2 1 + z 2 2 + ··· + z 2 n. Pri tome je<br />
det M = √ det A. Odavde sledi da je Jakobijan inverzne transformacije y = M −1 z<br />
det J =det(M −1 )=<br />
1<br />
√<br />
det A<br />
,<br />
pa se ovom smenom podintegralna funkcija svodi na<br />
√<br />
det A<br />
ϕ(z 1 ,z 2 ,...,z n )= e − 1<br />
(2π) n 2 zT z 1<br />
√ ,<br />
2 det A<br />
odnosno posle skraćivanja dobijamo<br />
ϕ(z 1 ,z 2 ,...,z n )= 1 e − 1 2<br />
(2π) n 2<br />
n∑<br />
i=1<br />
zi<br />
2 . (6.5)<br />
Uvod¯enjem smene (6.4) u integral (6.2) i primenom teorme Fubinija dobijamo<br />
∫ ∫<br />
∫ ∫<br />
1<br />
··· ϕ(x 1 ,x 2 ,...,x n )dx 1 dx 2 ···dx n = ··· e − n∑ 1 z 2 i<br />
2<br />
(2π) n i=1 dz 1 dz 2 ···dz n<br />
2<br />
R n R n<br />
= 1 ∫ ∫<br />
∏ n<br />
··· e − 1<br />
(2π) n 2 z2 i dz1 dz 2 ···dz n<br />
2<br />
=<br />
R n<br />
n∏<br />
∫<br />
1<br />
( √<br />
2π<br />
i=1<br />
R<br />
i=1<br />
∫<br />
e − 1 1<br />
2 z2 i dzi )=( √<br />
2π<br />
R<br />
e − 1 2 t2 dt) n =1.<br />
Poslednja jednakost sledi iz činjenice da je izraz u zagradi integral funkcije gustine jednodimenzionalne<br />
slučajne promenljive sa N (0, 1) raspodelom.<br />
Integral u poslednjem redu je u stvari integral od proizvoda jednodimenzionalnih<br />
marginalnih funkcija raspodela<br />
∫ ∫<br />
1 ∏ n ∫ ∫<br />
··· e − 1<br />
(2π) n 2 z2 i dz1 dz 2 ···dz n = ··· ϕ Z1 (z 1 )ϕ Z2 (z 2 ) ···ϕ Zn (z n )dz 1 dz 2 ···dz n<br />
2<br />
R n<br />
i=1<br />
gde su slučajne promenljive Z i : N (0, 1) komponente slučajnog vektora Z =(Z 1 ,...,Z n )<br />
dobivenog transformacijom Z = MY. Primetimo još daiz<br />
R n<br />
ϕ(z 1 ,z 2 ,...,z n )=ϕ Z1 (z 1 )ϕ Z2 (z 2 ) ···ϕ Zn (z n )<br />
sledidasuslučajne promenljive Z i<br />
Z : N (0,E).<br />
: N (0, 1) nezavisne, kao i da za slučajan vektor Z važi<br />
Na osnovu prethodnih razmatranja možemo formulisati sledeću teoremu:<br />
Teorema 32 Ako je X =(X 1 ,X 2 ,...,X n ) slučajan vektor sa n-dimenzionalnom normalnom<br />
raspodelom X : N (m, B), tada postoji regularna matrica M, takva da su komponente vektora<br />
Z =(Z 1 ,Z 2 ,...,Z n ) dobivenog transformacijom Z = M(X − m) nezavisne i važi Z i : N (0, 1).<br />
Primetimo da se tada slučajan vektor X izražava kao X = NZ + m, gde je N = M −1 . Pri<br />
tome važi B = NN T .<br />
U poglavlju o singularnoj normalnoj raspodeli biće pokazano pod kojim uslovima važi obrat<br />
ove teoreme.<br />
38
6.2 Značenje parametara u normalnoj raspodeli<br />
Teorema 33 Neka je X = (X 1 ,X 2 ,...,X n ) slučajan vektor sa normalnom X : N (m, B)<br />
raspodelom. Tada važi:<br />
1. parametar m je vektor matematičkih očekivanja komponenti slučajnog vektora X tj.<br />
gde je m =(m 1 ,m 2 ,...,m n ).<br />
E(X k )=m k , k =1, 2,...,n ,<br />
2. Matrica B je kovarijaciona matrica slučajnog vektora X.<br />
Dokaz.<br />
1. Polazimo od identiteta pokazanog u prethodnom poglavlju<br />
√ ∫ ∫<br />
det A<br />
··· e − 1<br />
(2π) n 2 (x−m)T A(x−m) dx 1 dx 2 ···dx n =1. (6.6)<br />
2<br />
R n<br />
Diferencirajmo levu i desnu stranu po m k . Kako je<br />
∑<br />
∂<br />
∂m k<br />
(x − m) T A(x − m) =−2 n a kl (x l − m l ), to iz (6.6) dobijamo<br />
√ ∫ det A<br />
(2π) n 2<br />
∫<br />
···<br />
R n<br />
l=1<br />
e − 1 2 (x−m)T A(x−m)<br />
n∑<br />
a kl (x l − m l )dx 1 dx 2 ···dx n =0. (6.7)<br />
l=1<br />
Parcijalni izvod<br />
∂<br />
∂m j<br />
može da ud¯e pod znak integrala, jer je podintegralna funkcija neprekidna,<br />
njen parcijalni izvod je takod¯e neprekidan, a integral u relaciji (6.7) je uniformno konvergentan.<br />
Jednakost (6.7) prema teoremi 18 znači da je<br />
E(<br />
n∑<br />
a kl (X l − m l )) = 0.<br />
l=1<br />
Odavdesekoristeći linearnost operatora E dobija<br />
n∑<br />
a kl (E(X l ) − m l )=0,<br />
l=1<br />
k =1, 2,...,n.<br />
Kako je det A ≠0, dobijeni homogeni sistem jednačina ima samo trivijalno rešenje tj.<br />
E(X l ) − m l = 0<br />
za sve l =1, 2,...,n.<br />
2. Pod¯imo od identiteta<br />
∫<br />
∫<br />
··· e − 1 2 (x−m)T A(x−m) dx 1 dx 2 ···dx n = (2π) n 2<br />
√<br />
det A<br />
R n<br />
39
Diferencirajmo levu i desnu starnu po a kl . Koristeći lemu 3 dobijamo<br />
− 1 ∫ ∫<br />
··· e − 1 2 (x−m)T A(x−m) (x k − m k )(x l − m l )dx 1 dx 2 ···dx n<br />
2<br />
R n<br />
=(2π) n 1<br />
2 (−<br />
2 )(det 3 A)− 2 (−1) k+l M kl ,<br />
gde je M kl minor elementa a kl . Posle sred¯ivanja u ovoj jednakosti dobijamo<br />
√ ∫ det A<br />
(2π) n 2<br />
∫<br />
···<br />
R n<br />
(x k − m k )(x l − m l )e − 1 2 (x−m)T A(x−m) dx 1 dx 2 ···dx n = (−1)k+l M kl<br />
det A ,<br />
to jest<br />
E((X k − m k )(X l − m l )) =<br />
a∗ kl<br />
det A ,<br />
gde je sa a kl označen (k, l)−ti član u adjungovanoj matrici matrice A. Koristeći dokazano<br />
pod 1. da je m k = E(X k )im l = E(X l ) dobijamo da je<br />
cov(X k ,X l )=(A −1 ) kl =(B) kl = b kl ,<br />
što znači da je B kovarijaciona matrica za slučajan vektor X.<br />
Posmatrajmo sada primer dvodimenzionalne normalne raspodele X : N ((m 1 ,m [ 2 ); B) gde ]<br />
b11 b<br />
je B regularna, simetrična, pozitivno semidefinitna matrica sa elementima B =<br />
12<br />
.<br />
b 12 b 22<br />
Tada je po definiciji<br />
1<br />
ϕ(x 1 ,x 2 )=<br />
2π √ 1 det(B −1 ) e− 2 (x−m)T A(x−m) .<br />
Kako je B kovarijaciona matrica, to je koeficijent korelacije za komponente vektora X 1 i X 2<br />
dat sa<br />
cov(X 1 ,X 2 )<br />
ρ = √<br />
D(X1 ) √ D(X 2 ) = b<br />
√ 12<br />
√ .<br />
b11 b22<br />
Takod¯e važe relacije<br />
det B = b 11 b 22 − (b 12 ) 2 = b 11 b 22 (1 − ρ 2 )<br />
A = B −1 =<br />
to jest dobijamo da je<br />
B∗<br />
det B = 1<br />
b 11 b 22 (1 − ρ 2 )<br />
[ ]<br />
b22 −b 12<br />
= 1<br />
−b 12 b 11<br />
]<br />
√<br />
−ρ<br />
√ b11 b22<br />
b 22<br />
1 − ρ 2 [ 1<br />
−b 12<br />
]<br />
b 11 b 11 b 22<br />
−b 12 1<br />
b 11 b 22 b 22<br />
[<br />
A = 1 1<br />
b 11<br />
1 − ρ 2 √<br />
−ρ<br />
√ 1 .<br />
b11 b22<br />
Odavde sledi izraz za funkciju gustine normalne dvodimenzionalne raspodele u obliku<br />
ϕ(x 1 ,x 2 )=<br />
[<br />
]<br />
1<br />
2π √ 1 (x 1 −m 1 ) 2<br />
b 11 b 22 (1 − ρ 2 ) e− 2(1−ρ 2 − √ 2ρ (x<br />
) b 1 −m 1 )(x 2 −m 2 )+ (x 2 −m 2 )2<br />
11 b11 b b 22 22<br />
.<br />
Specijalno za ρ = 0 dobijamo da je ϕ(x 1 ,x 2 )=ϕ X1 (x 1 )ϕ X2 (x 2 )gdesuϕ X1 i ϕ X2 marginalne<br />
funkcije gustine za slučajne promenljive sa jednodimenzionalnim normalnim raspodelama X 1 :<br />
N (m 1 ,b 11 )iX 2 : N (m 2 ,b 22 ).<br />
40<br />
,
Dakle, za slučajne promenljive sa normalnim raspodelama važi da iz njihove nekoreliranosti<br />
sledi i njihova nezavisnost.<br />
Dvodimenzionalnu normalnu raspodelu obično označavamo sa N (m 1 ,m 2 ,b 11 ,b 22 ,ρ).<br />
Na sledećim slikama je prikazano kako se grafik funkcije gustine dvodimenzionalne normalne<br />
raspodele menja u zavisnosti od njenih parametara.<br />
N (0, 0, 1, 1, 0)<br />
N (0, 0, 1, 3, 0)<br />
41
N (0, 0, 1, 1, 1 2 )<br />
6.3 Karakteristična funkcija normalne raspodele<br />
Teorema 34 Neka je X slučajan vektor sa n-dimenzionalnom normalnom raspodelom<br />
X : N(m, B). Tada je karakteristična funkcija slučajnog vektora X data sa<br />
gde je t =(t 1 ,t 2 ,...,t n ).<br />
f(t 1 ,t 2 ,...,t n )=e i〈t|m〉− 1 2 tT Bt , (6.8)<br />
Dokaz. Po definiciji karakteristične funkcije je<br />
∫ ∫<br />
f(t 1 ,t 2 ,...,t n )= ··· e i〈t|x〉 ϕ(x 1 ,x 2 ,...,x n )dx 1 dx 2 ...dx n<br />
=<br />
R n<br />
√ ∫ det A<br />
(2π) n 2<br />
∫<br />
···<br />
R n e i〈t|x〉 e − 1 2 (x−m)T A(x−m) dx 1 dx 2 ...dx n .<br />
Ako ovaj izraz pomnožimoipodelimosae i〈t|m〉 , dobićemo da je<br />
√ ∫ ∫<br />
det A<br />
f(t 1 ,t 2 ,...,t n )= e i〈t|m〉 ···<br />
(2π) n 2<br />
e i〈t|x−m〉 e − 1 2 (x−m)T A(x−m) dx 1 dx 2 ...dx n . (6.9)<br />
R n<br />
Iz teoreme 27 sledi egzistencija regularne ortogonalne matrice P, takve da važi<br />
P T BP = D<br />
gde je D = diag{λ 1 ,λ 2 ,...,λ n } i λ i > 0, i =1, 2,...n. Takod¯e je D −1 = P T AP, gdejekaoi<br />
do sada A = B −1 1<br />
, a odavde sledi da je det A =<br />
λ 1 λ 2···λ n<br />
.<br />
Uvedimo smenu<br />
x − m = Py<br />
t = Pu<br />
42
čiji je Jakobijan zbog ortogonalnosti matrice P jednak det J =(detP ) 2 =1.<br />
Tada je<br />
i 〈x − m | t〉− 1 2 〈A(x − m) | x − m〉 = i 〈Py | Pu〉−1 〈AP y | Py〉 =<br />
2<br />
i 〈 y | P T Pu 〉 − 1 〈<br />
P T AP y | y 〉 = i 〈y | u〉− 1 〈<br />
D −1 y | y 〉 ,<br />
2<br />
2<br />
pa se relacija (6.9) svodi na<br />
∫<br />
1<br />
f(u 1 ,u 2 ,...,u n )= √ e i〈t|m〉<br />
(2π) n 2 λ1 λ 2 ···λ n<br />
∫<br />
···<br />
R n e i〈y|u〉− 1 2 yT D −1y dy 1 dy 2 ...dy n . (6.10)<br />
S obzirom da je D −1 = diag{ 1 λ 1<br />
, 1 λ 2<br />
,..., 1<br />
λ n<br />
}, dobijamo<br />
f(u 1 ,u 2 ,...,u n )=<br />
∫<br />
1<br />
√ e i〈t|m〉<br />
(2π)n λ 1 λ 2 ···λ n<br />
∫<br />
···<br />
e i ∑ n y k u k − 1 2<br />
k=1<br />
n∑<br />
k=1<br />
y 2 k<br />
λ k<br />
dy 1 dy 2 ...dy n .<br />
R n<br />
Na osnovu teoreme Fubinija to je dalje jednako sa<br />
f(u 1 ,u 2 ,...,u n )=e i〈t|m〉<br />
n<br />
∏<br />
k=1<br />
∫<br />
1<br />
√ 2πλk<br />
R<br />
e iy ku k − 1 y<br />
k<br />
2<br />
2<br />
λ k dy k . (6.11)<br />
Na osnovu teoreme o karakterističnoj funkciji za slučajne promeljive, znamo da je karakteristična<br />
funkcija za normalnu N (0,λ k ) raspodelu data sa √ 2πλk<br />
∫<br />
1<br />
e iy ku k − 1 y<br />
k<br />
2<br />
2 λ k dy k = e − λ k<br />
2 u 2 k . Time<br />
relacija (6.11) postaje<br />
odnosno<br />
f(u 1 ,u 2 ,...,u n )=e i〈t|m〉<br />
n<br />
∏<br />
k=1<br />
R<br />
e − λ k<br />
2 u 2 k ,<br />
f(u 1 ,u 2 ,...,u n )=e i〈t|m〉 e − 1 2<br />
n∑<br />
λ k u 2 k<br />
k=1<br />
= e i〈t|m〉− 1 2 uT Du = e i〈t|m〉− 1 2 uT P T BPu .<br />
Ako vratimo smenu t = Pu, dobijamo<br />
f(t 1 ,t 2 ,...,t n )=e i〈t|m〉− 1 2 tT Bt<br />
što je i trebalo dokazati.<br />
Sledeća teorema tvrdi da su marginalne raspodele normalne n-dimenzionalne raspodele<br />
takod¯e normalne.<br />
Teorema 35 Neka je X =(X 1 ,X 2 ,...,X n ) slučajan vektor sa n-dimenzionalnom normalnom<br />
raspodelom X : N (m, B), gde je m =(m 1 ,m 2 ,...,m n ) i B =[b kl ] n×n<br />
. Tada za proizvoljno<br />
r ≤ n važi da marginalan slučajan vektor ˜X =(X 1 ,X 2 ,...,X r ) ima normalnu r-dimenzionalnu<br />
raspodelu sa parametrima ˜m =(m 1 ,m 2 ,...,m r ) i ˜B =[b kl ] r×r<br />
.<br />
43
Obratno tvrd¯enje u opštem slučaju ne važi, što će biti pokazano u poglavlju o singularnoj<br />
normalnoj raspodeli.<br />
Dokaz. Karakteristična funkcija marginalnog slučajnog vektora ˜X je oblika<br />
Na osnovu prethodne teoreme dobijamo da je<br />
f ˜X(t 1 ,t 2 ,...,t r )=f X (t 1 ,t 2 ,...,t r , 0, 0,...,0).<br />
f ˜X(t 1 ,t 2 ,...,t r )=e i<br />
r∑<br />
r∑ r∑<br />
t k m k − 1 b 2<br />
kl t k t l<br />
k=1<br />
k=1 l=1<br />
što je upravo oblik karakteristične funkcije za r-dimenzionalnu normalnu N ( ˜m, ˜B) raspodelu.<br />
Kako karakteristična funkcija jednoznačno odred¯uje raspodelu slučajanog vektora, sledi tvrd¯enje<br />
teoreme.<br />
6.4 Linearna kombinacija slučajnih promenljivih sa normalnom<br />
raspodelom<br />
Sledeća teorema govori o tome da slučajan vektor ima n-dimenzionlnu normalnu raspodelu ako<br />
i samo ako su sve linearne kombinacije njegovih komponenti slučajne promenljive sa normalnom<br />
raspodelom.<br />
Teorema 36 Neka je X =(X 1 ,X 2 ,...,X n ) proizvoljan slučajan vektor.<br />
(a) Ako X ima n-dimenzionalnu normalnu raspodelu X : N (m, B), tada za proizvoljne<br />
λ 1 ,λ 2 ,...,λ n ∈ R takve da postoji bar jedno λ i ≠0, važi da slučajna promenljiva n ∑<br />
ima normalnu raspodelu<br />
n∑<br />
n∑<br />
λ k X k : N ( λ k m k ; λ T Bλ).<br />
k=1<br />
k=1<br />
k=1<br />
λ k X k<br />
∑<br />
(b) Ako za sve λ 1 ,λ 2 ,...,λ n ∈ R važi da linearna kombinacija n λ k X k ima normalnu<br />
k=1<br />
raspodelu, tada slučajan vektor X ima n-dimenzionalnu normalnu raspodelu.<br />
Dokaz.<br />
(a) Karakteristična funkcija slučajnog vektora X je oblika<br />
f X (t 1 ,t 2 ,...,t n )=e i n∑<br />
t k m k − 1 2<br />
k=1<br />
n∑<br />
n∑<br />
b kl t k t l<br />
k=1 l=1 .<br />
Stavimo da je t j = λ j t, j =1, 2,...,n. Tada je prema lemi 2<br />
f n∑<br />
j=1<br />
λ j X j<br />
(t) =f X (λ 1 t, λ 2 t,...,λ n t)=e it n ∑<br />
λ k m k − 1 ∑ n n∑<br />
2 t2 b kl λ k λ l<br />
k=1<br />
k=1 l=1 ,<br />
što jeste oblik karakteristične funkcije za jednodimenzionalnu normalnu raspodelu sa<br />
∑<br />
parametrima n n∑ n∑<br />
λ k m k i b kl λ k λ l . Kako karakteristična funkcija jednoznačno odred¯uje<br />
k=1<br />
k=1 l=1<br />
slučajnu promenljivu, sledi<br />
n∑<br />
n∑<br />
λ j X j : N ( λ k m k ,λ T Bλ).<br />
j=1<br />
k=1<br />
44
(b) Stavimo λ =(λ 1 ,λ 2 ,...,λ n ).<br />
Neka slučajna promenljiva 〈λ | X〉 = n ∑<br />
j=1<br />
λ j X j ima normalnu raspodelu tj.<br />
〈λ | X〉 : N (E(〈λ | X〉),D(〈λ | X〉).<br />
Tada je karakteristična funkcija za 〈λ | X〉 oblika E(e it〈λ|X〉 ) = e itE(〈λ|X〉)− 1 2 D(〈λ|X〉)t2 ,<br />
odakle za t = 1 dobijamo<br />
E(e i〈λ|X〉 )=e iE(〈λ|X〉)− 1 2 D(〈λ|X〉) .<br />
Operator E je linearan, a prema relaciji (4.3) je D(〈λ | X〉) =<br />
n ∑<br />
k=1 k=1<br />
n∑<br />
λ k λ l cov(X k ,X l ),<br />
odakle sledi<br />
E(e i〈λ|X〉 )=e i ∑ n n∑ n∑<br />
λ k E(X k )− 1 λ 2<br />
k λ l cov(X k ,X l )<br />
k=1<br />
k=1 k=1 . (6.12)<br />
Kako je karakteristična funkcija slučajnog vektora X data sa f X (t 1 ,t 2 ,...,t n )=E(e i〈t|X〉 ),<br />
to ako u relaciji (6.12) formalno stavimo (λ 1 ,λ 2 ,...,λ n )=(t 1 ,t 2 ,...,t n ) dobijamo<br />
f X (t 1 ,t 2 ,...,t n )=e i n ∑<br />
n∑ n∑<br />
t k E(X k )− 1 t 2<br />
k t l cov(X k ,X l )<br />
k=1<br />
k=1 k=1 ,<br />
što je upravo oblik karakteristične funkcije sa n-dimenzionalnom normalnom raspodelom.<br />
Sledi da<br />
X : N (m, B)<br />
gde su m =(E(X 1 ),E(X 2 ),...,E(X n )) i B =[cov(X k ,X l ] n×n<br />
.<br />
Na osnovu prethodne teoreme sledi da se n-dimenzionalna normalna raspodela se može<br />
definisati i na sledeći način: slučajan vektor X = (X 1 ,X 2 ,...,X n ) ima n-dimenzionalnu<br />
normalnu raspodelu X : N (m, B),akozasveλ 1 ,λ 2 ,...,λ n ∈ R važi da linearna kombinacija<br />
n∑<br />
λ k X k ima normalnu raspodelu.<br />
k=1<br />
Napomena 9 Na osnovu prethodne teoreme, linearna kombinacija KOMPONENTI slučajnog<br />
vektora sa n-dimenzionalnom normalnom raspodelom takod¯e ima normalnu raspodelu. Ali:<br />
linearna kombinacija proizvoljnih normalno raspored¯enih slučajnih promenljivih ne mora biti<br />
slučajna promenljiva sa normalnom raspodelom, što će biti pokazano jednim kontraprimerom<br />
u narednom poglavlju. Med¯utim, ako su te slučajne promenljive npr. nezavisne, tada na osnovu<br />
teoreme o proizvodu karakterističnih funkcija važi da i njihova linearna kombinacija ima<br />
normalnu raspodelu.<br />
Posmatrajmo prostor L 2 − prostor slučajnih promenljivih sa konačnim drugim momentom.<br />
Slučajne promenljive sa normalnom raspodelom pripadaju prostoru L 2 jer imaju konačnu<br />
disperziju. Na osnovu prethodne teoreme se svaki konačan podprostor L{X 1 ,X 2 ,...,X n }<br />
generisan slučaj-nim promenljivama sa normalnom raspodelom sastoji isključivo od slučajnih<br />
promenljivih sa normalnom raspodelom. Naredna teorema proširuje ovaj rezultat i na zatvorene<br />
beskonačno-dimenzionalne podprostore L{X 1 ,X 2 ,...} generisane slučajnim promenljivama sa<br />
normalnom raspodelom.<br />
Teorema 37 Neka je X 1 ,X 2 ,... niz slučajnih promenljivih sa normalnom raspodelom koji<br />
konvergira u verovatnoći ka slučajnoj promenljivoj X. Tada i slučajna promenljiva X ima<br />
normalnu raspodelu.<br />
45
Dokaz. Neka je m n = E(X n )iσ 2 n = D(X n ).<br />
Kako niz {X n } konvergira u verovatnoći ka X, to postoji podniz {X nk } koji konvergira skoro<br />
sigurno ka X. Primenom teoreme o dominantnoj konvergnciji na niz { e itXn k<br />
}<br />
dobijamo<br />
lim<br />
k→∞ eitmn k − 1 2 σ2 n t 2 k = lim E(e itXn k )=E(e itX ). (6.13)<br />
k→∞<br />
Teorema o dominantnoj konvergenciji se može primeniti jer je ∣ ∣e itXn k ∣ ≤ 1 ∈ L 2 .<br />
Kako postoji granična vrednost leve strane u relaciji (6.13), to postoje brojevi m i σ takvi<br />
da je m = lim m nk i σ 2 = lim σn 2 k→∞ k→∞ k<br />
. Sada je<br />
E(e itX )=e itm− 1 2 σ2 t 2<br />
odakle sledi da X : N (m, σ 2 ).<br />
Kako je za slučajne promenljive sa normalnom raspodelom konvergencija u verovatnoći ekvivalentna<br />
konvergenciji u srednjekvadratnom, možemo zaključiti da zatvorena linearna mogostrukost<br />
L{X 1 ,X 2 ,...} sadrži samo slučajne promenljive sa normalnom raspodelom.<br />
6.5 Singularna normalna raspodela<br />
Pod¯imo od jednog primera koji pokazuje da ako su X i Y slučajne promenljive sa normalnom<br />
rspodelom, tada slučajan vektor sa komponentama (X, Y ) ne mora imati dvodimenzionalnu<br />
normalnu raspodelu. Čak šta više,nemorabitinislučajan vektor apsolutno neprekidnog tipa.<br />
Primer 6 Neka je data slučajna promenljiva X : N (0, 1) nad prostorom verovatnoće (Ω, F,P).<br />
Tada slučajna promenljiva dobijena linearnom transformacijom<br />
Y = −2X +1<br />
ima prema propoziciji 3 normalnu raspodelu Y : N (1, 4). Kako važi 2X + Y =1, tj.<br />
P {ω ∈ Ω:2X(ω)+Y (ω) =1} = 1 (6.14)<br />
sledi da slučajan vektor (X, Y ) sa verovatnoćom jedan uzima vrednosti sa prave<br />
L = {(x, y) ∈ R 2 :2x + y =1}.<br />
Prava L je Borelov skup u R 2 Lebegove mere nula, tj.<br />
λ(L) =0.<br />
S druge strane je prema relaciji (6.14) P XY (L) =P ((X, Y ) −1 (L)) = 1, odnosno<br />
P XY (R 2 \L) =0,<br />
gdejesaP XY označena verovatnosna mera raspodele slučajnog vektora (X, Y ) na merljivom<br />
prostoru (R 2 , B(R 2 )).<br />
Dakle, mere P XY i Lebegova mera su uzajamno singularne, što znači da je slučajan vektor<br />
(X, Y ) singularnog tipa.<br />
46
Razlog zašto slučajan vektor (X, Y ) nije imao normalnu raspodelu je u tome što komponente<br />
X i Y nisu bile LINEARNO NEZAVISNE! Dakle, pored pojma ”verovatnosne” nezavisnosti<br />
slučajnih promenljivih uvodimo i pojam linearne nezavisnosti, pomoću koje ćemo definisati<br />
slučajne vektore sa n-dimenzionalnom singularnom normalnom raspodelom. Definiciju singularne<br />
normalne raspodele ćemouvestitakodaovuvrsturaspodeleimajuslučajni vektori koji -<br />
analogno relaciji (6.14) - sa verovatnoćom jedan uzimaju vrednosti sa neke hiperravni generisane<br />
slučajnim vektorom sa ”regularnom” normalnom raspodelom.<br />
Definicija 37 Slučajne promenljive X 1 ,X 2 ,...,X n date nad prostorom verovatnoće (Ω, F,P)<br />
su linearno nezavisne, ako za proizvoljne realne brojeve a 1 ,a 2 ,...,a n važi implikacija:<br />
n∑<br />
a i X i (ω) =0 s.s.(P ) ⇒ a i =0 za sve i =1, 2,...,n.<br />
i=1<br />
Pretpostavimo nadalje da radimo samo sa slučajnim promenljivama za koje je matematičko<br />
očekivanje jednako nuli, što ne predstavlja nikakvo ograničenje jer se svaka slučajna promenljiva<br />
može centralizovati.<br />
Neka je Y =(Y 1 ,Y 2 ,...,Y n ) proizvoljan slučajan vektor. Tada je zbog pretpostavke<br />
E(Y i )=0 zasvei =1, 2,...,n zadovoljeno cov(Y i ,Y j )=E(Y i Y j ), i,j =1, 2,...,n. Dakle<br />
matrica B data sa<br />
B = E(YY T )<br />
je kovarijaiona matrica slučajnog vektora Y, gde operator očekivanja E deluje član po član na<br />
matricu YY T .<br />
Specijalno, ako sve komponente Y i imaju konačan moment drugog reda (štozanormalnu<br />
raspodelu važi), tada je B Gramova matrica vektora Y u Hilbertovom prostoru L 2 . Prema<br />
teoremi iz linearne algebre je tada det B ≠0akkosuY 1 ,Y 2 ,...,Y n linearno nezavisni.<br />
Slučaj 1.<br />
Neka je det B ≠0. Tada prema prethodno rečenom Y 1 ,Y 2 ,...,Y n moraju biti linearno nezavisni.<br />
Takod¯e znamo da postoji ortogonalna matrica O takva da je O T BO = D = diag{λ 1 ,...,λ n } i<br />
λ i > 0zasvei =1, 2,...,n. Označimo sa C = √ D. Tada se smenom<br />
Z =(C −1 O T )Y<br />
dobija da važi E(ZZ T )=E. Dakle, komponente vektora Z =(Z 1 ,Z 2 ,...,Z n ) su nekorelirane,<br />
što u slučaju normalne raspodele povlači i njihovu nezavisnost u verovatnosnom smislu. Važi<br />
Y = MZ, gde je M = CO, ivaži<br />
L{Y 1 ,Y 2 ,...,Y n } = L{Z 1 ,Z 2 ,...,Z n }.<br />
Primetimo da pretpostavka E(Y i )=0zasvei =1, 2,...,n, ne utiče na linearnu nezavisnost,<br />
jer ako su Y 1 ,Y 2 ,...,Y n linearno nezavisni vektori u prostoru L 2 , tada su i translirani vektori<br />
X 1 ,X 2 ,...,X n gde je X i = Y i +m i takod¯e linearno nezavisni. U tom slučaju važi X = MZ+m<br />
i<br />
L{X 1 ,X 2 ,...,X n } = m + L{Z 1 ,Z 2 ,...,Z n }.<br />
Slučaj 2.<br />
Neka je rangB = r
postoji tačno n − r linearno nezavisnih vektora c (1) ,c (2) ,...,c (n−r) ∈ R n takvih da je<br />
Q(c (i) )=0 zasve i =1, 2,...,n− r.<br />
Tada je zbog pretpostavke E(Y i )=0,<br />
n∑<br />
n∑<br />
n∑ n∑<br />
D( a k Y k )=E( a k Y k ) 2 = a i a j E(Y i Y j )=<br />
što dalje daje<br />
k=1<br />
k=1<br />
i=1 j=1<br />
n∑ n∑<br />
a i a j cov(Y i ,Y j )=Q(a)<br />
i=1 j=1<br />
Odavde sledi<br />
n∑<br />
k=1<br />
D(<br />
n∑<br />
k=1<br />
c (i)<br />
k Y k)=0 zasve i =1, 2,...,n− r.<br />
c (i)<br />
k Y k(ω) = 0 za skoro sve ω ∈ Ω i sve i =1, 2,...,n− r.<br />
Znači, postoji tačno n − r linearnih veza izmed¯u vektora Y 1 ,Y 2 ,...,Y n . Pretpostavimo da su<br />
baš prvihr vektora linearno nezavisna, pa je tada<br />
L{Y 1 ,Y 2 ,...,Y n } = L{Y 1 ,Y 2 ,...,Y r }.<br />
Isti rezultat se dobija i za slučajne promenljive X i (i =1, 2,...,n)sanenulamatematičkim<br />
očekivanjem: ako je njihova kovarijaciona matrica ranga r, tada je L{X 1 ,X 2 ,...,X n } =<br />
L{X 1 ,X 2 ,...,X r }.<br />
Naredna teorema daje uslove pod kojima važi obrat teoreme 32.<br />
Teorema 38 Neka je X =(X 1 ,X 2 ,...,X n ) proizvoljan slučajan vektor sa linearno nezavisnim<br />
komponentama. Neka je E(X i )=m i , i =1, 2,...,n. Ako postoje nezavisne slučajne<br />
promenljive Z i : N (0, 1) imatricaM dimenzije n × n, takvi da važi<br />
X = MZ + m,<br />
tada slučajan vektor X ima n-dimenzionalnu normalnu raspodelu sa parametrima X : N (m, MM T ).<br />
Dokaz. Karakteristična funkcija slučajnog vektora X je data sa<br />
f X (t 1 ,t 2 ,...,t n )=E(e i〈t|X〉 )=E(e i〈t|MZ+m〉 )=e i〈t|m〉 E(e i〈M T t|Z〉 )=e i〈t|m〉 f Z (M T t).<br />
Kako slučajan vektor Z =(Z 1 ,Z 2 ,...,Z n ) ima n-dim. normalnu raspodelu Z : N (0,E), znamo<br />
oblik njene karakteristične funcije, pa dobijamo<br />
f X (t 1 ,t 2 ,...,t n )=e i〈t|m〉 e − 1 2 (M T t) T (M T t) = e i〈t|m〉 e − 1 2 tT (MM T )t ,<br />
što je upravo oblik karakteristične funkcije za normalnu n-dimenzionalnu raspodelu sa parametrima<br />
m i MM T .<br />
Matrica MM T je kovarijaciona matrica slučajnog vektora X, pa linearna nezavisnost komponenti<br />
X 1 ,X 2 ,...,X n obezbed¯uje njenu regularnost. Takod¯e je iz linearne algebre poznato da<br />
je svaka matrica oblika MM T simetrična i pozitivno semidefinitna.<br />
Definicija singularne normalne raspodele na prirodan način proširuje pojam regularne<br />
normalne raspodele, koja ima specijalnu karakterizaciju datu prethodnom teoremom i teoremom<br />
32.<br />
48
Definicija 38 Slučajan vektor Y =(Y 1 ,Y 2 ,...,Y n ) ima normalnu n-dimenzionalnu raspodelu,<br />
ako postoji slučajan vektor X =(X 1 ,X 2 ,...,X k ) sa regularnom k-dimenzionalnom normalnom<br />
raspodelom takav da je<br />
Y = AX + m (6.15)<br />
za neku matricu A dimenzije n × k i neki vektor m ∈ R n .<br />
Ako je k
Deo III<br />
Uslovno matematičko očekivanje<br />
50
”Generalni koncept uslovnog matematičkog očekivanja je jedan od fundamentalnih, najmanje<br />
intuitivnih i najkomplikovanijih ideja u teoriji verovatnoće.”[5, M.M. Rao]<br />
U ovom delu seminarskog rada biće data neka vrsta intuitivne motivacije za definiciju<br />
uslovnog očekivanja u odnosu na σ-algebru koja je diskretno generisana, a zatim i opšti koncept<br />
uslovnog očekivanja kao Radon-Nikodimovog izvoda. Treba istaći da uslovno očekivanje<br />
slučajne promenljive za razliku od ”običnog” matematičkog očekivanja nije brojčana vrednost,<br />
nego jedna nova slučajna promenljiva.<br />
Pored pojma uslovnog matematičkog očekivanja razmatra se i pojam uslovne verovatnoće,<br />
koja je takod¯e slučajna promenljiva. Dati su neki rezultati vezani za regularnost uslovne<br />
verovatnoće tj. za slučaj kada se ona za fiksiran argument može uzeti za klasičnu verovatnosnu<br />
meru.<br />
Ključnu ulogu u koncipiranju uslovnog matematičkog očekivanja igra teorema Radon-Nikodimova,<br />
jedna od fundamentalnih teorema iz teorije mere. Ovde se ona navodi bez dokaza, koji<br />
nimalo nije naivan, a zainteresovani čitalac se upućuje na ([3]).<br />
6.6 Teorema Radon-Nikodima<br />
Neka je (Ω, F,P) prostor verovatnoće i neka je f :Ω→ R merljivo preslikavanje. Tada je<br />
skupovna funkcija Q : F→R data sa<br />
∫<br />
Q(E) = fdP, E ∈F<br />
E<br />
σ-aditivna skupovna funkcija koja je apsolutno neprekidna u odnosu na meru P,uoznaciQ ≪ P,<br />
tj. za proizvoljno A ∈ F važi implikacija P (A) = 0 ⇒ Q(A) = 0. Specijalno, ako je f<br />
nenegativna funkcija, tada je Q mera.<br />
Obrat ovog tvrd¯enja daje teorema Radon-Nikodimova:<br />
Teorema 39 (Radon - Nikodim)Neka su P mera i Qσ-aditivna skupovna funkcija na<br />
merljivom prostoru (Ω, F,P) takve da je Q apsolutno neprekidna u odnosu na meru P. Tada<br />
postoji merljiva funkcija f :Ω→ R, takva da važi relacija<br />
∫<br />
Q(E) = fdP (6.17)<br />
za svako E ∈F. Pri tome je funkcija f jedinstvena u sledećem smislu: ako postoji merljivo<br />
preslikavanje g sa osobinom<br />
∫ ∫<br />
Q(E) = fdP = gdP<br />
E<br />
za svako E ∈F, tada je f s.s.<br />
= g. Oznaka s.s. se odnosi na meru P.<br />
Specijalno, ako je i Q mera, tada je preslikavanje f koje zadovoljava uslov (6.17) nenegativno.<br />
Funkcija f iz ove teoreme se naziva Radon-Nikodimov izvod mere Q po meri P ioznačava<br />
se sa<br />
f = dQ ili dQ = fdP.<br />
dP<br />
Opravdanje za takav naziv možemo videti u formalnoj sličnosti sa diferencijalnim količnikom.<br />
Naime, važe formule:<br />
E<br />
51<br />
E
1. Ako je Q 1 ≪ P i Q 2 ≪ P ,tada<br />
d(Q 1 + Q 2 )<br />
dP<br />
= dQ 1<br />
dP + dQ 2<br />
dP .<br />
2. Ako je Q ≪ P ≪ S, tada<br />
dQ<br />
dS = dQ dP<br />
∫dP<br />
dS ∫<br />
Q(E) = fdP =<br />
E<br />
E<br />
f dP<br />
dS dS.<br />
Za funkciju f koja je jedinstvena do na skup P-mere nula u gore navedenom smislu kazaćemo<br />
da je esencijalno jedinstvena.<br />
52
Glava 7<br />
Pojam uslovnog matematičkog<br />
očekivanja<br />
Neka je (Ω, F,P) prostor verovatnoće. Pretpostavimo da imamo informaciju o realizaciji nekog<br />
dogad¯aja A ∈F. Postavlja se pitanje kako odrediti verovatnoće ostalih elemenata iz F, koristeći<br />
znanje o dogad¯aju A. Posmatrajmo indukovanu σ-algebru<br />
F(A) ={A ∩ B : B ∈F},<br />
koja je σ-algebra na osnovnom skupu A. Ako bi smo posmatrali restrikciju verovatnosne mere<br />
P na F(A) kao funkciju P A : F(A) → R + datu sa P A (A∩B) =P (A∩B), B∈F, tada bi bilo<br />
P A (Ω ∩ A) =P (A) ≤ 1. Dakle, potrebno je meru P A normalizovati da bi postala verovatnosna<br />
mera. U tu svrhu definišemo uslovnu verovatnoću u odnosu na dogad¯aj A kao preslikavanje<br />
P (· |A) :F→R + dato sa<br />
P (A ∩ B)<br />
P (B | A) = ,<br />
P (A)<br />
ako je P (A) > 0. Time smo sa osnovnog prostora verovatnoće (Ω, F,P)prešli na prostor<br />
(Ω, F,P(· |A)). Ako sada posmatramo restrikciju uslovne verovatnoće na F(A), tada ona jeste<br />
verovatnosna mera čime dobijamo novi prostor verovatnoće (Ω, F(A),P(· |A)).<br />
Za uslovnu verovatnoću P (· |A) ćemo ravnopravno koristiti i oznaku P A .<br />
Definicija 40 Neka je X integrabilna slučajna promenljiva na (Ω, F,P) i neka je dogad¯aj<br />
A ∈Ftakav da je P (A) > 0. Definišemo uslovno matematičko očekivanje slučajne<br />
promenljive X u odnosu na dogad¯aj A kao matematičko očekivanje slučajne promenljive<br />
X nad prostorom verovatnoće (Ω, F,P A ) tj.<br />
∫<br />
E(X | A) = XdP A .<br />
Ω<br />
Lema 5 Važi<br />
E(X | A) = 1 ∫<br />
P (A)<br />
A<br />
XdP. (7.1)<br />
53
∑<br />
Dokaz. Ako je X diskretna slučajna promenljiva oblika X = ∞ x i I Ai tada je<br />
∫<br />
E(X | A) =<br />
Ω<br />
= 1<br />
P (A)<br />
XdP A =<br />
∞∑<br />
i=1<br />
∞∑<br />
x i P A (A i )=<br />
i=1<br />
x i P (A ∩ A i )= 1<br />
P (A)<br />
∫<br />
A<br />
∞∑<br />
i=1<br />
i=1<br />
x i<br />
P (A ∩ A i )<br />
P (A)<br />
XdP.<br />
Ako je X nenegativna slučajna promenljiva, tada postoji niz diskretnih slučajnih promenljivih<br />
{X n } takav da X n ↗ X. Tada primenjujući teoremu o monotonoj konvergenciji dobijamo<br />
∫ ∫<br />
∫<br />
XdP A = lim X ndP A = lim X n dP A<br />
n→∞ n→∞<br />
Ω<br />
Ω<br />
1<br />
= lim<br />
n→∞ P (A)<br />
∫<br />
A<br />
Ω<br />
X n dP = 1<br />
P (A)<br />
∫<br />
A<br />
lim X ndP = 1 ∫<br />
n→∞ P (A)<br />
A<br />
XdP.<br />
Ako je X proizvoljna slučajna promenljiva, tada koristeći razlaganje X = X + − X − i<br />
linearnost integrala dobijamo da važi relacija (7.1).<br />
Formula (7.1) je ekvivalentna sa<br />
E(X | A) = 1 ∫<br />
XI A dP = 1<br />
P (A)<br />
P (A) E(XI A).<br />
Ω<br />
Iz dokaza prethodne leme se vidi da se ova jednakost u slučaju kada je X diskretnog tipa svodi<br />
na<br />
∞∑<br />
E(X | A) = x i P (A i | A).<br />
i=1<br />
E(X | Ā) = 1 ∫<br />
P (Ā)<br />
Ako je i P (Ā) > 0, tada je<br />
Utomslučaju je preslikavanje f X :Ω→ R dato sa<br />
Ā<br />
XdP.<br />
f X (ω) =E(X | A)I A (ω)+E(X | Ā)IĀ (ω) =<br />
slučajna promenljiva diskretnog tipa (prima samo dve vrednosti).<br />
Analogno ovom postupku posmatrajmo particiju skupa Ω = ∞ ⋃<br />
{ E(X | A), ω ∈ A<br />
E(X | Ā), ω ∈ Ā ,<br />
i=1<br />
A i , gde su A i ∈F,<br />
P (A i ) > 0zai =1, 2,... i A i ∩ A j = ∅ za i ≠ j. Tada je slučajna promenljiva definisana sa<br />
f X (ω) =<br />
∞∑<br />
I Ai (ω)E(X | A i )<br />
i=1<br />
diskretna slučajna promenljiva na Ω koja je merljiva u odnosu na σ-algebru generisanu datom<br />
particijom B = σ[{A n } n∈N ]. Naime, ako je C proizvoljan Borelov skup sa realne prave, tada je<br />
f −1<br />
X (C) =⋃ A i gde se unija uzima po onim indeksima i za koje važi E(X | A i ) ∈ C.<br />
i<br />
54
Ako je data particija skupa Ω = A 1 ∪ A 2 ∪··· takva da je P (A n ) = 0 za neke dogad¯aje<br />
s.s.<br />
A n ,tadajeE(X | A n ) nedefinisano, ali važi da je I An = 0, pa za takve indekse n proglasimo<br />
proizvoljan broj α ∈ R za E(X | A n )idefinišemo funkciju<br />
˜f X (ω) =<br />
∞∑<br />
I Ai (ω)E(X | A i ).<br />
i=1<br />
Ovako definisana slučajna promenljiva nije jednoznačno odred¯ena, ali jeste jedinstvena do na<br />
skup P-mere nula. Klasu ekvivalencije funkcije ˜f X u odnosu na relaciju jednakosti funkcija skoro<br />
svuda označavaćemo sa E(X |B)izvaćemo je uslovno matematičko očekivanje u odnosu na<br />
σ-algebru B koja je generisana prebrojivom particijom {A n } n∈N . Preciznije, dajemo definiciju:<br />
Definicija 41 Neka je X integrabilna slučajna promenljiva na verovatnosnom prostoru (Ω, F,P)<br />
i neka je prebrojiva familija {A n } n∈N ⊂Fparticija za Ω. Uslovno matematičko očekivanje<br />
slučajne promenljive X u odnosu na σ-algebru B = σ[{A n } n∈N ] je diskretna slučajna<br />
promenljiva definisana do na skup P -mere nula data sa<br />
⎛<br />
⎞<br />
∞∑<br />
E(X |B)(ω) = I Ai (ω) ⎝ 1 ∫<br />
XdP⎠ . (7.2)<br />
P (A i )<br />
i=1<br />
Pomoću uslovnog matematičkog očekivanja može se definisati uslovna verovatnoća u odnosu<br />
na σ-algebru dogad¯aja:<br />
A i<br />
Definicija 42 Uslovna verovatnoća dogad¯aja B ∈F u odnosu na σ-algebru<br />
B = σ[{A n } n∈N ] je uslovno matematičko očekivanje od indikatora dogad¯aja B tj.<br />
Za X = I B ,B∈F relacija (7.2) postaje<br />
pa imamo da je<br />
E(I B |B)(ω) =<br />
∞∑<br />
i=1<br />
P (B |B)=E(I B |B).<br />
( )<br />
1<br />
I Ai (ω)<br />
P (A i ) P (A i ∩ B) =<br />
P (B |B)(ω) =<br />
∞∑<br />
I Ai (ω)P (B | A i ),<br />
i=1<br />
∞∑<br />
I Ai (ω)P (B | A i ).<br />
i=1<br />
Dakle i uslovno matematičko očekivanje i uslovna verovatnoća su slučajne promenljive merljive<br />
u odnosu na σ-algebru B.<br />
Označimo sa P B restrikciju mere P na σ-algebru B.<br />
Propozicija 5 Neka je X slučajna promenljiva na prostoru (Ω, F,P) .Za proizvoljan skup<br />
B ∈Bvaži sledeća relacija ∫<br />
∫<br />
E(X |B)dP B = XdP. (7.3)<br />
B<br />
B<br />
55
Dokaz. Proizvoljan skup B iz σ-algebre generisane disjunktnim skupovima A i može se<br />
napisati kao unija nekih od ovih skupova tj. B = ⋃ A j gde je J ⊂ N konačan ili prebrojiv<br />
j∈J<br />
skup indeksa. Tada je razbijanje Ω = ¯B ∪ ⋃ A j nova particija skupa ishoda koja generiše istu<br />
j∈J<br />
σ-algebru B. Prema relaciji (7.2) je<br />
⎛ ⎛<br />
∫<br />
∫<br />
⎜<br />
∑<br />
⎜<br />
E(X |B)dP B = ⎝ ⎝ 1 ∫<br />
P (A j )<br />
B<br />
B<br />
j∈J<br />
A j<br />
⎞<br />
⎟<br />
XdP⎠ I Aj +<br />
⎛<br />
⎝ 1<br />
P ( ¯B)<br />
∫<br />
¯B<br />
⎞<br />
⎞<br />
XdP⎠ ⎟<br />
I ¯B ⎠ dP B<br />
Integral od drugog sabirka je nula zbog B ∩ ¯B = ∅. Integraleći prvi sabirak kao diskretnu<br />
slučajnu promenljivu dobijamo<br />
⎛<br />
⎞<br />
∫<br />
E(X |B)dP B = ∑ ⎜<br />
⎝ 1 ∫<br />
⎟<br />
XdP⎠ P B (A j ∩ B).<br />
P (A j )<br />
B<br />
j∈J<br />
A j<br />
Kako je B = ⋃ A j , sledi da je P B (A j ∩ B) =P B (A j )=P (A j ) pa posle skraćivanja dobijamo<br />
j∈J<br />
⎛ ⎞<br />
∫<br />
E(X |B)dP B = ∑ ∫<br />
∫ ∫<br />
⎜ ⎟<br />
⎝ XdP⎠ = XdP = XdP.<br />
B<br />
j∈J<br />
⋃<br />
A j<br />
A<br />
B<br />
j<br />
Primetimo da slučajna promenljiva X ne mora biti B-merljiva, dok E(X |B)touvekjeste.<br />
Uslučaju kada σ-algebra B nije prebrojivo generisana, uslovno matematičko očekivanje se<br />
definiše upravo relacijom iz prethodne propozicije.<br />
Posmatrajmo skupovnu funkciju ν : B→R datu sa<br />
∫<br />
ν(B) = XdP, B ∈B. (7.4)<br />
B<br />
Ona je σ-aditivna skupovna funkcija apsolutno neprekidna u odnosu na meru P B = P ↾ B .<br />
Prema teoremi Radon-Nikodimova sledi da postoji esencijalno jedinstvena (jedinstvena do na<br />
skup P B -mere nula) B-merljiva funkcija f X takva da važi<br />
∫<br />
ν(B) = f X dP B , to jest,<br />
j∈J<br />
∫<br />
∫<br />
XdP =<br />
B<br />
f X dP B ,<br />
za svako B ∈B.<br />
B<br />
B<br />
Funkciju f X označavamo sa E(X |B) i nazivamo uslovnim matematičkim očekivanjem u odnosu<br />
na σ-algebru B.<br />
Definicija 43 Neka je (Ω, F,P) verovatnosni prostor, B⊂F proizvoljna σ-podalgebra i<br />
X :Ω→ R integrabilna slučajna promenljiva. Esencijalno jedinstvenu B-merljivu funkciju<br />
E(X |B):Ω→ R koja zadovoljava jednakost<br />
∫<br />
∫<br />
E(X |B)dP B = XdP (7.5)<br />
B<br />
B<br />
56
za svako B ∈B, nazivamo uslovno matematičko očekivanje slučajne promenljive X<br />
u odnosu na σ-algebru B.<br />
Neka je za A ∈ F<br />
P (A |B)=E(I A |B).<br />
Tada se P (· |B) naziva uslovna verovatnoća na σ-algebri F uodnosunaσ-algebru<br />
B.<br />
Učetvrtom poglavlju biće pokazano da se definicija uslovnog matematičkog očekivanja data<br />
preko Radon-Nikodimove teoreme u slučaju kada je σ-algebra B prebrojivo generisana, poklapa<br />
sa konstrukcijom uslovnog očekivanja po definiciji 41.<br />
Uslovna verovatnoća data u prethodnoj definiciji je slučajna promenljiva nad Ω koja je<br />
B-merljiva. Ona je definisana za svako A ∈Fdo na neki skup mere nula, koji zavisi od A.<br />
Zato funkcija P (· |B)(ω) zafiksiranoω ∈ Ωuopštem slučaju ne može biti korišćena kao mera<br />
na F. U trećem poglavlju biće diskutovani uslovi regularnosti uslovne verovatnoće kada se ona<br />
može uzeti za verovatnosnu meru na F.<br />
Propozicija 6 Neka je B ∈F proizvoljan dogad¯aj. Slučajna promenljiva P (B |B) je uslovna<br />
verovatnoća ako i samo ako je B-merljiva i za svako A ∈F važi<br />
∫<br />
P (A ∩ B) = P (B |B)dP B . (7.6)<br />
Dokaz. Neka je P (B |B) uslovna verovatnoća. Tada je ona B-merljiva i<br />
∫<br />
∫<br />
∫<br />
P (B |B)dP B = E(I B |B)dP B = I B dP = P (A ∩ B).<br />
A<br />
A<br />
A<br />
A<br />
Obratno, ako važi relacija (7.6) tada je<br />
∫<br />
∫<br />
P (B |B)dP B = P (A ∩ B) =<br />
I B dP.<br />
A<br />
A<br />
Kako je P (B |B) B-merljiva, to iz jedinstvenosti Radon-Nikodimovog izvoda sledi P (B |B)=<br />
E(I B |B).<br />
57
Glava 8<br />
Osobine uslovnog matematičkog<br />
očekivanja<br />
Propozicija 7 Uslovno matematičko očekivanje ima sledeće osobine:<br />
1. E(E(X |B)) = E(X).<br />
2. Ako je X merljiva u odnosu na B, tada E(X |B) s.s.<br />
= X.<br />
3. Ako je X ≥ 0, tada je i E(X |B) ≥ 0 s.s..<br />
4. Ako je X s.s.<br />
= c gde je c proizvoljna konstanta, tada je E(X |B) s.s.<br />
= c.<br />
5. Ako je B = {∅, Ω} trivijalna σ-algebra, tada E(X |B) s.s.<br />
= E(X).<br />
Dokaz.<br />
1. Kako relacija (7.5) važi za svako B ∈B, to za B = Ω dobijamo traženu jednakost. Dakle,<br />
slučajna promenljiva X i njeno uslovno matematičko očekivanje kao slučajna promenljiva<br />
imaju isto ”obično” matematičko očekivanje.<br />
2. Tvrd¯enje sledi iz jedinstvenosti Radon-Nikodimovog izvoda.<br />
3. Ako je X nenegativna slučajna promenljiva, tada je skupovna funkcija ν definisana sa (7.4)<br />
mera, pa je i Radon-Nikodimov izvod nenegativna slučajna promenljiva tj. E(X |B) ≥ 0<br />
s.s.<br />
4. Kako je za proizvoljan Borelov skup A ∈B(R) inverzna slika<br />
{ ∅, c /∈ A<br />
X −1 (A) =<br />
Ω, c ∈ A<br />
sledi da je konstantna slučajna promenljiva merljiva u odnosu na svaku σ-algebru, pa i<br />
na σ-algebru B. Sada na osnovu 2. dobijamo E(X |B) s.s.<br />
= X s.s.<br />
= c.<br />
5. E(X) je kao konstantna slučajna promenljiva merljiva u odnosu na B, azadovoljavai<br />
relaciju (7.5) za svaki skup B ∈{∅, Ω} jer je E(E(X)) = E(X). Na osnovu esencijalne<br />
jedinstvenosti Radon-Nikodimovog izvoda sledi da je E(X) s.s.<br />
= E(X |B).<br />
58
Propozicija 8<br />
1. Ako su X 1 i X 2 integrabilne i a 1 ,a 2 proizvoljne konstante, tada važi<br />
E(a 1 X 1 + a 2 X 2 |B) s.s.<br />
= a 1 E(X 1 |B)+a 2 E(X 2 |B). (8.1)<br />
tj. operator E(· |B):L 1 → L 1 je linearan operator nad prostorom integrabilnih slučajnih<br />
promenljivih.<br />
2. Ako je X 1 ≤ X 2 , tada je E(X 1 |B) s.s.<br />
≤ E(X 2 |B).<br />
Dokaz.<br />
1.<br />
∫<br />
Koristeći linearnost integrala i relaciju (7.5) dobijamo da je za proizvoljan skup B ∈B<br />
E(a 1 X 1 + a 2 X 2 |B)dP B = ∫ ∫<br />
∫<br />
(a 1 X 1 + a 2 X 2 )dP = a 1 X 1 dP + a 2 X 2 dP<br />
B ∫<br />
∫ B<br />
B<br />
B<br />
= a 1 E(X 1 |B)dP B + a 2 E(X 2 |B)dP B = ∫ (a 1 E(X 1 |B)+a 2 E(X 2 |B))dP B .<br />
B<br />
B B<br />
Kako je skup B izabran proizvoljno, sledi da važi (8.1).<br />
Ako je X ∈ L 1 tj. E(X) < ∞, tada koristeći prvu osobinu iz prethodne propozicije<br />
dobijamo da je i E(E(X |B)) < ∞ odnosno da E(X |B) ∈ L 1 . Dakle operator uslovnog<br />
očekivanja slika prostor L 1 u samog sebe.<br />
2. X 2 −X 1 je po pretpostavci nenegativna slučajna promenljiva, odakle prema trećoj osobini<br />
iz prethodne propozicije sledi E(X 2 −X 1 |B) s.s.<br />
≥ 0. Koristeći malopre dokazanu linearnost<br />
dobijamo E(X 2 |B) − E(X 1 |B) s.s.<br />
≥ 0.<br />
Propozicija 9<br />
1. |E(X |B)| ≤E(|X| |B).<br />
2. ||E(X |B)|| L 1 ≤||X|| L 1 tj. operator E(· |B):L 1 → L 1 je neekspanzivan.<br />
Dokaz.<br />
1. Iz −|X| ≤X ≤|X| na osnovu monotonosti sledi −E(|X| |B) ≤ E(X |B) ≤ E(|X| |<br />
B), odakle se direktno dobija |E(X |B)| ≤E(|X| |B).<br />
2. Kao posledica od 1. sledi<br />
||E(X |B)|| L 1 = ∫ |E(X |B)| dP B ≤ ∫ E(|X| |B)dP B = ∫ |X| dP = ||X|| L 1 .<br />
Ω<br />
Ω<br />
Ω<br />
Teorema 40 (o monotonoj konvergenciji)<br />
Neka je {X n }⊂L 1 niz integrabilnih slučajnih promenljivih takvih da X n ↗ X s.s. Neka postoji<br />
slučajna promenljiva Y ∈ L 1 takva da je Y ≤ X n za sve n ∈ N. Tada za proizvoljnu σ-podalgebru<br />
B⊂F važi<br />
E(X n |B) ↗ E(X |B) s.s.<br />
Dokaz. Pokažimo prvo da E(X |B) postoji tako što ćemo pokazati da postoji E(X). Za<br />
to je dovoljno pokazati da je E(X + ) < ∞ ili E(X − ) < ∞. KakojeY ≤ X i Y ∈ L 1 , to sledi<br />
da je −∞
konvergeniji na niz {E(X n |B)} n∈N dobijamo da je za proizvoljan skup A ∈Bispunjeno<br />
∫<br />
∫<br />
∫ ∫ ∫<br />
lim E(X n |B)dP B = lim E(X n |B)dP B = lim X n dP = XdP = E(X |B)dP B .<br />
n→∞ n→∞ n→∞<br />
A<br />
A<br />
Podintegralne funkcije sa početka i kraja ove relacije su B-merljive, a skup A ∈Bje proizvoljan,<br />
odakle sledi da mora biti lim E(X n |B) s.s.<br />
= E(X |B).<br />
n→∞<br />
Primetimo da klasična teorema o monotonoj konvergenciji iz konvergencije slučajnih promenljivih<br />
daje konvergenciju niza realnih brojeva, dok teorema o monotonoj konvergenciji za uslovno<br />
očekivanje daje kao rezultat konvergenciju niza slučajnih promenljivih {E(X n |B)} n∈N .<br />
Teorema 41 ( o dominantnoj konvergenciji)<br />
s.s.<br />
Neka je dat niz slučajnih promenljivih {X n } koji konvergira X n → X. Neka postoji Y ∈ L 1<br />
tako da je za svako n ∈ N |X n |≤Y s.s. Tada važi<br />
A<br />
E(|X n − X| |B) s.s.<br />
→ 0.<br />
Dokaz. Iz uslova |X n |≤Y ∈ L 1 dobijamo da je X n ,X∈ L 1 odakle sledi da su i E(X n |B),<br />
E(X |B) ∈ L 1 . Neka je<br />
Z n =sup|X k − X| .<br />
k≥n<br />
s.s.<br />
Kako X n → X, to sledi da Z n ↘ 0s.s.Takod¯e važi da je Z n ≤ 2Y ∈ L 1 pa primenom klasične<br />
teoreme o dominantnoj konvergencicji na niz {Z n } dobijamo<br />
∫<br />
lim Z n dP =0.<br />
n→∞<br />
Ω<br />
Kako je 0 ≤ E(Z n+1 |B) ≤ E(Z n |B) s.s., to sledi da postoji s.s. lim E(Z n |B). Važi<br />
n→∞<br />
∫<br />
∫<br />
∫<br />
0 ≤ lim E(Z n |B)dP B ≤ E(Z n |B)dP B = Z n dP → 0.<br />
n→∞<br />
Odavde sledi da je ∫ Ω<br />
Ω<br />
lim E(Z n |B)dP B =0što povlači<br />
n→∞<br />
lim E(Z n |B) s.s.<br />
=0.<br />
n→∞<br />
Kako je 0 ≤ E(|X n − X| |B) ≤ E(Z n |B) sledi da je i<br />
Kao posledica dobija se da važi<br />
Ω<br />
lim E(|X n − X| |B) s.s.<br />
=0.<br />
n→∞<br />
E(X n |B) s.s.<br />
→ E(X |B).<br />
Teorema 42 (lema Fatua)<br />
Neka je {X n }⊂L 1 niz slučajnih promenljivih i neka su Y,Z ∈ L 1 . Tada važi<br />
1. Ako je Y ≤ X n s.s., onda<br />
E(lim inf<br />
n<br />
X n |B)) ≤ lim inf<br />
n E(X n |B) s.s.<br />
60<br />
Ω<br />
A<br />
A
2. Ako je X n ≤ Z s.s., onda<br />
E(lim sup<br />
n<br />
X n |B)) ≥ lim sup E(X n |B)<br />
n<br />
s.s.<br />
Dokaz. Dokazaćemo prvu verziju leme za liminf, azalimsup se dokaz izvodi analogno.<br />
Neka je<br />
Z n =inf X k.<br />
k≥n<br />
Tada Z n ↗ sup(inf<br />
X k) = lim inf X n. Važi i da je Y ≤ Z n . Prema teoremi o monotonoj<br />
n k≥n n<br />
konvergenciji je<br />
E(Z n |B) ↗ E(lim inf X n |B) s.s. (8.2)<br />
n<br />
Važi da je E(Z n |B) ≤ E(X k |B)zasvek ≥ n, odakle sledi E(Z n |B) ≤ inf E(X k |B) ≤<br />
k≥n<br />
sup(inf<br />
E(X k |B)) = lim inf E(X n |B)) s.s.. Kada na levoj strani pustimo limes, dobijamo<br />
n k≥n n<br />
lim E(Z n |B) ≤ lim inf E(X n |B)) s.s. (8.3)<br />
n→∞ n<br />
Dakle,<br />
E(lim inf X n |B) (8.2)<br />
= lim E(Z n |B) (8.3)<br />
≤ lim inf E(X n |B).<br />
Teorema 43 Neka su X n nenegativne slučajne promenljive za sve n ∈ N. Tada<br />
∞∑<br />
∞∑<br />
E( X k |B)= E(X k |B) s.s.<br />
k=1<br />
k=1<br />
Dokaz. Za konačan zbir slučajnih promenljivih operator uslovnog očekivanja jeste linearan<br />
∑<br />
prema prethodnoj propoziciji. Dakle, za svako n ∈ N je E( n ∑<br />
X k |B)= n E(X k |B) s.s.<br />
Kako je svako X n ≥ 0, primenom teoreme o monotonoj konvergenciji dobijamo<br />
∞∑<br />
n∑<br />
n∑<br />
E( X k |B)=E( lim X k |B) = lim E( X k |B)<br />
n→∞<br />
n→∞<br />
k=1<br />
= lim<br />
n→∞<br />
k=1<br />
n∑<br />
E(X k |B)=<br />
k=1<br />
k=1<br />
k=1<br />
∞∑<br />
E(X k |B)<br />
k=1<br />
s.s.<br />
k=1<br />
Teorema 44 Neka su X, Y slučajne promenljive na (Ω, F,P) takve da su X i XY integrabilne.<br />
Ako je Y merljiva u odnosu na σ-algebru B, tada je<br />
E(XY |B)=YE(X |B)<br />
s.s.<br />
Dokaz. Pokazaćemo da je za svaki skup A ∈B<br />
∫ ∫<br />
XY dP = YE(X |B)dP B . (8.4)<br />
A<br />
A<br />
odakle će zbog jedinstvenosti Radon-Nikodimovog izvoda sledeti tvrd¯enje teoreme.<br />
61
1. Neka je Y = I B za neko B ∈B. Tada je<br />
∫<br />
∫ ∫<br />
XI B dP = XdP =<br />
∫<br />
E(X |B)dP B =<br />
I B E(X |B)dP B .<br />
A<br />
A∩B<br />
A∩B<br />
A<br />
∑<br />
2. Neka je Y nenegativna diskretna slučajna promenljiva oblika Y = ∞ a i I Ai , gde su<br />
A i ∈B, a i ∈ R. Tada relacija (8.4) važi za sve indikatore I Ai pa na osnovu linearnosti<br />
integrala dobijamo<br />
∫ ∞∑<br />
∞∑<br />
∫<br />
∞∑<br />
∫<br />
X a i I Ai dP = a i XI Ai dP = a i I Ai E(X |B)dP B<br />
A<br />
i=1<br />
i=1<br />
∫<br />
=<br />
A<br />
A<br />
i=1<br />
∞∑<br />
∫<br />
a i I Ai E(X |B)dP B =<br />
i=1<br />
A<br />
A<br />
i=1<br />
YE(X |B)dP B .<br />
3. Neka je Y proizvoljna nenegativna slučajna promenljiva. Tada postoji niz B-merljivih<br />
nenegativnih diskretnih slučajnih promenljivih {Y n } n∈N za koji važi 0 ≤ Y n ↗ Y. Relacija<br />
(8.4) važi za svako Y n . Prema teoremi o monotonoj konvergenciji dobijamo<br />
∫ ∫<br />
∫<br />
XY dP = X lim Y n dP = lim XY n dP<br />
n→∞ n→∞<br />
A<br />
A<br />
∫<br />
= lim<br />
n→∞<br />
A<br />
A<br />
∫<br />
Y n E(X |B)dP B =<br />
A<br />
YE(X |B)dP B .<br />
4. Ako je Y proizvoljna slučajna promenljiva, tada je možemo razložiti na Y = Y + − Y −<br />
gde su Y + iY − nengativne, pa koristeći (8.4) za Y + i Y − i linearnost integrala dobijamo<br />
traženo tvrd¯enje.<br />
Teorema 45 Neka su B 1 ⊂B 2 ⊂F dve σ-podalgebre i X integrabilna slučajna promenljiva.<br />
Tada<br />
E(E(X |B 2 ) |B 1 )=E(E(X |B 1 ) |B 2 )=E(X |B 1 )<br />
tj. operatori E(· |B 1 ) i E(· |B 2 ) komutiraju na L 1 .<br />
Dokaz. Važi da je E(X |B 1 ) merljiva u odnosu na B 1 , pa samim tim i u odnosu na B 2 .<br />
Znamo da je E(1 |B 2 ) = 1 s.s. Na osnovu prethodne teoreme sledi<br />
E(1 · E(X |B 1 ) |B 2 )=E(X |B 1 )E(1 |B 2 )=E(X |B 1 ) s.s.<br />
S druge strane po definiciji uslovnog očekivanja je za proizvoljan skup A ∈B 1 ⊂B 2<br />
∫<br />
∫<br />
∫ ∫<br />
E(E(X |B 2 ) |B 1 )dP B1 = E(X |B 2 )dP B2 = XdP = E(X |B 1 )dP B1 .<br />
A<br />
A<br />
A<br />
A<br />
Odavde sledi da moa biti ∫ A<br />
E(E(X |B 2 ) |B 1 ) s.s.<br />
= E(X |B 1 ).<br />
62
Teorema 46 Neka su X i Y integrabilne slučajne promenljive takve da je i XY integrabilna,<br />
i neka su date σ-podalgebre B 1 ⊂B 2 ⊂F .AkojeY merljiva u odnosu na B 2 , tada je<br />
E(XY |B 1 )=E(YE(X |B 2 ) |B 1 ) s.s.<br />
Dokaz. Na osnovu teoreme 44 je E(XY |B 2 )=YE(X |B 2 ), a na osnovu teoreme 45 je<br />
E(E(XY |B 2 ) |B 1 )=E(XY |B 1 ).<br />
63
Glava 9<br />
Uslovna verovatnoća<br />
U prvom poglavlju bila je definisana uslovna verovatnoća kao<br />
P (A |B)=E(I A |B).<br />
Propozicija 10 Preslikavanje P (· |B):F→L 1 ima sledeće osobine:<br />
1. 0 ≤ P (A |B) ≤ 1 s.s.<br />
2. Ako P (A) =0ili P (A) =1, onda P (A |B)=0ili P (A |B)=1s.s.<br />
3. Ako je {A n }⊂F monoton niz dogad¯aja sa granicom A = lim<br />
n→∞<br />
A n , tada važi<br />
P (A |B) s.s.<br />
= lim<br />
n→∞<br />
P (A n |B).<br />
4. Ako su {A n }⊂F disjunktni dogad¯aji, tada važi<br />
∞⋃<br />
∞∑<br />
P ( A n |B) s.s.<br />
= P (A n |B).<br />
Dokaz.<br />
n=1<br />
1. Kako indikator dogad¯aja I A primasamodvevrednosti: 0i1, na osnovu monotonosti<br />
operatora E sledi da je i 0 ≤ E(I A |B) ≤ 1.<br />
2. Neka je P (A) =0. Tada iz ∫ P (A |B)dP B = P (A ∩ B) ≤ P (A) =0, za proizvoljno<br />
B<br />
B ∈B, sledi da je P (A |B) s.s.<br />
=0.<br />
Pretpostavimo da je P (A) =1. Tada je za proizvoljno B ∈Bzadovoljeno<br />
∫<br />
∫<br />
P (A |B)dP B = P (A ∩ B) =P (B) =P B (B) = 1dP B ,<br />
n=1<br />
B<br />
B<br />
odakle sledi P (A |B) s.s.<br />
=1.<br />
64
3. Koristeći neprekidnost mere P dobijamo<br />
∫<br />
P (A |B)dP B = P (A ∩ B) =P ( lim A n ∩ B) = lim P (A n ∩ B)<br />
n→∞ n→∞<br />
B<br />
∫<br />
= lim<br />
n→∞<br />
B<br />
∫<br />
P (A n |B)dP B =<br />
B<br />
lim P (A n |B)dP B .<br />
n→∞<br />
Poslednja jednakost je dobijena na osnovu teoreme o monotonoj konvergenciji<br />
(niz P (A n |B) je monoton jer je A n monoton niz i operator E je monoton). Kako je skup<br />
B ∈Bproizvoljan, sledi da je P (A |B) s.s.<br />
= lim n→∞ P (A n |B).<br />
4.<br />
∫<br />
Slično kao i pod 3. koristimo σ-aditivnost mere P, na osnovu koje dobijamo<br />
P ( ⋃ A n |B)dP B = P ( ⋃ A n ∩ B) = ∑ P (A n ∩ B) = ∑ ∫<br />
P (A n |B)dP B<br />
B n∈N<br />
n∈N<br />
n∈N<br />
n∈N B<br />
= ∫ ∑<br />
P (A n |B)dP B . Odavde sledi P ( ⋃ A n |B) s.s.<br />
= ∑ P (A n |B).<br />
B n∈N<br />
n∈N<br />
n∈N<br />
Kako P (A |B) nije broj nego slučajna promenljiva, prethodna propozicija tvrdi da P (· |B)<br />
preslikava F u pozitivan deo jedinične lopte u L 1 idajeσ-aditivna za skoro svako fiksirano<br />
ω ∈ Ω. Za fiksirano ω ∈ Ω uslovna verovatnoća P (· |B)(ω) ima sve osobine kao i klasična<br />
verovatnoća u terminologiji ”skoro svuda”. Ovo bi nas moglo dovesti do zakjlučka da ako<br />
izaberemo iz klasa ekvivalencije P (A |B) jednu reprezentativnu funkciju (tzv. ”verziju”), tada<br />
bi P (· |B)(ω) mogla da se tretira kao verovatnosna mera za svako ω ∈ Ω\N gde je P (N) =0.<br />
Med¯utim ovo generalno nije moguće ako F nije prebrojivo generisana. Naime, svaki skup N<br />
nad kojim P (A |B) nije mera zavisi i od skupa A. Ako sa N A označimo skup za koji važi da je<br />
P (A |B)(ω) verovatnosna mera za ω ∈ Ω\N A , tada je skup koji treba isljučiti da bi P (· |B)(ω)<br />
bila verovatnosna mera dat sa<br />
N = ⋃ N A .<br />
A∈F<br />
Iako su svi skupovi N A mere nula, skup N ne mora biti mere nula, jer se unija uzima po svim<br />
skupovima iz σ-algebre F, dakle nije prebrojiva unija.<br />
Uslučajevima kada se uslovna verovatnoća može uzeti za verovatnosnu meru u klasičnom<br />
smislu, nazivaćemo je regularnom uslovnom verovatnoćom. Preciznije, važi sledeća definicija:<br />
Definicija 44 Preslikavanje P (·, ·) :Ω×F →R je regularna uslovna verovatnoća, ako<br />
1. P (ω, ·) :F→R je verovatnosna mera za s.s. ω ∈ Ω.<br />
2. P (·,A):Ω→ R je B-merljiva funkcija takva da je P (·,A) s.s..<br />
= P (A |B) za sve A ∈F.<br />
Drugi uslov iz definicije tvrdi da je P (·,A) jedna od verzija uslovne verovatnoće P (A |B).<br />
Naredna teorema daje izuzetno značajan rezultat, da u slučaju kada je uslovna verovatnoća<br />
regularna, uslovno matematičko očekivanje se može izračunatikaointegralpomeriuslovne<br />
verovatnoće.<br />
Teorema 47 Neka je P (ω, B) regularna uslovna verovatnoća po σ-algebri B i neka je X integrabilna<br />
slučajna promenljiva. Tada važi<br />
∫<br />
E(X |B)(ω) s.s.<br />
= X(˜ω)P (ω, d˜ω). (9.1)<br />
Ω<br />
65
Dokaz.<br />
1. Neka je X = I A za neko A ∈F. Tada formula (9.1) postaje P (A |B) s.s.<br />
= P (ω, A)što jeste<br />
tačno po drugom uslovu definicije regularne mere.<br />
2. Ako je X diskretna slučajna promenljiva, tada prema regularnosti mere sledi<br />
∞∑<br />
∞∑<br />
∞∑<br />
E( x i I Ai |B)(ω) = x i E(I Ai |B)(ω) = x i P (A i |B)(ω)<br />
i=1<br />
=<br />
i=1<br />
∞∑<br />
∫<br />
x i P (ω, A i )=<br />
i=1<br />
Ω<br />
i=1<br />
X(˜ω)P (ω, d˜ω).<br />
3. Ako je X nenegativna slučajna promenljiva, tada postoji niz diskretnih slučajnih promenljivih<br />
za koji važi X n ↗ X s.s. Prema teoremi o monotonoj konvergenciji je E(X |B)(ω) s.s.<br />
=<br />
lim E(X n |B)(ω). Kako je za fiksirano ω ∈ Ω preslikavanje P (ω, ·) mera, to je<br />
n→∞<br />
∫<br />
E(X |B)(ω) = lim E(X n |B)(ω) = lim<br />
n→∞ n→∞<br />
∫<br />
=<br />
Ω<br />
lim X n(˜ω)P (ω, d˜ω) =<br />
n→∞<br />
∫<br />
Ω<br />
Ω<br />
X(˜ω)P (ω, d˜ω).<br />
X n (˜ω)P (ω, d˜ω)<br />
4. Za proizvoljnu slučajnu promenljivu X se relacija (9.1) pokazuje pomoću razlaganja X =<br />
X + − X − .<br />
Napomena 10 Relacija oblika (9.1) važi i u slučaju kada uslovna verovatnoća nije regularna.<br />
Utomslučaju integral treba shvatiti kao Dunford-Schwarzov (D-S) integral po tzv. vektorskoj<br />
meri P (· |B). (D-S) integral ima sličnu konstrukciju kao i Lebegov integral, a vrednost tog<br />
integrala je slučajna promenljiva iz prostora L 1 . Zainteresovani čitalac se dalje upućuje na<br />
([5]).<br />
Postoji kriterijum za proveravanje regularnosti uslovne verovatnoće, koji se ovde navodi bez<br />
dokaza:<br />
Teorema 48 Neka je (Ω, F,P) prostor verovatnoće, B ⊂ F σ-podalgebra i X : Ω → R<br />
slučajna promenljiva. Uslovna verovatnoća P (· |B) je regularna za X tj.P (· |B) ◦ X −1 je<br />
regularna, ako postoji Borelov skup B ∈ X(Ω) takav da je P (X −1 (B)) = 1.<br />
Posledica 49 Ako je X slučajna promenljiva apsolutno neprekidnog tipa, tada je uslovna<br />
verovatnoća regularna. Traženi skup B je oblika B = {x ∈ R : ϕ(x) ≠0} gde je ϕ(x) funkcija<br />
gustine slučajne promenljive X.<br />
66
Glava 10<br />
Uslovno matematičko očekivanje u<br />
odnosu na σ-algebru generisanu<br />
merljivom funkcijom<br />
Neka je (Ω, F,P) prostor verovatnoće i (E,E) merljiv prostor. Neka je preslikavanje h :Ω→ E<br />
merljivo preslikavanje u odnosu na σ-algebru F. Definišimo verovatnosnu meru Q na (E,E) sa<br />
Q = P ◦ h −1<br />
tj. Q(A) =P (h −1 (A)) za proizvoljno A ∈E. Označimo sa B h σ-algebru generisanu merljivim<br />
preslikavanjem h tj.<br />
B h = h −1 (E).<br />
B h je σ-podalgebra od σ-algebre F. Stavimo da je P Bh = P ↾ Bh restrikcija mere P na σ-algebru<br />
B h . Tada je P Bh ◦ h −1 = Q.<br />
Neka je X :Ω→ R slučajna promenljiva (F-merljiva funkcija) koja je P -integrabilna. Tada<br />
je skupovna funkcija µ X : B h → R data sa<br />
∫<br />
µ X (A) = XdP Bh , za A ∈B h<br />
konačna σ-aditivna funkcija. Neka je<br />
A<br />
ν X = µ X ◦ h −1 ,<br />
odnosno<br />
ν X (B) =<br />
∫<br />
XdP Bh<br />
za B ∈E.<br />
h −1 (B)<br />
Tada je funkcija ν X : E → R σ-aditivna na E iizP Bh ◦ h −1 = Q sledi da je ν X apsolutno<br />
∫<br />
g X dQ =<br />
∫<br />
neprekidna u odnosu na Q. Prema teoremi Radon-Nikodima sledi da postoji E-merljiva<br />
Q-jedinstvena integrabilna funkcija g X : E → R takvadajeν X (B) = ∫ g X dQ tj.<br />
B<br />
XdP Bh (10.1)<br />
B<br />
h −1 (B)<br />
za sve B ∈E.<br />
67
Funkcija g X se naziva uslovno očekivanje slučajne promenljive X u odnosu na σ-<br />
algebru B h ioznačava se<br />
g X (e) =E(X |B h )(e) =E(X | h = e), e ∈ E.<br />
Specijalno, ako je E =Ω,hidentičko preslikavanje i E = B⊂F data σ-podalgera, tada je<br />
g X = E(X |B), a relacija (10.1) se svodi na već poznatu definiciju uslovnog očekivanja<br />
∫<br />
∫<br />
E(X |B)dP B = XdP.<br />
B<br />
B<br />
10.1 Uslovno očekivanje u odnosu na diskretno generisanu<br />
σ-algebru<br />
Neka je dat verovatnosni prostor (Ω, F,P)iσ-podalgebra B⊂Fkoja je diskretno generisana,<br />
tj. generisana je prebrojivom particijom Ω = A 1 ∪ A 2 ∪··· , gde su {A n } n∈N ⊂F.<br />
Stavimo da je prostor (E,E) merljiv prostor (N, P(N)). Definišimo preslikavanje h :Ω→ N<br />
sa<br />
h(ω) =n, ako ω ∈ A n<br />
tj. h −1 ({n}) =A n . Tada je σ-algebra indukovana preslikavanjem h upravo σ-algebra B. U<br />
skladu sa prethodnim razmatranjima imamo da je<br />
Q({n}) =P (A n ).<br />
Neka je X :Ω→ R slučajna promenljiva. Tada za merljiv skup B = {n} relacija (10.1)<br />
postaje<br />
∫ ∫<br />
g X dQ = XdP.<br />
Kako je ∫<br />
{n}<br />
{n}<br />
g X dQ = g X (n)Q({n}) =g X (n)P (A n ) dobijamo da je<br />
A n<br />
g X (n) = 1 ∫<br />
P (A n )<br />
A n<br />
XdP.<br />
68
U alternativnoj oznaci to znači g X (n) =E(X | h = n) =E(X |B)(n) =E(X | A n ) odnosno<br />
E(X | A n )= 1 ∫<br />
XdP,<br />
P (A n )<br />
što je upravo relacija preko koje smo definisali uslovno očekivanje u (7.2). Dakle definicija<br />
uslovnog očekivanja u odnosu na diskretno generisanu σ-algebru data u prvom poglavlju je<br />
specijalan slučaj definicije uslovnog očekivanja kao Radon-Nikodimovog izvoda.<br />
10.2 Uslovno matematičko očekivanje u odnosu na σ-<br />
algebru generisanu slučajnom promenljivom<br />
Neka je prostor (E,E) =(R, B(R))inekajepreslikavanjeh slučajna promenljiva Y :Ω→ R.<br />
Tada je shodno prethodnim razmatranjima mera Q = P Y gde je P Y raspodela verovatnoće<br />
slučajne promenljive Y. Označimo sa σ[Y ] σ-algebru generisanu slučajnom promenljivom Y tj.<br />
u prethodnim oznakama to znači B h = σ[Y ]. Tada postoji kao i u (10.1) jedinstvena Borelova<br />
funkcija m : R → R takva da važi<br />
∫<br />
∫<br />
m(y)dP Y = XdP σ[Y ] (10.2)<br />
A n<br />
B<br />
Y −1 (B)<br />
za proizvoljan Borelov skup B ∈B(R).<br />
Označimo:<br />
m(y) =E(X | Y = y),<br />
E(X | σ[Y ]) = E(X | Y ).<br />
S druge strane, na osnovu teoreme (18) Lebegov integral sa leve strane u (10.2) je<br />
∫<br />
∫<br />
m(y)dP Y (y) = (m ◦ Y )dP. (10.3)<br />
B<br />
Y −1 (B)<br />
Iz (10.2) i (10.3) sada dobijamo da je<br />
∫<br />
(m ◦ Y )dP =<br />
∫<br />
XdP σ[Y ] =<br />
∫<br />
E(X | Y )dP,<br />
Y −1 (B)<br />
Y −1 (B)<br />
Y −1 (B)<br />
odnosno<br />
To znači da dijagram na slici komutira.<br />
Definicija 45 Za proizvoljan dogad¯aj A ∈F definišemo<br />
m ◦ Y s.s.<br />
= E(X | Y ). (10.4)<br />
P (A | Y = y) =E(I A | Y = y).<br />
69
R<br />
Prema propoziciji (6) ova definicija je ekvivalentna sa<br />
∫<br />
P (A ∩ Y −1 (B)) = P (A | Y = y)dP Y (10.5)<br />
B<br />
za proizvoljno B ∈B(R).<br />
Neka je (X, Y )slučajan vektor apsolutno neprekidnog tipa sa funkcijom gustine ϕ(x, y).<br />
Neka su ϕ X (x) iϕ Y (y) odgovarajuće marginalne funkcije gustine. Definišimo preslikavanje<br />
ϕ X|Y (x | y) =<br />
{<br />
ϕ(x,y)<br />
, ϕ Y (y)<br />
ϕ Y (y) ≠0<br />
0, ϕ Y (y) =0 .<br />
Pokazaćemo da je ovako definisano preslikavanje funkcija gustine za uslovnu raspodelu tj. da<br />
je ona Radon-Nikodimov izvod uslovne verovatnosne mere P (· |Y = y) po Lebegovoj meri. To<br />
tvrd¯enje sledi iz sledeće teoreme:<br />
Teorema 50 Za proizvoljan Borelov skup C ∈B(R) važi<br />
∫<br />
P (X ∈ C | Y = y) = ϕ X|Y (x | y)dx<br />
C<br />
Dokaz.<br />
Pokazaćemo da ∫ C<br />
ϕ X|Y (x | y)dx zadovoljava uslov (10.5) iz definicije uslovne<br />
verovatnoće. U ovom slučaju je A = X −1 (C). Za proizvoljan Borelov skup B ∈ B(R) je<br />
na( osnovu Fubinijeve ) teoreme<br />
∫ ∫<br />
ϕ X|Y (x | y)dx dP Y = ∫ ( )<br />
∫<br />
ϕ X|Y (x | y)dx ϕ Y (y)dy =<br />
∫<br />
ϕ X|Y (x | y)ϕ Y (y)dxdy<br />
B C<br />
B C<br />
C×B<br />
= ∫<br />
ϕ(x, y)dxdy = P {(X, Y ) ∈ C × B} = P {X ∈ C ∩ Y ∈ B}<br />
C×B<br />
što je i trebalo pokazati.<br />
Dakle funkcija ϕ X|Y (x | y) je Radon-Nikodimov izvod uslovne verovatnoće<br />
P Y = P (· |Y = y) u odnosu na Lebegovu meru tj.<br />
ϕ X|Y (x | y) = dP Y<br />
dx .<br />
Kako se radi o slučajnoj promenljivoj apsolutno neprekidnog tipa, sledi da je uslovna verovatnoća<br />
regularna mera, pa na osnovu teoreme (9.1) i smene u integralu dobijamo posledicu:<br />
70
Posledica 51<br />
∫<br />
E(X | Y = y) =<br />
Ω<br />
∫<br />
XdP Y =<br />
R<br />
xϕ X|Y (x | y)dx.<br />
10.3 Teorija ocenjivanja<br />
Neka su date slučajne promenljive X i Y na prostoru verovarnoće (Ω, F,P). Postavlja se pitanje<br />
kako na osnovu vrednosti funkcije X oceniti vrednosti Y <br />
Definicija 46 Neka je h(x) Borelova funkcija. Slučajnu promenljivu<br />
nazivamo ocena od Y po X. Veličinu<br />
h ◦ X = h(X)<br />
E(Y − h(X)) 2<br />
nazivamo srednjekvadratna greška ocene h(X).<br />
Ocena h ∗ (X) je optimalna ocena (u srednjekvadratnom smislu), ako je<br />
E(Y − h ∗ (X)) 2 =inf<br />
h<br />
gde se inf uzima po svim Borelovim funkcijama.<br />
E(Y − h(X))2<br />
Teorema 52 Neka je E(Y 2 ) < ∞. Tada optimalna ocena h ∗ (X) postoji i možemo uzeti<br />
h ∗ (x) =E(Y | X = x).<br />
Dokaz. Ako stavimo da je h ∗ (x) =E(Y | X = x), tada na osnovu prethodnog poglavlja<br />
znamo da je<br />
h ∗ (X) =E(Y | X).<br />
Za proizvoljnu Borelovu funkciju h važi<br />
E(Y − h(X)) 2 = E(Y ± h ∗ (X) − h(X)) 2<br />
= E(Y − h ∗ (X)) 2 + E(h ∗ (X) − h(X)) 2 +2E((Y − h ∗ (X))(h ∗ (X) − h(X))).<br />
Drugi sabirak je nenegativan, a treći je identički jednak nuli što sledi iz osobina uslovnog<br />
očekivanja. Naime na osnovu osobine E(Z) =E(E(Z |B)) dobijamo<br />
E((Y − h ∗ (X))(h ∗ (X) − h(X))) = E (E((Y − h ∗ (X))(h ∗ (X) − h(X)))) | X).<br />
Kako je h ∗ (X)−h(X) merljiva u odnosu na σ[X], to na osnovu teoreme (44) sledi dalja jednakost<br />
E (E((Y − h ∗ (X))(h ∗ (X) − h(X)))) | X) =E((h ∗ (X) − h(X))E(Y − h ∗ (X) | X)) = 0.<br />
Poslednja jednakost važi jer je<br />
E(Y − h ∗ (X) | X) =E(Y − E(Y | X) | X) =E(Y | X) − E(E(Y | X) | X) =0.<br />
Dakle važi E(Y − h(X)) 2 ≥ E(Y − h ∗ (X)) 2 .<br />
Drugim rečima, ovo znači da je u Hilbertovom prostoru L 2 uslovno očekivanje E(Y | X)<br />
ortogonalna projekcija vektora Y ∈ L 2 na linearnu mnogostrukost (pravu) generisanu vektorom<br />
X ∈ L 2 .<br />
71
Literatura<br />
[1] Hadžić O.:<strong>Odabrane</strong> metode teorije verovatnoće, Institut za matematiku, Novi Sad, 1990<br />
[2] Ivković Z.A. : Teorija verovatnoća sa matematičkom statistikom, Grad¯evinska Knjiga,<br />
Beograd, 1976<br />
[3] Mirković B.:Teorija mera i integrala, Naučna knjiga, Berograd, 1990<br />
[4] Mladenović P.:Verovatnoća i statistika, VESTA - Matematički fakultet, Beograd, 1995<br />
[5] Rao M.M. : Stohastic Processes and Integration, Sijthoff & Nordhoff, 1979<br />
[6]<br />
Širjaev A.N. : Verojatnost, Nauka, Moskva, 1989<br />
72