11.01.2015 Views

Odabrane teme verovatnoće

Odabrane teme verovatnoće

Odabrane teme verovatnoće

SHOW MORE
SHOW LESS

Create successful ePaper yourself

Turn your PDF publications into a flip-book with our unique Google optimized e-Paper software.

3ULURGQRPDWHPDWLNLIDNXOWHW<br />

,QVWLWXW]D PDWHPDWLNX <br />

1RYL6DG <br />

<br />

<br />

6HPLQDUVNL UDG<br />

<br />

<br />

<br />

<br />

<br />

<br />

<br />

<br />

2G/D,E-U7D,Q3H0W9H0P2H0W9H0R4U7LMH0<br />

Y;H0U7R4Y;D,W9Q3R4þH 0<br />

$XWRU<br />

6$H0OH0åL'R4U7D,<br />

<br />

<br />

'HFHPEDU


Sadržaj<br />

I Aksiomatsko zasnivanje teorije verovatnoće 3<br />

1 Prostor verovatnoće 4<br />

1.1 Algebra i σ-algebra.................................. 4<br />

1.2 Verovatnosnamera .................................. 5<br />

1.3 Produženje mere sa algebre na σ-algebru...................... 6<br />

2 Borelova σ-algebra 8<br />

2.1 Borelova σ-algebra na R ............................... 8<br />

2.2 Borelova σ-algebra na R n ............................... 9<br />

2.3 Borelova σ-algebra na R ∞ .............................. 11<br />

2.4 Borelova σ-algebra na R T .............................. 13<br />

3 Verovatnosna mera na Borelovoj σ-algebri 16<br />

3.1 Verovatnosna mera na (R n , B(R n )) ......................... 16<br />

3.2 Verovatnosna mera na (R ∞ , B(R ∞ ))......................... 21<br />

3.3 Verovatnosna mera na ( R T , B(R T ) ) ......................... 23<br />

II Normalna raspodela 25<br />

4 Potrebno predznanje 26<br />

4.0.1 Osnovni pojmovi teorije verovatnoće .................... 26<br />

4.0.2 Elementilinearnealgebre........................... 31<br />

5 Jednodimenzionalna normalna raspodela 34<br />

6 Višedimenzionalna normalna raspodela 37<br />

6.1 Pojam n-dimenzionalne normalne raspodele . . . . . . . . . . . . . . . . . . . . 37<br />

6.2 Značenje parametara u normalnoj raspodeli . . . . . . . . . . . . . . . . . . . . 39<br />

6.3 Karakterističnafunkcijanormalneraspodele .................... 42<br />

6.4 Linearna kombinacija slučajnih promenljivih sa normalnom raspodelom . . . . . 44<br />

6.5 Singularnanormalnaraspodela ........................... 46<br />

III Uslovno matematičko očekivanje 50<br />

6.6 TeoremaRadon-Nikodima .............................. 51<br />

7 Pojam uslovnog matematičkog očekivanja 53<br />

1


8 Osobine uslovnog matematičkog očekivanja 58<br />

9 Uslovna verovatnoća 64<br />

10 Uslovno matematičko očekivanje u odnosu na σ-algebru generisanu merljivom<br />

funkcijom 67<br />

10.1 Uslovno očekivanje u odnosu na diskretno generisanu<br />

σ-algebru ....................................... 68<br />

10.2 Uslovno matematičko očekivanje u odnosu na σ-algebru generisanu slučajnom<br />

promenljivom ..................................... 69<br />

10.3Teorijaocenjivanja .................................. 71<br />

2


Deo I<br />

Aksiomatsko zasnivanje teorije<br />

verovatnoće<br />

3


Glava 1<br />

Prostor verovatnoće<br />

1.1 Algebra i σ-algebra<br />

Definicija 1 Familija A podskupova nepraznog skupa Ω se naziva algebra ako zadovoljava<br />

osobine<br />

(A1) Ω ∈A<br />

(A2) Ako A ∈A,ondaiA ∈A<br />

(A3) Ako A, B ∈A,ondaiA ∪ B ∈A<br />

Iz osobine (A3) se indukcijom lako pokazuje da je algebra zatvorena u odnosu na konačnu<br />

uniju skupova. Koristeći De Morganove zakone dobijamo da je algebra zatvorena i u odnosu<br />

na konačan presek skupova.<br />

Definicija 2 Familija F podskupova od Ω je σ-algebra, ako zadovoljava aksiome<br />

(A1) Ω ∈F<br />

(A2) Ako A ∈F,ondaiA ∈F<br />

⋃<br />

(A3’) Ako su A i ∈F,i∈ N, tada i ∞ A i ∈F.<br />

i=1<br />

Dakle σ−algebra je zatvorena u odnosu na prebrojivu primenu operacija unije, preseka i<br />

komplementa skupova.<br />

Primer 1 Familija F = {∅, Ω} čini tzv. trivijalnu σ-algebru.<br />

Primer 2 Partitivni skup P(Ω) predstavlja najveću σ-algebru na Ω.<br />

Lako se proverava da je presek proizvoljnog broja σ-algebri datih nad istim prostorom Ω<br />

ponovo σ-algebra.<br />

Definicija 3 Ako je K neka familija podskupova prostora Ω, tada presek svih σ-algebri koje<br />

sadrže familiju K nazivamo minimalna σ-algebra generisana sa K ioznačavamo je σ[K].<br />

U aksiomatskom zasnivanju teorije verovatnoće se polazi od osnovnog pojma elementarnog<br />

dogad¯aja ω,kojisenedefiniše eksplicitno, sličnokaoipojmovitačke, prave i ravni u geometriji.<br />

Neka je Ω skup elementarnih dogad¯ajai nekajenanjemudataσ-algebra F. Skupove iz<br />

σ-algebre F ćemo nazivati slučajnim dogad¯ajima, sam prostor Ω predstavlja izvestan<br />

dogad¯aj,a∅ je nemoguć dogad¯aj. Ured¯en par (Ω, F) nazivamo merljiv prostor dogad¯aja.<br />

4


1.2 Verovatnosna mera<br />

Definicija 4 Neka je (Ω, F) merljiv prostor dogad¯aja. Skupovna funkcija P : F→R naziva<br />

se verovatnosna mera ili kraće samo verovatnoća, ako ima sledeće osobine:<br />

1. P (A) ≥ 0 za svaki dogad¯aj A ∈F (nenegativnost)<br />

2. P (Ω) = 1 (normiranost)<br />

3. Ako su A 1 ,A 2 ,A 3 ... disjunktni dogad¯aji iz F, tada važi (σ-aditivnost)<br />

∞⋃<br />

∞∑<br />

P ( A n )= P (A n )<br />

n=1<br />

Neposredno iz definicije verovatnosne mere slede njena sledeća svojstva:<br />

1. P (∅) =0<br />

2. P (A) =1− P (A)<br />

3. Ako je A ⊂ B, onda P (A) ≤ P (B)<br />

(monotonost)<br />

⋃<br />

4. Ako su A 1 ,A 2 ,...,A n disjunktni dogad¯aji iz F, tadavaži P ( n ∑<br />

A i )= n P (A i )<br />

(konačna aditivnost)<br />

n=1<br />

5. Za proizvoljne dogad¯aje A 1 ,A 2 ,A 3 ... iz F važi P ( ∞ ⋃<br />

(lema o pokrivanju ili subaditivnost)<br />

n=1<br />

i=1<br />

i=1<br />

∑<br />

A n ) ≤ ∞ P (A n )<br />

Definicija 5 Ured¯ena trojka (Ω, F,P) gde je Ω prostor elementarnih dogad¯aja, F data σ-<br />

algebra dogad¯aja na Ω i P verovatnosna mera na σ-algebri F, nazivaseprostor verovatnoće.<br />

Napomena 1 Verovatnosna mera se može definisati i na algebri A kao funkcija P : A→R<br />

koja je nenegativna, normirana i σ-aditivna. Primetimo da σ-aditivnost u ovom slučaju znači<br />

∞⋃<br />

da za svaki disjunktan niz dogad¯aja A 1 ,A 2 ,A 3 ... iz A sa osobinom da i A n ∈A,važi da<br />

n=1<br />

⋃<br />

je P ( ∞ ∑<br />

A n )= ∞ P (A n ).<br />

n=1<br />

n=1<br />

Definicija 6 Neka je (Ω, F) merljiv prostor. Dogad¯aji {A n } n∈N čine rastući niz dogad¯aja<br />

⋃<br />

ako važi A 1 ⊂ A 2 ⊂ A 3 ⊂···.Utomslučaju definišemo granicu niza kao ∞ A n ioznačavamo<br />

n=1<br />

⋃<br />

je sa lim A n = ∞ A n .<br />

n→∞ n=1<br />

Dogad¯aji {A n } n∈N čine opadajući niz dogad¯aja ako važi A 1 ⊃ A 2 ⊃ A 3 ⊃ ···. U tom<br />

⋂<br />

slučaju definišemo granicu niza kao ∞ ⋂<br />

A n ioznačavamo je sa lim A n = ∞ A n .<br />

n=1<br />

n→∞ n=1<br />

Teorema 1 Neka je (Ω, F) merljiv prostor i P : F→R funkcija koja je konačno aditivna na<br />

F. Tada su sledeći uslovi ekvivalentni:<br />

1. P je σ-aditivna.<br />

2. P je neprekidna odozgo tj. za proizvoljan rastući niz dogad¯aja A 1 ⊂ A 2 ⊂ A 3 ⊂··· važi<br />

n=1<br />

lim P (A n)=P ( ⋃ A n ) (1.1)<br />

n→∞<br />

n∈N<br />

5


3. P je neprekidna odozdo tj. za svaki opadajući niz dogad¯aja A 1 ⊃ A 2 ⊃ A 3 ⊃··· važi<br />

lim P (A n)=P ( ⋂ A n ).<br />

n→∞<br />

n∈N<br />

4.<br />

⋂<br />

P je neprekidna u nuli tj. ako je A 1 ⊃ A 2 ⊃ A 3 ⊃ ··· takav opadajući niz dogad¯aja da je<br />

A n = ∅, ondavaži lim P (A n )=0.<br />

n→∞<br />

n∈N<br />

Dokaz.<br />

(1 ⇒ 2) Neka je dat proizvoljan rastući niz dogad¯aja {A n } n∈N . Kako je ∞ ⋃<br />

(A 3 \A 2 ) ∪··· ,toizσ-aditivnosti sledi da je P ( ∞ ⋃<br />

lim (P (A ∑<br />

1)+ n [P (A k ) − P (A k−1 )]) = lim P (A n ).<br />

n→∞ n→∞<br />

k=2<br />

k=1<br />

n=1<br />

A n = A 1 ∪ (A 2 \A 1 ) ∪<br />

∑<br />

A k )=P (A 1 )+ ∞ P (A k \A k−1 )=<br />

(2 ⇒ 3) Posmatrajmo opadajući niz skupova {A n } n∈N . Tada je niz {A 1 \A n } n∈N rastući, pa na<br />

osnovu (1.1) dobijamo da važi lim P (A 1 \A n ) = P ( ⋃ (A 1 \A n )). Sada iz jednakosti<br />

n→∞<br />

n∈N<br />

P (A n )=P (A 1 \(A 1 \A n )) = P (A 1 ) − P (A 1 \A n ) prelaskom na graničnu vrednost dobijamo<br />

lim P (A n )=P (A 1 ) − lim P (A 1 \A n )=P (A 1 ) − P ( ⋃ (A 1 \A n )) = P (A 1 ) −<br />

n→∞ n→∞<br />

n∈N<br />

P (A 1 \ ⋂ A n )=P ( ⋂ A n ).<br />

n∈N<br />

(3 ⇒ 4) Trivijalno.<br />

n∈N<br />

(4 ⇒ 1) Neka je {A n } n∈N niz disjunktnih dogad¯aja iz F. Tada na osnovu konačne aditivnosti<br />

dobijamo<br />

∞⋃<br />

n∑<br />

∞⋃<br />

P ( A k )= P (A k )+P ( A k ) (1.2)<br />

Stavimo A = ⋃<br />

i<br />

⋂<br />

n∈N<br />

k∈N<br />

B n = ⋂ (A\<br />

n∈N<br />

k=1<br />

k=1<br />

A k . Formirajmo skupove B n =<br />

n ⋃<br />

k=1<br />

A k )=A\ ⋃<br />

n⋃<br />

n∈N k=1<br />

∞ ⋃<br />

k=n+1<br />

A k = A\ ⋃<br />

k∈N<br />

u nuli dobijamo da je lim P (B n )=0.<br />

n→∞<br />

⋃<br />

Sada u 1.2 pustimo da n →∞ i dobijamo da važi P ( ∞<br />

dokazati.<br />

k=n+1<br />

k=2<br />

A k . Tada važi B 1 ⊃ B 2 ⊃ B 3 ⊃···<br />

A k = ∅, pa na osnovu neprekidnosti<br />

k=1<br />

∑<br />

A k )= ∞ P (A k ) što je i trebalo<br />

k=1<br />

1.3 Produženje mere sa algebre na σ-algebru<br />

Neka je A algebra dogad¯aja i P verovatnosna mera na algebri A. Opisaćemo konstrukciju kako<br />

se mera P može proširiti na σ-algebru generisanu algebrom A. Ovakvoproširenje je jedinstveno<br />

odred¯eno.<br />

6


Definicija 7 Neka je data algebra A na prostoru Ω i neka je P verovatosna mera na algebri<br />

A. Tada definišemo spoljnu meru P ∗ : P(Ω) → R za proizvoljan podskup E ⊂ Ω sa<br />

∞∑<br />

∞⋃<br />

P ∗ (E) =inf{ P (A n ):(∀n)(A n ∈A)(E ⊂ A n )}<br />

n=1<br />

Definicija 8 Za skup A ⊂ Ω kažemo da je P ∗ −merljiv, ako za svako D ⊂ Ω važi<br />

n=1<br />

P ∗ (D) =P ∗ (A ∩ D)+P ∗ (A ∩ D)<br />

Označimo sa A ∗<br />

skup svih P ∗ -merljivih skupova.<br />

Teorema 2 (Karateodori) A ∗ je σ-algebra na P(Ω) i P ∗ je kompletna 1 mera na A ∗ .<br />

Propozicija 1 Važi σ[A] ⊂A ∗ i P ∗ ↾ A = P.<br />

Akosadadefinišemo meru ˜P kao restrikciju spoljne mere P ∗ na σ-algebru σ[A], tada prema<br />

prethodnoj propoziciji važi da je ˜P ↾ A =(P ∗ ↾ σ[A] ) ↾ A = P ∗ ↾ A = P , dakle ˜P i P se poklapaju<br />

na algebri A.<br />

Teorema 3 Neka je A algebra na prostoru Ω i P verovatnosna mera na algebri A.<br />

postoji jedinstvena verovatnosna mera ˜P na σ-algebri σ[A] takva da važi ˜P ↾A = P.<br />

Tada<br />

Napomena 2 ˜P više ne mora biti kompletna mera na σ[A]. Jedno kompletno proširenje prostora<br />

(Ω,σ[A], ˜P ) daje teorema Karateodorija u vidu prostora (Ω, A ∗ ,P ∗ ). No, najmanje kompletno<br />

proširenje se dobija sledećom konstrukcijom: definišemo<br />

F kompl = {E ⊂ Ω: postoje A, B ∈ σ[A] takvi da je A ⊂ E ⊂ B i P(B\A) =0}<br />

P kompl (E) = ˜P (A)<br />

Tada je (Ω,F kompl ,P kompl ) najmanje kompletno proširenje prostora (Ω,σ[A], ˜P ).<br />

1 Mera je kompletna ako je svaki podskup skupa mere nula , takod¯e merljiv skup.<br />

7


Glava 2<br />

Borelova σ-algebra<br />

2.1 Borelova σ-algebra na R<br />

Definicija 9 Posmatrajmo skup realnih brojeva R sa uobičajenom topologijom O 1 . Familija<br />

svih otvorenih skupova generiše σ-algebru koja se naziva Borelova σ-algebra i označava<br />

se sa B(R). Elementi Borelove σ-algebre se nazivaju Borelovi skupovi na realnoj<br />

pravoj.<br />

Kako se svaki otvoren skup u R može prikazati kao disjunktna unija najviše prebrojivo<br />

mnogo otvorenih intervala, sledi da se generatorna familija može smanjiti, odnosno da otvoreni<br />

intervali generišu B(R).<br />

Borelovi skupovi su dakle svi otvoreni skupovi, zatvoreni skupovi (kao komplementi otvorenog),<br />

jednoelementni skupovi {a} = ⋂ (a− 1 ,a+ 1 ), poluzatvoreni intervali oblika (a, b] =(a, b)∪{a}<br />

n n<br />

n∈N<br />

ianalogno[a, b), intervali oblika (−∞,b], (a, ∞) itd. Borelov skup je Q = ⋃ {q} kao i I = Q.<br />

Borelova σ-algebra sadrži dakle sve intervale i sve skupove koji se dobijaju od intervala<br />

pomoću najviše prebrojivo mnogo primena operacija unija, preseka i komplementa.<br />

Napomena 3 Borelova σ-algebra se može generisati i familijom K = {(a, b] :a, b ∈ R, a < b}.<br />

Naime važi (a, b) =<br />

⋃ (a, b − 1 ] ∈ σ[K], a kako je B(R) najmanja -algebra koja sadrži<br />

n<br />

n∈N<br />

otvorene intervale, sledi B(R) ⊂ σ[K]. Analognim zaključivanjem iz jednakosti (a, b] = ⋂ (a, b+ 1 ) n<br />

dobijamo obratnu inkluziju σ[K] ⊂B(R).<br />

Primetimo još da disjunktne konačne unije intervala iz K čine algebru.<br />

Napomena 4 Iz teoreme 3 sledi da je za proizvoljan Borelov skup E<br />

∞∑<br />

∞⋃<br />

P (E) =inf{ P ((a n ,b n )) : E ⊂ (a n ,b n )} (2.1)<br />

n=1<br />

gde je P verovatnosna mera na B(R), amože se pokazati da važe i relacije<br />

P (E) =inf{P (O) :E ⊂ O, O je otvoren skup} (2.2)<br />

P (E) = sup{P (Z) :Z ⊂ E, Z je zatvoren skup}. (2.3)<br />

1 U topološkom prostoru (R, O) je skup otvoren ako i samo ako je unija neke (konačne ili beskonačne)<br />

familije otvorenih intervala.<br />

8<br />

n=1<br />

q∈Q<br />

n∈N


U narednoj teoremi će biti pokazano da je dovoljno da se ovaj supremum uzima samo po<br />

kompaktnim podskupovima skupa E, učijem dokazu ključnu ulogu igra činjenica da se na<br />

realnoj pravoj klasa kompaktnih skupova poklapa sa klasom zatvorenih i ograničenih skupova.<br />

Teorema 4 Neka je dat prostor verovatnoće (R, B(R),P). Tada za svako E ∈B(R) važi<br />

P (E) = sup{P (K) :K ⊂⊂ E, K∈B(R)}. (2.4)<br />

Dokaz. Neka je E proizvoljan Borelov skup realne prave. Po definiciji supremuma,<br />

treba dokazati da za proizvoljno ε > 0 postoji kompaktan skup K ∈ B(R) takavdavaži<br />

P (K) >P(E) − ε.<br />

1. slučaj: E je ograničen skup.<br />

Prema (2.3) znamo da za E postoji zatvoren skup Z ⊂ E takav da je P (Z) >P(E) − ε.<br />

Kako je Z podskup ograničenog skupa E, sledi da je i on sam ograničen, a kako je i zatvoren<br />

dobijamo da je Z kompaktan.<br />

2. slučaj: E je neograničen skup.<br />

Iz 2.3 dobijamo egzistenciju zatvorenog skupa Z ⊂ E takvog da je<br />

P (Z) >P(E) − ε 2 . (2.5)<br />

Formirajmo sada skupove S k =[−k, k] koji su jasno kompaktni i pripadaju Borelovoj σ-algebri.<br />

Formirajmo i skupove K k = S k ∩Z. Skup K k je kompaktan kao zatvoren podskup kompaktnog<br />

skupa S k .<br />

Jasno je da važe relacije K k ⊂ K k+1 i Z = ⋃ K k odakle zbog neprekidnosti verovatnoće P<br />

dobijamo P (Z) = lim<br />

k→∞<br />

P (K k ). Odavde sledi da za dato ε>0 postoji skup K k0<br />

k∈N<br />

takav da je<br />

P (K k0 ) >P(Z) − ε 2 . (2.6)<br />

⋃<br />

Kako je niz {K n } rastući niz skpova sa granicom Z, jasno je da važi K k0 = k 0<br />

i=1<br />

K i ⊂ Z.<br />

K k0 je konačna unija zatvorenih skupova pa je zato zatvoren i Borelov, a po konstrukciji K k -ova<br />

je i ograničen. Dakle K k0 je kompaktan Borelov skup za koji prema 2.5 i 2.6 važi nejednakost<br />

Time je teorema dokazana.<br />

P (K k0 ) >P(E) − ε.<br />

2.2 Borelova σ-algebra na R n<br />

• Neka je J familija n-dimenzionalnih pravougaonika oblika I = I 1 × I 2 ×···×I n ,gde<br />

je I k =(a k ,b k ] za svako k =1, 2,...,n<br />

Označimo najmanju σ-algebru koju generiše J sa B(R n ).<br />

• Neka je B skup svih ”pravougaonika” oblika B = B 1 × B 2 ×···×B n čije su ”stranice”<br />

Borelovi skupovi realne prave tj. B k ∈B(R) zasvek =1, 2,...,n<br />

Označimo σ-algebru generisanu sa B kao B(R) ⊗B(R) ⊗···⊗B(R)<br />

} {{ }<br />

n<br />

Glavni cilj ovog poglavlja je da dokažemodaseovedveσ-algebre poklapaju. Pokažimo<br />

utusvrhuprvosledeću lemu.<br />

9


Lema 1 Posmatrajmo proizvoljnu familiju E⊂P(Ω) i neki skup B ⊂ Ω. Tada važi<br />

σ[E ∩B] =σ[E] ∩ B (2.7)<br />

gde je E∩B = {E ∩ B : E ∈E} i σ[E] ∩ B = {A ∩ B : A ∈ σ[E]}.<br />

Dokaz.<br />

(⊆) Iz E⊂σ[E] dobijamo E∩B ⊂ σ[E] ∩ B.<br />

Kako σ[E] ∩ B jeste σ-algebra na skupu B, tonajmanjaσ-algebra generisana sa E∩B<br />

mora biti sadržana u njoj, odakle dobijamo inkluziju σ[E ∩B] ⊂ σ[E] ∩ B.<br />

(⊇) Formirajmo familiju Z B = {A ∈ σ[E] :A ∩ B ∈ σ[E ∩B]}. Cilj nam je da dokažemo da<br />

je Z B = σ[E].<br />

Pokažimo prvo da je Z B σ-algebra.<br />

1. Ω ∈ Z B jer važi Ω ∩ B = B ∈ σ[E ∩B].<br />

2. Ako je A ∈ Z B ,što znači da je A ∈ σ[E] i A ∩ B ∈ σ[E ∩B], tada iz jednakosti<br />

A ∩ B = B\(A ∩ B) ∈ σ[E ∩B] dobijamo da je i A ∈ Z B .<br />

3. Neka je dat niz A i ∈ Z B tj. A i ∩ B ∈ σ[E ∩B] za i =1, 2,...<br />

Tada iz ( ⋃ A i ) ∩ B = ⋃<br />

⋃<br />

(A i ∩ B) dobijamo da je i A i ∈ Z B .<br />

i∈N<br />

i∈N<br />

Dakle, Z B jeste σ-algebra što znači σ[Z B ]=Z B .<br />

Sada iz E⊂Z B ⊂ σ[E] dobijamo niz inkluzija σ[E] ⊂ σ[Z B ]=Z B ⊂ σ[E] odakle sledi<br />

tražena jednakost Z B = σ[E]. Odavde direktno dobijamo σ[E] ∩ B ⊂ σ[E ∩B].<br />

i∈N<br />

Teorema 5 B(R n )=B(R) ⊗B(R) ⊗···⊗B(R)<br />

} {{ }<br />

n<br />

Dokaz. Za n = 1 tvrd¯enje trivijalno važi.<br />

Dokazaćemo teoremu za n =2, a dalje se dokazuje analogno indukcijom.<br />

Kako je J⊂B, to sledi B(R 2 ) ⊂B(R) ⊗B(R).<br />

Da bi smo dokazali i obratnu inkluziju dovoljno je pokazati da je za proizvoljne Borelove skupove<br />

B 1 ,B 2 ∈B(R) zadovoljeno B 1 × B 2 ∈B(R 2 ) odakle će sledeti<br />

B(R) ⊗B(R) =σ[B 1 × B 2 ] ⊂B(R 2 ).<br />

Neka R 1 i R 2 predstavljaju redom prvu odnosno drugu ”kopiju” realne prave tj. možemo pisati<br />

R 2 = R 1 × R 2 . Uvedimo sledeće oznake:<br />

˜B 1 = B 1 × R 2 gde je B 1 ∈B 1 proizvoljan Borelov skup iz σ-algebre B 1 = B(R 1 )<br />

˜B 2 = R 1 × B 2 gde je B 2 ∈B 2<br />

˜B 1 = B 1 × R 2 = {B 1 × R 2 : B 1 ∈B 1 }, ˜B2 = R 1 ×B 2<br />

Ĩ 1 = I 1 × R 2 , Ĩ2 = R 1 × I 2<br />

˜J 1 = J 1 × R 2 , ˜J2 = R 1 ×J 2 .<br />

Tada je<br />

B 1 × B 2 = ˜B 1 ∩ ˜B 2 ∈ ˜B 1 ∩ ˜B 2 = σ[ ˜J 1 ] ∩ ˜B 2<br />

lema<br />

= σ[ ˜J 1 ∩ ˜B 2 ] ⊂ σ[ ˜J 1 ∩ ˜J 2 ]=σ[J 1 ×J 2 ]=B(R 2 ).<br />

10


2.3 Borelova σ-algebra na R ∞<br />

Sa R ∞ = {(x 1 ,x 2 ,x 3 ,...):x k ∈ R, k ∈ N} označavamo prostor nizova realnih brojeva. Neka<br />

je I k =(a k ,b k ] i B k Borelov skup iz B(R).<br />

Definisaćemo tri tipa tzv. cilindričnih skupova i dokazati teoremu da se Borelova σ-algebra<br />

na R ∞ može generisati bilo kojom od te tri familije.<br />

Definicija 10 Cilindrični skupovi u R ∞<br />

su skupovi sledećeg oblika:<br />

•J(I 1 × I 2 ×···×I n )={x =(x 1 ,x 2 ,...): x i ∈ I i za i =1, 2,...,n}<br />

za različite izbore I i =(a i ,b i ] je cilindar prve vrste. Označimo sa B(R ∞ ) najmanju<br />

σ-algebru koju generiše familija svih cilindara prve vrste.<br />

•J(B 1 ×B 2 ×···×B n )={x =(x 1 ,x 2 ,...): x i ∈ B i gde je B i ∈B(R) za i =1, 2,...,n}<br />

je cilindar druge vrste. Označimo sa B 1 (R ∞ ) najmanju σ-algebru koju generiše familija<br />

svih cilindara druge vrste.<br />

•J(B n )={x =(x 1 ,x 2 ,...): (x 1 ,x 2 ,...,x n ) ∈ B n za neko B n ∈B(R n )}<br />

je cilindar treće vrste. Označimo sa B 2 (R ∞ ) najmanju σ-algebru koju generiše familija<br />

svih cilindara treće vrste.<br />

Skupove I 1 × I 2 ×···×I n , B 1 × B 2 ×···×B n , i B n nazivamo osnova cilindra.<br />

Dakle cilindar prve vrste čine svi oni nizovi koji na prvih n koordinata pripadaju redom<br />

intervalima I 1 ,...,I n .<br />

R<br />

I 1<br />

I 2<br />

I n<br />

x 2<br />

Ö<br />

x n<br />

x 1<br />

1 2<br />

Ö<br />

n<br />

T<br />

Jasno je da važe relacije J (B 1 ×···×B n )=J (B 1 ×···×B n × R),<br />

J (B n )=J (B n × R).<br />

Propozicija 2 Familija disjunktnih konačnih unija cilindara prve vrste je algebra. Familija<br />

cilidara druge vrste je alebra. Familija cilindara treće vrste čini alebru.<br />

11


Dokaz. Prvo ćemo dokazati tvrd¯enje za familiju cilindara treće vrste, a za druge dve familije<br />

cilindara je dokaz analogan.<br />

1. R ∞ ∈J(B n ) za izbor osnove cilindra B n = R n .<br />

2. Ako je J (B n )={x =(x 1 ,x 2 ,...): (x 1 ,x 2 ,...,x n ) ∈ B n } za neko B n ∈B(R n )tadaje<br />

J (B n )={x ∈ R ∞ : (x 1 ,x 2 ,...,x n ) ∈ B n } = {x ∈ R ∞ : (x 1 ,x 2 ,...,x n ) /∈ B n } =<br />

= {x ∈ R ∞ : (x 1 ,x 2 ,...,x n ) ∈ B n } i B n ∈B(R n ), tako da je J (B n ) ponovo cilindar trećeg<br />

tipa.<br />

3. Neka su dati cilindri J (A n )={x ∈ R ∞ :(x 1, ...,x n ) ∈ A n } i<br />

J (B m )={x ∈ R ∞ :(x 1, ...,x m ) ∈ B m } gde su A n ∈B(R n )iB m ∈B(R m ). Pretpostavimo da<br />

je n


{x ∈ R ∞ :(x 1 ,...,x n ) ∈ B n }∈B(R ∞ ).<br />

Pošto generatorni skup σ-algebre B 2 (R ∞ ) pripada B(R ∞ ) sledi da i<br />

B 2 (R ∞ ) ⊂B(R ∞ )<br />

Sada iz lanca inkluzija B(R ∞ ) ⊂B 1 (R ∞ ) ⊂B 2 (R ∞ ) ⊂B(R ∞ ) dobijamo da svuda važi jednakost.<br />

2.4 Borelova σ-algebra na R T<br />

Sa R T označavamo familiju svih preslikavanja T → R gde je T podskup skupa realnih brojeva<br />

proizvoljne kardinalnosti.<br />

Definicija 11 Cilindrični skupovi u R T<br />

Za fiksirane t 1 ,t 2 ,...,t n ∈ T<br />

su skupovi sledećeg oblika:<br />

•J t1 ,t 2 ,...,t n<br />

(I 1 × I 2 ×···×I n )={x ∈ R T : x(t 1 ) ∈ I 1 , x(t 2 ) ∈ I 2 , ..., x(t n ) ∈ I n }<br />

za različite izbore I i =(a i ,b i ] je cilindar prve vrste. Označimo sa B(R T ) najmanju<br />

σ-algebru koju generiše familija svih cilindara prve vrste.<br />

•J t1 ,t 2 ,...,t n<br />

(B 1 × B 2 ×···×B n )={x ∈ R T : x(t i ) ∈ B i gde je B i ∈B(R) za i =<br />

1, 2,...,n}<br />

je cilindar druge vrste. Označimo sa B 1 (R T ) najmanju σ-algebru koju generiše familija<br />

svih cilindara druge vrste.<br />

•J t1 ,t 2 ,...,t n<br />

(B n )={x ∈ R T : (x(t 1 ),x(t 2 ),...,x(t n )) ∈ B n za neko B n ∈B(R n )}<br />

je cilindar treće vrste. Označimo sa B 2 (R T ) najmanju σ-algebru koju generiše familija<br />

svih cilindara treće vrste.<br />

Skupove I 1 × I 2 ×···×I n , B 1 × B 2 ×···×B n , i B n nazivamo osnova cilindra.<br />

Dakle cilindar prve vrste čine sve one funkcije T → R koje u tačkama t 1 ,...,t n prolaze kroz<br />

”kapije” I 1 ,...,I n .<br />

R<br />

I 1<br />

I 2<br />

I n<br />

x(t) 1<br />

x(t) 2<br />

x(t) n<br />

t 1<br />

t 2<br />

Ö<br />

t n<br />

T<br />

13


Jasnojedavaži B(R T ) ⊂B 1 (R T ) ⊂B 2 (R T ), a naredna teorema daje glavni rezultat ovog<br />

poglavlja o jednakosti ove tri σ-algebre, i o reprezentaciji skupova iz B(R T ). Naime važi da<br />

se svi skupovi iz B(R T )mogu predstaviti preko nekog NAJVIŠE PREBROJIVOG skupa tačaka<br />

iz T i nekog Borelovog skupa iz B(R ∞ ).<br />

Teorema 7 Važi B(R T )=B 1 (R T )=B 2 (R T ).<br />

Svaki skup A ∈B(R T ) ima strukturu<br />

A = {x ∈ R T :(x(t 1 ),x(t 2 ),x(t 3 ),...) ∈ B} (2.8)<br />

za najviše prebrojiv skup tačaka t 1 ,t 2 ,t 3 ,...∈ T i neki skup B ∈B(R ∞ ).<br />

Dokaz. Neka je E = {A ∈B(R T ): A ima reprezentaciju oblika (2.8) }. Treba pokazati<br />

da je E = B(R T ).<br />

Pokažimo prvo da je E σ-algebra. Aksiome (A1) i (A2) se lako proveravaju pa ćemo proveriti<br />

samo (A3’).<br />

Neka su A 1 ,A 2 ,...∈E i njima odgovarajući najviše prebrojivi indeksi T (1) =(t (1)<br />

1 ,t (1)<br />

2 ,t (1)<br />

3 ,...),<br />

T (2) =(t (2)<br />

1 ,t (2)<br />

2 ,t (2)<br />

3 ,...), ···⊂T odnosno skupovi B 1 ,B 2 ,...∈B(R ∞ ) takvi da<br />

A i = {x ∈ R T :(x(t (i)<br />

1 ),x(t (i)<br />

2 ),x(t (i) ),...,) ∈ B<br />

Tada možemo uzeti skup T (∞) = ⋃3 i }.<br />

T (k) za jedini sistem indeksa takav da je svaki<br />

k∈N<br />

A i = {x ∈ R T :(x(τ 1 ),x(τ 2 ),x(τ 3 ),...,) ∈ B i } za τ i ∈ T (∞) i B i ∈B(R ∞ ) su svi iz iste<br />

σ-algebre, i ∈ N.<br />

Odavde sledi da je ⋃ A i = {x ∈ R T :(x(τ 1 ),x(τ 2 ),x(τ 3 ),...,) ∈ ⋃ ⋃<br />

B i }, i B i ∈B(R ∞ ) a<br />

T (∞)<br />

i∈N<br />

je kao prebrojiva unija najviše prebrojivih skupova ponovo prebrojiv skup.<br />

Odavde sledi da je sistem skupova E σ-algebra na R T .<br />

σ-algebra E sadrži sve cilindre oblika J t1 ,t 2 ,...,t n<br />

(B n ) (cilindri već imaju reprezentaciju oblika<br />

(2.8) i to za konačan skup tačaka iz T ), akakojenajmanjatakvaσ-algebra B 2 (R T )sledi<br />

B(R T ) ⊂B 1 (R T ) ⊂B 2 (R T ) ⊂E (2.9)<br />

Posmatrajmo proizvoljan A ∈Eoblika (2.8). Ako fiksiramo izbor (t 1 ,t 2 ,...), tada sličnim<br />

rasud¯ivanjem kao u slučaju prostora (R ∞ , B(R ∞ )) možemo pokazati da je skup A element σ-<br />

algebre generisane cilindrima J t1 ,t 2 ,...,t n<br />

(I 1 × I 2 ×···×I n ). No, ta σ-algebra je upravo σ-algebra<br />

B(R T ). Dakle važi<br />

E⊂B(R T ), (2.10)<br />

pa iz (2.9) i (2.10) slede oba tvrd¯enja teoreme.<br />

Napomena 5 Posmatrajmo R ∞ = R × R × R ×··· kao proizvod kopija realne prave u tačkama<br />

1, 2, 3,... redom. Skup B ∈B(R ∞ ) čine svi oni nizovi koji prolaze kroz neke ”kapije” koje se<br />

nalaze na ovim kopijama realnih prava. Prethodna teorema kaže da se proizvoljan Borelov skup<br />

A ∈B(R T ) stvara odred¯ivanjem gde će tačke funkcije x(t) pripadati u najviše prebrojivo mnogo<br />

tačaka S =(t 1 ,t 2 ,t 3 ,...). To nam daje za pravo da malo promenimo perspektivu:<br />

Posmatrajmo sada da je R ∞ ∼ = R S = R t1 ×R t2 ×R t3 ×··· (translirali smo kopije realnih prava iz<br />

tačaka 1, 2, 3,... utačke t 1 ,t 2 ,t 3 ,...redom. Posmatrajmo sada pojam niza ne kao preslikavanje<br />

N → R, nego kao preslikavanje S → R. Sada funkciju x ∈ A možemo gledati kao funkciju čije<br />

vrednosti u tačkama t 1 ,t 2 ,t 3 ,... čine niz u B(R S ). Time skup A ∈B(R T ) postaje Borelov u<br />

A ∈B(R S ).<br />

Na kraju dajemo primer jednog Borelovog skupa i jednog skupa koji nije Borelov u R T .<br />

14<br />

i∈N<br />

i∈N


Primer 3 Skup A = {x : N → R | (∀n) x(n) ≤ C} gde je C proizvoljna konstanta, je Borelov<br />

u R ∞ .<br />

Dokaz. Neka je B n =[0,C] ×···×[0,C] i posmatrajmo cilindre A<br />

} {{ }<br />

n = J (B n ). Cilindar<br />

n<br />

A n čine svi oni nizovi koji su od prve do n-te koordinate ograničeni sa C, aposleseproizvoljno<br />

ponašaju. Tada je A = ⋂ A n ∈B(R ∞ ) jer je PREBROJIV presek cilindara.<br />

n∈N<br />

Primer 4 Skup A = {x : R → R | (∀t) x(t) ≤ C} nije Borelov u R T .<br />

Dokaz. Pretpostavimo suprotno, da A ∈B(R T ). Tada prema teoremi 7 o reprezentaciji<br />

sledi da postoji najviše prebrojivo mnogo tačaka t 1 ,t 2 ,...∈ T i B ∈B(R ∞ )takodavaži<br />

{x : R → R | (∀t) x(t) ≤ C} = A = {x : R → R | (x(t 1 ),x(t 2 ),...) ∈ B}.<br />

Funkcija y(t) =C−1 jeste ograničena sa C pa zato y(t) ∈ A odake sledi (y(t 1 ),y(t 2 ),...) ∈<br />

B.<br />

{ y(t), za t ∈{t1 ,t<br />

Definišimo sada funkciju z(t) =<br />

2 ,...}<br />

C +1, inače.<br />

Tada je (z(t 1 ),z(t 2 ),...)=(y(t 1 ),y(t 2 ),...) ∈ B odakle dobijamo da je z(t) ∈ A.<br />

Ali s druge strane, z(t) nije svuda ograničena sa C, pazato z(t) /∈ A. Kontradikcija!<br />

PrimetimodaskupAnijebioBorelovzatošto je zavisio od ”ponašanja” funkcije u neprebrojivo<br />

mnogo tačaka, što je u skladu sa napomenom 5.<br />

15


Glava 3<br />

Verovatnosna mera na Borelovoj<br />

σ-algebri<br />

U prethodnoj glavi bilo je pokazano kako se konstruišu Borelove σ-algebre na skupu realnih<br />

brojeva R, na konačnodimenzionalnom prostoru R n ,azatiminabeskonačnodimenzionalnim<br />

prostorima R ∞ i R T . Uovojglaviće biti data konstrukcija verovatnosnih mera na ovim prostorima.<br />

Na ovaj način će biti odred¯ena četiri specijalna prostora verovatnoće u kojima je skup<br />

ishoda upravo skup realnih brojeva, skup vektora sa realnim komponentama, skup realnih nizova<br />

odnosno skup realnih funkcija. Ta konstrukcija će biti takva da će se verovatnosna mera<br />

na beskonačnodimenzionalnim prostorima dobiti produženjem mera sa konačnodimenzionalnih<br />

prostora koje zadovoljavaju tzv. uslov saglasnosti ( teorema Kolmogorova ).<br />

3.1 Verovatnosna mera na (R n , B(R n ))<br />

Posmatrajmo prvo prostor (R, B(R)) .<br />

Definicija 12 Preslikavanje F : R → R naziva se funkcija raspodele verovatnoće ili<br />

kraće samo funkcija raspodele, ako ima sledeće osobine:<br />

1. F je monotono neopadajuća tj. x 1


(b) Ako je F data funkcija raspodele, tada postoji jedinstvena verovatnosna mera P na<br />

(R, B(R)) takva da za svako x ∈ R važi jednakost (3.1).<br />

Dokaz. Dokažimo tvrd¯enje pod (b). Tvrd¯enje pod (a) biće dokazano u višedimenzionalnom<br />

slučaju.<br />

Posmatrajmo familiju intervala K = { (a, b] ; (−∞,b]; (a, ∞) ; (−∞, ∞) }.<br />

Definišimo skupovnu funkciju P na familiji K sa<br />

P ((a, b]) = F (b) − F (a) (3.2)<br />

P ((−∞,b]) = F (b)<br />

P ((a, ∞)) = 1 − F (a)<br />

P (R) =1<br />

Primetimo da prvi od navedenih uslova implicira nenegativnost skupovne funkcije P, a poslednji<br />

daje njenu normiranost.<br />

Označimo sa B 0 algebru koju čine disjuktne konačne unije intervala iz K .<br />

Definišimo P na algebri B 0 sa:<br />

⋃<br />

Ako je A ∈B 0 , A = n I i gde su I i disjunktni intervali iz familije K, tadaje<br />

i=1<br />

P (A) =<br />

n∑<br />

P (I i ). (3.3)<br />

i=1<br />

Pokažimo prvo da je ova definicija korektna tj. da ne zavisi od izbora reprezentacije skupa A<br />

iz B 0 .<br />

⋃<br />

Pretpostavimo da se skup A ∈B 0 može predstaviti na dva načina A = n ⋃<br />

I i = m J j gde su I i<br />

i J j iz familije K. Tadaje<br />

( )<br />

n∑ ∑<br />

P (I i )= n ∑<br />

P (I i ∩ A) = n ⋃<br />

P I i ∩ m ∑<br />

J j = n m∑<br />

P (I i ∩ J j )<br />

i=1<br />

i=1<br />

i=1<br />

j=1 i=1 j=1<br />

( )<br />

∑<br />

= m ⋃<br />

P J j ∩ n ∑<br />

I i = m ∑<br />

P (J j ∩ A) = m P (J j ) .<br />

j=1<br />

i=1<br />

Da bi smo dokazali da je P verovatnosna mera pokazaćemo:<br />

1. P je σ-aditivna na K<br />

2. P je σ-aditivna na B 0<br />

j=1<br />

Dakle P je verovatnosna mera na algebri B 0 , a familija K generiše upravo Borelovu σ-algebru,<br />

pa se na osnovu teoreme 3 mera P na jedinstven način proširuje na B(R).<br />

1. Pokažimo prvo da je P σ-aditivna funkcija na K.<br />

⋃<br />

Neka je I = ∞ I i tako da su I i ∈K med¯usobno disjunktni i da je i I ∈K. Želimo da<br />

i=1<br />

∑<br />

dokažemo da je P (I) = ∞ P (I i ). Primetimo da je P monotono neopadajuća skupovna<br />

i=1<br />

n⋃<br />

∑<br />

funkcija (jer je i F takva), pa iz I i ⊂ I sledi da je n P (I i ) ≤ P (I), odakle graničnim<br />

procesom n →∞dobijamo<br />

i=1<br />

j=1<br />

∞∑<br />

P (I i ) ≤ P (I).<br />

i=1<br />

Ostaje da se pokaže nejednakost i u drugom pravcu.<br />

17<br />

i=1<br />

i=1<br />

j=1


1. slučaj Neka je I prvo konačan interval tj. oblika je I =(a, b]. Tada su i I i -ovi konačni, pa neka<br />

je I i =(a i ,b i ].<br />

Kako je funkcija F neprekidna zdesna, to za unapred dato proizvoljno ε>0 možemo<br />

izabrati brojeve δ i δ i takve da važi<br />

∑<br />

Iz 3.4 sledi da je ∞ F (b i + δ i ) − F (b i )


što je i trebalo pokazati.<br />

2. slučaj Neka je I beskonačan interval npr. oblika I =(−∞,b].<br />

Birajmo ceo broj m ∈ Z takav da je b ∈ (m, m +1].<br />

⋃<br />

Ako je I = ∞ ⋃<br />

I k , tada je I ∩ (n, n +1]= ∞ (I k ∩ (n, n + 1]), odakle prema dokazanom<br />

k=1<br />

prvom slučaju za konačne intervale dobijamo da je za svaki prirodan broj n<br />

k=1<br />

P (I ∩ (n, n +1])≤<br />

∞∑<br />

P (I k ∩ (n, n +1]). (3.7)<br />

k=1<br />

Sada je<br />

P (I) =F (b) =F (b) ±<br />

m ∑<br />

i=−∞<br />

∑<br />

= P ((m, b]) + P ((m − 1,m]) + ···= ∞<br />

∑<br />

= ∞ ∞∑<br />

∑<br />

P (I k ∩ (n, n +1])= ∞ P (I k )<br />

k=1 n=−∞<br />

F (i) =F (b) − F (m)+F (m) − F (m − 1) + ···<br />

k=1<br />

n=−∞<br />

P ((n, n +1]∩ I) (3.7)<br />

≤<br />

Dokaz se slično vršiizabeskonačne intervale oblika (a, ∞).<br />

2. Dokažimo sada da je funkcija P σ-aditivna na algebri B 0 .<br />

∞ ∑<br />

n=−∞ k=1<br />

∞∑<br />

P (I k ∩ (n, n +1])<br />

⋃<br />

Neka su dati disjunktni skupovi A i ∈B 0 takvi da je A = ∞ A i ∈B 0 .<br />

i=1<br />

Algebra B 0 se sastoji od konačnih disjunktnih intervala iz K, pajezato<br />

A i = m ⋃i<br />

⋃<br />

I ik i A = s I n gde su I n ,I ik ∈K za sve n =1,...,s i k =1,...,m i i ∈ N.<br />

k=1<br />

i=1 k=1<br />

n=1<br />

n=1<br />

Tada je<br />

P (A) def ∑<br />

= s ∑<br />

P (I n )=<br />

s ∑<br />

P (I n ∩ A) =<br />

s ⋃<br />

P (I n ∩ ∞ m⋃<br />

i<br />

σ−adit. na K<br />

s∑ ∞∑ ∑m i<br />

I ik ) =<br />

P (I n ∩ I ik )=<br />

n=1<br />

n=1<br />

n=1 i=1 k=1<br />

n=1 i=1 k=1<br />

∑<br />

= ∞ ∑m i ⋃<br />

P ( s ∑<br />

I n ∩ I ik )= ∞ ∑m i<br />

∑<br />

P (A ∩ I ik )= ∞ ∑m i ∑<br />

P (I ik )= ∞ P ( m ⋃i<br />

∑<br />

I ik )= ∞ P (A i )<br />

i=1 k=1<br />

Time je teorema dokazana do kraja.<br />

Primer 5 Funkcija raspodele F (x) =<br />

⎧<br />

⎨<br />

⎩<br />

i=1 k=1<br />

0, x ≤ 0<br />

x, 0 1<br />

i=1<br />

k=1<br />

generiše tzv.<br />

i=1<br />

Borelovu meru na<br />

Borelovim skupovima intervala (0, 1]. Kompletiranjem ove mere dobijamo Lebegovu meru na<br />

Lebegovim skupovima intervala (0, 1].<br />

Napomena 6 Zahtev da funkcija raspodele bude neprekidna sa desne strane obezbed¯uje da<br />

poznajemo verovatnoću poluzatvorenih intervala oblika (a, b] (sa kojima smo generisali Borelovu<br />

σ-algebru) samo na osnovu tačaka koje pripadaju datom intervalu.<br />

Funkcija raspodele se može definisati i tako da se traži da bude neprekidna sa leve strane.<br />

Tada se Borelova σ-algebra se generiše poluzatvorenim intervalima oblika [a, b),a u relaciji (3.1)<br />

se uzima F (x) =P ((−∞,x)).<br />

Posmatrajmo sada prostor (R n , B(R n )).<br />

19


Svaki n-dimenzionalni pravougaonik I =(a 1 ,b 1 ] × (a 2 ,b 2 ] ×···×(a n ,b n ] ima <strong>teme</strong>na u vidu<br />

tačaka oblika x =(x 1 ,x 2 ,...,x n ) gde je x k = a k ili x k = b k .<br />

Definišimo znak <strong>teme</strong>na x uoznaci z I (x) sa:<br />

{ +1 ako je broj indeksa k za koje važi xk = a<br />

z I (x) =<br />

k paran<br />

−1 ako je broj indeksa k za koje važi x k = a k neparan.<br />

Na primer u R 2 to izgleda na sledeći način:<br />

Za proizvoljnu funkciju F : R n → R definišimo<br />

∆ F (I) = ∑ x<br />

z I (x)F (x) (3.8)<br />

gde se sabiranje vrši po svim <strong>teme</strong>nima x n-dimenzionalnog pravougaonika I.<br />

Na primer, u R 2 to znači da je ∆ F (I) =F (b 1 ,b 2 ) − F (b 1 ,a 2 ) − F (a 1 ,b 2 )+F (a 1 ,a 2 )<br />

Definicija 13 Funkcija F : R n → R naziva se n-dimenzionalna funkcija raspodele, ako<br />

ima osobine:<br />

1. ∆ F (I) ≥ 0 za svaki n-dimenzionalni pravougaonik I.<br />

2. lim F (x 1,x 2 ,...,x n )=0 za svako k =1, 2,...,n i<br />

x k →−∞<br />

F (x 1 ,x 2 ,...,x n )=1<br />

lim<br />

(x 1 ,x 2 ,··· ,x n)→(∞,∞,...,∞)<br />

3. F je neprekidna zdesna po svakom argumentu.<br />

Teorema 9 (a) Neka je P verovatnosna mera na merljivom prostoru (R n , B(R n )). Tada je<br />

funkcija F : R n → R definisana sa<br />

F (x 1 ,x 2 ,...,x n )=P ((−∞,x 1 ] × (−∞,x 2 ] ×···×(−∞,x n ]) (3.9)<br />

n-dimenzionalna funkcija raspodele.<br />

(b) Ako je F n-dimenzionalna funkcija raspodele, tada postoji jedinstvena verovatnosna mera<br />

na (R n , B(R n )) takva da za svako (x 1 ,x 2 ,...,x n ) ∈ R n važi relacija (3.9) i da za svaki<br />

n-dimenzionalni pravougaonik I, važi<br />

P (I) =∆ F (I) (3.10)<br />

20


Dokaz. Dokaz ćemodatizatvrd¯enje pod (a), a (b) se slično dokazuje kao i u jednodimenzionalnom<br />

slučaju.<br />

Neka je n =2 inekajeP verovatnosna mera na (R 2 , B(R 2 )).<br />

1. ∆ F (I) =F (b 1 ,b 2 ) − F (b 1 ,a 2 ) − F (a 1 ,b 2 )+F (a 1 ,a 2 )=<br />

P ((−∞,b 1 ] × (−∞,b 2 ]) − P ((−∞,b 1 ] × (−∞,a 2 ]) − P ((−∞,a 1 ] × (−∞,b 2 ])+<br />

P ((−∞,a 1 ] × (−∞,a 2 ]) = P ((a 1 ,b 1 ] × (a 2 ,b 2 ]) ≥ 0<br />

2. Neka je x 2 fiksiran i posmatrajmo proizvoljan niz {x (n)<br />

1 } n∈N takav da {x (n)<br />

1 }↘−∞.<br />

Treba dokazati da je lim F (x (n)<br />

1 ,x 2 )=0. Kako je<br />

n→∞<br />

(−∞,x (1)<br />

1 ] × (−∞,x 2 ] ⊃ (−∞,x (2)<br />

1 ] × (−∞,x 2 ] ⊃ (−∞,x (3)<br />

1 ] × (−∞,x 2 ] ⊃···→∅,<br />

to iz neprekidnosti mere P dobijamo<br />

lim F<br />

n→∞ (x(n) 1 ,x 2 ) = lim P ((−∞,x (n)<br />

1 ] × (−∞,x 2 ]) = P (∅) =0.<br />

n→∞<br />

3. Neka vektor (x (n)<br />

1 ,x (n)<br />

2 ) →∞. Želimodapokažemodavaži F (x (n)<br />

1 ,x (n)<br />

2 ) → 1<br />

2 }↗+∞ to dobijamo monoton niz skupova<br />

Kako {x (n)<br />

1 }↗+∞, i {x (n)<br />

(−∞,x (1)<br />

1 ] × (−∞,x (1)<br />

2 ] ⊂ (−∞,x (2)<br />

1 ] × (−∞,x (2)<br />

2 ] ⊂ (−∞,x (3)<br />

1 ] × (−∞,x (3)<br />

2 ] ⊂···→R 2<br />

pa iz neprekidnosti mere P sledi lim F (x (n)<br />

1 ,x (n)<br />

n→∞<br />

2 )=P (R 2 )=1.<br />

4. Dokažimo neprekidnost zdesna po argumentu x 1 pri fiksiranom x 2 tj.<br />

lim F (x 1 + h, x 2 )=F (x 1 ,x 2 ). Pokažimo neprekidnost u tački (x 1 ,x 2 ). Neka je dat niz<br />

h→0 +<br />

{x (n)<br />

1 }↘x 1 . Tada je<br />

(−∞,x (1)<br />

1 ] × (−∞,x 2 ] ⊃ (−∞,x (2)<br />

1 ] × (−∞,x 2 ] ⊃···<br />

···→ ⋂ (−∞,x (n)<br />

1 ] × (−∞,x 2 ]=(−∞,x 0 ] × (−∞,x 2 ]<br />

n∈N<br />

odakle sledi<br />

lim F<br />

n→∞ (x(n) 1 ,x 2 ) = lim P ((−∞,x (n)<br />

1 ] × (−∞,x 2 ]) = P ((−∞,x 1 ] × (−∞,x 2 ]) = F (x 1 ,x 2 ).<br />

n→∞<br />

3.2 Verovatnosna mera na (R ∞ , B(R ∞ ))<br />

Posmatrajmo cilindar oblika J (B n )={x ∈ R ∞ :(x 1 ,x 2 ,...,x n ) ∈ B n }, za neko B n ∈B(R n ).<br />

PretpostavimodajedatameraP na (R ∞ , B(R ∞ )) i definišimo meru P n na (R n , B(R n )) sa<br />

P n (B n )=P (J (B n )) za B n ∈B(R n ), n =1, 2,...<br />

Tako dobijen niz mera P n (n =1, 2,...) zadovoljava uslov saglasnosti:<br />

P n+1 (B n × R) =P n (B n ),<br />

n ∈ N<br />

Sledeća teorema daje obrat ovog tvrd¯enja.<br />

Teorema 10 (Kolmogorova o produženju mere na (R ∞ , B(R ∞ ))) Neka su P 1 ,P 2 ,...<br />

verovatnosne mere na merljivim prostorima (R, B(R)) ; (R 2 , B(R 2 )) ; ... redom koje zadovoljavaju<br />

uslov saglasnosti. Tada postoji jedinstvena verovatnosna mera P na (R ∞ , B(R ∞ )) takva<br />

da važi<br />

P (J (B n )) = P n (B n )<br />

za sve n ∈ N i sve B ∈B(R n ).<br />

21


Dokaz. Definišimo prvo funkciju P<br />

na cilindrima sa:<br />

P (J (B n )) = P n (B n )<br />

za proizvoljan cilindar J (B n ).<br />

Pokažimo da je ova definicija korektna tj. da ne zavisi od izbora osnove cilindra.<br />

Neka clindar ima dva oblika reprezentacije J (B n )=J (B n+k ) gde je B n+k = B n × R k .<br />

Koristeći uslov sagalsnosti dobijamo<br />

P (J (B n )) = P n (B n )=P n+1 (B n+1 )=P n+2 (B n+2 )=···= P n+k (B n+k )=P (J (B n+k )).<br />

Skup svih cilindara čini algebru (propozicija 2). Označimo je sa A(R ∞ ), i uvedimo novu<br />

oznaku za cilindre: ˆBn = J (B n ).<br />

Dokažimo sada da je P konačnoaditivnanaalgebriA(R ∞ ).<br />

Neka su ˆB 1 , ˆB 2 ,..., ˆB k disjunktni cilindri iz algebre A(R ∞ ). Kako ovih cilindara ima konačno<br />

mnogo, možemo uzeti da je n maksimalna dimenzija osnove pa sve cilindre posmatrati kao<br />

ˆB i = J (Bi n ) gde su Bi<br />

n ∈B(R n ) za sve i =1, 2,...,k.Kako su cilindri disjunktni, to i njihove<br />

osnove Bi<br />

n moraju biti disjunktne. Sada je<br />

⋃<br />

P ( k ⋃<br />

ˆB i )=P ( k ⋃<br />

J (Bi n )) = P (J ( k ⋃<br />

Bi n )) = P n ( k Bi n )=<br />

i=1<br />

i=1<br />

i=1<br />

i=1<br />

∑<br />

= k ∑<br />

P n (Bi n )= k ∑<br />

P (J (Bi n )) = k P ( ˆB i ).<br />

i=1<br />

i=1<br />

Time je dokazana konačna aditivnost.<br />

Dokažimo sada da je P neprekidna u nuli. Tada će na osnovu teoreme 1 slediti i σ-<br />

aditivnost na algebri A(R ∞ ), tj. P je verovatnosna mera na algebri, pa se ona na jedinstven<br />

način proširuje na σ-algebru B(R ∞ ).<br />

Neka je { ˆB n } n∈N niz cilindara takav da je ˆB1 ⊃ ˆB 2 ⊃ ˆB ⋂<br />

3 ⊃ ... → ∞ ˆB n = ∅. Treba<br />

pokazati da tada P ( ˆB n ) → 0.<br />

Pretpostavimo suprotno da je lim P ( ˆB n )=δ>0.<br />

n→∞<br />

Ne umanjujući opštost možemo pretpostaviti da su svi cilindri iz datog niza oblika<br />

ˆB n = {x ∈ R ∞ : (x 1 ,x 2 ,...,x n ) ∈ B n } gde je B n ∈B(R n ).<br />

Za svaki skup B n ∈B(R n ) i za dato δ>0 postoji kompaktan skup A n ∈B(R n ), A n ⊂ B n<br />

takav da važi<br />

P n (B n \A n ) ≤<br />

δ<br />

2 . n+1<br />

Formirajmo sada cilindre  n = {x ∈ R ∞ : (x 1 ,x 2 ,...,x n ) ∈ A n }. Tada važi<br />

Neka je Ĉn = n ⋂<br />

k=1<br />

P ( ˆB n \Ân) =P n (B n \A n ) ≤<br />

δ<br />

2 n+1<br />

 k odnosno Ĉn = {x ∈ R ∞ : (x 1 ,x 2 ,...,x n ) ∈ C n } gde je C n = n ⋂<br />

Tada koristeći konačnu subaditivnost dobijamo<br />

P ( ˆB n \Ĉn) =P ( ˆB ⋂<br />

n \ n ⋃<br />

 k )=P ( n ( ˆB ∑<br />

n \Âk) ≤ n P ( ˆB ∑<br />

n \Âk) ≤ n P ( ˆB k \Âk) ≤ δ 2<br />

k=1<br />

odnosno P ( ˆB n ) − P (Ĉn) ≤ δ 2<br />

k=1<br />

k=1<br />

i=1<br />

k=1<br />

odakle graničnim procesom dobijamo<br />

n=1<br />

k=1<br />

A k .<br />

lim<br />

n→∞ P (Ĉn) ≥ δ 2<br />

(3.11)<br />

22


Dokazaćemo da je ovo u kontradikciji sa ⋂<br />

n∈N<br />

ˆB n = ∅.<br />

Iz (3.11) sledi da je svaki skup Ĉn neprazan, pa možemo iz njega birati tačku ˆx (n) =(x (n)<br />

1 ,x (n)<br />

2 , ... )<br />

za koju je (x (n)<br />

1 ,x (n)<br />

2 , ... ,x (n)<br />

n ) ∈ C n . To uradimo za svako n ≥ 1. Primetimo još dajesvaki<br />

skup C n kompaktan, jer je dobijen presekom kompaktnih skupova. Sada imamo<br />

(x (1)<br />

1 ) ∈ C 1<br />

(x (2)<br />

1 ,x (2)<br />

2 ) ∈ C 2 ⊂ C 1<br />

(x (3)<br />

1 ,x (3)<br />

2 ,x (3)<br />

3 ) ∈ C 3 ⊂ C 2 ⊂ C 1<br />

.<br />

Posmatrajmo sada niz prvih koordinata: niz<br />

zato ima konvergentan podniz<br />

x (n 1)<br />

1 → x 0 1 ∈ C 1 .<br />

{x (n)<br />

1 } n je niz u C 1 koji je kompaktan, pa<br />

Dalje, posmatramo niz ured¯enih parova {(x (n 1)<br />

1 ,x (n 1)<br />

2 )} n1 koji je sada niz u kompaktnom<br />

skupu C 2 pa sledi da postoji podniz niza {n 1 } tako da je<br />

(x (n 2)<br />

1 ,x (n 2)<br />

2 ) → (x 0 1,x 0 2) ∈ C 2<br />

. itd. postoji podniz {n k } tako da je<br />

(x (n k)<br />

1 ,x (n k)<br />

2 ,...,x (n k)<br />

k<br />

) → (x 0 1,x 0 2,...,x 0 k ) ∈ C k.<br />

Sada napravimo dijagonalni podniz uzimajući iz niza {n k } k-ti član - označimo ga sa m k .<br />

Tada x (m k)<br />

i → x 0 i za m k →∞ i sve i ∈ N.<br />

Pri tome je (x 0 1,x 0 2, ... ) ∈ Ĉn ⊂ ˆB n za sve n ∈ N.<br />

Sledi da je ⋂ ˆB n ≠ ∅ što je u kontradikciji sa polaznom pretpostavkom!<br />

n∈N<br />

Napomena 7 U dokazu smo koristili svojstvo realne prave topološkog karaktera da se za proizvoljan<br />

skup iz B(R n ) može naći kompaktan podskup čija je verovatnosna mera ”dovoljno blizu”<br />

mere polaznog skupa. Ovo svojstvo važi i u svakom kompletnom separabilnom metričkom prostoru<br />

sa σ-algebrom koju generišu otvorene lopte. Teorema Kolmogorova važiinatakvimprostorima.<br />

3.3 Verovatnosna mera na ( R T , B(R T ) )<br />

Posmatrajmo neured¯enu n-torku indeksa τ =[t 1 ,t 2 ,...,t n ] gde su t i ∈ T inekaje P τ<br />

mera<br />

na (R τ , B(R τ )) gde je R τ = R t1 ×R t2 ×···×R tn<br />

Definicija 14 Kažemo da je familija mera {P τ } saglasna (τ prolazi kroz skup svih konačnih<br />

izbora neured¯enih n-torki iz T ) ako važi:<br />

Za proizvoljnu funkciju x : T → R, za svaka dva izbora τ =[t 1 ,t 2 ,...,t n ] i σ =[s 1 ,s 2 ,...,s k ]<br />

takva da je σ ⊂ τ i za proizvoljno B ∈B(R σ ) važi<br />

P σ {(x(s 1 ),x(s 2 ),...,x(s k )) : (x(s 1 ),x(s 2 ),...,x(s k )) ∈ B} =<br />

P τ {(x(t 1 ),x(t 2 ),...,x(t n )) : (x(s 1 ),x(s 2 ),...,x(s k )) ∈ B}.<br />

Teorema 11 (Kolmogorova o produženju mere na ( R T , B(R T ) ) ) Neka je {P τ } familija<br />

saglasnih verovatnosnih mera na (R τ , B(R τ )) . Tada postoji jedinstvena mera P na (R T , B(R T )<br />

takva da je<br />

P {x ∈ R T :(x(t 1 ),x(t 2 ),...,x(t n )) ∈ B} = P [t1 ,t 2 ,...,t n](B) (3.12)<br />

23


za sve izbore τ =[t 1 ,t 2 ,...,t n ] ⊂ T i B ∈B(R τ ).<br />

Dokaz. Premateoremi7zasvakiBorelovskupB ∈B(R T ) postoji najviše prebrojiv skup<br />

S = {s 1 ,s 2 ,...}⊂T takav da je B ∈B(R S ). Definišimo<br />

P (B) =P S (B), (3.13)<br />

gde je P S mera na prostoru nizova (R S , B(R S )) čiju egzistenciju garantuje teorema Kolmogorova<br />

o produženju mere na R S .<br />

Pokažimo da je ova definicija korektna.<br />

Neka za skup B postoje prebrojivi skupovi indeksa S 1 i S 2 takvi da je B ∈B(R S 1<br />

)i B ∈B(R S 2<br />

).<br />

Treba pokazati da je P S1 (B) =P S2 (B).<br />

Iz S 1 ⊂ S 1 ∪S 2 sledi B(R S 1<br />

) ⊂B(R S 1∪S 2<br />

), a iz B ∈B(R S 1<br />

)i B ∈B(R S 2<br />

)slediB ∈B(R S 1∪S 2<br />

).<br />

Posmatrajmo sada R ∞ -cilindre<br />

ˆB k = {x ∈ R S 1<br />

:(x (s 1 ) ,x(s 2 ) ,...,x(s k )) ∈ C k }<br />

gde je C k ∈B(R k ).<br />

Na cilindrima ovog tipa se P S1 i P S1 ∪S 2<br />

poklapaju po uslovu saglasnosti. Naime,<br />

P S1 ( ˆB k )=P [s1 ,s 2 ,...,s k ](C k ) (teorema Kolmogorova na R ∞ )<br />

= P [s1 ,s 2 ,...,s k ]{(x (s 1 ) ,x(s 2 ) ,...,x(s k )) : (x (s 1 ) ,x(s 2 ) ,...,x(s k )) ∈ C k }<br />

= P [s1 ,s 2 ,...,s k ,t 1 ,t 2 ,...,t m]{(x (s 1 ) ,x(s 2 ) ,...,x(s k ) ,x(t 1 ),x(t 2 ) ,...,x(t m )) :<br />

(x (s 1 ) ,x(s 2 ) ,...,x(s k )) ∈ C k }<br />

= P S1 ∪S 2<br />

( ˆB k+m )<br />

= P S1 ∪S 2<br />

({x ∈ R S 1∪S 2<br />

:(x (s 1 ) ,x(s 2 ) ,...,x(s k ) ,x(t 1 ),x(t 2 ) ,...,x(t m )) ∈ C k })<br />

= P S1 ∪S 2<br />

( ˆB k )<br />

Kako se P S1 i P S1 ∪S 2<br />

poklapaju na cilindrima, to iz teoreme 10 (jedinstvenost) sledi da se P S1<br />

i P S1 ∪S 2<br />

poklapaju na čitavoj σ-algebri B(R S ).<br />

Dakle, P S1 ≡ P S1 ∪S 2<br />

≡ P S2 .<br />

Jasno je i da P zadovoljava traženi uslov (3.12) što sledi direktno iz (3.13) za specijalan<br />

slučaj kada je skup S konačan.<br />

Ostaje još samo da se proveri da je P i σ-aditivna na B(R T ).<br />

Neka je {B n } disjunktan niz skupova iz B(R T ). Znamo da za svako B n postoji skup S n ,<br />

Card(S n ) < ℵ 0 takav da je B n ∈B(R Sn ).<br />

Formirajmo skup S = ⋃ S n . Tada je Card(S) < ℵ 0 i važi da je B n ∈B(R S ) za svako<br />

⋃<br />

n∈N<br />

n ∈ N. Sledi da je i B n ∈B(R S ).<br />

Kako P S<br />

n∈N<br />

jeste mera, dobijamo da je<br />

P ( ⋃ B n )=P S ( ⋃ B n )= ∑ P S (B n )= ∑ P (B n ).<br />

n∈N<br />

n∈N n∈N<br />

n∈N<br />

Time je teorema dokazana.<br />

Napomena 8 Ako se posmatraju ured¯ene n-torke (t 1 ,t 2 ,...,t n ), tada se zahteva još iuslov<br />

simetričnosti:<br />

P (t1 ,...,t n)(A t1 ×···×A tn )=P (ti1 ,...,t in )(A ti1 ×···×A tin )<br />

gde je (i 1 ,...,i n ) proizvoljna permutacija brojeva (1,...,n), a A ti ∈B(R ti ).<br />

24


Deo II<br />

Normalna raspodela<br />

25


Glava 4<br />

Potrebno predznanje<br />

Drugi deo seminarskog rada posvećen je slučajnim promenljivama i slučajnim vektorima sa<br />

normalnom raspodelom. U prvom poglavlju navedene su definicije nekih osnovnih pojmova u<br />

teoriji verovatnoće (slučajna promenljiva, matematičko očekivanje, disperzija, karakteristična<br />

funkcija, itd.) a date su i najvažnije teoreme i tvrd¯enja vezana za njih. Zatim sledi kratak<br />

pregled potrebnog predznanja iz linearne algebre o matricama i kvadratnim formama. Cilj<br />

ovakvog uvoda je da čitaocu omogući lakše praćenje dokaza u narednim poglavljima, u kojima<br />

se u velikoj meri koriste elementi linearne algebre.<br />

4.0.1 Osnovni pojmovi teorije verovatnoće<br />

Definicija 15 Preslikavanje X :Ω→ R iz prostora verovatnoće (Ω, F,P) u merljiv prostor<br />

(R, B(R)) naziva se slučajna promenljiva ako inverzna slika svakog Borelovog skupa pripada<br />

σ-algebri F, odnosno važi:<br />

X −1 (B) ∈F<br />

za proizvoljno B ∈B(R).<br />

Na merljivom prostoru (R, B(R)) uvodimo verovatnosnu meru P X<br />

definisanu relacijom<br />

P X (B) =P (X −1 (B)).<br />

Prema teroremi 8 za meru P X postoji jedinstvena funkcija raspodele F X : R → R za koju važi<br />

F X (x) =P X ((−∞,x]) = P {ω ∈ Ω:X(ω) ≤ x}.<br />

Funkciju F X nazivamo funkcija raspodele slučajne promenljive X.<br />

Definicija 16 Slučajna promenljiva I A data sa I A (ω) =<br />

{ 1, ω ∈ A<br />

0, ω /∈ A<br />

za dogad¯aj A ∈ F<br />

naziva se indikator dogad¯aja A.<br />

Ako postoji disjunktno razbijanje sigurnog dogad¯aja Ω=A 1 ∪ A 2 ∪ ..., iakopostojinajviše<br />

prebrojiv skup {x 1 ,x 2 ,...}⊂R, tada slučajnu promenljivu oblika<br />

X(ω) =<br />

∞∑<br />

x i I Ai (ω) (4.1)<br />

i=1<br />

nazivamo diskretna slučajna promenljiva.<br />

26


Definicija 17 Slučajna promenljiva je apsolutno neprekidnog tipa, ako postoji nenegativna<br />

funkcija ϕ : R → R takva da važi<br />

F X (x) =<br />

∫ x<br />

−∞<br />

ϕ(t)dt, (4.2)<br />

gde je integral u (4.2) u opštem slučaju Lebegov integral. Funkcija ϕ(x) se naziva funkcija<br />

gustine slučajne promenljive X.<br />

U terminima teorije mere relacija (4.2) znači da je verovatnosna mera P X apsolutno<br />

neprekidna u odnosu na Lebegovu meru tj. za svaki Borelov skup A ∈B(R) važi implikacija<br />

λ(A) =0 ⇒ P X (A) =0 gdejeλ oznaka za Lebegovu meru. Funkcija gustine ϕ(x) je<br />

Radon-Nikodimov izvod mere P X po meri Lebega λ.<br />

Definicija 18 Slučajna promenljiva (različita od konstantne) je singularnog tipa, ako izvod<br />

F X ′ postoji i jednak je nuli skoro svuda, gde se izraz ”skoro svuda” odnosi na Lebegovu meru.<br />

Može se pokazati da je uslov F X<br />

′ s.s.<br />

= 0 ekvivalentan činjenici da su mere P X i Lebegova mera<br />

λ uzajamno singularne mere što znači da postoji Borelov skup A ∈B(R) takav da je λ(A) =0<br />

i P X (A) =0.<br />

Definicija 19 Preslikavanje X :Ω→ R n iz prostora verovatnoće (Ω, F,P) u merljiv prostor<br />

(R n , B(R n )) naziva se slučajan vektor, ako inverzna slika svakog Borelovog skupa pripada<br />

σ-algebri F, odnosno za proizvoljno B ∈B(R n ) važi X −1 (B) ∈F.<br />

Pojmovi funkcije raspodele, apsolutne neprekidnosti i singularne raspodele se definišu analogno<br />

kao i u jednodimenzionalnom slučaju.<br />

Teorema 12 Preslikavanje X :Ω→ R n čija su komponentna preslikavanja<br />

X(ω) =(X 1 (ω),X 2 (ω),...,X n (ω)) je slučajan vektor akko je svako X i slučajna promenljiva<br />

(i =1, 2,...,n).<br />

Teorema 13 Ako je X slučajan vektor i preslikavanje h : R n → R n Borelovo preslikavanje,<br />

tada je kompozicija preslikavanja h(X) takod¯e slučajan vektor.<br />

Ako je X slučajan vektor apsolutno neprekidnog tipa kojem odgovara funkcija gustine ϕ(x)<br />

i ako je preslikavanje h bijekcija, tada je funkcija gustine za slučajan vektor h(X) data sa<br />

ϕ(y) =ϕ(h −1 (y)) |J| gde je |J| Jakobijan inverzne transformacije h −1 .<br />

Definicija 20 Za slučajan vektor X =(X 1 ,X 2 ,...,X n ) definišemo marginalne funkcije<br />

raspodele po komponentama (X 1 ,X 2 ,...,X k ) k ≤ n sa<br />

F X1 ,...,X k<br />

(x 1 ,...,x k ) =<br />

lim F X (x 1 ,x 2 ,...,x n ).<br />

(x k+1,..., x n)→∞<br />

U slučaju apsolutno neprekidnog slučajanog vektora ima smisla govoriti i o marginalnim<br />

funkcijama gustine datima relacijom<br />

∫ ∫<br />

ϕ X1 ,...,X k<br />

(x 1 ,...,x k )= ··· ϕ X (x 1 ,x 2 ,...,x n )dx k+1 ...dx n.<br />

R n−k<br />

27


Definicija 21 Komponente X 1 ,X 2 ,...,X n slučajanog vektora X =(X 1 ,X 2 ,...,X n ) su<br />

nezavisne, ako za svako k ≤ n, za svaki izbor indeksa (i 1 ,...,i k ) i za proizvoljne Borelove<br />

skupove B 1 ,...,B k ∈B(R) važi<br />

P (<br />

k⋂<br />

{X ij ∈ B j })=<br />

j=1<br />

k∏<br />

P {X ij ∈ B j }.<br />

Teorema 14 Komponente X 1 ,X 2 ,...,X n slučajanog vektora X =(X 1 ,X 2 ,...,X n ) su<br />

nezavisne akko je<br />

F X (x 1 ,x 2 ,...,x n )=F 1 (x 1 )F 2 (x 2 ) ...F n (x n ),<br />

gde je sa F i (x i ) označena marginalna funkcija raspodele po i−toj komponenti vektora X.<br />

Komponente X 1 ,X 2 ,...,X n slučajanog vektora X =(X 1 ,X 2 ,...,X n ) apsolutno neprekidnog<br />

tipa su nezavisne akko je<br />

j=1<br />

ϕ X (x 1 ,x 2 ,...,x n )=ϕ 1 (x 1 )ϕ 2 (x 2 ) ...ϕ n (x n ),<br />

gde je sa ϕ i (x i ) označena marginalna funkcija gustine po i−toj komponenti vektora X.<br />

Slučajna promenljiva X je merljiva funkcija na prostoru verovatnoće (Ω, F,P), pa možemo<br />

posmatrati i njen integral po meri P. Ovaj integral ćemo označavati sa E(X) inazivaćemo ga<br />

matematičkim očekivanjem slučajne promenljive X.<br />

Dajemo ukratko ideju konstrukcije matematičkog očekivanja kao integrala po meri P.<br />

Ako je X nenegativna slučajna promenljiva diskretnog tipa tj. ima oblik (4.1), tada<br />

definišemo njeno matematičko očekivanje uoznaciE(X) kao<br />

E(X) =<br />

∞∑<br />

x k P (A k ).<br />

k=1<br />

Ako je X nenegativna slučajna promenljiva, tada znamo da postoji rastući niz diskretnih<br />

slučajnih promenljivih {X n } n∈N koji uniformno nad Ω konvergira ka X. Utomslučaju<br />

definišemo<br />

E(X) = lim E(X n ).<br />

n→∞<br />

Ovaj limes ne zavisi od izbora niza X n , amože biti konačan broj ili +∞.<br />

Ako je X proizvoljna slučajna promenljiva, tada je razbijamo na njen pozitivan i negativan<br />

deo X = X + − X − gde su X + =max{X, 0} i X − =max{−X, 0}, idefinišemo<br />

E(X) =E(X + ) − E(X − ),<br />

ako je bar jedan od brojeva E(X + ),E(X − ) konačan. Ako su oba broja beskonačna, reći ćemo<br />

da matematičko očekivanje E(X) ne postoji.<br />

U daljem radu koristićemo ravnopravno oznake<br />

∫ ∫<br />

E(X) = XdP = XdF X ,<br />

Ω<br />

R<br />

što se u slučaju apsolutno neprekidne slučajne promenljive svodi na E(X) = ∫ R<br />

xϕ(x)dx.<br />

Ako E(X) postoji kao konačan broj tj. E(X + ) < ∞ i E(X − ) < ∞, tada iz |X| = X + +X −<br />

sledidajeE(|X|) =E(X + )+E(X − ) < ∞, pa se tu zapravo radi o apsolutnoj konvergenciji<br />

integrala.<br />

28


Teorema 15 (o monotonoj konvergenciji) Neka je {X n } monoton niz slučajnih promenljivih<br />

takav da X n ↗ X s.s. Neka postoji slučajna promenljiva Y, takva da je E(Y ) > −∞ i<br />

Y (ω) ≤ X n (ω) za sve n ∈ N i skoro sve ω ∈ Ω. Tada važi E(X n ) ↗ E(X).<br />

Teorema 16 (Lebegova o dominantnoj konvergenciji) Neka za niz slučajnih promenljivih<br />

{X n } važi da X n (ω) → X (ω) za skoro sve ω ∈ Ω kad n →∞. Neka postoji slučajna promenljiva<br />

Y sa konačnim matematičkim očekivanjem i osobinom da je |X n (ω)| ≤Y (ω) za sve n ∈ N i<br />

skoro sve ω ∈ Ω. Tada važi<br />

E(|X n − X|) → 0,<br />

kad n →∞.<br />

Iz prethodne relacije dobijamo kao posledicu da važiirazmenagraničnog procesa i integrala,<br />

odnosno<br />

E(X n ) → E(X), kad n →∞.<br />

Teorema 17 Osobine matematičkog očekivanja:<br />

1. E(cX) =cE(X), gde je c proizvoljna realna konstanta.<br />

2. Ako je X(ω) ≤ Y (ω) za skoro sve ω ∈ Ω, tada je E(X) ≤ E(Y ).<br />

3. E(X + Y )=E(X)+E(Y ).<br />

4. Ako su X i Y nezavisne, tada je E(XY )=E(X)E(Y ).<br />

Teorema 18 Neka je X slučajna promenljiva i h : R → R Borelova funkcija. Tada je<br />

∫<br />

∫<br />

E(h(X)) = (h ◦ X)dP = h(x)dF X (x).<br />

Ω<br />

R<br />

Definicija 22 Neka je X slučajna promenljiva. Disperzija slučajne promenljive X, uoznaci<br />

D(X) je veličina<br />

D(X) =E(X − E(X)) 2 .<br />

Teorema 19 Osobine disperzije su:<br />

1. D(X) =E(X 2 ) − (E(X)) 2 .<br />

2. D(X) ≥ 0.<br />

3. D(cX) =c 2 D(X), gde je c proizvoljna realna konstanta.<br />

4. D(X) =0 akko je X =0skoro svuda.<br />

Definicija 23 Neka su X i Y slučajne promenljive sa konačnim disperzijama različitim od<br />

nule. Kovarijansa slučajnih promenljivih X i Y je broj cov(X, Y ) dat sa<br />

cov(X, Y )=E((X − EX)(Y − EY )) = E(XY ) − E(X)E(Y ).<br />

Koeficijent korelacije slučajnih promenljivih X i Y je broj<br />

ρ(X, Y )= cov(X, Y )<br />

√<br />

D(X)D(Y )<br />

.<br />

Slučajne promenljive X i Y su nekorelirane, ako im je kovarijansa jednaka nuli.<br />

29


Primetimo da je cov(X, X) =D(X). Važi da iz nezavisnosti slučajnih promenljivih X i Y<br />

sledi i njihova nekoreliranost, dok obrnuta implikacija u opštem slučaju ne vredi.<br />

Definicija 24 Neka je X =(X 1 ,X 2 ,...,X n ) slučajan vektor. Kovarijaciona matrica<br />

vektora X je matrica data sa B =[cov(X i ,X j )] n×n .<br />

Teorema 20 Matrica B je kovarijaciona matrica nekog slučajnog vektora akko je simetrična i<br />

pozitivno semidefinitna.<br />

Teorema 21 Neka su X 1 ,X 2 ,...,X n proizvoljne slučajne promenljive. Tada je<br />

D(<br />

n∑<br />

X i )=<br />

n∑<br />

cov(X i ,X j )=<br />

D(X i )+ ∑<br />

i=1 i=1 i≠j<br />

i=1<br />

Ako su X 1 ,X 2 ,...,X n nezavisne slučajne promenljive, tada je<br />

D(<br />

n∑<br />

X i )=<br />

i=1<br />

n∑<br />

D(X i ).<br />

i=1<br />

n∑<br />

n∑<br />

cov(X i ,X j ). (4.3)<br />

Definicija 25 Karakteristična funkcija slučajne promenljive X je funkcija f : R → C<br />

definisana relacijom<br />

∫<br />

f X (t) =E(e itX )= e itx dF X .<br />

Karakteristična funkcija slučajne promenljive apsolutno neprekidnog tipa je zapravo<br />

Furijeova transformacija funkcije gustine. Karakteristična funkcija postoji za svaku slučajnu<br />

promenljivu i ona je jednoznačno odred¯uje (teorema Levija o formuli inverzije).<br />

Teorema 22 Ako je karakteristična funkcija f(t) neke slučajne promenljive apsolutno integrabilna<br />

tj. ∫ |f(t)| dt < ∞, tada je odgovarajuća funkcija raspodele F X apsolutno neprekidna i<br />

R<br />

važi<br />

ϕ(x) = 1 ∫<br />

e −itx f(t)dt,<br />

2π<br />

R<br />

gde je ϕ(x) gustina raspodele za F X (x).<br />

Teorema 23 Osobine karakteristične funkcije:<br />

1. f(0) = 1.<br />

2. |f(t)| ≤1.<br />

3. f aX+b (t) =e itb f X (at).<br />

4. f(−t) =f(t).<br />

5. Ako su X 1 ,X 2 ,...,X n nezavisne, tada je f X1 +X 2 +···+X n<br />

(t) =f X1 (t)f X2 (t) ···f Xn (t).<br />

Definicija 26 Karakteristična funkcija slučajnog vektora X je funkcija f : R n → C<br />

definisana relacijom<br />

R<br />

i=1<br />

f X (t 1 ,t 2 ,...,t n )=E(e i〈t|X〉 )=E(e i ∑ n<br />

k=1 t kX k<br />

),<br />

gde je t =(t 1 ,t 2 ,...,t n ), a 〈·|·〉 je oznaka za skalarni proizvod.<br />

30


Lema 2 Ako su X 1 ,X 2 ,...,X n proizvoljne slučajne promenljive i λ 1 ,λ 2 ,...,λ n proizvoljni<br />

realni brojevi, tada je<br />

f λ1 X 1 +λ 2 X 2 +···+λ nX n<br />

(t) =f X (λ 1 t , λ 2 t,...,λ n t), (4.4)<br />

gde je f X (t 1 ,t 2 ,...,t n ) karakteristična funkcija za slučajan vektor X =(X 1 ,X 2 ,...,X n ).<br />

Teorema 24 Komponente X 1 ,X 2 ,...,X n slučajnog vektora X =(X 1 ,X 2 ,...,X n ) su<br />

nezavisne akko za sve t 1 ,t 2 ,...,t n važi<br />

f X (t 1 ,t 2 ,...,t n )=f X1 (t 1 )f X2 (t 2 ) ···f Xn (t n ).<br />

Teorema 25 Neka je f X (t 1 ,t 2 ,...,t n ) karakteristična funkcija slučajnog vektora<br />

X =(X 1 ,X 2 ,...,X n ). Tada je karakteristična funkcija marginalnog slučajnog vektora<br />

(X 1 ,X 2 ,...,X r ) oblika<br />

f(t 1 ,t 2 ,...,t r )=f X (t 1 ,t 2 ,...,t r , 0, 0,...,0).<br />

Definicija 27 Označimo sa L 2 (Ω, F,P) ili kraće samo sa L 2 prostor slučajnih promenljivih za<br />

koje je E(X 2 ) < ∞. UprostoruL 2 uvodimo skalarni proizvod kao<br />

〈X | Y 〉 = E(XY ) za proizvoljne X, Y ∈ L 2 .<br />

Norma indukovana ovim skalarnim proizvodom je oblika ||X|| = √ E(X 2 )ivaži da je prostor<br />

L 2 kompletan 1 u odnosu na ovu normu. Konvergencija slučajnih promenljivih u prostoru L 2 je<br />

L<br />

srednjekvadratna konvergencija definisana sa: X 2<br />

n → X, ako E |X n − X| 2 → 0 kad n →∞.<br />

Prostor L 2 je Hilbertov prostor.<br />

4.0.2 Elementi linearne algebre<br />

Definicija 28 Neka je A realna, simetrična, kvadratna matrica dimenzije n × n. Funkcija<br />

Q : R n → R data sa<br />

Q(x) =〈Ax | x〉 , gde je vektor x ∈ R n<br />

naziva se kvadratna forma.<br />

Ekvivalentni zapisi kvadratne forme su<br />

Q(x) =〈Ax | x〉 = x T Ax =<br />

n∑ n∑<br />

a ij x i x j ,<br />

i=1 j=1<br />

gdejevektorx =(x 1, x 2 ,...,x n ) i matrica A =[a ij ] n×n<br />

,ax T je oznaka za transponovani vektor.<br />

Definicija 29 Kvadratna forma je pozitivno definitna, ako za svaki nenula vektor x ∈ R n<br />

važi<br />

〈Ax | x〉 > 0.<br />

Kvadratne forma je pozitivno semidefinitna, ako za svaki vektor x ∈ R n važi<br />

〈Ax | x〉 ≥0.<br />

1 P rostor je kompletan ako svaki Košijev niz konvergira.<br />

31


Kvadratna forma je negativno definitna, ako za svaki nenula vektor x ∈ R n važi<br />

〈Ax | x〉 < 0.<br />

Kvadratne forma je negativno semidefinitna, ako za svaki vektor x ∈ R n važi<br />

〈Ax | x〉 ≤0.<br />

Matrica A je pozitivno (respektivno negativno) (semi)definitna, ako je njome data kvadratna<br />

forma 〈Ax | x〉 pozitivno (resp. negativno) (semi)definitna.<br />

Teorema 26 Neka je A realna, pozitivno semidefinitna, simetrična matrica ranga r. Tada<br />

postoji regularna matrica M, takva da je<br />

A = M T E (r) M, (4.5)<br />

gde je E (r) matrica sa tačno r jedinica na glavnoj dijagonali, a sa nulama na ostalim mestima.<br />

Specijalno, ako je matrica A regularna tj. njen rang je jednak redu, r = n, tada relacija<br />

(4.5) prima oblik<br />

A = M T M,<br />

ivaži da je det A =(detM) 2 .<br />

Iz teoreme sledi da se smenom promenljivih z = Mx kvadratna forma 〈Ax | x〉 svodi na<br />

kanonički oblik z 2 1 + z 2 2 + ···+ z 2 r.<br />

Teorema 27 Neka je A realna, pozitivno semidefinitna, simetrična matrica.<br />

ortogonalna matrica O (što znači da je OO T = O T O = E), takva da je<br />

Tada postoji<br />

A = O T DO,<br />

gde je D dijagonalna matrica čiji su elementi karakteristični koreni matrice A, i oni su nenegativni.<br />

Ako je matrica A regularna, tada su svi njeni karakteristični koreni strogo pozitivni.<br />

Definicija 30 Neka je data matrica A =[a ij ] n×n<br />

. Minor elementa a kl je determinanta matrice<br />

reda (n − 1) × (n − 1) koje se dobija kada se u matrici A izostave k-ta vrsta i l-ta kolona.<br />

Označimo minor elementa a kl sa M kl .<br />

Lema 3 Važi da je<br />

∂<br />

∂a kl<br />

(det A) =(−1) k+l M kl .<br />

Definicija 31 Adjungovana matrica matrice A =[a ij ] n×n<br />

,uoznaciA ∗ , je matrica sa elementima<br />

a ∗ ij =(−1) i+j M ij . Inverzna matrica regularne matrice A, uoznaciA −1 , je matrica<br />

data sa A −1 = A∗<br />

det A .<br />

Lema 4 Važe identiteti det(A −1 )=(detA) −1<br />

i det A T =detA.<br />

Definicija 32 Neka je V vektorski prostor nad skalarnim poljem R. Vektori v 1 ,v 2 ,...,v n ∈ V<br />

su linearno nezavisni, ako za proizvoljne skalare a 1 ,a 2 ,...,a n ∈ R važi implikacija<br />

n∑<br />

a i v i =0 ⇒ a i =0 za sve i =1, 2,...,n.<br />

i=1<br />

32


Teorema 28 Neka je A matrica reda n irangar. Tada za kvadratnu formu Q(x) =〈Ax | x〉<br />

postoji tačno n − r linearno nezavisnih vektora v (1) ,v (2) ,...,v (n−r) takvih da je<br />

Q(v (i) )=0 za sve i =1, 2,...,n− r.<br />

Definicija 33 Neka su v 1 ,v 2 ,...,v n elementi vektorskog prostora V. Skup svih linearnih<br />

kombinacija ovih vektora ćemo nazivati lineal (linearna mnogostrukost) generisan vektorima<br />

v 1 ,v 2 ,...,v n ioznačavaćemo ga sa L{v 1 ,v 2 ,...,v n }.<br />

Lineal L{v 1 ,v 2 ,...,v n } je podprostor vektorskog prostora V. Transliranu linearnu<br />

mnogostrukost, tj. skup oblika m + L{v 1 ,v 2 ,...,v n } gde je m ∈ V, nazivaćemo hiperravan<br />

(afini podprostor).<br />

Teorema 29 Ako je v 1 ,v 2 ,...,v k (k ≤ n) maksimalan linearno nezavisan podskup skupa vektora<br />

v 1 ,v 2 ,...,v n , tada je L{v 1 ,v 2 ,...,v n } = L{v 1 ,v 2 ,...,v k }.<br />

Definicija 34 Neka je V vektorski prostor sa skalarnim proizvodom.<br />

vektora x =(x 1 ,x 2 ,...,x n ), je matrica data sa G(x) =[〈x i | x j 〉] n×n<br />

.<br />

Gramova matrica<br />

Teorema 30 Gramova matrica je regularna akko su x 1 ,x 2 ,...,x n linearno nezavisni.<br />

33


Glava 5<br />

Jednodimenzionalna normalna<br />

raspodela<br />

Definicija 35 Slučajna promenljiva X ima normalnu (Gausovu) raspodelu sa parametrima<br />

m i σ 2 , m ∈ R, σ > 0, što označavamo sa X : N (m, σ 2 ), ako je njena funkcija gustine<br />

Smenom t = x−m<br />

σ<br />

ϕ(x) =<br />

dobijamo da je<br />

1 (x−m)2<br />

√ e− 2σ 2 , x ∈ R. (5.1)<br />

2πσ<br />

2<br />

∞∫<br />

−∞<br />

ϕ(x)dx = 1 √<br />

2π<br />

∞∫<br />

−∞<br />

e − t2 2 dt = 1, dakle funkcija ϕ(x)<br />

definisana izrazom (5.1) zaista jeste funkcija gustine.<br />

Funkcija ϕ(x) ima maksimum u tački x = m, a za različite vrednosti parametra σ je njen<br />

grafik više izdužen ili spljošten.<br />

Za slučajnu promenljivu X : N (m, σ 2 ) parametri m i σ 2 imaju sledeće značenje:<br />

E(X) =m (5.2)<br />

D(X) =σ 2 (5.3)<br />

Dokaz ovih jednakosti je elementaran, a dokaz analognog tvrd¯enja u višedimenzionalnom<br />

slučaju je dat u narednom poglavlju.<br />

Iz relacija (5.2) sledi da slučajna promenljiva X sa normalnom raspodelom ima konačan<br />

moment drugog reda, pa zato ona pripada Hilbertovom prostoru L 2 .<br />

34


Ako pustimo da parametar σ → 0, tada funkcija gustine ϕ(x)teži ka funkciji skoncentrisanoj<br />

utački x = m. Smatraćemo da X : N (m, 0) ako je P {X = m} =1.<br />

Svaka slučajna promenljiva sa normalnom raspodelom se odgovarajućom transformacijom<br />

može svesti na slučajnu promenljivu sa N (0, 1) raspodelom. Naime, ako X : N (m, σ 2 ), tada<br />

X−m<br />

σ<br />

: N (0, 1).<br />

Funkcija raspodele za normalnu N (0, 1) raspodelu je data izrazom<br />

Φ(x) = 1 √<br />

2π<br />

∫x<br />

e − t2 2 dt.<br />

inazivaseLaplasova funkcija. Na osnovu osobina funkcije gustine (simetričnost grafika<br />

u odnosu na y-osu), Laplasova funkcija se obično piše u obliku Φ(x) = 1 +Φ 2 0(x), gde je<br />

x∫<br />

Φ 0 (x) = √ 1<br />

2π<br />

e − t2 2 dt.<br />

0<br />

Propozicija 3 Neka slučajna promenljiva X : N (m, σ 2 ). Tada slučajna promenljiva koja se<br />

dobija linearnom transformacijom Y = aX + b (a ∈ R\{0},b ∈ R), takod¯e ima normalnu<br />

raspodelu sa parametrima Y : N (am + b, a 2 σ 2 ).<br />

−∞<br />

Dokaz. Inverzna transformacija je data sa x = y−b<br />

a<br />

dobija izraz za funkciju gustine slučajne promenljive Y :<br />

ϕ(y) =<br />

1<br />

√<br />

2πσ<br />

2<br />

y−b<br />

(<br />

a<br />

−m)2 1<br />

e− 2σ 2<br />

|a| = 1<br />

√<br />

2πσ2 a<br />

sa Jakobijanom<br />

2<br />

e−<br />

(y−(b+ma))2<br />

∣<br />

∣ ∂x<br />

∂y<br />

2σ 2 a 2 , y ∈ R<br />

što je upravo oblik funkcije gustine za normalnu N (am + b, a 2 σ 2 )raspodelu.<br />

∣ = 1 , odakle se<br />

Teorema 31 Karakteristična funkcija za slučajnu promenljivu X : N (m, σ 2 ) raspodelu je oblika<br />

f(t) =e itm− 1 2 σ2 t 2 (5.4)<br />

Dokaz. Posmatrajmo prvo normalizovanu slučajnu promenljivu Y = X−m<br />

σ koja ima N (0, 1)<br />

raspodelu. Prema definiciji karakteristične funkcije slučajne promenljive apsolutno neprekidnog<br />

tipa je<br />

|a|<br />

∫<br />

f Y (t) =<br />

R<br />

e ity ϕ Y (y)dy = 1 √<br />

2π<br />

∫<br />

R<br />

e ity e − y2 2 dy =<br />

1<br />

√<br />

2π<br />

∫<br />

R<br />

(cos(ty)+i sin(ty))e − y2 2 dy.<br />

Odavde zbog neparnosti sinusne funkcije dobijamo da je<br />

f Y (t) = √ 1 ∫<br />

cos(ty)e − y2 2 dy.<br />

2π<br />

Diferenciranjem po t ispod znaka integrala dobijamo<br />

f Y ′ (t) = √ 1 ∫<br />

−y sin(ty)e − y2 2 dy.<br />

2π<br />

R<br />

R<br />

35


Razmena nesvojstvenog integrala i izvoda je korektna, jer su funkcije cos(ty)e − y2 2 i −y sin(ty)e − y2 2<br />

neprekidne, a integral ∫ R<br />

−y sin(ty)e − y2 2 dy je uniformno konvergentan po t.<br />

Parcijalnom integracijom dobijamo da je<br />

f ′ Y (t) = 1 √<br />

2π<br />

[sin(ty)e − y2 2<br />

∫<br />

|<br />

∞<br />

−∞ −t<br />

e − y2 2 cos(ty)dy ].<br />

Prvi sabirak u zagradi je jednak nuli, jer je sinus ograničena funkcija i lim<br />

x→∞<br />

e −x =0. Odavde<br />

dobijamo da karakteristična funkcija zadovoljava diferencijalnu jednačinu sa početnim uslovom<br />

R<br />

f Y ′ (t) =−tf Y (t)<br />

f Y (0) = 1.<br />

Rešavanjem ovog početnogproblemadobijamodaje<br />

f Y (t) =e − t2 2 , t ∈ R. (5.5)<br />

Karakterističnu funkciju slučajne promenljive X dobijamo koristeći poznate osobine karakterističnih<br />

funkcija, pa je<br />

f X (t) =f σY +m (t) =e itm f Y (σt) =e itm− 1 2 (σ2 t 2 )<br />

što je i trebalo dokazati.<br />

36


Glava 6<br />

Višedimenzionalna normalna raspodela<br />

6.1 Pojam n-dimenzionalne normalne raspodele<br />

Definicija 36 Slučajan vektor X =(X 1 ,X 2 ,...,X n ) ima n-dimenzionalnu normalnu<br />

(Gausovu) raspodelu sa parametrima m i B, što označavamo sa X : N (m, B), gde je<br />

m =(m 1 ,m 2 ,...,m n ) ∈ R n , i B je regularna, simetrična, pozitivno semidefinitna matrica, ako<br />

je njena funkcija gustine data sa<br />

ϕ(x 1 ,x 2 ,...,x n )=<br />

√<br />

det A<br />

e − 1<br />

(2π) n 2 (x−m)T A(x−m) , x =(x 1 ,x 2 ,...,x n ) ∈ R n , (6.1)<br />

2<br />

a A je inverzna matrica za B.<br />

Ekvivalentan zapis funkcije gustine je<br />

ϕ(x 1 ,x 2 ,...,x n )=<br />

√<br />

det A<br />

(2π) n 2<br />

e − n∑ n∑<br />

1 a 2<br />

kl (x k −m k )(x l −m l )<br />

k=1 l=1 .<br />

Propozicija 4 Funkcija ϕ(x 1 ,x 2 ,...,x n ) data relacijom (6.1) jeste funkcija gustine.<br />

Dokaz. Jasno je da je ϕ(x 1 ,x 2 ,...,x n ) nenegativna funkcija, pa ostaje samo da se pokaže<br />

da važi<br />

∫ ∫<br />

··· ϕ(x 1 ,x 2 ,...,x n )dx 1 dx 2 ···dx n =1. (6.2)<br />

R n<br />

Linearnom smenom y = x−m, za koju je Jakobijan inverzne transformacije jednak jedinici,<br />

podintegralna funkcija u relaciji (6.2) se svodi na<br />

ϕ(y 1 ,y 2 ,...,y n )=<br />

√<br />

det A<br />

(2π) n 2<br />

e − 1 2 yT Ay<br />

(6.3)<br />

A je inverzna matrica simetrične, pozitivno semidefinitne matrice, pa je i ona sama simetrična i<br />

pozitivno semidefinitna. Prema teoremi 26 iz linearne algebre sledi da postoji regularna matrica<br />

M, takvadaje<br />

A = M T M.<br />

Smenom<br />

z = My (6.4)<br />

37


se kvadratna forma y T Ay svodi na kanonički oblik z T z = z 2 1 + z 2 2 + ··· + z 2 n. Pri tome je<br />

det M = √ det A. Odavde sledi da je Jakobijan inverzne transformacije y = M −1 z<br />

det J =det(M −1 )=<br />

1<br />

√<br />

det A<br />

,<br />

pa se ovom smenom podintegralna funkcija svodi na<br />

√<br />

det A<br />

ϕ(z 1 ,z 2 ,...,z n )= e − 1<br />

(2π) n 2 zT z 1<br />

√ ,<br />

2 det A<br />

odnosno posle skraćivanja dobijamo<br />

ϕ(z 1 ,z 2 ,...,z n )= 1 e − 1 2<br />

(2π) n 2<br />

n∑<br />

i=1<br />

zi<br />

2 . (6.5)<br />

Uvod¯enjem smene (6.4) u integral (6.2) i primenom teorme Fubinija dobijamo<br />

∫ ∫<br />

∫ ∫<br />

1<br />

··· ϕ(x 1 ,x 2 ,...,x n )dx 1 dx 2 ···dx n = ··· e − n∑ 1 z 2 i<br />

2<br />

(2π) n i=1 dz 1 dz 2 ···dz n<br />

2<br />

R n R n<br />

= 1 ∫ ∫<br />

∏ n<br />

··· e − 1<br />

(2π) n 2 z2 i dz1 dz 2 ···dz n<br />

2<br />

=<br />

R n<br />

n∏<br />

∫<br />

1<br />

( √<br />

2π<br />

i=1<br />

R<br />

i=1<br />

∫<br />

e − 1 1<br />

2 z2 i dzi )=( √<br />

2π<br />

R<br />

e − 1 2 t2 dt) n =1.<br />

Poslednja jednakost sledi iz činjenice da je izraz u zagradi integral funkcije gustine jednodimenzionalne<br />

slučajne promenljive sa N (0, 1) raspodelom.<br />

Integral u poslednjem redu je u stvari integral od proizvoda jednodimenzionalnih<br />

marginalnih funkcija raspodela<br />

∫ ∫<br />

1 ∏ n ∫ ∫<br />

··· e − 1<br />

(2π) n 2 z2 i dz1 dz 2 ···dz n = ··· ϕ Z1 (z 1 )ϕ Z2 (z 2 ) ···ϕ Zn (z n )dz 1 dz 2 ···dz n<br />

2<br />

R n<br />

i=1<br />

gde su slučajne promenljive Z i : N (0, 1) komponente slučajnog vektora Z =(Z 1 ,...,Z n )<br />

dobivenog transformacijom Z = MY. Primetimo još daiz<br />

R n<br />

ϕ(z 1 ,z 2 ,...,z n )=ϕ Z1 (z 1 )ϕ Z2 (z 2 ) ···ϕ Zn (z n )<br />

sledidasuslučajne promenljive Z i<br />

Z : N (0,E).<br />

: N (0, 1) nezavisne, kao i da za slučajan vektor Z važi<br />

Na osnovu prethodnih razmatranja možemo formulisati sledeću teoremu:<br />

Teorema 32 Ako je X =(X 1 ,X 2 ,...,X n ) slučajan vektor sa n-dimenzionalnom normalnom<br />

raspodelom X : N (m, B), tada postoji regularna matrica M, takva da su komponente vektora<br />

Z =(Z 1 ,Z 2 ,...,Z n ) dobivenog transformacijom Z = M(X − m) nezavisne i važi Z i : N (0, 1).<br />

Primetimo da se tada slučajan vektor X izražava kao X = NZ + m, gde je N = M −1 . Pri<br />

tome važi B = NN T .<br />

U poglavlju o singularnoj normalnoj raspodeli biće pokazano pod kojim uslovima važi obrat<br />

ove teoreme.<br />

38


6.2 Značenje parametara u normalnoj raspodeli<br />

Teorema 33 Neka je X = (X 1 ,X 2 ,...,X n ) slučajan vektor sa normalnom X : N (m, B)<br />

raspodelom. Tada važi:<br />

1. parametar m je vektor matematičkih očekivanja komponenti slučajnog vektora X tj.<br />

gde je m =(m 1 ,m 2 ,...,m n ).<br />

E(X k )=m k , k =1, 2,...,n ,<br />

2. Matrica B je kovarijaciona matrica slučajnog vektora X.<br />

Dokaz.<br />

1. Polazimo od identiteta pokazanog u prethodnom poglavlju<br />

√ ∫ ∫<br />

det A<br />

··· e − 1<br />

(2π) n 2 (x−m)T A(x−m) dx 1 dx 2 ···dx n =1. (6.6)<br />

2<br />

R n<br />

Diferencirajmo levu i desnu stranu po m k . Kako je<br />

∑<br />

∂<br />

∂m k<br />

(x − m) T A(x − m) =−2 n a kl (x l − m l ), to iz (6.6) dobijamo<br />

√ ∫ det A<br />

(2π) n 2<br />

∫<br />

···<br />

R n<br />

l=1<br />

e − 1 2 (x−m)T A(x−m)<br />

n∑<br />

a kl (x l − m l )dx 1 dx 2 ···dx n =0. (6.7)<br />

l=1<br />

Parcijalni izvod<br />

∂<br />

∂m j<br />

može da ud¯e pod znak integrala, jer je podintegralna funkcija neprekidna,<br />

njen parcijalni izvod je takod¯e neprekidan, a integral u relaciji (6.7) je uniformno konvergentan.<br />

Jednakost (6.7) prema teoremi 18 znači da je<br />

E(<br />

n∑<br />

a kl (X l − m l )) = 0.<br />

l=1<br />

Odavdesekoristeći linearnost operatora E dobija<br />

n∑<br />

a kl (E(X l ) − m l )=0,<br />

l=1<br />

k =1, 2,...,n.<br />

Kako je det A ≠0, dobijeni homogeni sistem jednačina ima samo trivijalno rešenje tj.<br />

E(X l ) − m l = 0<br />

za sve l =1, 2,...,n.<br />

2. Pod¯imo od identiteta<br />

∫<br />

∫<br />

··· e − 1 2 (x−m)T A(x−m) dx 1 dx 2 ···dx n = (2π) n 2<br />

√<br />

det A<br />

R n<br />

39


Diferencirajmo levu i desnu starnu po a kl . Koristeći lemu 3 dobijamo<br />

− 1 ∫ ∫<br />

··· e − 1 2 (x−m)T A(x−m) (x k − m k )(x l − m l )dx 1 dx 2 ···dx n<br />

2<br />

R n<br />

=(2π) n 1<br />

2 (−<br />

2 )(det 3 A)− 2 (−1) k+l M kl ,<br />

gde je M kl minor elementa a kl . Posle sred¯ivanja u ovoj jednakosti dobijamo<br />

√ ∫ det A<br />

(2π) n 2<br />

∫<br />

···<br />

R n<br />

(x k − m k )(x l − m l )e − 1 2 (x−m)T A(x−m) dx 1 dx 2 ···dx n = (−1)k+l M kl<br />

det A ,<br />

to jest<br />

E((X k − m k )(X l − m l )) =<br />

a∗ kl<br />

det A ,<br />

gde je sa a kl označen (k, l)−ti član u adjungovanoj matrici matrice A. Koristeći dokazano<br />

pod 1. da je m k = E(X k )im l = E(X l ) dobijamo da je<br />

cov(X k ,X l )=(A −1 ) kl =(B) kl = b kl ,<br />

što znači da je B kovarijaciona matrica za slučajan vektor X.<br />

Posmatrajmo sada primer dvodimenzionalne normalne raspodele X : N ((m 1 ,m [ 2 ); B) gde ]<br />

b11 b<br />

je B regularna, simetrična, pozitivno semidefinitna matrica sa elementima B =<br />

12<br />

.<br />

b 12 b 22<br />

Tada je po definiciji<br />

1<br />

ϕ(x 1 ,x 2 )=<br />

2π √ 1 det(B −1 ) e− 2 (x−m)T A(x−m) .<br />

Kako je B kovarijaciona matrica, to je koeficijent korelacije za komponente vektora X 1 i X 2<br />

dat sa<br />

cov(X 1 ,X 2 )<br />

ρ = √<br />

D(X1 ) √ D(X 2 ) = b<br />

√ 12<br />

√ .<br />

b11 b22<br />

Takod¯e važe relacije<br />

det B = b 11 b 22 − (b 12 ) 2 = b 11 b 22 (1 − ρ 2 )<br />

A = B −1 =<br />

to jest dobijamo da je<br />

B∗<br />

det B = 1<br />

b 11 b 22 (1 − ρ 2 )<br />

[ ]<br />

b22 −b 12<br />

= 1<br />

−b 12 b 11<br />

]<br />

√<br />

−ρ<br />

√ b11 b22<br />

b 22<br />

1 − ρ 2 [ 1<br />

−b 12<br />

]<br />

b 11 b 11 b 22<br />

−b 12 1<br />

b 11 b 22 b 22<br />

[<br />

A = 1 1<br />

b 11<br />

1 − ρ 2 √<br />

−ρ<br />

√ 1 .<br />

b11 b22<br />

Odavde sledi izraz za funkciju gustine normalne dvodimenzionalne raspodele u obliku<br />

ϕ(x 1 ,x 2 )=<br />

[<br />

]<br />

1<br />

2π √ 1 (x 1 −m 1 ) 2<br />

b 11 b 22 (1 − ρ 2 ) e− 2(1−ρ 2 − √ 2ρ (x<br />

) b 1 −m 1 )(x 2 −m 2 )+ (x 2 −m 2 )2<br />

11 b11 b b 22 22<br />

.<br />

Specijalno za ρ = 0 dobijamo da je ϕ(x 1 ,x 2 )=ϕ X1 (x 1 )ϕ X2 (x 2 )gdesuϕ X1 i ϕ X2 marginalne<br />

funkcije gustine za slučajne promenljive sa jednodimenzionalnim normalnim raspodelama X 1 :<br />

N (m 1 ,b 11 )iX 2 : N (m 2 ,b 22 ).<br />

40<br />

,


Dakle, za slučajne promenljive sa normalnim raspodelama važi da iz njihove nekoreliranosti<br />

sledi i njihova nezavisnost.<br />

Dvodimenzionalnu normalnu raspodelu obično označavamo sa N (m 1 ,m 2 ,b 11 ,b 22 ,ρ).<br />

Na sledećim slikama je prikazano kako se grafik funkcije gustine dvodimenzionalne normalne<br />

raspodele menja u zavisnosti od njenih parametara.<br />

N (0, 0, 1, 1, 0)<br />

N (0, 0, 1, 3, 0)<br />

41


N (0, 0, 1, 1, 1 2 )<br />

6.3 Karakteristična funkcija normalne raspodele<br />

Teorema 34 Neka je X slučajan vektor sa n-dimenzionalnom normalnom raspodelom<br />

X : N(m, B). Tada je karakteristična funkcija slučajnog vektora X data sa<br />

gde je t =(t 1 ,t 2 ,...,t n ).<br />

f(t 1 ,t 2 ,...,t n )=e i〈t|m〉− 1 2 tT Bt , (6.8)<br />

Dokaz. Po definiciji karakteristične funkcije je<br />

∫ ∫<br />

f(t 1 ,t 2 ,...,t n )= ··· e i〈t|x〉 ϕ(x 1 ,x 2 ,...,x n )dx 1 dx 2 ...dx n<br />

=<br />

R n<br />

√ ∫ det A<br />

(2π) n 2<br />

∫<br />

···<br />

R n e i〈t|x〉 e − 1 2 (x−m)T A(x−m) dx 1 dx 2 ...dx n .<br />

Ako ovaj izraz pomnožimoipodelimosae i〈t|m〉 , dobićemo da je<br />

√ ∫ ∫<br />

det A<br />

f(t 1 ,t 2 ,...,t n )= e i〈t|m〉 ···<br />

(2π) n 2<br />

e i〈t|x−m〉 e − 1 2 (x−m)T A(x−m) dx 1 dx 2 ...dx n . (6.9)<br />

R n<br />

Iz teoreme 27 sledi egzistencija regularne ortogonalne matrice P, takve da važi<br />

P T BP = D<br />

gde je D = diag{λ 1 ,λ 2 ,...,λ n } i λ i > 0, i =1, 2,...n. Takod¯e je D −1 = P T AP, gdejekaoi<br />

do sada A = B −1 1<br />

, a odavde sledi da je det A =<br />

λ 1 λ 2···λ n<br />

.<br />

Uvedimo smenu<br />

x − m = Py<br />

t = Pu<br />

42


čiji je Jakobijan zbog ortogonalnosti matrice P jednak det J =(detP ) 2 =1.<br />

Tada je<br />

i 〈x − m | t〉− 1 2 〈A(x − m) | x − m〉 = i 〈Py | Pu〉−1 〈AP y | Py〉 =<br />

2<br />

i 〈 y | P T Pu 〉 − 1 〈<br />

P T AP y | y 〉 = i 〈y | u〉− 1 〈<br />

D −1 y | y 〉 ,<br />

2<br />

2<br />

pa se relacija (6.9) svodi na<br />

∫<br />

1<br />

f(u 1 ,u 2 ,...,u n )= √ e i〈t|m〉<br />

(2π) n 2 λ1 λ 2 ···λ n<br />

∫<br />

···<br />

R n e i〈y|u〉− 1 2 yT D −1y dy 1 dy 2 ...dy n . (6.10)<br />

S obzirom da je D −1 = diag{ 1 λ 1<br />

, 1 λ 2<br />

,..., 1<br />

λ n<br />

}, dobijamo<br />

f(u 1 ,u 2 ,...,u n )=<br />

∫<br />

1<br />

√ e i〈t|m〉<br />

(2π)n λ 1 λ 2 ···λ n<br />

∫<br />

···<br />

e i ∑ n y k u k − 1 2<br />

k=1<br />

n∑<br />

k=1<br />

y 2 k<br />

λ k<br />

dy 1 dy 2 ...dy n .<br />

R n<br />

Na osnovu teoreme Fubinija to je dalje jednako sa<br />

f(u 1 ,u 2 ,...,u n )=e i〈t|m〉<br />

n<br />

∏<br />

k=1<br />

∫<br />

1<br />

√ 2πλk<br />

R<br />

e iy ku k − 1 y<br />

k<br />

2<br />

2<br />

λ k dy k . (6.11)<br />

Na osnovu teoreme o karakterističnoj funkciji za slučajne promeljive, znamo da je karakteristična<br />

funkcija za normalnu N (0,λ k ) raspodelu data sa √ 2πλk<br />

∫<br />

1<br />

e iy ku k − 1 y<br />

k<br />

2<br />

2 λ k dy k = e − λ k<br />

2 u 2 k . Time<br />

relacija (6.11) postaje<br />

odnosno<br />

f(u 1 ,u 2 ,...,u n )=e i〈t|m〉<br />

n<br />

∏<br />

k=1<br />

R<br />

e − λ k<br />

2 u 2 k ,<br />

f(u 1 ,u 2 ,...,u n )=e i〈t|m〉 e − 1 2<br />

n∑<br />

λ k u 2 k<br />

k=1<br />

= e i〈t|m〉− 1 2 uT Du = e i〈t|m〉− 1 2 uT P T BPu .<br />

Ako vratimo smenu t = Pu, dobijamo<br />

f(t 1 ,t 2 ,...,t n )=e i〈t|m〉− 1 2 tT Bt<br />

što je i trebalo dokazati.<br />

Sledeća teorema tvrdi da su marginalne raspodele normalne n-dimenzionalne raspodele<br />

takod¯e normalne.<br />

Teorema 35 Neka je X =(X 1 ,X 2 ,...,X n ) slučajan vektor sa n-dimenzionalnom normalnom<br />

raspodelom X : N (m, B), gde je m =(m 1 ,m 2 ,...,m n ) i B =[b kl ] n×n<br />

. Tada za proizvoljno<br />

r ≤ n važi da marginalan slučajan vektor ˜X =(X 1 ,X 2 ,...,X r ) ima normalnu r-dimenzionalnu<br />

raspodelu sa parametrima ˜m =(m 1 ,m 2 ,...,m r ) i ˜B =[b kl ] r×r<br />

.<br />

43


Obratno tvrd¯enje u opštem slučaju ne važi, što će biti pokazano u poglavlju o singularnoj<br />

normalnoj raspodeli.<br />

Dokaz. Karakteristična funkcija marginalnog slučajnog vektora ˜X je oblika<br />

Na osnovu prethodne teoreme dobijamo da je<br />

f ˜X(t 1 ,t 2 ,...,t r )=f X (t 1 ,t 2 ,...,t r , 0, 0,...,0).<br />

f ˜X(t 1 ,t 2 ,...,t r )=e i<br />

r∑<br />

r∑ r∑<br />

t k m k − 1 b 2<br />

kl t k t l<br />

k=1<br />

k=1 l=1<br />

što je upravo oblik karakteristične funkcije za r-dimenzionalnu normalnu N ( ˜m, ˜B) raspodelu.<br />

Kako karakteristična funkcija jednoznačno odred¯uje raspodelu slučajanog vektora, sledi tvrd¯enje<br />

teoreme.<br />

6.4 Linearna kombinacija slučajnih promenljivih sa normalnom<br />

raspodelom<br />

Sledeća teorema govori o tome da slučajan vektor ima n-dimenzionlnu normalnu raspodelu ako<br />

i samo ako su sve linearne kombinacije njegovih komponenti slučajne promenljive sa normalnom<br />

raspodelom.<br />

Teorema 36 Neka je X =(X 1 ,X 2 ,...,X n ) proizvoljan slučajan vektor.<br />

(a) Ako X ima n-dimenzionalnu normalnu raspodelu X : N (m, B), tada za proizvoljne<br />

λ 1 ,λ 2 ,...,λ n ∈ R takve da postoji bar jedno λ i ≠0, važi da slučajna promenljiva n ∑<br />

ima normalnu raspodelu<br />

n∑<br />

n∑<br />

λ k X k : N ( λ k m k ; λ T Bλ).<br />

k=1<br />

k=1<br />

k=1<br />

λ k X k<br />

∑<br />

(b) Ako za sve λ 1 ,λ 2 ,...,λ n ∈ R važi da linearna kombinacija n λ k X k ima normalnu<br />

k=1<br />

raspodelu, tada slučajan vektor X ima n-dimenzionalnu normalnu raspodelu.<br />

Dokaz.<br />

(a) Karakteristična funkcija slučajnog vektora X je oblika<br />

f X (t 1 ,t 2 ,...,t n )=e i n∑<br />

t k m k − 1 2<br />

k=1<br />

n∑<br />

n∑<br />

b kl t k t l<br />

k=1 l=1 .<br />

Stavimo da je t j = λ j t, j =1, 2,...,n. Tada je prema lemi 2<br />

f n∑<br />

j=1<br />

λ j X j<br />

(t) =f X (λ 1 t, λ 2 t,...,λ n t)=e it n ∑<br />

λ k m k − 1 ∑ n n∑<br />

2 t2 b kl λ k λ l<br />

k=1<br />

k=1 l=1 ,<br />

što jeste oblik karakteristične funkcije za jednodimenzionalnu normalnu raspodelu sa<br />

∑<br />

parametrima n n∑ n∑<br />

λ k m k i b kl λ k λ l . Kako karakteristična funkcija jednoznačno odred¯uje<br />

k=1<br />

k=1 l=1<br />

slučajnu promenljivu, sledi<br />

n∑<br />

n∑<br />

λ j X j : N ( λ k m k ,λ T Bλ).<br />

j=1<br />

k=1<br />

44


(b) Stavimo λ =(λ 1 ,λ 2 ,...,λ n ).<br />

Neka slučajna promenljiva 〈λ | X〉 = n ∑<br />

j=1<br />

λ j X j ima normalnu raspodelu tj.<br />

〈λ | X〉 : N (E(〈λ | X〉),D(〈λ | X〉).<br />

Tada je karakteristična funkcija za 〈λ | X〉 oblika E(e it〈λ|X〉 ) = e itE(〈λ|X〉)− 1 2 D(〈λ|X〉)t2 ,<br />

odakle za t = 1 dobijamo<br />

E(e i〈λ|X〉 )=e iE(〈λ|X〉)− 1 2 D(〈λ|X〉) .<br />

Operator E je linearan, a prema relaciji (4.3) je D(〈λ | X〉) =<br />

n ∑<br />

k=1 k=1<br />

n∑<br />

λ k λ l cov(X k ,X l ),<br />

odakle sledi<br />

E(e i〈λ|X〉 )=e i ∑ n n∑ n∑<br />

λ k E(X k )− 1 λ 2<br />

k λ l cov(X k ,X l )<br />

k=1<br />

k=1 k=1 . (6.12)<br />

Kako je karakteristična funkcija slučajnog vektora X data sa f X (t 1 ,t 2 ,...,t n )=E(e i〈t|X〉 ),<br />

to ako u relaciji (6.12) formalno stavimo (λ 1 ,λ 2 ,...,λ n )=(t 1 ,t 2 ,...,t n ) dobijamo<br />

f X (t 1 ,t 2 ,...,t n )=e i n ∑<br />

n∑ n∑<br />

t k E(X k )− 1 t 2<br />

k t l cov(X k ,X l )<br />

k=1<br />

k=1 k=1 ,<br />

što je upravo oblik karakteristične funkcije sa n-dimenzionalnom normalnom raspodelom.<br />

Sledi da<br />

X : N (m, B)<br />

gde su m =(E(X 1 ),E(X 2 ),...,E(X n )) i B =[cov(X k ,X l ] n×n<br />

.<br />

Na osnovu prethodne teoreme sledi da se n-dimenzionalna normalna raspodela se može<br />

definisati i na sledeći način: slučajan vektor X = (X 1 ,X 2 ,...,X n ) ima n-dimenzionalnu<br />

normalnu raspodelu X : N (m, B),akozasveλ 1 ,λ 2 ,...,λ n ∈ R važi da linearna kombinacija<br />

n∑<br />

λ k X k ima normalnu raspodelu.<br />

k=1<br />

Napomena 9 Na osnovu prethodne teoreme, linearna kombinacija KOMPONENTI slučajnog<br />

vektora sa n-dimenzionalnom normalnom raspodelom takod¯e ima normalnu raspodelu. Ali:<br />

linearna kombinacija proizvoljnih normalno raspored¯enih slučajnih promenljivih ne mora biti<br />

slučajna promenljiva sa normalnom raspodelom, što će biti pokazano jednim kontraprimerom<br />

u narednom poglavlju. Med¯utim, ako su te slučajne promenljive npr. nezavisne, tada na osnovu<br />

teoreme o proizvodu karakterističnih funkcija važi da i njihova linearna kombinacija ima<br />

normalnu raspodelu.<br />

Posmatrajmo prostor L 2 − prostor slučajnih promenljivih sa konačnim drugim momentom.<br />

Slučajne promenljive sa normalnom raspodelom pripadaju prostoru L 2 jer imaju konačnu<br />

disperziju. Na osnovu prethodne teoreme se svaki konačan podprostor L{X 1 ,X 2 ,...,X n }<br />

generisan slučaj-nim promenljivama sa normalnom raspodelom sastoji isključivo od slučajnih<br />

promenljivih sa normalnom raspodelom. Naredna teorema proširuje ovaj rezultat i na zatvorene<br />

beskonačno-dimenzionalne podprostore L{X 1 ,X 2 ,...} generisane slučajnim promenljivama sa<br />

normalnom raspodelom.<br />

Teorema 37 Neka je X 1 ,X 2 ,... niz slučajnih promenljivih sa normalnom raspodelom koji<br />

konvergira u verovatnoći ka slučajnoj promenljivoj X. Tada i slučajna promenljiva X ima<br />

normalnu raspodelu.<br />

45


Dokaz. Neka je m n = E(X n )iσ 2 n = D(X n ).<br />

Kako niz {X n } konvergira u verovatnoći ka X, to postoji podniz {X nk } koji konvergira skoro<br />

sigurno ka X. Primenom teoreme o dominantnoj konvergnciji na niz { e itXn k<br />

}<br />

dobijamo<br />

lim<br />

k→∞ eitmn k − 1 2 σ2 n t 2 k = lim E(e itXn k )=E(e itX ). (6.13)<br />

k→∞<br />

Teorema o dominantnoj konvergenciji se može primeniti jer je ∣ ∣e itXn k ∣ ≤ 1 ∈ L 2 .<br />

Kako postoji granična vrednost leve strane u relaciji (6.13), to postoje brojevi m i σ takvi<br />

da je m = lim m nk i σ 2 = lim σn 2 k→∞ k→∞ k<br />

. Sada je<br />

E(e itX )=e itm− 1 2 σ2 t 2<br />

odakle sledi da X : N (m, σ 2 ).<br />

Kako je za slučajne promenljive sa normalnom raspodelom konvergencija u verovatnoći ekvivalentna<br />

konvergenciji u srednjekvadratnom, možemo zaključiti da zatvorena linearna mogostrukost<br />

L{X 1 ,X 2 ,...} sadrži samo slučajne promenljive sa normalnom raspodelom.<br />

6.5 Singularna normalna raspodela<br />

Pod¯imo od jednog primera koji pokazuje da ako su X i Y slučajne promenljive sa normalnom<br />

rspodelom, tada slučajan vektor sa komponentama (X, Y ) ne mora imati dvodimenzionalnu<br />

normalnu raspodelu. Čak šta više,nemorabitinislučajan vektor apsolutno neprekidnog tipa.<br />

Primer 6 Neka je data slučajna promenljiva X : N (0, 1) nad prostorom verovatnoće (Ω, F,P).<br />

Tada slučajna promenljiva dobijena linearnom transformacijom<br />

Y = −2X +1<br />

ima prema propoziciji 3 normalnu raspodelu Y : N (1, 4). Kako važi 2X + Y =1, tj.<br />

P {ω ∈ Ω:2X(ω)+Y (ω) =1} = 1 (6.14)<br />

sledi da slučajan vektor (X, Y ) sa verovatnoćom jedan uzima vrednosti sa prave<br />

L = {(x, y) ∈ R 2 :2x + y =1}.<br />

Prava L je Borelov skup u R 2 Lebegove mere nula, tj.<br />

λ(L) =0.<br />

S druge strane je prema relaciji (6.14) P XY (L) =P ((X, Y ) −1 (L)) = 1, odnosno<br />

P XY (R 2 \L) =0,<br />

gdejesaP XY označena verovatnosna mera raspodele slučajnog vektora (X, Y ) na merljivom<br />

prostoru (R 2 , B(R 2 )).<br />

Dakle, mere P XY i Lebegova mera su uzajamno singularne, što znači da je slučajan vektor<br />

(X, Y ) singularnog tipa.<br />

46


Razlog zašto slučajan vektor (X, Y ) nije imao normalnu raspodelu je u tome što komponente<br />

X i Y nisu bile LINEARNO NEZAVISNE! Dakle, pored pojma ”verovatnosne” nezavisnosti<br />

slučajnih promenljivih uvodimo i pojam linearne nezavisnosti, pomoću koje ćemo definisati<br />

slučajne vektore sa n-dimenzionalnom singularnom normalnom raspodelom. Definiciju singularne<br />

normalne raspodele ćemouvestitakodaovuvrsturaspodeleimajuslučajni vektori koji -<br />

analogno relaciji (6.14) - sa verovatnoćom jedan uzimaju vrednosti sa neke hiperravni generisane<br />

slučajnim vektorom sa ”regularnom” normalnom raspodelom.<br />

Definicija 37 Slučajne promenljive X 1 ,X 2 ,...,X n date nad prostorom verovatnoće (Ω, F,P)<br />

su linearno nezavisne, ako za proizvoljne realne brojeve a 1 ,a 2 ,...,a n važi implikacija:<br />

n∑<br />

a i X i (ω) =0 s.s.(P ) ⇒ a i =0 za sve i =1, 2,...,n.<br />

i=1<br />

Pretpostavimo nadalje da radimo samo sa slučajnim promenljivama za koje je matematičko<br />

očekivanje jednako nuli, što ne predstavlja nikakvo ograničenje jer se svaka slučajna promenljiva<br />

može centralizovati.<br />

Neka je Y =(Y 1 ,Y 2 ,...,Y n ) proizvoljan slučajan vektor. Tada je zbog pretpostavke<br />

E(Y i )=0 zasvei =1, 2,...,n zadovoljeno cov(Y i ,Y j )=E(Y i Y j ), i,j =1, 2,...,n. Dakle<br />

matrica B data sa<br />

B = E(YY T )<br />

je kovarijaiona matrica slučajnog vektora Y, gde operator očekivanja E deluje član po član na<br />

matricu YY T .<br />

Specijalno, ako sve komponente Y i imaju konačan moment drugog reda (štozanormalnu<br />

raspodelu važi), tada je B Gramova matrica vektora Y u Hilbertovom prostoru L 2 . Prema<br />

teoremi iz linearne algebre je tada det B ≠0akkosuY 1 ,Y 2 ,...,Y n linearno nezavisni.<br />

Slučaj 1.<br />

Neka je det B ≠0. Tada prema prethodno rečenom Y 1 ,Y 2 ,...,Y n moraju biti linearno nezavisni.<br />

Takod¯e znamo da postoji ortogonalna matrica O takva da je O T BO = D = diag{λ 1 ,...,λ n } i<br />

λ i > 0zasvei =1, 2,...,n. Označimo sa C = √ D. Tada se smenom<br />

Z =(C −1 O T )Y<br />

dobija da važi E(ZZ T )=E. Dakle, komponente vektora Z =(Z 1 ,Z 2 ,...,Z n ) su nekorelirane,<br />

što u slučaju normalne raspodele povlači i njihovu nezavisnost u verovatnosnom smislu. Važi<br />

Y = MZ, gde je M = CO, ivaži<br />

L{Y 1 ,Y 2 ,...,Y n } = L{Z 1 ,Z 2 ,...,Z n }.<br />

Primetimo da pretpostavka E(Y i )=0zasvei =1, 2,...,n, ne utiče na linearnu nezavisnost,<br />

jer ako su Y 1 ,Y 2 ,...,Y n linearno nezavisni vektori u prostoru L 2 , tada su i translirani vektori<br />

X 1 ,X 2 ,...,X n gde je X i = Y i +m i takod¯e linearno nezavisni. U tom slučaju važi X = MZ+m<br />

i<br />

L{X 1 ,X 2 ,...,X n } = m + L{Z 1 ,Z 2 ,...,Z n }.<br />

Slučaj 2.<br />

Neka je rangB = r


postoji tačno n − r linearno nezavisnih vektora c (1) ,c (2) ,...,c (n−r) ∈ R n takvih da je<br />

Q(c (i) )=0 zasve i =1, 2,...,n− r.<br />

Tada je zbog pretpostavke E(Y i )=0,<br />

n∑<br />

n∑<br />

n∑ n∑<br />

D( a k Y k )=E( a k Y k ) 2 = a i a j E(Y i Y j )=<br />

što dalje daje<br />

k=1<br />

k=1<br />

i=1 j=1<br />

n∑ n∑<br />

a i a j cov(Y i ,Y j )=Q(a)<br />

i=1 j=1<br />

Odavde sledi<br />

n∑<br />

k=1<br />

D(<br />

n∑<br />

k=1<br />

c (i)<br />

k Y k)=0 zasve i =1, 2,...,n− r.<br />

c (i)<br />

k Y k(ω) = 0 za skoro sve ω ∈ Ω i sve i =1, 2,...,n− r.<br />

Znači, postoji tačno n − r linearnih veza izmed¯u vektora Y 1 ,Y 2 ,...,Y n . Pretpostavimo da su<br />

baš prvihr vektora linearno nezavisna, pa je tada<br />

L{Y 1 ,Y 2 ,...,Y n } = L{Y 1 ,Y 2 ,...,Y r }.<br />

Isti rezultat se dobija i za slučajne promenljive X i (i =1, 2,...,n)sanenulamatematičkim<br />

očekivanjem: ako je njihova kovarijaciona matrica ranga r, tada je L{X 1 ,X 2 ,...,X n } =<br />

L{X 1 ,X 2 ,...,X r }.<br />

Naredna teorema daje uslove pod kojima važi obrat teoreme 32.<br />

Teorema 38 Neka je X =(X 1 ,X 2 ,...,X n ) proizvoljan slučajan vektor sa linearno nezavisnim<br />

komponentama. Neka je E(X i )=m i , i =1, 2,...,n. Ako postoje nezavisne slučajne<br />

promenljive Z i : N (0, 1) imatricaM dimenzije n × n, takvi da važi<br />

X = MZ + m,<br />

tada slučajan vektor X ima n-dimenzionalnu normalnu raspodelu sa parametrima X : N (m, MM T ).<br />

Dokaz. Karakteristična funkcija slučajnog vektora X je data sa<br />

f X (t 1 ,t 2 ,...,t n )=E(e i〈t|X〉 )=E(e i〈t|MZ+m〉 )=e i〈t|m〉 E(e i〈M T t|Z〉 )=e i〈t|m〉 f Z (M T t).<br />

Kako slučajan vektor Z =(Z 1 ,Z 2 ,...,Z n ) ima n-dim. normalnu raspodelu Z : N (0,E), znamo<br />

oblik njene karakteristične funcije, pa dobijamo<br />

f X (t 1 ,t 2 ,...,t n )=e i〈t|m〉 e − 1 2 (M T t) T (M T t) = e i〈t|m〉 e − 1 2 tT (MM T )t ,<br />

što je upravo oblik karakteristične funkcije za normalnu n-dimenzionalnu raspodelu sa parametrima<br />

m i MM T .<br />

Matrica MM T je kovarijaciona matrica slučajnog vektora X, pa linearna nezavisnost komponenti<br />

X 1 ,X 2 ,...,X n obezbed¯uje njenu regularnost. Takod¯e je iz linearne algebre poznato da<br />

je svaka matrica oblika MM T simetrična i pozitivno semidefinitna.<br />

Definicija singularne normalne raspodele na prirodan način proširuje pojam regularne<br />

normalne raspodele, koja ima specijalnu karakterizaciju datu prethodnom teoremom i teoremom<br />

32.<br />

48


Definicija 38 Slučajan vektor Y =(Y 1 ,Y 2 ,...,Y n ) ima normalnu n-dimenzionalnu raspodelu,<br />

ako postoji slučajan vektor X =(X 1 ,X 2 ,...,X k ) sa regularnom k-dimenzionalnom normalnom<br />

raspodelom takav da je<br />

Y = AX + m (6.15)<br />

za neku matricu A dimenzije n × k i neki vektor m ∈ R n .<br />

Ako je k


Deo III<br />

Uslovno matematičko očekivanje<br />

50


”Generalni koncept uslovnog matematičkog očekivanja je jedan od fundamentalnih, najmanje<br />

intuitivnih i najkomplikovanijih ideja u teoriji verovatnoće.”[5, M.M. Rao]<br />

U ovom delu seminarskog rada biće data neka vrsta intuitivne motivacije za definiciju<br />

uslovnog očekivanja u odnosu na σ-algebru koja je diskretno generisana, a zatim i opšti koncept<br />

uslovnog očekivanja kao Radon-Nikodimovog izvoda. Treba istaći da uslovno očekivanje<br />

slučajne promenljive za razliku od ”običnog” matematičkog očekivanja nije brojčana vrednost,<br />

nego jedna nova slučajna promenljiva.<br />

Pored pojma uslovnog matematičkog očekivanja razmatra se i pojam uslovne verovatnoće,<br />

koja je takod¯e slučajna promenljiva. Dati su neki rezultati vezani za regularnost uslovne<br />

verovatnoće tj. za slučaj kada se ona za fiksiran argument može uzeti za klasičnu verovatnosnu<br />

meru.<br />

Ključnu ulogu u koncipiranju uslovnog matematičkog očekivanja igra teorema Radon-Nikodimova,<br />

jedna od fundamentalnih teorema iz teorije mere. Ovde se ona navodi bez dokaza, koji<br />

nimalo nije naivan, a zainteresovani čitalac se upućuje na ([3]).<br />

6.6 Teorema Radon-Nikodima<br />

Neka je (Ω, F,P) prostor verovatnoće i neka je f :Ω→ R merljivo preslikavanje. Tada je<br />

skupovna funkcija Q : F→R data sa<br />

∫<br />

Q(E) = fdP, E ∈F<br />

E<br />

σ-aditivna skupovna funkcija koja je apsolutno neprekidna u odnosu na meru P,uoznaciQ ≪ P,<br />

tj. za proizvoljno A ∈ F važi implikacija P (A) = 0 ⇒ Q(A) = 0. Specijalno, ako je f<br />

nenegativna funkcija, tada je Q mera.<br />

Obrat ovog tvrd¯enja daje teorema Radon-Nikodimova:<br />

Teorema 39 (Radon - Nikodim)Neka su P mera i Qσ-aditivna skupovna funkcija na<br />

merljivom prostoru (Ω, F,P) takve da je Q apsolutno neprekidna u odnosu na meru P. Tada<br />

postoji merljiva funkcija f :Ω→ R, takva da važi relacija<br />

∫<br />

Q(E) = fdP (6.17)<br />

za svako E ∈F. Pri tome je funkcija f jedinstvena u sledećem smislu: ako postoji merljivo<br />

preslikavanje g sa osobinom<br />

∫ ∫<br />

Q(E) = fdP = gdP<br />

E<br />

za svako E ∈F, tada je f s.s.<br />

= g. Oznaka s.s. se odnosi na meru P.<br />

Specijalno, ako je i Q mera, tada je preslikavanje f koje zadovoljava uslov (6.17) nenegativno.<br />

Funkcija f iz ove teoreme se naziva Radon-Nikodimov izvod mere Q po meri P ioznačava<br />

se sa<br />

f = dQ ili dQ = fdP.<br />

dP<br />

Opravdanje za takav naziv možemo videti u formalnoj sličnosti sa diferencijalnim količnikom.<br />

Naime, važe formule:<br />

E<br />

51<br />

E


1. Ako je Q 1 ≪ P i Q 2 ≪ P ,tada<br />

d(Q 1 + Q 2 )<br />

dP<br />

= dQ 1<br />

dP + dQ 2<br />

dP .<br />

2. Ako je Q ≪ P ≪ S, tada<br />

dQ<br />

dS = dQ dP<br />

∫dP<br />

dS ∫<br />

Q(E) = fdP =<br />

E<br />

E<br />

f dP<br />

dS dS.<br />

Za funkciju f koja je jedinstvena do na skup P-mere nula u gore navedenom smislu kazaćemo<br />

da je esencijalno jedinstvena.<br />

52


Glava 7<br />

Pojam uslovnog matematičkog<br />

očekivanja<br />

Neka je (Ω, F,P) prostor verovatnoće. Pretpostavimo da imamo informaciju o realizaciji nekog<br />

dogad¯aja A ∈F. Postavlja se pitanje kako odrediti verovatnoće ostalih elemenata iz F, koristeći<br />

znanje o dogad¯aju A. Posmatrajmo indukovanu σ-algebru<br />

F(A) ={A ∩ B : B ∈F},<br />

koja je σ-algebra na osnovnom skupu A. Ako bi smo posmatrali restrikciju verovatnosne mere<br />

P na F(A) kao funkciju P A : F(A) → R + datu sa P A (A∩B) =P (A∩B), B∈F, tada bi bilo<br />

P A (Ω ∩ A) =P (A) ≤ 1. Dakle, potrebno je meru P A normalizovati da bi postala verovatnosna<br />

mera. U tu svrhu definišemo uslovnu verovatnoću u odnosu na dogad¯aj A kao preslikavanje<br />

P (· |A) :F→R + dato sa<br />

P (A ∩ B)<br />

P (B | A) = ,<br />

P (A)<br />

ako je P (A) > 0. Time smo sa osnovnog prostora verovatnoće (Ω, F,P)prešli na prostor<br />

(Ω, F,P(· |A)). Ako sada posmatramo restrikciju uslovne verovatnoće na F(A), tada ona jeste<br />

verovatnosna mera čime dobijamo novi prostor verovatnoće (Ω, F(A),P(· |A)).<br />

Za uslovnu verovatnoću P (· |A) ćemo ravnopravno koristiti i oznaku P A .<br />

Definicija 40 Neka je X integrabilna slučajna promenljiva na (Ω, F,P) i neka je dogad¯aj<br />

A ∈Ftakav da je P (A) > 0. Definišemo uslovno matematičko očekivanje slučajne<br />

promenljive X u odnosu na dogad¯aj A kao matematičko očekivanje slučajne promenljive<br />

X nad prostorom verovatnoće (Ω, F,P A ) tj.<br />

∫<br />

E(X | A) = XdP A .<br />

Ω<br />

Lema 5 Važi<br />

E(X | A) = 1 ∫<br />

P (A)<br />

A<br />

XdP. (7.1)<br />

53


∑<br />

Dokaz. Ako je X diskretna slučajna promenljiva oblika X = ∞ x i I Ai tada je<br />

∫<br />

E(X | A) =<br />

Ω<br />

= 1<br />

P (A)<br />

XdP A =<br />

∞∑<br />

i=1<br />

∞∑<br />

x i P A (A i )=<br />

i=1<br />

x i P (A ∩ A i )= 1<br />

P (A)<br />

∫<br />

A<br />

∞∑<br />

i=1<br />

i=1<br />

x i<br />

P (A ∩ A i )<br />

P (A)<br />

XdP.<br />

Ako je X nenegativna slučajna promenljiva, tada postoji niz diskretnih slučajnih promenljivih<br />

{X n } takav da X n ↗ X. Tada primenjujući teoremu o monotonoj konvergenciji dobijamo<br />

∫ ∫<br />

∫<br />

XdP A = lim X ndP A = lim X n dP A<br />

n→∞ n→∞<br />

Ω<br />

Ω<br />

1<br />

= lim<br />

n→∞ P (A)<br />

∫<br />

A<br />

Ω<br />

X n dP = 1<br />

P (A)<br />

∫<br />

A<br />

lim X ndP = 1 ∫<br />

n→∞ P (A)<br />

A<br />

XdP.<br />

Ako je X proizvoljna slučajna promenljiva, tada koristeći razlaganje X = X + − X − i<br />

linearnost integrala dobijamo da važi relacija (7.1).<br />

Formula (7.1) je ekvivalentna sa<br />

E(X | A) = 1 ∫<br />

XI A dP = 1<br />

P (A)<br />

P (A) E(XI A).<br />

Ω<br />

Iz dokaza prethodne leme se vidi da se ova jednakost u slučaju kada je X diskretnog tipa svodi<br />

na<br />

∞∑<br />

E(X | A) = x i P (A i | A).<br />

i=1<br />

E(X | Ā) = 1 ∫<br />

P (Ā)<br />

Ako je i P (Ā) > 0, tada je<br />

Utomslučaju je preslikavanje f X :Ω→ R dato sa<br />

Ā<br />

XdP.<br />

f X (ω) =E(X | A)I A (ω)+E(X | Ā)IĀ (ω) =<br />

slučajna promenljiva diskretnog tipa (prima samo dve vrednosti).<br />

Analogno ovom postupku posmatrajmo particiju skupa Ω = ∞ ⋃<br />

{ E(X | A), ω ∈ A<br />

E(X | Ā), ω ∈ Ā ,<br />

i=1<br />

A i , gde su A i ∈F,<br />

P (A i ) > 0zai =1, 2,... i A i ∩ A j = ∅ za i ≠ j. Tada je slučajna promenljiva definisana sa<br />

f X (ω) =<br />

∞∑<br />

I Ai (ω)E(X | A i )<br />

i=1<br />

diskretna slučajna promenljiva na Ω koja je merljiva u odnosu na σ-algebru generisanu datom<br />

particijom B = σ[{A n } n∈N ]. Naime, ako je C proizvoljan Borelov skup sa realne prave, tada je<br />

f −1<br />

X (C) =⋃ A i gde se unija uzima po onim indeksima i za koje važi E(X | A i ) ∈ C.<br />

i<br />

54


Ako je data particija skupa Ω = A 1 ∪ A 2 ∪··· takva da je P (A n ) = 0 za neke dogad¯aje<br />

s.s.<br />

A n ,tadajeE(X | A n ) nedefinisano, ali važi da je I An = 0, pa za takve indekse n proglasimo<br />

proizvoljan broj α ∈ R za E(X | A n )idefinišemo funkciju<br />

˜f X (ω) =<br />

∞∑<br />

I Ai (ω)E(X | A i ).<br />

i=1<br />

Ovako definisana slučajna promenljiva nije jednoznačno odred¯ena, ali jeste jedinstvena do na<br />

skup P-mere nula. Klasu ekvivalencije funkcije ˜f X u odnosu na relaciju jednakosti funkcija skoro<br />

svuda označavaćemo sa E(X |B)izvaćemo je uslovno matematičko očekivanje u odnosu na<br />

σ-algebru B koja je generisana prebrojivom particijom {A n } n∈N . Preciznije, dajemo definiciju:<br />

Definicija 41 Neka je X integrabilna slučajna promenljiva na verovatnosnom prostoru (Ω, F,P)<br />

i neka je prebrojiva familija {A n } n∈N ⊂Fparticija za Ω. Uslovno matematičko očekivanje<br />

slučajne promenljive X u odnosu na σ-algebru B = σ[{A n } n∈N ] je diskretna slučajna<br />

promenljiva definisana do na skup P -mere nula data sa<br />

⎛<br />

⎞<br />

∞∑<br />

E(X |B)(ω) = I Ai (ω) ⎝ 1 ∫<br />

XdP⎠ . (7.2)<br />

P (A i )<br />

i=1<br />

Pomoću uslovnog matematičkog očekivanja može se definisati uslovna verovatnoća u odnosu<br />

na σ-algebru dogad¯aja:<br />

A i<br />

Definicija 42 Uslovna verovatnoća dogad¯aja B ∈F u odnosu na σ-algebru<br />

B = σ[{A n } n∈N ] je uslovno matematičko očekivanje od indikatora dogad¯aja B tj.<br />

Za X = I B ,B∈F relacija (7.2) postaje<br />

pa imamo da je<br />

E(I B |B)(ω) =<br />

∞∑<br />

i=1<br />

P (B |B)=E(I B |B).<br />

( )<br />

1<br />

I Ai (ω)<br />

P (A i ) P (A i ∩ B) =<br />

P (B |B)(ω) =<br />

∞∑<br />

I Ai (ω)P (B | A i ),<br />

i=1<br />

∞∑<br />

I Ai (ω)P (B | A i ).<br />

i=1<br />

Dakle i uslovno matematičko očekivanje i uslovna verovatnoća su slučajne promenljive merljive<br />

u odnosu na σ-algebru B.<br />

Označimo sa P B restrikciju mere P na σ-algebru B.<br />

Propozicija 5 Neka je X slučajna promenljiva na prostoru (Ω, F,P) .Za proizvoljan skup<br />

B ∈Bvaži sledeća relacija ∫<br />

∫<br />

E(X |B)dP B = XdP. (7.3)<br />

B<br />

B<br />

55


Dokaz. Proizvoljan skup B iz σ-algebre generisane disjunktnim skupovima A i može se<br />

napisati kao unija nekih od ovih skupova tj. B = ⋃ A j gde je J ⊂ N konačan ili prebrojiv<br />

j∈J<br />

skup indeksa. Tada je razbijanje Ω = ¯B ∪ ⋃ A j nova particija skupa ishoda koja generiše istu<br />

j∈J<br />

σ-algebru B. Prema relaciji (7.2) je<br />

⎛ ⎛<br />

∫<br />

∫<br />

⎜<br />

∑<br />

⎜<br />

E(X |B)dP B = ⎝ ⎝ 1 ∫<br />

P (A j )<br />

B<br />

B<br />

j∈J<br />

A j<br />

⎞<br />

⎟<br />

XdP⎠ I Aj +<br />

⎛<br />

⎝ 1<br />

P ( ¯B)<br />

∫<br />

¯B<br />

⎞<br />

⎞<br />

XdP⎠ ⎟<br />

I ¯B ⎠ dP B<br />

Integral od drugog sabirka je nula zbog B ∩ ¯B = ∅. Integraleći prvi sabirak kao diskretnu<br />

slučajnu promenljivu dobijamo<br />

⎛<br />

⎞<br />

∫<br />

E(X |B)dP B = ∑ ⎜<br />

⎝ 1 ∫<br />

⎟<br />

XdP⎠ P B (A j ∩ B).<br />

P (A j )<br />

B<br />

j∈J<br />

A j<br />

Kako je B = ⋃ A j , sledi da je P B (A j ∩ B) =P B (A j )=P (A j ) pa posle skraćivanja dobijamo<br />

j∈J<br />

⎛ ⎞<br />

∫<br />

E(X |B)dP B = ∑ ∫<br />

∫ ∫<br />

⎜ ⎟<br />

⎝ XdP⎠ = XdP = XdP.<br />

B<br />

j∈J<br />

⋃<br />

A j<br />

A<br />

B<br />

j<br />

Primetimo da slučajna promenljiva X ne mora biti B-merljiva, dok E(X |B)touvekjeste.<br />

Uslučaju kada σ-algebra B nije prebrojivo generisana, uslovno matematičko očekivanje se<br />

definiše upravo relacijom iz prethodne propozicije.<br />

Posmatrajmo skupovnu funkciju ν : B→R datu sa<br />

∫<br />

ν(B) = XdP, B ∈B. (7.4)<br />

B<br />

Ona je σ-aditivna skupovna funkcija apsolutno neprekidna u odnosu na meru P B = P ↾ B .<br />

Prema teoremi Radon-Nikodimova sledi da postoji esencijalno jedinstvena (jedinstvena do na<br />

skup P B -mere nula) B-merljiva funkcija f X takva da važi<br />

∫<br />

ν(B) = f X dP B , to jest,<br />

j∈J<br />

∫<br />

∫<br />

XdP =<br />

B<br />

f X dP B ,<br />

za svako B ∈B.<br />

B<br />

B<br />

Funkciju f X označavamo sa E(X |B) i nazivamo uslovnim matematičkim očekivanjem u odnosu<br />

na σ-algebru B.<br />

Definicija 43 Neka je (Ω, F,P) verovatnosni prostor, B⊂F proizvoljna σ-podalgebra i<br />

X :Ω→ R integrabilna slučajna promenljiva. Esencijalno jedinstvenu B-merljivu funkciju<br />

E(X |B):Ω→ R koja zadovoljava jednakost<br />

∫<br />

∫<br />

E(X |B)dP B = XdP (7.5)<br />

B<br />

B<br />

56


za svako B ∈B, nazivamo uslovno matematičko očekivanje slučajne promenljive X<br />

u odnosu na σ-algebru B.<br />

Neka je za A ∈ F<br />

P (A |B)=E(I A |B).<br />

Tada se P (· |B) naziva uslovna verovatnoća na σ-algebri F uodnosunaσ-algebru<br />

B.<br />

Učetvrtom poglavlju biće pokazano da se definicija uslovnog matematičkog očekivanja data<br />

preko Radon-Nikodimove teoreme u slučaju kada je σ-algebra B prebrojivo generisana, poklapa<br />

sa konstrukcijom uslovnog očekivanja po definiciji 41.<br />

Uslovna verovatnoća data u prethodnoj definiciji je slučajna promenljiva nad Ω koja je<br />

B-merljiva. Ona je definisana za svako A ∈Fdo na neki skup mere nula, koji zavisi od A.<br />

Zato funkcija P (· |B)(ω) zafiksiranoω ∈ Ωuopštem slučaju ne može biti korišćena kao mera<br />

na F. U trećem poglavlju biće diskutovani uslovi regularnosti uslovne verovatnoće kada se ona<br />

može uzeti za verovatnosnu meru na F.<br />

Propozicija 6 Neka je B ∈F proizvoljan dogad¯aj. Slučajna promenljiva P (B |B) je uslovna<br />

verovatnoća ako i samo ako je B-merljiva i za svako A ∈F važi<br />

∫<br />

P (A ∩ B) = P (B |B)dP B . (7.6)<br />

Dokaz. Neka je P (B |B) uslovna verovatnoća. Tada je ona B-merljiva i<br />

∫<br />

∫<br />

∫<br />

P (B |B)dP B = E(I B |B)dP B = I B dP = P (A ∩ B).<br />

A<br />

A<br />

A<br />

A<br />

Obratno, ako važi relacija (7.6) tada je<br />

∫<br />

∫<br />

P (B |B)dP B = P (A ∩ B) =<br />

I B dP.<br />

A<br />

A<br />

Kako je P (B |B) B-merljiva, to iz jedinstvenosti Radon-Nikodimovog izvoda sledi P (B |B)=<br />

E(I B |B).<br />

57


Glava 8<br />

Osobine uslovnog matematičkog<br />

očekivanja<br />

Propozicija 7 Uslovno matematičko očekivanje ima sledeće osobine:<br />

1. E(E(X |B)) = E(X).<br />

2. Ako je X merljiva u odnosu na B, tada E(X |B) s.s.<br />

= X.<br />

3. Ako je X ≥ 0, tada je i E(X |B) ≥ 0 s.s..<br />

4. Ako je X s.s.<br />

= c gde je c proizvoljna konstanta, tada je E(X |B) s.s.<br />

= c.<br />

5. Ako je B = {∅, Ω} trivijalna σ-algebra, tada E(X |B) s.s.<br />

= E(X).<br />

Dokaz.<br />

1. Kako relacija (7.5) važi za svako B ∈B, to za B = Ω dobijamo traženu jednakost. Dakle,<br />

slučajna promenljiva X i njeno uslovno matematičko očekivanje kao slučajna promenljiva<br />

imaju isto ”obično” matematičko očekivanje.<br />

2. Tvrd¯enje sledi iz jedinstvenosti Radon-Nikodimovog izvoda.<br />

3. Ako je X nenegativna slučajna promenljiva, tada je skupovna funkcija ν definisana sa (7.4)<br />

mera, pa je i Radon-Nikodimov izvod nenegativna slučajna promenljiva tj. E(X |B) ≥ 0<br />

s.s.<br />

4. Kako je za proizvoljan Borelov skup A ∈B(R) inverzna slika<br />

{ ∅, c /∈ A<br />

X −1 (A) =<br />

Ω, c ∈ A<br />

sledi da je konstantna slučajna promenljiva merljiva u odnosu na svaku σ-algebru, pa i<br />

na σ-algebru B. Sada na osnovu 2. dobijamo E(X |B) s.s.<br />

= X s.s.<br />

= c.<br />

5. E(X) je kao konstantna slučajna promenljiva merljiva u odnosu na B, azadovoljavai<br />

relaciju (7.5) za svaki skup B ∈{∅, Ω} jer je E(E(X)) = E(X). Na osnovu esencijalne<br />

jedinstvenosti Radon-Nikodimovog izvoda sledi da je E(X) s.s.<br />

= E(X |B).<br />

58


Propozicija 8<br />

1. Ako su X 1 i X 2 integrabilne i a 1 ,a 2 proizvoljne konstante, tada važi<br />

E(a 1 X 1 + a 2 X 2 |B) s.s.<br />

= a 1 E(X 1 |B)+a 2 E(X 2 |B). (8.1)<br />

tj. operator E(· |B):L 1 → L 1 je linearan operator nad prostorom integrabilnih slučajnih<br />

promenljivih.<br />

2. Ako je X 1 ≤ X 2 , tada je E(X 1 |B) s.s.<br />

≤ E(X 2 |B).<br />

Dokaz.<br />

1.<br />

∫<br />

Koristeći linearnost integrala i relaciju (7.5) dobijamo da je za proizvoljan skup B ∈B<br />

E(a 1 X 1 + a 2 X 2 |B)dP B = ∫ ∫<br />

∫<br />

(a 1 X 1 + a 2 X 2 )dP = a 1 X 1 dP + a 2 X 2 dP<br />

B ∫<br />

∫ B<br />

B<br />

B<br />

= a 1 E(X 1 |B)dP B + a 2 E(X 2 |B)dP B = ∫ (a 1 E(X 1 |B)+a 2 E(X 2 |B))dP B .<br />

B<br />

B B<br />

Kako je skup B izabran proizvoljno, sledi da važi (8.1).<br />

Ako je X ∈ L 1 tj. E(X) < ∞, tada koristeći prvu osobinu iz prethodne propozicije<br />

dobijamo da je i E(E(X |B)) < ∞ odnosno da E(X |B) ∈ L 1 . Dakle operator uslovnog<br />

očekivanja slika prostor L 1 u samog sebe.<br />

2. X 2 −X 1 je po pretpostavci nenegativna slučajna promenljiva, odakle prema trećoj osobini<br />

iz prethodne propozicije sledi E(X 2 −X 1 |B) s.s.<br />

≥ 0. Koristeći malopre dokazanu linearnost<br />

dobijamo E(X 2 |B) − E(X 1 |B) s.s.<br />

≥ 0.<br />

Propozicija 9<br />

1. |E(X |B)| ≤E(|X| |B).<br />

2. ||E(X |B)|| L 1 ≤||X|| L 1 tj. operator E(· |B):L 1 → L 1 je neekspanzivan.<br />

Dokaz.<br />

1. Iz −|X| ≤X ≤|X| na osnovu monotonosti sledi −E(|X| |B) ≤ E(X |B) ≤ E(|X| |<br />

B), odakle se direktno dobija |E(X |B)| ≤E(|X| |B).<br />

2. Kao posledica od 1. sledi<br />

||E(X |B)|| L 1 = ∫ |E(X |B)| dP B ≤ ∫ E(|X| |B)dP B = ∫ |X| dP = ||X|| L 1 .<br />

Ω<br />

Ω<br />

Ω<br />

Teorema 40 (o monotonoj konvergenciji)<br />

Neka je {X n }⊂L 1 niz integrabilnih slučajnih promenljivih takvih da X n ↗ X s.s. Neka postoji<br />

slučajna promenljiva Y ∈ L 1 takva da je Y ≤ X n za sve n ∈ N. Tada za proizvoljnu σ-podalgebru<br />

B⊂F važi<br />

E(X n |B) ↗ E(X |B) s.s.<br />

Dokaz. Pokažimo prvo da E(X |B) postoji tako što ćemo pokazati da postoji E(X). Za<br />

to je dovoljno pokazati da je E(X + ) < ∞ ili E(X − ) < ∞. KakojeY ≤ X i Y ∈ L 1 , to sledi<br />

da je −∞


konvergeniji na niz {E(X n |B)} n∈N dobijamo da je za proizvoljan skup A ∈Bispunjeno<br />

∫<br />

∫<br />

∫ ∫ ∫<br />

lim E(X n |B)dP B = lim E(X n |B)dP B = lim X n dP = XdP = E(X |B)dP B .<br />

n→∞ n→∞ n→∞<br />

A<br />

A<br />

Podintegralne funkcije sa početka i kraja ove relacije su B-merljive, a skup A ∈Bje proizvoljan,<br />

odakle sledi da mora biti lim E(X n |B) s.s.<br />

= E(X |B).<br />

n→∞<br />

Primetimo da klasična teorema o monotonoj konvergenciji iz konvergencije slučajnih promenljivih<br />

daje konvergenciju niza realnih brojeva, dok teorema o monotonoj konvergenciji za uslovno<br />

očekivanje daje kao rezultat konvergenciju niza slučajnih promenljivih {E(X n |B)} n∈N .<br />

Teorema 41 ( o dominantnoj konvergenciji)<br />

s.s.<br />

Neka je dat niz slučajnih promenljivih {X n } koji konvergira X n → X. Neka postoji Y ∈ L 1<br />

tako da je za svako n ∈ N |X n |≤Y s.s. Tada važi<br />

A<br />

E(|X n − X| |B) s.s.<br />

→ 0.<br />

Dokaz. Iz uslova |X n |≤Y ∈ L 1 dobijamo da je X n ,X∈ L 1 odakle sledi da su i E(X n |B),<br />

E(X |B) ∈ L 1 . Neka je<br />

Z n =sup|X k − X| .<br />

k≥n<br />

s.s.<br />

Kako X n → X, to sledi da Z n ↘ 0s.s.Takod¯e važi da je Z n ≤ 2Y ∈ L 1 pa primenom klasične<br />

teoreme o dominantnoj konvergencicji na niz {Z n } dobijamo<br />

∫<br />

lim Z n dP =0.<br />

n→∞<br />

Ω<br />

Kako je 0 ≤ E(Z n+1 |B) ≤ E(Z n |B) s.s., to sledi da postoji s.s. lim E(Z n |B). Važi<br />

n→∞<br />

∫<br />

∫<br />

∫<br />

0 ≤ lim E(Z n |B)dP B ≤ E(Z n |B)dP B = Z n dP → 0.<br />

n→∞<br />

Odavde sledi da je ∫ Ω<br />

Ω<br />

lim E(Z n |B)dP B =0što povlači<br />

n→∞<br />

lim E(Z n |B) s.s.<br />

=0.<br />

n→∞<br />

Kako je 0 ≤ E(|X n − X| |B) ≤ E(Z n |B) sledi da je i<br />

Kao posledica dobija se da važi<br />

Ω<br />

lim E(|X n − X| |B) s.s.<br />

=0.<br />

n→∞<br />

E(X n |B) s.s.<br />

→ E(X |B).<br />

Teorema 42 (lema Fatua)<br />

Neka je {X n }⊂L 1 niz slučajnih promenljivih i neka su Y,Z ∈ L 1 . Tada važi<br />

1. Ako je Y ≤ X n s.s., onda<br />

E(lim inf<br />

n<br />

X n |B)) ≤ lim inf<br />

n E(X n |B) s.s.<br />

60<br />

Ω<br />

A<br />

A


2. Ako je X n ≤ Z s.s., onda<br />

E(lim sup<br />

n<br />

X n |B)) ≥ lim sup E(X n |B)<br />

n<br />

s.s.<br />

Dokaz. Dokazaćemo prvu verziju leme za liminf, azalimsup se dokaz izvodi analogno.<br />

Neka je<br />

Z n =inf X k.<br />

k≥n<br />

Tada Z n ↗ sup(inf<br />

X k) = lim inf X n. Važi i da je Y ≤ Z n . Prema teoremi o monotonoj<br />

n k≥n n<br />

konvergenciji je<br />

E(Z n |B) ↗ E(lim inf X n |B) s.s. (8.2)<br />

n<br />

Važi da je E(Z n |B) ≤ E(X k |B)zasvek ≥ n, odakle sledi E(Z n |B) ≤ inf E(X k |B) ≤<br />

k≥n<br />

sup(inf<br />

E(X k |B)) = lim inf E(X n |B)) s.s.. Kada na levoj strani pustimo limes, dobijamo<br />

n k≥n n<br />

lim E(Z n |B) ≤ lim inf E(X n |B)) s.s. (8.3)<br />

n→∞ n<br />

Dakle,<br />

E(lim inf X n |B) (8.2)<br />

= lim E(Z n |B) (8.3)<br />

≤ lim inf E(X n |B).<br />

Teorema 43 Neka su X n nenegativne slučajne promenljive za sve n ∈ N. Tada<br />

∞∑<br />

∞∑<br />

E( X k |B)= E(X k |B) s.s.<br />

k=1<br />

k=1<br />

Dokaz. Za konačan zbir slučajnih promenljivih operator uslovnog očekivanja jeste linearan<br />

∑<br />

prema prethodnoj propoziciji. Dakle, za svako n ∈ N je E( n ∑<br />

X k |B)= n E(X k |B) s.s.<br />

Kako je svako X n ≥ 0, primenom teoreme o monotonoj konvergenciji dobijamo<br />

∞∑<br />

n∑<br />

n∑<br />

E( X k |B)=E( lim X k |B) = lim E( X k |B)<br />

n→∞<br />

n→∞<br />

k=1<br />

= lim<br />

n→∞<br />

k=1<br />

n∑<br />

E(X k |B)=<br />

k=1<br />

k=1<br />

k=1<br />

∞∑<br />

E(X k |B)<br />

k=1<br />

s.s.<br />

k=1<br />

Teorema 44 Neka su X, Y slučajne promenljive na (Ω, F,P) takve da su X i XY integrabilne.<br />

Ako je Y merljiva u odnosu na σ-algebru B, tada je<br />

E(XY |B)=YE(X |B)<br />

s.s.<br />

Dokaz. Pokazaćemo da je za svaki skup A ∈B<br />

∫ ∫<br />

XY dP = YE(X |B)dP B . (8.4)<br />

A<br />

A<br />

odakle će zbog jedinstvenosti Radon-Nikodimovog izvoda sledeti tvrd¯enje teoreme.<br />

61


1. Neka je Y = I B za neko B ∈B. Tada je<br />

∫<br />

∫ ∫<br />

XI B dP = XdP =<br />

∫<br />

E(X |B)dP B =<br />

I B E(X |B)dP B .<br />

A<br />

A∩B<br />

A∩B<br />

A<br />

∑<br />

2. Neka je Y nenegativna diskretna slučajna promenljiva oblika Y = ∞ a i I Ai , gde su<br />

A i ∈B, a i ∈ R. Tada relacija (8.4) važi za sve indikatore I Ai pa na osnovu linearnosti<br />

integrala dobijamo<br />

∫ ∞∑<br />

∞∑<br />

∫<br />

∞∑<br />

∫<br />

X a i I Ai dP = a i XI Ai dP = a i I Ai E(X |B)dP B<br />

A<br />

i=1<br />

i=1<br />

∫<br />

=<br />

A<br />

A<br />

i=1<br />

∞∑<br />

∫<br />

a i I Ai E(X |B)dP B =<br />

i=1<br />

A<br />

A<br />

i=1<br />

YE(X |B)dP B .<br />

3. Neka je Y proizvoljna nenegativna slučajna promenljiva. Tada postoji niz B-merljivih<br />

nenegativnih diskretnih slučajnih promenljivih {Y n } n∈N za koji važi 0 ≤ Y n ↗ Y. Relacija<br />

(8.4) važi za svako Y n . Prema teoremi o monotonoj konvergenciji dobijamo<br />

∫ ∫<br />

∫<br />

XY dP = X lim Y n dP = lim XY n dP<br />

n→∞ n→∞<br />

A<br />

A<br />

∫<br />

= lim<br />

n→∞<br />

A<br />

A<br />

∫<br />

Y n E(X |B)dP B =<br />

A<br />

YE(X |B)dP B .<br />

4. Ako je Y proizvoljna slučajna promenljiva, tada je možemo razložiti na Y = Y + − Y −<br />

gde su Y + iY − nengativne, pa koristeći (8.4) za Y + i Y − i linearnost integrala dobijamo<br />

traženo tvrd¯enje.<br />

Teorema 45 Neka su B 1 ⊂B 2 ⊂F dve σ-podalgebre i X integrabilna slučajna promenljiva.<br />

Tada<br />

E(E(X |B 2 ) |B 1 )=E(E(X |B 1 ) |B 2 )=E(X |B 1 )<br />

tj. operatori E(· |B 1 ) i E(· |B 2 ) komutiraju na L 1 .<br />

Dokaz. Važi da je E(X |B 1 ) merljiva u odnosu na B 1 , pa samim tim i u odnosu na B 2 .<br />

Znamo da je E(1 |B 2 ) = 1 s.s. Na osnovu prethodne teoreme sledi<br />

E(1 · E(X |B 1 ) |B 2 )=E(X |B 1 )E(1 |B 2 )=E(X |B 1 ) s.s.<br />

S druge strane po definiciji uslovnog očekivanja je za proizvoljan skup A ∈B 1 ⊂B 2<br />

∫<br />

∫<br />

∫ ∫<br />

E(E(X |B 2 ) |B 1 )dP B1 = E(X |B 2 )dP B2 = XdP = E(X |B 1 )dP B1 .<br />

A<br />

A<br />

A<br />

A<br />

Odavde sledi da moa biti ∫ A<br />

E(E(X |B 2 ) |B 1 ) s.s.<br />

= E(X |B 1 ).<br />

62


Teorema 46 Neka su X i Y integrabilne slučajne promenljive takve da je i XY integrabilna,<br />

i neka su date σ-podalgebre B 1 ⊂B 2 ⊂F .AkojeY merljiva u odnosu na B 2 , tada je<br />

E(XY |B 1 )=E(YE(X |B 2 ) |B 1 ) s.s.<br />

Dokaz. Na osnovu teoreme 44 je E(XY |B 2 )=YE(X |B 2 ), a na osnovu teoreme 45 je<br />

E(E(XY |B 2 ) |B 1 )=E(XY |B 1 ).<br />

63


Glava 9<br />

Uslovna verovatnoća<br />

U prvom poglavlju bila je definisana uslovna verovatnoća kao<br />

P (A |B)=E(I A |B).<br />

Propozicija 10 Preslikavanje P (· |B):F→L 1 ima sledeće osobine:<br />

1. 0 ≤ P (A |B) ≤ 1 s.s.<br />

2. Ako P (A) =0ili P (A) =1, onda P (A |B)=0ili P (A |B)=1s.s.<br />

3. Ako je {A n }⊂F monoton niz dogad¯aja sa granicom A = lim<br />

n→∞<br />

A n , tada važi<br />

P (A |B) s.s.<br />

= lim<br />

n→∞<br />

P (A n |B).<br />

4. Ako su {A n }⊂F disjunktni dogad¯aji, tada važi<br />

∞⋃<br />

∞∑<br />

P ( A n |B) s.s.<br />

= P (A n |B).<br />

Dokaz.<br />

n=1<br />

1. Kako indikator dogad¯aja I A primasamodvevrednosti: 0i1, na osnovu monotonosti<br />

operatora E sledi da je i 0 ≤ E(I A |B) ≤ 1.<br />

2. Neka je P (A) =0. Tada iz ∫ P (A |B)dP B = P (A ∩ B) ≤ P (A) =0, za proizvoljno<br />

B<br />

B ∈B, sledi da je P (A |B) s.s.<br />

=0.<br />

Pretpostavimo da je P (A) =1. Tada je za proizvoljno B ∈Bzadovoljeno<br />

∫<br />

∫<br />

P (A |B)dP B = P (A ∩ B) =P (B) =P B (B) = 1dP B ,<br />

n=1<br />

B<br />

B<br />

odakle sledi P (A |B) s.s.<br />

=1.<br />

64


3. Koristeći neprekidnost mere P dobijamo<br />

∫<br />

P (A |B)dP B = P (A ∩ B) =P ( lim A n ∩ B) = lim P (A n ∩ B)<br />

n→∞ n→∞<br />

B<br />

∫<br />

= lim<br />

n→∞<br />

B<br />

∫<br />

P (A n |B)dP B =<br />

B<br />

lim P (A n |B)dP B .<br />

n→∞<br />

Poslednja jednakost je dobijena na osnovu teoreme o monotonoj konvergenciji<br />

(niz P (A n |B) je monoton jer je A n monoton niz i operator E je monoton). Kako je skup<br />

B ∈Bproizvoljan, sledi da je P (A |B) s.s.<br />

= lim n→∞ P (A n |B).<br />

4.<br />

∫<br />

Slično kao i pod 3. koristimo σ-aditivnost mere P, na osnovu koje dobijamo<br />

P ( ⋃ A n |B)dP B = P ( ⋃ A n ∩ B) = ∑ P (A n ∩ B) = ∑ ∫<br />

P (A n |B)dP B<br />

B n∈N<br />

n∈N<br />

n∈N<br />

n∈N B<br />

= ∫ ∑<br />

P (A n |B)dP B . Odavde sledi P ( ⋃ A n |B) s.s.<br />

= ∑ P (A n |B).<br />

B n∈N<br />

n∈N<br />

n∈N<br />

Kako P (A |B) nije broj nego slučajna promenljiva, prethodna propozicija tvrdi da P (· |B)<br />

preslikava F u pozitivan deo jedinične lopte u L 1 idajeσ-aditivna za skoro svako fiksirano<br />

ω ∈ Ω. Za fiksirano ω ∈ Ω uslovna verovatnoća P (· |B)(ω) ima sve osobine kao i klasična<br />

verovatnoća u terminologiji ”skoro svuda”. Ovo bi nas moglo dovesti do zakjlučka da ako<br />

izaberemo iz klasa ekvivalencije P (A |B) jednu reprezentativnu funkciju (tzv. ”verziju”), tada<br />

bi P (· |B)(ω) mogla da se tretira kao verovatnosna mera za svako ω ∈ Ω\N gde je P (N) =0.<br />

Med¯utim ovo generalno nije moguće ako F nije prebrojivo generisana. Naime, svaki skup N<br />

nad kojim P (A |B) nije mera zavisi i od skupa A. Ako sa N A označimo skup za koji važi da je<br />

P (A |B)(ω) verovatnosna mera za ω ∈ Ω\N A , tada je skup koji treba isljučiti da bi P (· |B)(ω)<br />

bila verovatnosna mera dat sa<br />

N = ⋃ N A .<br />

A∈F<br />

Iako su svi skupovi N A mere nula, skup N ne mora biti mere nula, jer se unija uzima po svim<br />

skupovima iz σ-algebre F, dakle nije prebrojiva unija.<br />

Uslučajevima kada se uslovna verovatnoća može uzeti za verovatnosnu meru u klasičnom<br />

smislu, nazivaćemo je regularnom uslovnom verovatnoćom. Preciznije, važi sledeća definicija:<br />

Definicija 44 Preslikavanje P (·, ·) :Ω×F →R je regularna uslovna verovatnoća, ako<br />

1. P (ω, ·) :F→R je verovatnosna mera za s.s. ω ∈ Ω.<br />

2. P (·,A):Ω→ R je B-merljiva funkcija takva da je P (·,A) s.s..<br />

= P (A |B) za sve A ∈F.<br />

Drugi uslov iz definicije tvrdi da je P (·,A) jedna od verzija uslovne verovatnoće P (A |B).<br />

Naredna teorema daje izuzetno značajan rezultat, da u slučaju kada je uslovna verovatnoća<br />

regularna, uslovno matematičko očekivanje se može izračunatikaointegralpomeriuslovne<br />

verovatnoće.<br />

Teorema 47 Neka je P (ω, B) regularna uslovna verovatnoća po σ-algebri B i neka je X integrabilna<br />

slučajna promenljiva. Tada važi<br />

∫<br />

E(X |B)(ω) s.s.<br />

= X(˜ω)P (ω, d˜ω). (9.1)<br />

Ω<br />

65


Dokaz.<br />

1. Neka je X = I A za neko A ∈F. Tada formula (9.1) postaje P (A |B) s.s.<br />

= P (ω, A)što jeste<br />

tačno po drugom uslovu definicije regularne mere.<br />

2. Ako je X diskretna slučajna promenljiva, tada prema regularnosti mere sledi<br />

∞∑<br />

∞∑<br />

∞∑<br />

E( x i I Ai |B)(ω) = x i E(I Ai |B)(ω) = x i P (A i |B)(ω)<br />

i=1<br />

=<br />

i=1<br />

∞∑<br />

∫<br />

x i P (ω, A i )=<br />

i=1<br />

Ω<br />

i=1<br />

X(˜ω)P (ω, d˜ω).<br />

3. Ako je X nenegativna slučajna promenljiva, tada postoji niz diskretnih slučajnih promenljivih<br />

za koji važi X n ↗ X s.s. Prema teoremi o monotonoj konvergenciji je E(X |B)(ω) s.s.<br />

=<br />

lim E(X n |B)(ω). Kako je za fiksirano ω ∈ Ω preslikavanje P (ω, ·) mera, to je<br />

n→∞<br />

∫<br />

E(X |B)(ω) = lim E(X n |B)(ω) = lim<br />

n→∞ n→∞<br />

∫<br />

=<br />

Ω<br />

lim X n(˜ω)P (ω, d˜ω) =<br />

n→∞<br />

∫<br />

Ω<br />

Ω<br />

X(˜ω)P (ω, d˜ω).<br />

X n (˜ω)P (ω, d˜ω)<br />

4. Za proizvoljnu slučajnu promenljivu X se relacija (9.1) pokazuje pomoću razlaganja X =<br />

X + − X − .<br />

Napomena 10 Relacija oblika (9.1) važi i u slučaju kada uslovna verovatnoća nije regularna.<br />

Utomslučaju integral treba shvatiti kao Dunford-Schwarzov (D-S) integral po tzv. vektorskoj<br />

meri P (· |B). (D-S) integral ima sličnu konstrukciju kao i Lebegov integral, a vrednost tog<br />

integrala je slučajna promenljiva iz prostora L 1 . Zainteresovani čitalac se dalje upućuje na<br />

([5]).<br />

Postoji kriterijum za proveravanje regularnosti uslovne verovatnoće, koji se ovde navodi bez<br />

dokaza:<br />

Teorema 48 Neka je (Ω, F,P) prostor verovatnoće, B ⊂ F σ-podalgebra i X : Ω → R<br />

slučajna promenljiva. Uslovna verovatnoća P (· |B) je regularna za X tj.P (· |B) ◦ X −1 je<br />

regularna, ako postoji Borelov skup B ∈ X(Ω) takav da je P (X −1 (B)) = 1.<br />

Posledica 49 Ako je X slučajna promenljiva apsolutno neprekidnog tipa, tada je uslovna<br />

verovatnoća regularna. Traženi skup B je oblika B = {x ∈ R : ϕ(x) ≠0} gde je ϕ(x) funkcija<br />

gustine slučajne promenljive X.<br />

66


Glava 10<br />

Uslovno matematičko očekivanje u<br />

odnosu na σ-algebru generisanu<br />

merljivom funkcijom<br />

Neka je (Ω, F,P) prostor verovatnoće i (E,E) merljiv prostor. Neka je preslikavanje h :Ω→ E<br />

merljivo preslikavanje u odnosu na σ-algebru F. Definišimo verovatnosnu meru Q na (E,E) sa<br />

Q = P ◦ h −1<br />

tj. Q(A) =P (h −1 (A)) za proizvoljno A ∈E. Označimo sa B h σ-algebru generisanu merljivim<br />

preslikavanjem h tj.<br />

B h = h −1 (E).<br />

B h je σ-podalgebra od σ-algebre F. Stavimo da je P Bh = P ↾ Bh restrikcija mere P na σ-algebru<br />

B h . Tada je P Bh ◦ h −1 = Q.<br />

Neka je X :Ω→ R slučajna promenljiva (F-merljiva funkcija) koja je P -integrabilna. Tada<br />

je skupovna funkcija µ X : B h → R data sa<br />

∫<br />

µ X (A) = XdP Bh , za A ∈B h<br />

konačna σ-aditivna funkcija. Neka je<br />

A<br />

ν X = µ X ◦ h −1 ,<br />

odnosno<br />

ν X (B) =<br />

∫<br />

XdP Bh<br />

za B ∈E.<br />

h −1 (B)<br />

Tada je funkcija ν X : E → R σ-aditivna na E iizP Bh ◦ h −1 = Q sledi da je ν X apsolutno<br />

∫<br />

g X dQ =<br />

∫<br />

neprekidna u odnosu na Q. Prema teoremi Radon-Nikodima sledi da postoji E-merljiva<br />

Q-jedinstvena integrabilna funkcija g X : E → R takvadajeν X (B) = ∫ g X dQ tj.<br />

B<br />

XdP Bh (10.1)<br />

B<br />

h −1 (B)<br />

za sve B ∈E.<br />

67


Funkcija g X se naziva uslovno očekivanje slučajne promenljive X u odnosu na σ-<br />

algebru B h ioznačava se<br />

g X (e) =E(X |B h )(e) =E(X | h = e), e ∈ E.<br />

Specijalno, ako je E =Ω,hidentičko preslikavanje i E = B⊂F data σ-podalgera, tada je<br />

g X = E(X |B), a relacija (10.1) se svodi na već poznatu definiciju uslovnog očekivanja<br />

∫<br />

∫<br />

E(X |B)dP B = XdP.<br />

B<br />

B<br />

10.1 Uslovno očekivanje u odnosu na diskretno generisanu<br />

σ-algebru<br />

Neka je dat verovatnosni prostor (Ω, F,P)iσ-podalgebra B⊂Fkoja je diskretno generisana,<br />

tj. generisana je prebrojivom particijom Ω = A 1 ∪ A 2 ∪··· , gde su {A n } n∈N ⊂F.<br />

Stavimo da je prostor (E,E) merljiv prostor (N, P(N)). Definišimo preslikavanje h :Ω→ N<br />

sa<br />

h(ω) =n, ako ω ∈ A n<br />

tj. h −1 ({n}) =A n . Tada je σ-algebra indukovana preslikavanjem h upravo σ-algebra B. U<br />

skladu sa prethodnim razmatranjima imamo da je<br />

Q({n}) =P (A n ).<br />

Neka je X :Ω→ R slučajna promenljiva. Tada za merljiv skup B = {n} relacija (10.1)<br />

postaje<br />

∫ ∫<br />

g X dQ = XdP.<br />

Kako je ∫<br />

{n}<br />

{n}<br />

g X dQ = g X (n)Q({n}) =g X (n)P (A n ) dobijamo da je<br />

A n<br />

g X (n) = 1 ∫<br />

P (A n )<br />

A n<br />

XdP.<br />

68


U alternativnoj oznaci to znači g X (n) =E(X | h = n) =E(X |B)(n) =E(X | A n ) odnosno<br />

E(X | A n )= 1 ∫<br />

XdP,<br />

P (A n )<br />

što je upravo relacija preko koje smo definisali uslovno očekivanje u (7.2). Dakle definicija<br />

uslovnog očekivanja u odnosu na diskretno generisanu σ-algebru data u prvom poglavlju je<br />

specijalan slučaj definicije uslovnog očekivanja kao Radon-Nikodimovog izvoda.<br />

10.2 Uslovno matematičko očekivanje u odnosu na σ-<br />

algebru generisanu slučajnom promenljivom<br />

Neka je prostor (E,E) =(R, B(R))inekajepreslikavanjeh slučajna promenljiva Y :Ω→ R.<br />

Tada je shodno prethodnim razmatranjima mera Q = P Y gde je P Y raspodela verovatnoće<br />

slučajne promenljive Y. Označimo sa σ[Y ] σ-algebru generisanu slučajnom promenljivom Y tj.<br />

u prethodnim oznakama to znači B h = σ[Y ]. Tada postoji kao i u (10.1) jedinstvena Borelova<br />

funkcija m : R → R takva da važi<br />

∫<br />

∫<br />

m(y)dP Y = XdP σ[Y ] (10.2)<br />

A n<br />

B<br />

Y −1 (B)<br />

za proizvoljan Borelov skup B ∈B(R).<br />

Označimo:<br />

m(y) =E(X | Y = y),<br />

E(X | σ[Y ]) = E(X | Y ).<br />

S druge strane, na osnovu teoreme (18) Lebegov integral sa leve strane u (10.2) je<br />

∫<br />

∫<br />

m(y)dP Y (y) = (m ◦ Y )dP. (10.3)<br />

B<br />

Y −1 (B)<br />

Iz (10.2) i (10.3) sada dobijamo da je<br />

∫<br />

(m ◦ Y )dP =<br />

∫<br />

XdP σ[Y ] =<br />

∫<br />

E(X | Y )dP,<br />

Y −1 (B)<br />

Y −1 (B)<br />

Y −1 (B)<br />

odnosno<br />

To znači da dijagram na slici komutira.<br />

Definicija 45 Za proizvoljan dogad¯aj A ∈F definišemo<br />

m ◦ Y s.s.<br />

= E(X | Y ). (10.4)<br />

P (A | Y = y) =E(I A | Y = y).<br />

69


R<br />

Prema propoziciji (6) ova definicija je ekvivalentna sa<br />

∫<br />

P (A ∩ Y −1 (B)) = P (A | Y = y)dP Y (10.5)<br />

B<br />

za proizvoljno B ∈B(R).<br />

Neka je (X, Y )slučajan vektor apsolutno neprekidnog tipa sa funkcijom gustine ϕ(x, y).<br />

Neka su ϕ X (x) iϕ Y (y) odgovarajuće marginalne funkcije gustine. Definišimo preslikavanje<br />

ϕ X|Y (x | y) =<br />

{<br />

ϕ(x,y)<br />

, ϕ Y (y)<br />

ϕ Y (y) ≠0<br />

0, ϕ Y (y) =0 .<br />

Pokazaćemo da je ovako definisano preslikavanje funkcija gustine za uslovnu raspodelu tj. da<br />

je ona Radon-Nikodimov izvod uslovne verovatnosne mere P (· |Y = y) po Lebegovoj meri. To<br />

tvrd¯enje sledi iz sledeće teoreme:<br />

Teorema 50 Za proizvoljan Borelov skup C ∈B(R) važi<br />

∫<br />

P (X ∈ C | Y = y) = ϕ X|Y (x | y)dx<br />

C<br />

Dokaz.<br />

Pokazaćemo da ∫ C<br />

ϕ X|Y (x | y)dx zadovoljava uslov (10.5) iz definicije uslovne<br />

verovatnoće. U ovom slučaju je A = X −1 (C). Za proizvoljan Borelov skup B ∈ B(R) je<br />

na( osnovu Fubinijeve ) teoreme<br />

∫ ∫<br />

ϕ X|Y (x | y)dx dP Y = ∫ ( )<br />

∫<br />

ϕ X|Y (x | y)dx ϕ Y (y)dy =<br />

∫<br />

ϕ X|Y (x | y)ϕ Y (y)dxdy<br />

B C<br />

B C<br />

C×B<br />

= ∫<br />

ϕ(x, y)dxdy = P {(X, Y ) ∈ C × B} = P {X ∈ C ∩ Y ∈ B}<br />

C×B<br />

što je i trebalo pokazati.<br />

Dakle funkcija ϕ X|Y (x | y) je Radon-Nikodimov izvod uslovne verovatnoće<br />

P Y = P (· |Y = y) u odnosu na Lebegovu meru tj.<br />

ϕ X|Y (x | y) = dP Y<br />

dx .<br />

Kako se radi o slučajnoj promenljivoj apsolutno neprekidnog tipa, sledi da je uslovna verovatnoća<br />

regularna mera, pa na osnovu teoreme (9.1) i smene u integralu dobijamo posledicu:<br />

70


Posledica 51<br />

∫<br />

E(X | Y = y) =<br />

Ω<br />

∫<br />

XdP Y =<br />

R<br />

xϕ X|Y (x | y)dx.<br />

10.3 Teorija ocenjivanja<br />

Neka su date slučajne promenljive X i Y na prostoru verovarnoće (Ω, F,P). Postavlja se pitanje<br />

kako na osnovu vrednosti funkcije X oceniti vrednosti Y <br />

Definicija 46 Neka je h(x) Borelova funkcija. Slučajnu promenljivu<br />

nazivamo ocena od Y po X. Veličinu<br />

h ◦ X = h(X)<br />

E(Y − h(X)) 2<br />

nazivamo srednjekvadratna greška ocene h(X).<br />

Ocena h ∗ (X) je optimalna ocena (u srednjekvadratnom smislu), ako je<br />

E(Y − h ∗ (X)) 2 =inf<br />

h<br />

gde se inf uzima po svim Borelovim funkcijama.<br />

E(Y − h(X))2<br />

Teorema 52 Neka je E(Y 2 ) < ∞. Tada optimalna ocena h ∗ (X) postoji i možemo uzeti<br />

h ∗ (x) =E(Y | X = x).<br />

Dokaz. Ako stavimo da je h ∗ (x) =E(Y | X = x), tada na osnovu prethodnog poglavlja<br />

znamo da je<br />

h ∗ (X) =E(Y | X).<br />

Za proizvoljnu Borelovu funkciju h važi<br />

E(Y − h(X)) 2 = E(Y ± h ∗ (X) − h(X)) 2<br />

= E(Y − h ∗ (X)) 2 + E(h ∗ (X) − h(X)) 2 +2E((Y − h ∗ (X))(h ∗ (X) − h(X))).<br />

Drugi sabirak je nenegativan, a treći je identički jednak nuli što sledi iz osobina uslovnog<br />

očekivanja. Naime na osnovu osobine E(Z) =E(E(Z |B)) dobijamo<br />

E((Y − h ∗ (X))(h ∗ (X) − h(X))) = E (E((Y − h ∗ (X))(h ∗ (X) − h(X)))) | X).<br />

Kako je h ∗ (X)−h(X) merljiva u odnosu na σ[X], to na osnovu teoreme (44) sledi dalja jednakost<br />

E (E((Y − h ∗ (X))(h ∗ (X) − h(X)))) | X) =E((h ∗ (X) − h(X))E(Y − h ∗ (X) | X)) = 0.<br />

Poslednja jednakost važi jer je<br />

E(Y − h ∗ (X) | X) =E(Y − E(Y | X) | X) =E(Y | X) − E(E(Y | X) | X) =0.<br />

Dakle važi E(Y − h(X)) 2 ≥ E(Y − h ∗ (X)) 2 .<br />

Drugim rečima, ovo znači da je u Hilbertovom prostoru L 2 uslovno očekivanje E(Y | X)<br />

ortogonalna projekcija vektora Y ∈ L 2 na linearnu mnogostrukost (pravu) generisanu vektorom<br />

X ∈ L 2 .<br />

71


Literatura<br />

[1] Hadžić O.:<strong>Odabrane</strong> metode teorije verovatnoće, Institut za matematiku, Novi Sad, 1990<br />

[2] Ivković Z.A. : Teorija verovatnoća sa matematičkom statistikom, Grad¯evinska Knjiga,<br />

Beograd, 1976<br />

[3] Mirković B.:Teorija mera i integrala, Naučna knjiga, Berograd, 1990<br />

[4] Mladenović P.:Verovatnoća i statistika, VESTA - Matematički fakultet, Beograd, 1995<br />

[5] Rao M.M. : Stohastic Processes and Integration, Sijthoff & Nordhoff, 1979<br />

[6]<br />

Širjaev A.N. : Verojatnost, Nauka, Moskva, 1989<br />

72

Hooray! Your file is uploaded and ready to be published.

Saved successfully!

Ooh no, something went wrong!