breve esposizione della teoria della probabilità

1. TEORIA GENERALE DELLA PROBABILITÀ
1.1. CONTESTO APPLICATIVO
Definizione 1. esperimento
Un esperimento è una qualsiasi procedura
- della quale tutti i possibili risultati sono noti prima dell’esecuzione,
- il cui risultato è identificabile senza alcuna residua incertezza dopo
l’esecuzione,
- il cui risultato prima dell’esecuzione non può essere anticipato con
certezza, poiché non si hanno sufficienti informazioni.
G. E. Cantarella - GAST - DICIV - UNISA
Definizione 2. spazio delle prove
Lo spazio delle prove S è l’insieme di tutti i possibili risultati.
Definizione 3. evento
Un evento A è un sottoinsieme dello spazio delle prove; A ⊆ S. Un evento A si
verifica quando il risultato r dell’esperimento è uno degli elementi che gli
appartengono: r ∈ A, altrimenti non si verifica: r ∉ A. Coerentemente:
- lo spazio delle prove è un evento, detto evento certo, poiché si verifica con
certezza;
- l’insieme vuoto, ∅, è un evento, detto evento impossibile, poiché non si
può verificare;
- dato un evento, A ⊆ S, è definito l’evento complemento,⎺A ⊆ S, che si
verifica quando non si verifica il primo evento, ossia il risultato r
dell’esperimento non appartiene al primo evento, r ∉ A;
- dati due eventi, A ⊆ S, B ⊆ S, è definito l’evento unione, A ∪ B ⊆ S, che si
verifica quando si verifica almeno uno dei due eventi (ossia il risultato r
dell’esperimento appartiene ad almeno uno dei due eventi, r ∈ A ∨ r ∈ B);
- dati due eventi, A ⊆ S, B ⊆ S, è definito l’evento intersezione, A ∩ B ⊆ S, che
si verifica quando si verificano entrambi i due eventi (ossia il risultato r
dell’esperimento appartiene ad entrambi gli eventi, r ∈ A ∧ r ∈ B); i due
eventi si dicono disgiunti se la loro intersezione è l’insieme vuoto.
COMMENTO. Non è necessario introdurre altre operazioni, poiché tutte le
operazioni possibili (o banali) possono essere costruire combinando
opportunamente le operazioni precedenti (vedi 4.).
1

COMMENTO. Non è necessario considerare come eventi tutti i sottoinsiemi
dello spazio delle prove, ma è sufficiente considerare una famiglia di
sottoinsiemi che contenga l’evento certo, l’evento impossibile e sia chiusa
rispetto alle operazioni di complemento, unione ed intersezione.
COMMENTO. Un evento può anche essere definito da un enunciato (sul risultato
dell’esperimento) che può essere: VERO (1) O FALSO (0) (vedi 5.).
1.2. ASSIOMI E PROBABILITÀ DELLE OPERAZIONI
Definizione 4. probabilità
La probabilità di un evento è un indicatore del grado di fiducia associato (in
un contesto applicativo) da parte dell’osservatore al verificarsi dell’evento.
Da un punto di vista matematico è definito un operatore Pr[A] che associa ad
un evento, definito da un sottonsieme dello spazio delle prove A ⊆ S, un
valore di probabilità, definito da un numero reale p:
Pr[A] : A ⊆ S → p ∈ R
o più semplicemente: p = Pr[A] ∈ R, ∀ A ⊆ S. È possibile sviluppare una teoria
della probabilità utilizzando i seguenti assiomi (introdotti da Kolmogorov):
Assioma 1. non negatività
Pr[A] ≥ 0
Assioma 2. normalizzazione
Pr[S] = 1
G. E. Cantarella - GAST - DICIV - UNISA
Assioma 3. additività (finita)
Pr[A ∪ B] = Pr[A] + Pr[B] se A ∩ B = ∅
la validità dell’assioma 3 può essere estesa per semplice induzione all’unione
di un numero finito di eventi, a due a due disgiunti. D’altro canto, la validità
non può essere estesa all’unione di una infinità numerabile di eventi, in
questo caso è necessaria l’introduzione in forma forte dell’assioma 3 1 .
1 In questo caso i tre assiomi definiscono una misura di insiemi. Tuttavia, l’introduzione
dell’assioma 3 in forma forte esclude alcuni tipi di modelli aleatori.
2

Lemma 1. probabilità dei costituenti
Pr[B] = Pr[A ∩ B] + Pr[⎺A ∩ B] ∀ A
Infatti, risulta B = B ∩ S = B ∩ (A ∪⎺A) = (A ∩ B) ∪ (A ∩⎺B),
ossia Pr[B] = Pr[(A ∩ B) ∪ (⎺A ∩ B)]
inoltre, risulta (A ∩ B) ∩ (⎺A ∩ B) = ∅,
quindi, applicando l’assioma 3 si ha la tesi.
Teorema 1. monotonicità (probabilità di un evento sottoinsieme)
Pr[A] ≤ Pr[B] se A ⊆ B
Infatti, in questo caso risulta A = A ∩ B, ossia Pr[A] = Pr[A ∩ B],
pertanto, considerando il lemma 1 risulta Pr[B] = Pr[A] + Pr[⎺A ∩B],
quindi, per l’assioma 1 Pr[⎺A ∩B] ≥ 0, e si ha la tesi.
Corollario 1.a. limite superiore dei valori di probabilità
Pr[A] ≤ 1
Infatti, per il teorema 1 risulta Pr[A] ≤ Pr[S] essendo A ⊆ S, da cui
per l’assioma 2 si ha la tesi.
Teorema 2. probabilità dell’evento complementare
Pr[⎺A] = 1 − Pr[A]
Infatti, risulta A ∩⎺A = ∅,
pertanto, applicando l’assioma 3 risulta Pr[A ∪⎺A] = Pr[A] + Pr[⎺A],
inoltre, risulta S = A ∪⎺A , ossia Pr[S] = Pr[A ∪⎺A],
e Pr[S] = 1 per l’assioma 2,
quindi si ha la tesi.
Corollario 2.a. probabilità dell’evento impossibile
Pr[∅] = 0
G. E. Cantarella - GAST - DICIV - UNISA
Infatti, risulta ∅ =⎺S , ossia Pr[∅] = Pr[⎺S]
inoltre, risulta Pr[S] = 1 per l’assioma 2,
quindi, applicando il teorema 2, si ha la tesi.
Possono comunque esistere eventi con probabilità nulla diversi dall’evento
impossibile.
3

Teorema 3. probabilità dell’evento unione
Pr[A ∪ B] = Pr[A] + Pr[B] - Pr[A ∩ B]
Infatti, risulta A ∪ B = (A ∪ B) ∩ S = (A ∪ B) ∩ (B ∪⎺B) =
= (A ∩ B) ∪ (A ∩⎺B) ∪ (B ∩ B) ∪ (B ∩⎺B) =
= (A ∩ B) ∪ (A ∩⎺B) ∪ B ∪ ∅ = (A ∩ B) ∪ B ∪ (A ∩⎺B) ,
da cui, essendo (A ∩ B) ⊆ B e quindi (A ∩ B) ∪ B = B, si ha
A ∪ B = (A ∩⎺B) ∪ B; poiché risulta (A ∩⎺B) ∩ B = ∅,
per l’assioma 3, risulta Pr[A ∪ B] = Pr[B] + Pr[A ∩⎺B], inoltre,
per il lemma 1risulta Pr[A ∩⎺B] = Pr[A] − Pr[A ∩ B], quindi la tesi.
G. E. Cantarella - GAST - DICIV - UNISA
Definizione 5. probabilità condizionata
La probabilità condizionata, del verificarsi di un evento A, detto condizionato,
nell’ipotesi che l’evento B, detto condizionante, si verifichi, è definita da:
Pr[A | B] = Pr[A ∩ B] / Pr[B] se Pr[A] ≠ 0 e Pr[B] ≠ 0
(normalizzazione rispetto a Pr[B])
Inoltre per convenzione si assume:
Pr[A | B] = 0 se Pr[A] = 0 oppure Pr[B] = 0
se Pr[A] ≠ 0 e Pr[B] ≠ 0, le quantità Pr[A | B] e Pr[B | A] sono
probabilità poiché rispettano i tre assiomi. Infatti,
Pr[A | B] ≥ 0
Pr[S, A] = Pr[A ∩ S] / Pr[A] = Pr[A] / Pr[A] = 1
con E ∩ F = ∅
si ha: Pr[(E ∪ F ), A] =
= Pr[A ∩ (E ∪ F )] / Pr[A] =
= Pr[(A ∩ E) ∪ (A ∩ F)] / Pr[A] =
= ( Pr[(A ∩ E)] + Pr[(A ∩ F)] ) / Pr[A] =
= Pr[(A ∩ E)] / Pr[A] + Pr[(A ∩ F)] / Pr[A] =
= Pr[E, A] + Pr[F, A]
e quindi i tre assiomi sono rispettati
Teorema 4. probabilità dell’evento intersezione
Pr[A ∩ B] = Pr[A] Pr[B | A] = Pr[B] Pr[A | B]
Infatti, se Pr[A] = 0 oppure Pr[B] = 0 risulta Pr[A ∩ B] = 0, essendo
A ∩ B ⊆ B e A ∩ B ⊆ A, per il teorema 1 si ha Pr[A ∩ B] ≤ Pr[A] = 0
e Pr[A ∩ B] ≤ Pr[B] = 0, qualunque sia il valore di Pr[A|B] e Pr[B|A].
Altrimenti se Pr[A] ≠ 0 e Pr[B] ≠ 0 dalla definizione di probabilità
condizionata si la tesi
4

1.3. INDIPENDENZA STOCASTICA
Definizione 6. indipendenza stocastica
La probabilità dell’evento A si dice stocasticamente indipendente dal
verificarsi dell’evento B se si verifica la condizione:
Pr[A | B] = Pr[A |⎺B] con Pr[B] ] ≠ 0, Pr[⎺B] ] ≠ 0
Teorema 5. condizioni equivalenti di indipendenza stocastica
G. E. Cantarella - GAST - DICIV - UNISA
Con Pr[A] ≠ 0, Pr[B] ≠ 0, Pr[⎺A] ] ≠ 0, Pr[⎺B] ≠ 0 le seguenti condizioni sono
tra loro equivalenti e possono essere usate come definizione.
1. Pr[A | B] = Pr[A |⎺B]
2. Pr[B | A] = Pr[B |⎺A]
3. Pr[A | B] = Pr[A]
4. Pr[B | A] = Pr[B]
5. Pr[A ∩ B] = Pr[A] Pr[B]
Infatti, è sufficiente dimostrare che 1 ⇔ 5 e 3 ⇔ 5, quindi per
analogia si ha 2 ⇔ 5 e 4 ⇔ 5, da cui la tesi.
1 ⇒ 5
da 1) si ha
Pr[A ∩ B] / Pr[B] = Pr[A ∩⎺B] / Pr[⎺B]],
da cui per il lemma 1 e il teorema 2
Pr[A ∩ B] / Pr[B] = (Pr[A] − Pr[A ∩ B]) / (1 − Pr[B])
(1 − Pr[B]) Pr[A ∩ B] = Pr[B] (Pr[A] − Pr[A ∩ B])
Pr[A ∩ B] = Pr[A] Pr[B]
5 ⇒ 1
da 5) si ha
Pr[A ∩ B] = Pr[A] Pr[B]
aggiungendo m. a m. − Pr[B]) Pr[A ∩ B] si ha
(1 − Pr[B]) Pr[A ∩ B] = Pr[B] (Pr[A] − Pr[A ∩ B])
Pr[A ∩ B] / Pr[B] = (Pr[A] − Pr[A ∩ B]) / (1 − Pr[B])
da cui per il lemma 1 e il teorema 2
Pr[A ∩ B] / Pr[B] = Pr[A ∩⎺B] / Pr[⎺B]],
3 ⇒ 5
da 3) si ha
Pr[A ∩ B] / Pr[B] = Pr[A]
Pr[A ∩ B] = Pr[A] Pr[B]
5 ⇒ 3
essendo Pr[A|B] = Pr[A ∩ B] / Pr[B] per la definizione 5
sostituendo la 5) si ha Pr[A|B] = Pr[A] Pr[B] / Pr[B] = Pr[A]
5

COMMENTO. Stante la reciprocità delle condizioni 1 e 2, di quelle 3 e 4 e la
simmetria della 5, se vale una qualunque di esse. comunemente si dice che i
due eventi A e B sono stocasticamente indipendenti, anche se è opportuno
ricordare che la condizione è riferita ai relativi valori di probabilità.
Corollario 5.a. se i due eventi A e B sono stocasticamente indipendenti,
allora sono stocasticamente indipendenti anche le coppie di eventi:
A e⎺B ⎺A e B ⎺A e⎺B
G. E. Cantarella - GAST - DICIV - UNISA
Infatti, combinando le condizioni 1 e 4 tra loro equivalenti si ha:
Pr[A |⎺B] = Pr[A]. Similmente per la coppia⎺A e B.
Pertanto poiché se A e B sono s.ind., risulta che A e⎺B sono s.ind.,
per analogia la coppia ⎺A e⎺B risulta s.ind.
COMMENTO. Un evento con probabilità nulla è stocasticamente indipendente
da ogni altro evento.
Esempi notevoli si hanno considerando i due casi A ⊆ B oppure A ∩ B = ∅,
la cui analisi con Pr[A] ≠ 0, Pr[B] ] ≠ 0 è lasciata al diligente lettore.
COMMENTO. Un evento con probabilità nulla è stocasticamente indipendente
da ogni altro evento.
1.4. TEOREMA DI BAYES
In costruzione
6

2. TEORIA DELLE VARIABILI ALEATORIE
2.1. INTRODUZIONE
2.1.1. v.a. discrete - continue
2.1.2. v.a. semplici - multi variate
2.2. FUNZIONI
2.2.1. di probabilità
2.2.2. di distribuzione
2.2.3. di densità di probabilità
2.2.4. indipendenza s. di v.a.
2.3. VALORE ATTESO E FUNZIONI DI V.A.
2.3.1. definizione di v.a.
2.3.2. funzioni di v.a.
2.3.3. valore di una funzione di v.a.
2.4. INDICI DI POSIZIONE E DI DISPERSIONE
2.4.1. di posizione: media, mediana, moda
2.4.2. di dispersione: variazione, deviazione standard, EAM
2.5. CORRELAZIONE
2.5.1. covarianza
G. E. Cantarella - GAST - DICIV - UNISA
2.5.2. indice di correlazione lineare
2.5.3. correlazione e indipendenza
2.6. LIMITE DI V.A.
2.6.1. legge dei grandi numeri
2.6.2. teoremi limite
7

3. ESEMPI DI VARIABILI ALEATORIE
3.1. FAMIGLIA UNIFORME
3.1.1. v.a. uniforme discreta (degenere)
3.1.2. v.a. uniforme continua (limite)
3.2. FAMIGLIA DI BERNOULLI
3.2.1. v.a. di Bernoulli
3.2.2. v.a. Binomiale
3.2.3. v.a. Geometrica
3.2.4. v.a. beta
3.3. FAMIGLIA DI POISSON
3.3.1. v.a. di Poisson
3.3.2. v.a. esponenziale
3.3.3. v.a. di Erlang
3.3.4. v.a. gamma
3.4. FAMIGLIA DI GAUSS
3.4.1. v.a. Normale
3.4.2. v.a. LogNormale
3.4.3. v.a. CHI 2
3.4.4. v.a. T di Student
3.4.5. v.a. F di Fisher
3.5. FAMIGLIA DEL VALORE ESTREMO
3.5.1. v.a. GEV
G. E. Cantarella - GAST - DICIV - UNISA
3.5.2. v.a. di Gumbel o di Fisher-Tippet type I
8

4. ELEMENTI DI TEORIA DEGLI INSIEMI
4.1. OPERAZIONI TRA INSIEMI
Simboli: A, B insiemi in S, ∅ insieme vuoto
∈ appartiene
∉ non appartiene
Operazioni 1-adiche
operandi operatori
A S A ⎺A ∅
∈ ∈ ∈ ∉ ∉
∉ ∈ ∉ ∈ ∉
G. E. Cantarella - GAST - DICIV - UNISA
Operatori 1-adici
A identità
⎺A complemento rispetto S
Operazioni 2-adiche
operandi operatori
A B S ∪ A B ∩ ⎺B ⎺A ∅
∈ ∈ ∈ ∈ ∈ ∈ ∈ ∈ ∈ ∈ ∉ ∉ ∉ ∉ ∉ ∉ ∉ ∉
∈ ∉ ∈ ∈ ∈ ∈ ∉ ∉ ∉ ∉ ∈ ∈ ∈ ∈ ∉ ∉ ∉ ∉
∉ ∈ ∈ ∈ ∉ ∉ ∈ ∈ ∉ ∉ ∈ ∈ ∉ ∉ ∈ ∈ ∉ ∉
∉ ∉ ∈ ∉ ∈ ∉ ∈ ∉ ∈ ∉ ∈ ∉ ∈ ∉ ∈ ∉ ∈ ∉
Operatori 2-adici
S A ∪⎺A = B ∪⎺B
∪ A ∪ B unione
A ∪⎺B
⎺A ∪ B
(A ∩ B) ∪ (⎺A ∩⎺B)
∩ A ∩ B intersezione
------------------------------------------------
⎺∩ ⎺A ∪⎺B
⎺ (⎺A ∪⎺B) ∩ ( A ∪ B)
⎺ A ∩⎺B
⎺ ⎺A ∩ B
⎺∪ ⎺A ∩⎺B
∅ ⎺S A ∩⎺A = B ∩⎺B
Inclusione e uguaglianza
A ⊆ B se A ∪ B = B ossia se A ∩ B = A
A ⊇ B se A ∪ B = A ossia se A ∩ B = B
A = B se A ⊆ B e A ⊇ B
9

5. ELEMENTI DI LOGICA MATEMATICA
5.1. OPERAZIONI TRA ENUNCIATI
Simboli: a, b enunciati
1 vero
0 falso
OPERAZIONI 1-ADICHE
operandi operatori
a ≡a ¬a ¬
1 1 1 0 0
0 1 0 1 0
Operatori 1-adici
≡ identità
¬ negazione NOT
OPERAZIONI 2-ADICHE
operandi operatori
a b ∨ ⇐ ≡a ⇒ ≡b ⇔ ∧ ¬∧ ¬⇔ ¬b ¬⇒ ¬a ¬⇐ ¬∨ ¬
1 1 1 1 1 1 1 1 1 1 0 0 0 0 0 0 0 0
1 0 1 1 1 1 0 0 0 0 1 1 1 1 0 0 0 0
0 1 1 1 0 0 1 1 0 0 1 1 0 0 1 1 0 0
0 0 1 0 1 0 1 0 1 0 1 0 1 0 1 0 1 0
Operatori 2-adici
G. E. Cantarella - GAST - DICIV - UNISA
∨ congiunzione “forte” OR
⇐ implicazione (inversa)
a ∨ ¬b
⇒ implicazione (diretta)
b ∨ ¬a
⇔ equivalenza
(a ∧ b) ∨ (¬a ∧ ¬b)
a ⇒ b ∧ a ⇐ b
∧ congiunzione “debole” AND
¬∧ | NAND
¬∨ ∇ NOR
[ciascuno degli operatori NAND e NOR consente di costruire tutti gli altri]
10