Notas 5

0
H
E[Y ] 2
E[Y 2 ]
V(Y )
E[Y ] E[Y |X]
V(E[Y |X])
Y
E[V(Y |X)]
Figura 4: Teorema de Pitágoras: V(X) = E[V(Y |X)] + V(E[Y |X]) .
La esperanza condicional E[Y |X] es el mejor predictor de Y basado en X
1) La condición E[Y 2 ] < ∞ implica que E[Y |X] ∈ H:
E[E[Y |X] 2 ] ≤ E[E[Y 2 |X]] = E[Y 2 ] < ∞.
2) La ecuación funcional (22) significa que Y − E[Y |X] ⊥ H:
〈Y − E[Y |X], h(X)〉 = 0 ⇐⇒ E[(Y − E[Y |X])h(X)] = 0
⇐⇒ E[E[Y |X]h(X)] = E[Y h(X)].
Por lo tanto, la esperanza condicional, E[Y |X], satisface las dos condiciones que caracterizan
a la proyección ortogonal sobre el subespacio H y en consecuencia es el predictor de
Y basado en X de error cuadrático mínimo:
E[Y |X] = arg mín E[(Y − h(X))
h(X)∈H
2 ].
El error cuadrático medio mínimo se puede expresar en la forma
Y − E[Y |X] 2 = E[(Y − E[Y |X]) 2 ]
= E[E[(Y − E[Y |X]) 2 |X]]
= E[V(Y |X)].
18