Analisis Multivariado 1 (Apunte basado en notas de clases del ...

asi
C ′ QC = C ′ BΛB ′ C = D ′ ΛD
llamando D ∈ R d×k a la matriz B ′ C, siendo ademas que la matriz
D ′ ΛD es simetrica, vemos que
k
λi(C ′ QC) = T r(C ′ QC) = T r(D ′ ΛD) =
i=1
por definicion de traza y llamando E = {eij} = D ′ ΛD = (Λ 1/2 D) ′ (Λ 1/2 D) =
H ′ H
=
=
k
k
eii =
i=1
k d i=1 j=1 h2ji = λjd
i=1 j=1
2 ji = λj d
j=1 i=1
2 ji = λjfj
j=1
k
j=1
d
= k
j=1 λjfj + d
j=k+1 λjfj ≤
λjfj + λk
⎛
⎝
d
fj −
j=1
k
j=1
fj
⎞
= k j=1 λjfj
k
+ λk j=1 1 − fj
d
j=1
faltaba ver que d
j=1 fj = k
fj =
d
k
j=1 i=1
k
j=1
d
λjfj + λk
⎠ = k
j=1 λjfj + λk
≤
k
d
j=k+1
fj =
k
λj (fj + 1 − fj) =
j=1
d
k − k j=1 fj
=
k
j=1
d 2 ji = T r (D ′ D) = T r(C ′ BB ′ C) = T r(C ′ C) = T r(Ik)
16.3 Componentes Principales como una tecnica
de proyeccion ortogonal
Demostraremos que Componentes Principales puede ser visto como
una tecnica para hallar un subespacio de dimension pequenia (idealmente
de dimension no mayor a 2) que se halle suficientemente cerca
de las observaciones (o de los vectores aleatorios).
Dado un vector aleatorio X ∈ R d con E(X) = 0 y V AR(X) = Σ
buscamos un subespacio L de dimension k ≪ d que cumpla con la
siguiente propiedad:
min
L
E X − P (X, L) 2
donde por P (X, L) se entiende la proyeccion ortogonal del vector
X en el subespacio L.
39
λj