Analisis Multivariado 1 (Apunte basado en notas de clases del ...

18.1 Teorema de la Descomposicion en Valores Singulares
Sea la matriz M ∈ R n×p , que sin perdida de generalidad supondremos
que satisface n ≥ p. La misma puede ser factorizada de la siguiente
manera
M = UΛV ′
donde, U ∈ R n×n es una matriz ortogonal, Λ ∈ R n×p es una matriz
diagonal y V ∈ R p×p es una matriz ortogonal.
La matriz U es una matriz ortogonal de rango n conformada por
vectores columna que reciben el nombre de Vectores Singulares a
Izquierda
U = [u1, u2, u3, · · · , un] ∈ R n×n
que cumple U ′ U = UU ′ = In por ser ortogonal.
La matriz V es tambien una matriz ortogonal de rango p conformada
por vectores columna que reciben el nombre de Vectores Singulares
a Derecha
V = [v1, v2, v3, · · · , vp] ∈ R p×p
que cumple V ′ V = V V ′ = In por ser ortogonal.
La matriz Λ es una matriz diagonal con elementos no negativos
λ1 ≥ λ2 ≥ λ3 ≥ . . . ≥ λp ≥ 0, llamados Valores Singulares
Λ =
⎡
λ1
⎢ 0
⎢ 0
⎢
⎣ .
0
. ..
0
0
λp
· · ·
0
⎤
0
⎥
⎦
0 0
18.2 Algunas propiedades importantes de la SVD
18.2.1 La SVD como metodo de maximizacion de formas
bilineales
Sea la matriz M ∈ R n×p con n ≥ p, y la SVD de la misma
M = UΛV ′
donde, U ∈ R n×n es una matriz ortogonal, Λ ∈ R n×p es una matriz
diagonal y V ∈ R p×p es una matriz ortogonal. Puede demostrrse que
(u1, v1) = argmax u
u=1 y v=1
′ Mv con u1 ′ Mv1 = λ1
(u2, v2) = argmax
u=1, v=1, u ′ u1=0 y v ′ u
v1 = 0
′ Mv con u2 ′ Mv2 = λ2
49