Numerička linearna algebra - Odjel za matematiku - Sveučilište ...

112 7. Problem najmanjih kvadrataTeorem 7.2 (Dekompozicija na singularne vrijednosti) Ako jeA ∈ C m×n , tada postoje unitarne matrice U ∈ C m×m i V ∈ C n×n takve da jeA = UΣV ∗ , Σ = diag(σ 1 , σ 2 , . . .,σ min(m,n) ) ,pri čemu vrijedi σ 1 ≥ σ 2 ≥ . . .σ min(m,n) ≥ 0.Dokaz. Budući da je jedinična sfera u C n ograničen i zatvoren skup, značida je kompaktan, pa svaka neprekidna funkcija na njemu dostiže minimumi maksimum. Funkcija f(x) = ‖Ax‖ 2 je neprekidna, pa postoji jediničnivektor v ∈ C n takav da je‖Av‖ 2 = max{‖Ax‖ 2 : ‖x‖ 2 = 1, x ∈ C n }.Ako je ‖Av‖ 2 = 0, onda je A = 0 i faktorizacija u iskazu teorema je trivijalnauz S = 0 i s proizvoljnim unitarnim matricama U i V reda m odnosno n.Ako je ‖Av‖ 2 > 0, stavimo σ 1 = ‖Av‖ 2 i formiramo jedinični vektoru 1 = Avσ 1∈ C m .Nadalje, nadopunimo u 1 s m − 1 vektorom do baze u C m i onda primijenimonpr. Gramm—Schmidtov proces ortogonalizacije, tako da dobijemoortonormiranu bazu u 1 , . . .,u m za C m . Drugim riječima, dobili smo unitarnumatricu U 1 = ( )u 1 , u 2 , . . ., u m . Slično, za v1 = v postoji n −(1 ortonormiranih)vektora v 2 , v 3 , . . .,v n ∈ C n , takvih je da matrica V 1 =v1 , v 2 , . . ., v n unitarna. Tada je⎛ ⎞⎛ ⎞u ∗ 1u ∗ A 1 = U1AV ∗ u ∗ 12( ) u ∗ 2( )1 = ⎜ ⎟ Av1 Av 2 . . . Av n = ⎜ ⎟ σ1 u 1 Av 2 . . . Av n⎝ . ⎠⎝ . ⎠u m u m⎛⎞σ 1 u ∗ 1Av 2 . . . u ∗ 1Av n0 u ∗ 2= ⎜Av 2 . . . u ∗ 2 Av ( )n⎟⎝ . . . ⎠ = σ1 w ∗,0 A 20 u ∗ mAv 2 . . . u ∗ mAv ngdje je w ∈ C n−1 , A 2 ∈ C (m−1)×(n−1) . Za jedinični vektor (jedinični vektorkoji odgovara prvom retku matrice s desne strane iz gornje jednakosti)( )1 σ1y = √ (7.2)σ21 + w ∗ w w