Lineare Algebra - SAM - ETH Zürich

Kapitel 7 — Kleinste Quadrate, QR Lineare Algebra (2007)
Wir können die n orthonormalen Vektoren q 1 , . . . , q n zu einer Orthonormalbasis
{q 1 , . . . , q n , . . . , q m } von E m ergänzen und erhalten
so eine unitäre (oder orthogonale) quadratische Matrix
˜Q :≡ ( Q Q ⊥
)
:≡
(
q1 . . . q n q n+1 . . . q m
)
. (7.34)
Um R kompatibel zu machen mit ˜Q, können wir R mit m − n
Zeilen aus Nullen ergänzen zu einer m × n–Matrix ˜R:
( ) R ˜R :≡ . (7.35)
O
Dann gilt
A = QR = ( Q
Q ⊥
) ( R
O
)
= ˜Q ˜R . (7.36)
Hierbei bilden die Kolonnen q n+1 , . . . , q m von Q ⊥ natürlich gerade
eine Orthonormalbasis des zu R(A) orthogonalen komplementären
Unterraumes.
Definition: Die Zerlegung A = ˜Q ˜R einer m × n Matrix A mit
Maximalrang n ≤ m in eine unitäre (oder orthogonale) m × m
Matrix ˜Q mal eine (rechteckige) m × n Rechtdreiecksmatrix mit
positiven Diagonalelementen heisst QR–Zerlegung 1 [QR decomposition]
von A.
Nun können wir Lemma 7.8 zum gesuchten Satz umformulieren:
Satz 7.9 Das Gram-Schmidt-Verfahren, angewandt auf die Kolonnen
a 1 , . . . , a n einer m × n–Matrix A liefert die QR-
Faktorisierung (7.33) dieser Matrix. Ergänzt man A durch den m-
Vektor y, so liefert das Verfahren (vor dem Normieren) zusätzlich
den zu R(A) orthogonalen Residuenvektor r gemäss der Formel
r = y −
n∑
q j 〈q j , y〉 = y − QQ H y . (7.37)
j=1
Die Lösung x des Kleinste–Quadrate–Problems erfüllt das durch
Rückwärtseinsetzen lösbare System
Rx = Q H y . (7.38)
Beweis: Der erste Teil des Satzes ist eine Zusammenfassung unserer
Herleitung von (7.33). Die Formel (7.37) für r ergibt sich aus Lemma 7.8
und den Formeln (7.29) des Gram–Schmidt–Verfahrens. Es bleibt also
nur (7.38) zu zeigen. Aus Ax = y−r folgt durch Einsetzen von A = QR
und Multiplikation mit Q H :
Q H Q Rx = Q H y − Q H r , (7.39)
} {{ }
}{{}
= I n = o
1 In bezug auf die sprachliche Unterscheidung zwischen “QR–Faktorisierung”
und “QR–Zerlegung” folgen wir G.W. Stewart: Matrix Algorithms, Vol. 1,
SIAM 1998. Sie ist noch nicht vielerorts akzeptiert.
LA-Skript 7-10 30. September 2007 c○M.H. Gutknecht