Lineare Algebra - SAM - ETH Zürich

Lineare Algebra (2007)
Kapitel 7 — Kleinste Quadrate, QR
In der Praxis kann das Lösen der Normalgleichungen für grosse
Matrizen ungenau sein, da mit grossen Rundungsfehlern behaftet,
falls die Kolonnen von A nahezu linear abhängig sind. Es gibt jedoch
mehrere Alternativen für die Bestimmung von x. Eine haben
wir bereis zur Hand: die Anwendung des Gram-Schmidt-Verfahrens.
Geometrisch sollte klar sein, dass folgendes gilt:
Lemma 7.8 Unter den Voraussetzungen von Satz 7.7 kann man
die Kleinste-Quadrate-Lösung x bestimmen, indem man die Kolonnen
a 1 , . . . , a n von A und den Vektor a n+1 :≡ y dem Schmidtschen
Orthogonalisierungsprozess (6.28) unterwirft und so das Lot
˜q n+1 :≡ y − Ax = r ⊥ R(A) , (7.27)
von y auf R(A) = span {a 1 , . . . , a n } bestimmt. Das Gleichungssystem
Ax = y − ˜q n+1 ist dann exakt nach x auflösbar.
Wir werden dieses Vorgehen im Abschnitt 7.3 weiterverfolgen und
neu interpretieren. Statt Ax = y − ˜q n+1 zu lösen, werden wir dort
x auf elegantere und numerisch genauere Art bestimmen.
Beispiel 7.3: Wir wollen die Beispiele 7.1 und 7.2 fortsetzen, aber im
Moment nur das Residuum r = y − Ax der Kleinste-Quadrate-Lösung
x bestimmen. In Beispiel 7.1 haben wir bereits die Kolonnen von A
aus (7.7) orthonormalisiert und in (7.13) Q = ( )
q 1 q 2 erhalten. Nun
ist das Lot von y auf span {a 1 , a 2 } = span {q 1 , q 2 } zu fällen: Es wird
〈q 1 , y〉 = 27/5 = 5.4, 〈q 2 , y〉 = −51/5 = −10.2, und damit
wie in (7.26).
r = ˜q 3 = y − q 1 〈q 1 , y〉 − q 2 〈q 2 , y〉
⎛ ⎞ ⎛ ⎞ ⎛
3
4
= ⎜ 6
⎟
⎝ −3 ⎠ − 27
⎜ 2
⎟
25 ⎝ 2 ⎠ + 51
⎜
25 ⎝
9
1
1
−2
2
44
⎞
⎛
⎟
⎠ = ⎜
⎝
0.72
−0.24
−1.08
−0.24
Überbestimmte lineare Gleichungssysteme treten zum Beispiel auf,
wenn man Parameter eines linearen Modells (Systems) durch eine
Messreihe bestimmt. Gewöhnlich wird man viel mehr Messungen
machen als es Parameter gibt und dann die Parameter als
Lösung im Sinne der kleinsten Quadrate bestimmen (Ausgleichsrechnung,
lineare Regression).
⎞
⎟
⎠
Beispiel 7.4:
Vakuum gilt
wobei
Für den vertikalen freien Fall eines Massenpunktes im
y(t) = x 1 t + x 2 t 2 ,
t: Zeit,
y(t): zurückgelegter Weg,
x 1 : Anfangsgeschwindigkeit,
x 2 : halbe Erdbeschleunigung.
c○M.H. Gutknecht 30. September 2007 LA-Skript 7-7