Einführung in die Numerische Mathematik - Lehrstuhl Numerische ...

4 Numerische Lineare Algebra
(ii) Es sei x ∈ R m die Lösung des Normalgleichungssystems. Dann gilt für beliebiges
y ∈ R m :
‖b − A(x + y)‖ 2 2 = ‖b − Ax‖ 2 2 + ‖Ay‖ 2 2 − 2(b − Ax, Ay) 2
= ‖b − Ax‖ 2 2 + ‖Ay‖ 2 2 − 2(A T b − A T Ax, y)
} {{ } 2
=0
≥ ‖b − Ax‖ 2 2.
(iii) Nun sei x das Minimum von (4.9). D.h., es gilt für beliebigen Vektor y:
‖b − Ax‖ 2 2 ≤ ‖b − A(x + y)‖ 2 2 = ‖b − Ax‖ 2 2 + ‖Ay‖ 2 2 − 2(b − Ax, Ay) 2 ∀y ∈ R m .
Hieraus folgt:
−‖A‖ 2 2‖y‖ 2 2 ≤ −‖Ay‖ 2 2 ≤ 2(A T Ax − A T b, y) 2 ≤ ‖Ay‖ 2 2 ≤ ‖A‖ 2 2‖y‖ 2 2.
Für y = se i , wobei s ∈ R und e i der i-te Einheitsvektor ist gilt:
−s‖A‖ 2 2 ≤ 2[A T Ax − A T b] i ≤ s‖A‖ 2 2 ∀s ∈ R, i = 1, . . . , n.
Bei s → 0 folgt [A T Ax] i = [A T b] i .
□
Die beste Approximation eines überbestimmten Gleichungssystems kann durch Lösen des
Normalgleichungssystems gefunden werden. Der naive Ansatz, die Matrix A T A zu bestimmen
und dann das Normalgleichungsystem etwa mit dem Cholesky-Verfahren zu lösen ist
numerisch nicht ratsam. Zunächst ist der Aufwand zur Berechnung von A T A sehr groß
und die Berechnung der Matrix-Matrix Multiplikation ist schlecht konditioniert. Weiter
gilt die Abschätzung:
cond(A T A) ≈ cond(A) 2 .
Wir lösen mit dieser Methode das überbestimmte Gleichungssystem aus Beispiel 4.64:
Beispiel 4.67 (Lösen der Normalgleichung). Die exakte Lösung des Normalgleichungssystems
A T Ax = A T b ist gegeben durch:
⎛ ⎞
0.3425
⎜ ⎟
x ≈ ⎝ 0.3840 ⎠ , p(x) = 0.3425 + 0.3740x − 0.1131x 2 .
−0.1131
Es gilt:
‖b − Ax‖ 2 ≈ 0.947.
Wir stellen das Normalgleichungssystem mit dreistelliger Rechnung auf:
⎛
⎞
⎛ ⎞
4 4.75 10.6
2
A T ⎜
⎟
A = ⎝4.75 10.6 23.7⎠ , A T ⎜ ⎟
b = ⎝ 3 ⎠ .
10.6 23.7 55.1
6.5
160