Einführung in die Numerische Mathematik - Lehrstuhl Numerische ...

5.3 Iterative Lösungsverfahren für lineare Gleichungssysteme
Durch Einführen eines zweiten Hilfsvektors r k ∈ R n kann in jeder Iteration ein Matrix-
Vektor-Produkt gespart werden. Für Matrizen mit Diagonalanteil D = αI ist das Gradientenverfahren
gerade das Jacobi-Verfahren in Verbindung mit dem Abstiegsverfahren.
Daher kann für dieses Verfahren im Allgemeinen auch keine verbesserte Konvergenzaussage
erreicht werden. Es stellt jedoch den Einstieg in eine ganze Klasse von fortgeschrittenen
Verfahren, die Krylow-Unterraum-Verfahren dar. Wir zeigen:
Satz 5.40 (Gradientenverfahren). Es sei A ∈ R n×n symmetrisch positiv definit. Dann
konvergiert das Gradientenverfahren für jeden Startvektor x 0 ∈ R n gegen die Lösung des
Gleichungssystems Ax = b.
Beweis: Es sei x k ∈ R n eine gegebene Approximation. Weiter sei d := b − Ax k . Dann
berechnet sich ein Schritt des Gradientenverfahrens als:
Für das Energiefunktional gilt:
x k+1 = x k +
(d, d)
(Ad, d) d.
Q(x k+1 ) = 1 2 (Axk+1 , x k+1 ) − (b, x k+1 )
Also folgt:
= 1 2 (Axk , x k ) + 1 (d, d) 2
(d, d)
(Ad, d) +
2 (Ad, d) 2 (Ad, d) (Axk , d) − (b, x k (d, d)
) − (b, d)
(Ad, d)
{
= Q(x k (d, d) 1
) +
(Ad, d) 2 (d, d) + (Axk , d) − (b, d)}
⎧
⎫
= Q(x k (d, d) ⎨1
⎬
) +
(Ad, d) ⎩2 (d, d) + (Axk − b, d)
} {{ } ⎭
=−d
Q(x k+1 ) = Q(x k ) −
(d, d)2
2(Ad, d) .
Wegen der positiven Definitheit von A gilt λ min (A)(d, d) ≤ (Ad, d) ≤ λ max (A)(d, d) und
schließlich ist mit
Q(x k+1 ) ≤ Q(x k (d, d)
) − ,
2λ
} {{ max
}
≥0
die Folge Q(x k ) monoton fallend. Weiter ist Q(x k ) nach unten durch Q(x) beschränkt. Also
konvergiert die Folge Q(x k ) → c ∈ R n . Im Grenzwert muss gelten 0 = (d, d) = ‖b − Ax‖ 2 ,
also Ax = b.
□
Schließlich zitieren wir noch zur Abschätzung der Konvergenzgeschwindigkeit die folgende
Fehlerabschätzung:
213