Einführung in die Numerische Mathematik - Lehrstuhl Numerische ...

5 Numerische Iterationsverfahren
Satz 5.41 (Konvergenz des Gradientenverfahrens). Es sei A ∈ R n×n eine symmetrisch
positiv definite Matrix. Dann gilt für das Gradientenverfahren zur Lösung von Ax = b die
Fehlerabschätzung
Beweis: Siehe [9]
‖x k − x‖ A ≤
( ) 1 − 1/κ k
, κ := cond 2 (A) = λ max(A)
1 + 1/κ
λ min (A) .
Die asymptotische Konvergenzrate des Gradientenverfahrens wir durch die Kondition der
Matrix bestimmt. Für die Modellmatrix gilt κ = O(n 2 ), siehe Beispiel 5.33. Also gilt:
ρ = 1 − 1 n 2
1 + 1 n 2 = 1 − 2 n 2 + O ( 1
n 4 )
.
Die Konvergenz ist demnach ebenso langsam wie die des Jacobi-Verfahrens (wir haben
bereits diskutiert, dass es für die Modellmatrix mit dem Jacobi-Abstiegsverfahren übereinstimmt).
Für das Gradientenverfahren gilt jedoch der folgende Zusammenhang, der
Basis des CG-Verfahrens ist:
Satz 5.42 (Abstiegsrichtungen im Gradientenverfahren). Es sei A ∈ R n×n symmetrisch
positiv definit. Dann stehen je zwei aufeinanderfolgende Abstiegsrichtungen d k und d k+1
des Gradientenverfahren orthogonal aufeinander.
Beweis: Zum Beweis, siehe Algorithmus 5.39. Es gilt:
Also gilt:
d k+1 = d k − ω k r k = d k − (dk , d k )
(Ad k , d k ) Adk .
(d k+1 , d k ) = (d k , d k ) − (dk , d k )
(Ad k , d k ) (Adk , d k ) = (d k , d k ) − (d k , d k ) = 0.
□
□
Das CG-Verfahren Der Zusammenhang aus Satz 5.42 gilt nur für jeweils aufeinander folgende
Abstiegsrichtungen, im Allgemeinen gilt jedoch d k ̸⊥ d k+2 . In Abbildung 5.2 rechts
ist der Approximationsverlauf des Abstiegs-Jacobi-Verfahren, welches mit dem Gradientenverfahren
übereinstimmt dargestellt. Zwei aufeinander folgende Richtungen sind zwar
je orthogonal, die dritte Richtung steht jedoch wieder nahezu parallel auf der ersten. Dies
führt dazu, dass das Gradientenverfahren im Allgemeinen sehr langsam konvergiert. Das
CG-Verfahren, oder “Verfahren der konjugierten Gradienten”, entwickelt diesen Ansatz
weiter und wählt Suchrichtungen {d 1 , . . . , d k } die paarweise orthogonal sind. Orthogonalität
wird dabei im A-Skalarprodukt erreicht:
(Ad r , d s ) = 0 ∀r ≠ s.
214