Einführung in die Numerische Mathematik - Lehrstuhl Numerische ...

5 Numerische Iterationsverfahren
10
1
0.1
Jacobi
Gauss-Seidel
Abstiegs-Jacobi
Abstiegs-Gauss-Seidel
2
1.9
1.8
1.7
1.6
1.5
1.4
1.3
1.2
Jacobi
Abstiegsverfahren
0.01
1
0.9
0.001
0.0001
1e-05
1 2 3 4 5 6 7 8 9 10
0.8
0.7
0.6
0.5
0.4
0.3
0.2 0
-0.2
-0.4
-0.6
-0.8
-1
-1.2
-1.4
-1.6
Abbildung 5.2: Links: Konvergenz von Jacobi-, Gauß-Seidel- sowie den entsprechenden
Abstiegsverfahren. Rechts: Vergleich der Annäherung bei Jacobi- und
Jacobi-Abstiegs-Verfahren an die Lösung x = (1, 0, 2) T .
Gradientenverfahren Abschließend werden wir ein erstes Verfahren entwickeln, welches
die neue Suchrichtung d k ∈ R n systematisch so bestimmt, dass das quadratische Funktional
Q(x) möglichst stark minimiert werden kann. Wir suchen also die Richtung des
stärksten Abfalls. Zu einem Punkt x ∈ R n ist dies gerade die Richtung d ∈ R n , die normal
auf den Niveaumenge N(x) steht:
N(x) := {y ∈ R n : Q(y) = Q(x)}
In einem Punkt x ist die Niveaumenge aufgespannt durch alle Richtungen δx ∈ R n mit:
0 ! = Q ′ (x) · δx = (∇Q(x), δx) = (b − Ax, δx).
Die Vektoren δx, welche die Niveaumenge aufspannen stehen orthogonal auf dem Defekt
b − Ax, dieser zeigt daher in Richtung der stärksten Änderung von Q(·). Wir wählen
d k := b − Ax k . Die so gefundene Suchrichtung wird dann mit dem Abstiegsverfahren
kombiniert, d.h. wir iterieren:
d k := b − Ax k , ω k := ‖dk ‖ 2 2
(Ad k , d k ) 2
, x k+1 := x k + ω k d k .
Wir definieren das Gradientenverfahren:
Algorithmus 5.39 (Gradientenverfahren). Es sei A ∈ R n×n symmetrisch positiv definit,
b ∈ R n . Es sei x 0 ∈ R n beliebig und d 0 := b − Ax 0 . Iteriere für k = 0, 1, 2, . . .
1. r k := Ad k
2. ω k = ‖d k‖ 2 2
(r k ,d k ) 2
3. x k+1 = x k + ω k d k .
4. d k+1 = d k − ω k r k .
212