Vergleich Gradientenverfahren und CG-Verfahren A = [4 0; 0 4] , b ...

Prof. Dr. Barbara Wohlmuth
Lehrstuhl für Numerische Mathematik
Vergleich Gradientenverfahren und CG-Verfahren
A = [4 0; 0 4], b = [1; 4]
Gradientenverfahren
CG-Verfahren
3
3
2
2
1
1
0
0
−1
−1 0 1 2
−1
−1 0 1 2
Kapitel III.4 (linalg38) 1

Prof. Dr. Barbara Wohlmuth
Lehrstuhl für Numerische Mathematik
Vergleich Gradientenverfahren und CG-Verfahren
A = [2 1; 1 9], b = [1; 4]
Gradientenverfahren
CG-Verfahren
2
2
1.5
1.5
1
1
0.5
0.5
0
0
−0.5
−0.5
−1
−1
−1.5
−1 0 1 2
−1.5
−1 0 1 2
Kapitel III.4 (linalg36) 2

Prof. Dr. Barbara Wohlmuth
Lehrstuhl für Numerische Mathematik
Vergleich Gradientenverfahren und CG-Verfahren
A = [1 2; 2 9], b = [2; 1]
Gradientenverfahren
CG-Verfahren
1
1
0.5
0.5
0
0
−0.5
−0.5
−1
−1
−1.5
−1.5
−2
−2
−2.5
2 3 4 5
−2.5
2 3 4 5
Kapitel III.4 (linalg37) 3

Prof. Dr. Barbara Wohlmuth
Lehrstuhl für Numerische Mathematik
Vergleich iterativer Lösungsverfahren
Testmatrizen
Poisson-Matrix
A ∈ R n2 ×n 2 ,A = A T ,
⎛ ⎞
B −I
A := ⎜−I ... ...
⎟
⎝ ... ... −I⎠
−I B
mit I,B ∈ R n×n ,
⎛ ⎞
4 −1
B := ⎜−1 ... ...
⎟
⎝ ... ... −1⎠ .
−1 4
Lehmer-Matrix
M ∈ R p×p , M = M T ,
m ij := i für j ≥ i
j
z.B. p = 4
⎛ ⎞
1 1/2 1/3 1/4
−→ M = ⎜1/2 1 2/3 1/2
⎟
⎝1/3 2/3 1 3/4⎠
1/4 1/2 3/4 1
Kapitel III.4 (linalg39) 4

Prof. Dr. Barbara Wohlmuth
Lehrstuhl für Numerische Mathematik
Vergleich iterativer Lösungsverfahren
Fehler gegen Anzahl der Iterationen, n 2 = p = 100
Poisson-Matrix
Lehmer-Matrix
10 0
10 −4
Jacobi
GS
SGS
10 −8
CG
0 20 40 60 80
10 −4
10 −8
0 200 400
Jacobi-Verfahren divergiert!
10 0 GS
SGS
CG
Kapitel III.4 (linalg40) 5

Prof. Dr. Barbara Wohlmuth
Lehrstuhl für Numerische Mathematik
Vergleich iterativer Lösungsverfahren
Anzahl der Iterationen, bis Fehler < 10 −8 ,
gegen n 2 bzw. p
Poisson-Matrix
Lehmer-Matrix
1000
800
600
400
Jacobi
GS
SGS
CG
2000
1500
1000
Jacobi
GS
SGS
CG
200
500
0
0 50 100 150 200
0
0 20 40 60 80 100
Jacobi-Verfahren divergiert!
Kapitel III.4 (linalg41) 6

Prof. Dr. Barbara Wohlmuth
Lehrstuhl für Numerische Mathematik
SOR und konjungiertes Gradientenverfahren im Vergleich für die
Poisson Matrix
300
250
sor
cg
pcg−sgs
pcg−ssor1.8
pcg−ssoropt
Anzahl der Iterationen
Vergleich des optimalen SOR mit cg: rel. Fehler < 1e−6
1
0.9
0.8
numerische Konvergenzrate
sor
cg
pcg−sgs
pcg−ssor1.8
pcg−ssoropt
Vergleich des optimalen SOR mit cg
Anzahl der Iterationen
200
150
100
asymptotische Konvergenzraten
0.7
0.6
0.5
0.4
0.3
50
0.2
0.1
0
0 10 20 30 40 50 60 70 80 90 100
Dimension der Matrix ist N 2
0
0 10 20 30 40 50 60 70 80 90 100
Dimension der Matrix ist N 2
Rot: optimales SOR, Blau: konjugiertes Gradientenverfahren, Pink: vorkonditioniertes
CG mit symmetrischen Gauß–Seidel, Grün: vorkonditioniertes CG mit SSOR, ω = 1.8,
Gelb: vorkonditioniertes CG mit SSOR, ω = ω opt
Kapitel III.4 (linalg46) 7

Prof. Dr. Barbara Wohlmuth
Lehrstuhl für Numerische Mathematik
Vergleich iterativer Lösungsverfahren
Massenmatrix
Strukturiertes Gitter auf (0,1) 2 ,
Gitterweite h = 1/(n+1), n ∈ N,
Knoten x ij = (hi,hj), 1 ≤ i,j ≤ n,
Matrixeinträge zu x ij aus
1/36
1/9
1/36
0
5
−→ Struktur der Matrix
1/9 4/9 1/9
10
15
1/36 1/9 1/36
0 5 10 15
n = 4,A ∈ R n2 ×n 2
Kapitel III.4 (linalg43) 8

Prof. Dr. Barbara Wohlmuth
Lehrstuhl für Numerische Mathematik
Vergleich iterativer Lösungsverfahren
Massenmatrix
Iterationen
Zeit
Iterationen
2 Anzahl Iterationen, bis Fehler < 10−8
10
10 1
Jacobi (damped)
GS
SGS
10 0
CG
0 100 200 300 400
n 2
Zeit
0.6
0.4
0.2
Zeit, bis Fehler < 10 −8
LU (voll)
GS
CG
0
0 200 400 600 800 1000
n 2
Kapitel III.4 (linalg44) 9