Einführung in die Numerische Mathematik - Lehrstuhl Numerische ...

5.3 Iterative Lösungsverfahren für lineare Gleichungssysteme
5.3 Iterative Lösungsverfahren für lineare Gleichungssysteme
Als zweite Hauptanwendung des Banachschen Fixpunktsatzes besprechen wir in diesem
Kapitel die iterative Lösung linearer Gleichungssysteme. Die in Kapitel 4 kennengelernten
Zerlegungsverfahren (also LR, Cholesky sowie QR-Zerlegung) haben alle den Nachteil kubischer
Laufzeit O(n 3 ). Gerade bei sehr großen Problemen wächst der Aufwand so schnell
an, dass die Lösung in sinnvoller Zeit nicht zu erreichen ist, siehe Tabelle 4.1. Neben der
Laufzeit spielt auch der Speicheraufwand eine Rolle. Zur Speicherung einer voll besetzten
Matrix A ∈ R n×n mit n = 1 000 000 sind bei doppelter Genauigkeit etwa 7 Terabyte (!!!)
Speicher notwendig. Dies übersteigt jeden noch so modernen Computer. Die linearen Gleichungssysteme
die aus den meisten Anwendungen resultieren (etwa bei der Diskretisierung
von Differentialgleichungen) sind sehr dünn besetzt, d.h., in jeder Zeile stehen nur einige
wenige Einträge. Eine dünn besetzte Matrix mit n = 1 000 000 aber nur 100 Einträgen
pro Zeile benötigt zur Speicherung nur etwa 750 MB und passt in jeden Laptop. In Abschnitt
4.2.5 haben wir Sortierverfahren kennengelernt, um dieses dünne Besetzungsmuster
auch für eine LR-Zerlegung nutzbar zu machen. Im Allgemeinen können die Matrizen L
und R aber voll besetzt sein und somit den zur Verfügung stehenden Speicher wieder bei
weitem übersteigen.
Ein weiterer Nachteil der Zerlegungsverfahren sind numerische Stabilitätsprobleme. Durch
Rundungsfehler beim Zerlegungsprozess gilt für die LR-Zerlegung üblicherweise nur A ≠
˜L ˜R. D.h., obwohl die LR-Zerlegung eine direkte Methode darstellt, kann das Gleichungssystem
nicht exakt gelöst werden. Mit der Nachiteration haben wir in Abschnitt 4.3 eine
Methode kennengelernt, um diesen Fehlereinfluss durch sukzessive Iteration zu verringern.
Mit der gestörten LR-Zerlegung A ≈ ˜L ˜R haben wir die Iteration
x k+1 = x k + ˜R −1 ˜L−1 (b − Ax k ), k = 0, 1, 2, . . .
definiert. Obwohl ˜L und ˜R nicht exakt sind, konvergiert diese Iteration (falls das Residuum
d k := b − Ax k exakt berechnet werden kann), siehe Satz 4.45.
In diesem Abschnitt werden wir auf der Basis der Nachiteration eine eigene Verfahrensklasse
zur iterativen Lösung großer Gleichungssysteme entwickeln. Dazu sei C ≈ A −1 eine
Approximation an die Inverse (etwa C := ˜R −1 ˜L−1 ). Dann definieren wir:
Definition 5.19 (Fixpunktverfahren zum Lösen linearer Gleichungssysteme). Es sei A ∈
R n×n sowie b ∈ R n und C ∈ R n×n . Für einen beliebigen Startwert x 0 ∈ R n iteriere für
k = 1, 2, . . .
x k = x k−1 + C(b − Ax k−1 ). (5.11)
Alternativ führen wir die Bezeichnungen B := I − CA und c := Cb ein. Dann gilt:
x k = Bx k−1 + c.
Aufgrund der Konstruktion kann man sich einfach klarmachen, dass durch die Vorschrift
g(x) = Bx+c = x+C(b−Ax) wirklich eine Fixpunktiteration mit der Lösung von Ax = b
195