Kapitel 15. Lösung linearer Gleichungssysteme

Kapitel 15. Lösung linearer
Gleichungssysteme

Lineare Gleichungssysteme
Wir befassen uns nun mit der Lösung — im allgemeinen nichthomogener
— linearer Gleichungssysteme in zweifacher Hinsicht.
Wir studieren einmal
• den begrifflichen Aspekt, d.h. befassen uns mit der Struktur
der Lösungsmenge eines beliebigen linearen Gleichungssystems;
Zum anderen untersuchen wir
• den praktischen Aspekt, d.h. algorithmische Verfahren zur
schnellen Lösung eines konkreten Systems.
Wir werden sehen, dass schon mit geringem begrifflichen Aufwand
die praktische Lösung solcher Gleichungssysteme gelingt.
1

Koeffizientenmatrix und erweiterte Matrix
Ein lineares Gleichungssystem
a11x1 + a12x2 + · · · + a1nxn = b1
a21x1 + a22x2 + · · · + a2nxn = b2
.
.
am1x1 + am2x2 + · · · + amnxn = bm
aus m Gleichungen in den n Unbekannten x1, x2, . . . , xn, ist bestimmt durch seine
Koeffizientenmatrix
⎡
A = ⎣ a11
⎤
⎛
· · · a1n
.
... . ⎦ und die rechte Seite b = ⎝ b1.
⎞
⎠ .
am1 · · · amn
Durch Zusammenfassen erhalten wir die erweiterte Matrix
⎡
[A|b] = ⎣ a11
.
· · ·
...
a1n
.
b1
.
⎤
⎦ .
amn · · · a1n bm
.
.
bm
2

Matrizenschreibweise
Das lineare Gleichungssystem mit erweiterter Koeffizientenmatrix
[A | b] schreiben wir in kompakter Matrizenschreibweise als
A · x = b.
Wir interessieren uns für die Lösungsmenge
L = {x ∈ R n | A · x = b}.
Spezialfall: Falls A = En die n×n-Einheitsmatrix ist, hat das System
die Form
En · x = b.
Wegen En · x = x ist in diesem Fall das System somit eindeutig
lösbar mit der einzigen Lösung x = b.
3

Die Struktur der Lösungsmenge von A · x = b
Satz. A sei eine m × n-Matrix vom Rang r und b ∈ R m . Dann gilt
(a) Das lineare Gleichungssystem A · x = b ist genau dann lösbar , wenn sich b
als Linearkombination der Spalten a1, a2, . . . , an von A schreiben lässt.
(b) Die Lösungen des zugehörigen homogenen Gleichungssystems A·x = 0 bilden
einen Unterraum H des R n von der Dimension n − r.
(c) Ist x0 eine Lösung von A · x = b, so gilt:
x ist genau dann ebenfalls eine Lösung von A · x = b, wenn
x = x0 + h mit h ∈ H gilt.
Mit anderen Worten:
Entweder ist L = ∅ oder L = x0 + H := {x0 + h| A · h = 0}
für eine spezielle Lösung x0.
4

Beweis des Struktursatzes
Beweis. Zu (a): Das behauptete Lösbarkeitskriterium folgt sofort
aus A · x = � n i=1 xi.ai.
Zu (b): Es ist H gerade der Kern der linearen Abbildung
f : R n → R m , x ↦→ A · x;
insbesondere ist H ein Unterraum von R n .
Der Rang von f ist gleich dem Rang von A; nach Rangsatz hat H
folglich die Dimension n − r.
Zu (c): Nach Voraussetzung ist A · x0 = b.
Folglich ist A · x = b genau dann, wenn A · (x − x0) = 0, äquivalent
wenn x − x0 ∈ H gilt. �
5

Was bedeutet Lösen eines linearen
Gleichungssystems?
Zunächst einmal die Feststellung, ob das System A · x = b lösbar ist
oder nicht.
Falls das System lösbar ist, besteht eine Lösung aus folgenden
Daten:
(a) einer speziellen Lösung x0,
(b) einer Basis h1, . . . , hn−r des Lösungsraums des homogenen
Systems A · h = 0.
Achtung: Falls das System lösbar, aber nicht eindeutig lösbar ist,
können sehr verschiedene Auswahlen zu (a) und (b) völlig gleichwertige
Lösungen sein!
6

Vorschau: Gauß-Algorithmus
Die praktische Lösung eines numerisch gegebenen linearen Gleichungssystems
A · x = b erfolgt mittels des Gauß-Algorithmus ∗ .
Dieser Algorithmus fußt auf zwei Säulen:
(1) Der Beobachtung, dass gewisse elementare Abänderungen die
Lösungsmenge eines linearen Gleichungssystems nicht ändern.
(2) Der Möglichkeit, durch solche Abänderungen jedes Gleichungssystem
auf sogenannte Zeilenstufenform zu bringen.
Nach diesen Änderungen sind Lösbarkeit und gegebenenfalls die
Lösungsmenge automatisch ablesbar.
∗ Benannt nach Carl Friedrich Gauß (1777-1855), der uns schon bei der Gaußschen
Zahlenebene begegnete.)
7

Elementare Zeilenoperationen
Die Lösungsmenge eines linearen Gleichungssystems ändert sich
nicht bei einer der folgenden Operationen
(a) Vertauschen zweier Gleichungen.
(b) Multiplikation beider Seiten einer Gleichung mit einem Faktor
�= 0.
(c) Addition eines Vielfachen einer Gleichung zu einer anderen Gleichung.
Ein gegebenes System werden wir daher mit solchen elementaren
Zeilenumformungen solange vereinfachen, bis wir die Lösungsmenge
des vereinfachten — und damit auch des ursprünglichen —
Systems ablesen können.
8

Beweis
Beweis. (a), (b) sind klar, nur (c) bedarf der Begründung. Seien also i �= k aus
dem Bereich 1, . . . , m. Wir betrachten die i-te und die k-te Gleichung:
(1)
(2)
ai1x1 + ai2x2 + · · · + ainxn = bi
ak1x1 + ak2x2 + · · · + aknxn = bk.
Jede Lösung der Gleichungen (1) und (2) ist auch eine Lösung von:
(3)
(ai1 + aak1)x1 + (ai2 + aak2)x2 + · · · + (ain + aakn)xn = bi + abk
und damit der beiden Gleichungen:
(4)
(5)
(ai1 + aak1)x1 + (ai2 + aak2)x2 + · · · + (ain + aakn)xn = bi + abk
ak1x1 + ak2x2 + · · · + aknxn = bk.
Halten wir fest: Jede Lösung von (1) und (2) ist auch eine von (4) und (5).
Aus (4) und (5) erhalten wir aber (1) und (2) zurück, indem wir das (−a)-fache
der Gleichung (5) zur Gleichung (4) addieren. Mit obigem Schluss ist jede Lösung
von (4) und (5) dann auch eine von (1) und (2). �
9

Elementare Zeilenumformungen
Für die zugehörige erweiterte Matrix [A|b] des Gleichungssystems
A · x = b liest sich das so:
Jede Operation vom Typ
• Vertauschen zweier Zeilen,
• Multiplikation einer Zeile mit einem Faktor �= 0,
• Addition eines Vielfachen einer Zeile zu einer anderen Zeile,
macht aus [A, b] eine neue “erweiterte” Matrix [A ′ |b ′ ], für welche das
zugeordnete Gleichungssystem A ′ · x = b ′ dieselbe Lösungsmenge
hat wie das System A · x = b. �
10

Vorläufiger Lösungsansatz
Da wir Gleichungen der Form E · x = b, E die n × n-Einheitsmatrix,
trivialerweise lösen durch x = b können, werden wir zu folgendem
— allerdings vorläufigem — Lösungsansatz für ein lineares Gleichungssystem
A · x = b mit quadratischer Matrix A geführt:
Idee: Forme [A|b] solange durch elementare Zeilenumformungen
um bis die Form
[E|c]
erreicht ist, wobei E die n × n-Einheitsmatrix ist. In diesem Fall ist
x = c
die eindeutig bestimmte Lösung von A · x = b.
11

Überprüfung der Idee I
Häufig klappt’s: Das lineare Gleichungssystem
führt zur erweiterten Matrix
⎡
⎤
1 2 0 1
⎣ 2 3 0 1 ⎦ ↦→
3
⎡
1
↦→ ⎣ 0
4
2
1
1
0
0
3
⎤
1
1 ⎦ ↦→
0 −2 1 0
1x1 + 2x2 + 0x3 = 1
2x1 + 3x2 + 0x3 = 1
3x1 + 4x2 + 1x3 = 3
⎡
⎣
⎡
⎣
1 2 0 1
0 −1 0 −1
3 4 1 3
1 0 0 −1
0 1 0 1
0 −2 1 0
⎤
⎦ ↦→
⎤
⎦ ↦→
⎡
⎣
⎡
⎣
1
0
2
−1
0
0
1
−1
0 −2 1 0
1 0 0 −1
0 1 0 1
0 0 1 2
und den markierten elementaren Zeilenumformungen. Folglich ist das Gleichungs-
system eindeutig lösbar mit Lösung
⎛
⎝ x1
x2
x3
⎞
⎠ =
⎛
⎝ −1
1
2
⎞
⎠ .
⎤
⎦
⎤
⎦
12

Überprüfung der Idee II
Mitunter klappt’s nicht: Das lineare Gleichungssystem
führt zur erweiterten Matrix
⎡
⎤
3 1 6 18
⎣ 2 1 4 13 ⎦ ↦→
1 1 2 10
3x1 + 1x2 + 6x3 = 18
2x1 + 1x2 + 4x3 = 13
1x1 + 1x2 + 2x3 = 10
↦→
⎡
⎣
⎡
⎣
1 1 2 10
2 1 4 13
3 1 6 18
1 1 2 10
0 1 0 7
0 2 0 12
⎤
⎦ ↦→
⎤
⎦ ↦→
⎡
⎣
⎡
⎣
1
0
1
−1
2
0
10
−7
0 −2 0 −12
1 0 2 3
0 1 0 7
0 0 0 −2
und den markierten elementaren Zeilenumformungen. Die erhaltene Matrix [A ′ , b ′ ]
lässt sich nicht auf die Form [E|c] bringen.
Grund: Das zu [A ′ |b ′ ] gehörige Gleichungssystem ist nicht lösbar, da schon allein
seine letzte Gleichung 0x1 + 0x2 + 0x3 = −2 nicht lösbar ist.
⎤
⎦
⎤
⎦
13

Bewertung der Beispiele
Unsere Idee ‘Umformung in Richtung Einheitsmatrix’ war zu optimistisch.
Nur für eindeutig lösbare Systeme kann die Reduktion der
erweiterten Matrix auf die Form [E|c] überhaupt gelingen.
Gleichwohl zeigt Beispiel II, dass die eingeschlagene Strategie auch
dort trägt, wo die eindeutige Lösbarkeit nicht gegeben ist. Sogar
die Nichtlösbarkeit eines Systems konnten wir auf diesem Wege entscheiden.
Neue Umformstrategie : Bringe die erweiterte Matrix auf eine Form,
die der Einheitsmatrix möglichst nahe kommt. Dies Ziel werden wir
mit der Zeilenstufenform erreichen.
14

Matrizen in Zeilenstufenform
Wir sehen hier ein typisches Beispiel einer m × n-Matrix in Zeilenstufenform.
⎛
0 0 |1 ∗ 0 ∗ ∗ 0 ∗ 0 ∗
⎞
A =
⎜
⎝
0
0
0
0
0
0
0
0
0
0
0
0
|1
0
0
∗
0
0
∗
0
0
0
|1
0
∗
∗
0
0
0
|1
∗
∗
∗
⎟
⎠
0 0 0 0 0 0 0 0 0 0 0
i1 i2 i3 i4
Eine Treppenlinie trennt einen unteren Bereich ab, der nur aus Nulleinträgen
besteht.
In unserem Fall haben wir r = 4 Stufen an den Positionen
1 ≤ i1 < i2 < · · · < ir ≤ n.
15

Eigenschaften der Stufenform
(S1) In den r Stufen der Treppe, d.h. an den markierten Stellen
i1, i2, . . . , ir stehen der Reihe nach die Einheitsvektoren
e1, e2, . . . , er.
(S2) Die übrigen Einträge des oberen Bereichs können beliebig
gewählt werden. Im Bereich unterhalb der Treppenlinie gibt es
nur Einträge gleich Null.
(S3) Die zu den Stufen i1, i2, . . . , ir gehörigen Spalten erzeugen alle
anderen Spalten von A.
(S4) Der Rang von A ist folglich gleich der Anzahl r der Stufen
der Matrix von Stufenform.
(S5) Kein Stufenvektor lässt sich aus den vorangehenden Spalten
erzeugen.
16

Elementare Zeilenumformungen und
Zeilenstufenform
Satz. Jede m × n-Matrix lässt sich durch elementare Zeilenumformungen
auf Zeilenstufenform bringen.
Wir üben das Verfahren zunächst an Beispielen und diskutieren Anwendungen,
bevor wir den generellen Beweis führen.
Vorschau: Es wird sich herausstellen, dass die entsprechende Umformung
in Zeilenstufenform genau die Technik ist, die wir zur
vollständigen Lösung eines linearen Gleichungssystems benötigen.
17

↦→
⎛
⎜
⎝
⎛
⎜
⎝
1 1 1 1 1
1 2 1 1 1
1 1 1 0 1
2 3 2 1 2
Umformung in Zeilenstufenform
⎞
1 0 1 1 1
0 1 0 0 0
0 0 0 −1 0
0 0 0 −1 0
⎟
⎠ ↦→
⎞
⎟
⎠ ↦→
⎛
⎜
⎝
⎛
⎜
⎝
1 1 1 1 1
0 1 0 0 0
0 0 0 −1 0
0 1 0 −1 0
1 0 1 1 1
0 1 0 0 0
0 0 0 1 0
0 0 0 −1 0
⎞
⎟
⎠ ↦→
⎞
⎟
⎠ ↦→
⎛
⎜
⎝
⎛
⎜
⎝
1 1 1 1 1
0 1 0 0 0
0 1 0 −1 0
0 0 0 −1 0
|1 0 1 0 1
0 |1 0 0 0
0 0 0 |1 0
0 0 0 0 0
Die letzte Matrix ist in Zeilenstufenform mit drei Stufen in den Spalten 1, 2 und
4. Sie hat daher den Rang drei .
Wir werden gleich sehen, dass dann auch die anderen Matrizen den Rang drei
haben.
18
⎞
⎟
⎠
⎞
⎟
⎠

Zeilenumformungen und Rang
Satz. Elementare Zeilenumformungen bewahren den Rang.
Beweis. Die Matrix B entstehe aus der m × n-Matrix A durch elementare
Zeilenumformungen. Die homogenen linearen Gleichungssysteme
A·x = 0 und B·x = 0 gehen dann ebenfalls durch elementare
Zeilenumformungen auseinander hervor und haben daher denselben
Lösungsraum H.
Der Rangsatz für Matrizen sagt dann, dass die Matrizen A und B
jeweils denselben Rang n − dim H haben. �
19

Lösbarkeitskriterium
Satz. Das lineare Gleichungssystem A · x = b ist genau dann lösbar,
wenn nach Umformung der erweiterten Matrix [A|b] in Treppenform
[B|c] die letzte Spalte c kein Stufenvektor ist.
Beweis. Da sich die Lösungsmenge durch elementare Zeilenumformungen
nicht verändert, ist A · x = b genau dann lösbar, wenn
B · x = c lösbar ist. Dies ist äquivalent dazu, dass sich c aus den
Spaltenvektoren von B linear kombinieren lässt.
Nach (S3) und (S5) ist dies genau dann der Fall, wenn c kein
Stufenvektor ist. �
Wir werden gleich sehen, wie wir im lösbaren Fall eine spezielle
Lösung finden.
20

Finden einer speziellen Lösung
A sei eine m × n-Matrix und b eine n-Spalte. Die erweiterte Matrix
[A|b] befinde sich in Zeilenstufenform, wobei sich die Stufen in den
Positionen 1 ≤ i1 < i2 < · · · < ir ≤ n befinden, also b kein Stufenvektor
ist.
Weglassen aller Nullzeilen führt zu einer r×(n+1)-Matrix, mit r ≤ n.
Wir füllen nun die resultierende Matrix solange mit Nullzeilen auf,
bis in der i-ten Stufe stets der Einheitsvektor ei steht (für alle
i = 1, . . . , r) und wir insgesamt n Zeilen haben. Dies liefert eine
erweiterte Matrix [B|c], wobei B das Format n × n hat.
Achtung: Falls der i-te Eintrag ci �= 0, so ist die i-te Spalte von B
eine Stufe, also gleich ei.
Es folgt, dass x = c eine spezielle Lösung des Systems ist .
21

Die erweiterte Matrix
Anwendungsbeispiel spezielle Lösung
[A|b] =
⎛
⎜
⎝
|1 0 1 0 1
0 |1 0 0 0
0 0 0 |1 0
0 0 0 0 0
befindet sich schon in Zeilenstufenform. Die letzte Spalte ist keine Stufe, daher
ist das System lösbar. Auffüllen mit Nullzeilen liefert das äquivalente System:
[A ′ |b ′ ⎛
� ⎞
|1 0 1 0 1 �
� 3
⎜
0 |1 0 0 0 �
�
−1 ⎟
] = ⎜ 0 0 0 |0 0 �
� 0 ⎟
⎝ 0 0 0 |1 0 �
�
−1 ⎠
0 0 0 0 0 � 0
Wir beachten, dass Nullen in der Hauptdiagonalen von A ′ in derselben Zeile einen
Nulleintrag in b ′ hervorrufen.
Es folgt: b ′ ist eine spezielle Lösung von A · x = b.
�
�
�
�
�
�
�
3
−1
−1
0
⎞
⎟
⎠
22

Kommentar: spezielle Lösung(en)
Zusammenfassung: Falls [A, b] Zeilenstufenform hat und die letzte
Spalte keine Stufe ist, erhalten wir nach geeignetem Streichen
und Neueinfügen von Nullzeilen eine erweiterte Matrix [A ′ |b ′ ], deren
rechte Seite b ′ eine Lösung von A · x = b ist.
Hinweis: Dieses einfache Rezept zum Finden einer speziellen Lösung
darf nicht zum Schluss verleiten, b ′ sei die einzige Lösung von A·x =
b.
23

Homogene Systeme in Zeilenstufenform
Wir nehmen jetzt an, dass A eine Matrix in Zeilenstufenform ist. Durch Streichen
und Neueinfügen von Nullzeilen sei schon erreicht, dass A quadratisch, vom
Format n × n ist und die Stufenvektoren ihre Eins in der Hauptdiagonalen haben.
Wir wissen, dass die Anzahl der Stufen(vektoren) gleich dem Rang r von A ist.
Ferner ist nach Konstruktion A eine obere Dreiecksmatrix.
Entsprechend hat das homogene lineare Gleichungssystem A · x = b
einen Lösungsraum H ⊆ R n der Dimension n − r.
Wir können jetzt eine Basis von H wie folgt angeben: Die n − r
Spalten von A, die nicht Stufenvektoren von A sind, haben sämtlich
als Hauptdiagonaleintrag eine Null. Ersetzen wir in diesen Spalten
jeweils den Hauptdiagonaleintrag 0 durch -1 , so erhalten wir n − r
Vektoren h1, h2, . . . , hn−r , die eine Basis von H bilden.
24

Nachweis: Lösungen von A · x = 0
Klar ist zunächst, dass die Spaltenvektoren h1, h2, . . . , hn−r ein linear
unabhängiges System bilden.
Ferner ist jedes hi tatsächlich eine Lösung von A · x = 0: Hierzu beachten wir, wie
hi aus einem Nichtstufenvektor, sagen wir der Spalte aj, hervorgeht.
Nach (S3) ist aj eine Linearkombination der Stufenvektoren; die auftretenden
Koeffizienten sind gerade die Koeffizienten aij von aj. Somit gilt
aj = ai1.a1 + · · · + ai j−1.aj−1 + ai j+1.aj+1 + . . . + ai n.an.
Indem wir aj, behaftet mit dem Faktor −1 , auf die rechte Seite der Gleichung
bringen, folgt A · hi = 0.
Wir schließen, dass h1, h2, . . . , hn−r ein linear unabhängiges System
im n − r-dimensionalen Lösungsraum H ist. Es folgt mit einem
Dimensionsargument, dass dieses System eine Basis von H ist. �
25

Der Gauß-Algorithmus I
Wir haben damit alle Bausteine für den Gauß-Algorithmus beisammen:
Schritt 1: Die erweiterte Matrix [A|b] des zu untersuchenden linearen
Gleichungssystems wird zunächst durch elementare Zeilenumformungen
auf Zeilenstufenform [A ′ |b ′ ] gebracht. Falls die letzte Spalte
b ′ ein Stufenvektor ist, ist das System A · x = b nicht lösbar, andernfalls
ist es lösbar.
Schritt 2: Durch geeignetes Streichen und Auffüllen von Nullzeilen
wird [A ′ |b ′ ] so zu [A ′′ |b ′′ ] umgeformt, dass A ′′ eine quadratische
Matrix ist und die Einsen der Stufenvektoren in der Hauptdiagonale
von A ′ stehen. Es ist dann b ′′ eine spezielle Lösung von A · x = b.
26

Der Gauß-Algorithmus II
Schritt 3: Wir ersetzen die Hauptdiagonaleinträge Null von A ′′ in
den Spalten, die nicht Stufenvektoren sind, jeweils durch −1 und
erhalten ein System von n − r (r=Anzahl der Stufenvektoren) Spaltenvektoren
h1, h2, . . . , hn−r, welches eine Basis des Lösungsraums
H des homogenen Gleichungssystems A · x = 0 bildet.
Die ’allgemeine Lösung’ des Gleichungssystems A · x = b hat dann
die Form
x = b ′′ +
n−r
�
i=1
αi.hi, mit beliebigen Skalaren αi.
27