Numeriska metoder för linjär algebra: Gausselimination

Numeriska metoder för linjär algebra: Gausselimination
Grundläggande begrepp
Ett linjärt ekvationssystem med n obekanta har formen
E1 : a11x1 + a12x2 + . . . + a1nxn = b1
E2 : a21x1 + a22x2 + . . . + a2nxn = b2
. . . . . . . . (1)
En : an1x1 + an2x2 + . . . + annxn = bn
Introducera matriserna
⎡
a11
⎢ a21
A = ⎢
⎣ .
a12
a22
.
. . .
. . .
. . .
⎤
a1n
⎥
a2n ⎥
. ⎦
an1 an2 . . . ann
,
s˚a A = [ajk] är en kvadratisk matris av typ n × n, och
⎡
a11
⎢ a21
à = [A b] = ⎢
⎣ .
. . .
. . .
.
a1n
a2n
. . .
⎤
b1
⎥
b2 ⎥
. ⎦ ,
och vektorerna (kolonnvektorer)
x =
⎡
⎢
⎣
x1
. . .
xn
an1 . . . ann bn
⎤
⎥
⎦ , b =
⎡
⎢
⎣
b1
. . .
kan (kvadratiska) ekvationssystemet skrivas p˚a matrisform
Ekvationssystemet
bn
⎤
⎥
⎦
Ax = b. (2)
Ax = 0, 0 =
⎡
⎢
⎣
0
. . .
0
⎤
⎥
⎦ (3)
kallas ett homogent system.
En lösning till systemet (1) är en mängd av n talen x1, x2, . . ., xn som satisfierar alla n
ekvationerna. De bildar kolonnvektorn x.
Ekvationssystemet (1) har en entydig lösning om och endast om det A = 0 (matrisn A är
inverterbar, eller icke-singulär). Man kan d˚a multipliciera systemet fr˚an vänster med inversen
A −1 och f˚ar
x = A −1 b.

Man kan ocks˚a använda en ekvivalent metod att lösa linjära ekvationssystem som kallas
Cramers regel. Betrakta tex ekvationssystemet
med 2 × 2 koefficientmatrisn
och kolonnvektorerna
Skriv systemet i formen
à är en 2 × 3 matris
Vi har
x =
2x1 + 4x2 = 1
6x1 + 3x2 = 2 (4)
A =
2 4
6 3
x1
x2
2 4
6 3
, b =
x1
x2
à = [A b] =
det
2 4
6 3
=
,
1
2
1
2
2 4 1
6 3 2
= −18,
dvs., det A = 0. D˚a har ekvationssystemet (4) en entydig lösning, matrisn A är inverterbar
(icke-singulär), och vi kan skriva lösningen enligt Cramers regel:
x1 = − 1
18 det
1 4
2 3
= 5/18, x2 = − 1
18 det
.
.
.
2 1
6 2
= 2/18.
Men att bestämma inversen till en n × n matris (och att använda Cramers regel) är en
mödosam procedur och det är oftast enklare att lösa systemet med elimination.
Det finns tv˚a huvudklasser av metoder för numerisk lösning av linjära ekvationssystem,
direkt och iterativa metoder. Med en direkt metod, beräknar man lösningen genom att utföra
ett ändligt antal aritmetiska operationer. Om man skulle räkna utan avrundningsfel, skulle den
beräknade lösningen vara den exakta lösningen till ekvationssystemet. Den mest grundläggande
direkta metoden för lösning av linjära ekvationssystem är Gausselimination (GS).
Gausselimination
M˚alet med GS är att överföra koefficientmatrisen p˚a högertriangulär form. Metoden innebär
att man adderar multipler av ekvationerna till varandra. Lösningen f˚as sedan genom bak˚at
substitution.
Man kan använda tre elementära operationer utan att bryta mot systemslösning:
(1) byta varje tv˚a rader (dvs., ekvationer);
(2) multipliciera en rad (dvs., en ekvation) med ett tal (= 0);
(3) ersätta en rad med summan av den här raden och en annan rad multiplicierad med
ett tal.

T ex f˚as lösningen till systemetet (4),
med hjälp av GS.
1 Begynnelsematris
E1 : 2x1 + 4x2 = 1
E2 : 6x1 + 3x2 = 2
A =
2 4 1
6 3 2
Byta raderna 2 och 1 för att f˚a augmenterad matrisen à med maximalelementet a11
rad 1
à = [A b] =
rad 2
6
2
3
4
2
,
1
eller systemet
,
6x1 + 3x2 = 2 (5)
2x1 + 4x2 = 1 (6)
Maximalelementet a11 = 6 (‘pivot) är i den första kolonnen och första raden.
2 Reducera kol 1 av rad 2 till noll
Dividera ekvationen (5) med 6, multipliciera med 2 (dvs., multipliciera (5) med 1/3) och
subtrahera fr˚an ekvationen (6). Man f˚ar
6x1 + 3x2 = 2
3x2 = 1/3,
eller systemet Rx = ˜b med en högertriangulär (upp˚at triangulär) matris
R =
6 3
0 3
Skriv resultatet i matrisformen:
gammalrad 1 6 3 2
gammalrad 2 - 2(gammalrad 1 )/6 0 3 1/3
3 Bestämm lösningen x1, x2 med substitution i omvänd ordning (bak˚at substitution).
Genom att i den första ekvationen sätta in x2 = (1/3)/3 = 1/9 erh˚alls x1 = (2−3·(1/9))/6 =
5/18:
x1 = (2 − 3 · (1/9))/6 = 5/18
x2 = 2/18.
.
.

Betrakta som exempel systemet
med 3 × 3 koefficientmatrisn
och kolonnvektorna
E1 : 3x1 + 6x2 + 9x3 = 3 (7)
E2 : 2x1 + (4 + p)x2 + 2x3 = 4 (8)
E3 : −3x1 − 4x2 − 11x3 = −5 (9)
A =
x =
⎡
⎢
⎣
⎡
⎢
⎣
3 6 9
2 4 + p 2
−3 −4 −11
x1
x2
x3
⎤
⎥
⎦ , b =
⎡
⎢
⎣
3
4
−5
Augmenterade matrisen à till systemet (7)–(9) är en 3 × 4 matris
Skriv (7)–(9) i formen
Tillämp GS.
à = [A b] =
⎡
⎢
⎣
1 Begynnelsematris ⎡
⎡
⎢
⎣
3 6 9
2 4 + p 2
−3 −4 −11
⎢
⎣
⎤
⎥
⎦ ,
⎤
⎥
⎦ .
3 6 9 3
2 4 + p 2 4
−3 −4 −11 −5
x3
⎤
⎥
⎦ ,
⎤ ⎡
x1
⎥ ⎢
⎦ ⎣ x2
⎤ ⎡
⎥ ⎢
⎦ = ⎣
3
4
−5
⎤
⎥
⎦ .
rad 1 3 6 9 3
rad 2 2 4 + p 2 4
rad 3 −3 −4 −11 −5
Maximalelementet a11 = 3 (‘pivot) är i den första kolonnen och första raden.
2 Reducera kol 1 av rader 2 och 3 till noll
2.1 Dividera ekvationen (7) med 3, multipliciera med 2 (dvs., multipliciera (7) med 2/3)
och subtrahera fr˚an ekvationen (8). Man f˚ar
⎤
⎥
⎦ .
3x1 + 6x2 + 9x3 = 3 (10)
p · x2 − 4x3 = 2 (11)
−3x1 − 4x2 − 11x3 = −5 (12)
2.2 Dividera ekvationen (10) med 3, multipliciera med (-3) [dvs., multipliciera (10) med
(-1)] och subtrahera fr˚an (12). Man f˚ar
3x1 + 6x2 + 9x3 = 3 (13)
p · x2 − 4x3 = 2 (14)
2x2 − 2x3 = −2 (15)

Man kan skriva resultatet i matrisformen:
⎡
gammalrad 1
⎢
⎣ gammalrad 2 - 2( gammalrad 1 )/3
3
0
6
p
9
−4
3
2
⎤
⎥
⎦ .
gammalrad 3 + 3( gammalrad 1 )/3 0 2 −2 −2
Byta rader 2 och 3 ⎡
⎢
⎣
gammalrad 1 3 6 9 3
gammalrad 3 0 2 −2 −2
gammalrad 2 0 p −4 2
Maximalelementet a22 = 2 (‘pivot) är i den andra kolonnen och andra raden. Motsvarande
systemet
⎤
⎥
⎦ .
3x1 + 6x2 + 9x3 = 3 (16)
2x2 − 2x3 = −2 (17)
p · x2 − 4x3 = 2 (18)
3 Reducera kol 2 av rad 3 till noll
Dividera ekvationen (17) med 2, multipliciera med p (dvs., multipliciera (17) med p/2) och
subtrahera fr˚an (18):
eller ⎡
⎢
⎣
3x1 + 6x2 + 9x3 = 3 (19)
2x2 − 2x3 = −2 (20)
(−4 + p)x3 = 2 + p (21)
gammalrad 1 3 6 9 3
gammalrad 2 0 2 −2 −2
gammalrad 3 - p( gammalrad 2 )/2 0 0 −4 + p 2 + p
4 Bestämm lösningen x1, x2, x3 med substitution i omvänd ordning.
När p = 0, systemet (19)–(21) med den upp˚ata triangulära matrisn
⎡
3
⎢
R = ⎣ 0
6
2
⎤
9
⎥
−2 ⎦ ,
0 0 −4
har formen
3x1 + 6x2 + 9x3 = 3
⎤
⎥
⎦ ,
2x2 − 2x3 = −2 (22)
−4x3 = 2
Genom att i den andra ekvationen sätta in x3 = 2/(−4) = −0.5 erh˚alls x2 = 0.5(−2 + 2 ·
(−0.5)) = −1.5 och i den första ekvationen x3 = −0.5 och x2 = −1.5 erh˚alls x1 = (3 − 6 ·
(−1.5) − 9 · (−0.5))/3 = 5.5:
x1 = (3 − 6 · (−1.5) − 9 · (−0.5))/3 = 5.5
x2 = 0.5(−2 + 2 · (−0.5)) = −1.5 (23)
x3 = −0.5

Pivotering
I föreg˚aende avsnitt antog vi att alla pivot-element i GS var skilda fr˚an noll. Detta är
orealistiskt. Antag t ex att vi skall lösa systemet
eller
x2 = 1 (24)
x1 + x2 = 2 (25)
0 1 ∗ 1
1 1 ∗ 2
Den algoritm av GS, som vi beskrev m˚aste här modifieras s˚a att man först byter rad 1 och 2 i
matrisen:
1
0
1
1
∗
∗
2
.
1
Man bör göra radbyte ocks˚a d˚a man löser, t ex, systemet
eller
.
ɛ · x1 + x2 = 1 (26)
x1 + x2 = 2 (27)
ɛ 1 ∗ 1
1 1 ∗ 2
där ɛ är litet, eftersom noggrannhetsförlust kan uppträda p˚a grund av avrundningsfel.
L˚at ɛ = 10 −5 . Använd GS.
1 Begynnelsematris
10 −5 1 ∗ 1
1 1 ∗ 2
2 Reducera kol 1 av rad 2 till noll
Multipliciera den första ekvationen med 105 och subtrahera fr˚an den andra ekvationen. Man
f˚ar
10−5 1 ∗ 1
0 1 − 105 ∗ 2 − 105
.
Om vi nu lagrar talen i flyttalsystemet med basen 10,
1 = 10 −5 · 10 5 = 0.00001 · 10 5
2 = 2·10 −5 ·10 5 = 2·0.00001·10 5 = 0.00002·10 5
10 5 = 1.00000 · 10 5
.
.
[taldelen (mantissan) 0.00001, exponentdelen 5],
[taldelen (mantissan) 0.00002, exponentdelen 5],
[taldelen (mantissan) 1.00000, exponentdelen 5]
(b˚ada tal har samma exponentdelen 5), och räknar i flyttalsystemet med 3 siffror i br˚akdelen,
blir
1 − 10 5 = 0.00001 · 10 5 − 1 · 10 5 = (0.00001 − 1)10 5 =
−0.99999 · 10 5 = −9.99999 · 10 4 ≈ −10.000 · 10 4 = −1.000 · 10 5
2 − 10 5 = 0.00002 · 10 5 − 1 · 10 5 = (0.00002 − 1)10 5 =

−0.99998 · 10 5 = −9.99998 · 10 4 ≈ −10.000 · 10 4 = −1.000 · 10 5
(≈ skall utläsas “avrundas till 3 siffror i br˚akdelen). I flyttalsystemet f˚ar vi allts˚a matrisen
10−5 0
1
−10
∗ 1
5 ∗ −105
.
eller systemet
10 −5 x1 + x2 = 1 (28)
−10 5 x2 = −10 5
3 Bestämm lösningen x1, x2 med substitution i omvänd ordning (bak˚at substitution).
Genom att i (28) sätta in x2 = 10 −5 · 10 5 = 1 erh˚alls x1 = (1 − 1) · 10 5 = 0:
x1 = 0
x2 = 1.
Om vi istället gör radbyte (byta raderna 2 och 1 i begynnelsematrisen för att f˚a augmenterad
matrisen med maximalelementet a11
1
10
1 ∗ 2
−5 1 ∗
,
1
och eliminera (multipliciera den första ekvationen med 10−5 och subtrahera fr˚an den andra
ekvationen) d˚a f˚ar vi
1
0
1
1 − 10
∗ 2
5 ∗ 1 − 2 · 10−5
,
som avrundas till
och lösningen blir här
1 1 ∗ 2
0 1 ∗ 1
x1 = 1
x2 = 1.
Kolla resultatet genom att räkna lösningen (för godtyckligt ɛ = 1) med Cramers regel:
ɛ
det
1
1
= ɛ − 1,
1
x1 = 1
ɛ − 1 det
1
2
1
=
1
1
1 − ɛ , x2 = 1
ɛ − 1 det
ɛ
1
1
=
2
1 − 2ɛ
1 − ɛ .
Om ɛ är litet, man kan skriva
och lösningen blir
1
1 − ɛ
≈ 1 + ɛ,
1 − 2ɛ
1 − ɛ
,
≈ (1 − 2ɛ)(1 + ɛ) ≈ 1 − ɛ
x1 ≈ 1
x2 ≈ 1.
(29)

Problem 1
Konstruera genom GS lösningen till linjära ekvationssystemet
Problem 2
3x1 + 5x2 = 5.9
x1 − 4x2 = 20.1
Konstruera genom GS lösningen till linjära ekvationssystemet
6x2 + 13x3 = 61
6x1 − 8x3 = −38
13x1 − 8x2 = 79

Lösning (Problem 1).
Skriv systemet som
Begynnelsematris
Använd GS.
1 Pivotering
Systemet blir
E1 : 3x1 + 5x2 = 5.9
E2 : x1 − 4x2 = 20.1
3 5
1 −4
3 5
A = ,
1 −4
5.9
b = .
20.1
x1
x2
à = [A b] =
à = [A b] =
2 Reducera kol 1 av rad 2 till noll
=
5.9
20.1
3 5 5.9
1 −4 20.1
rad 1 5 3 5.9
rad 2 −4 1 20.1
5x2 + 3x1 = 5.9
−4x2 + x1 = 20.1
rad 1 5 3 5.9
rad 2 + 4( rad 1 )/5 0 3.4 24.82
3 Högertriangulär matris. Bak˚at substitution
5x2 + 3x1 = 5.9
3.4x1 = 24.82
x2 = (5.9 − 3 · (7.3))/5 = −3.2
x1 = 7.3
.
.
,
.

Lösning (Problem 2).
1 Begynnelsematris ⎡
1 Pivotering Byta rader 3 och 1
⎡
⎢
⎣
⎢
⎣
0 6 13 61
6 0 −8 −38
13 −8 0 79
⎤
⎥
⎦ .
rad 1 13 −8 0 79
rad 2 6 0 −8 −38
rad 3 0 6 13 61
2 Reducera kol 1 av rader 2 och 3 till noll (endast rad 2 eftersom kol 1 av rad 3 är noll)
⎡
⎢
⎣
Pivotering Byta rader 3 och 2
⎤
⎥
⎦ .
13 −8 0 79
0 48/13 = 3.692308 −8 −74.461538
0 6 13 61
⎡
⎢
⎣
3 Reducera kol 2 av rad 3 till noll
13 −8 0 79
0 6 13 61
0 3.692308 −8 −74.461538
⎡
⎢
⎣
13 −8 0 79
0 6 13 61
0 0 −16 −112
4 Högertriangulär matris. Bak˚at substitution
13x1 − 8x2 = 79
6x2 + 13x3 = 61
⎤
⎥
⎦ ,
−16x3 = −112
x1 = (79 − (−8) · (−5))/13 = 3
x2 = (61 − 13 · 7)/6 = −5
x3 = 7
⎤
⎥
⎦ .
⎤
⎥
⎦ ,