Kapitel 9 Quadratische Optimierung

9.1.1 Lösung linearer Gleichungen
Wir betrachten ein Gleichungssystem
A T x = b
wobei A eine n × m Matrix sei, m ≤ n, Rg(A) = m, b ∈ R m , x ∈ R n .
Aus der linearen Algebra ist bekannt, dass sich jede Lösung eines linearen Gleichungssystems
durch eine spezielle Lösung und eine Lösung des zugehörigen homogenen Systems
darstellen lässt.
1. Lösung des homogenen Systems: Da nach Voraussetzung Rg(A) = m, ist die Lösungsmenge
N(A T ) := {x ∈ R n | A T x = 0}
des homogenen Gleichungssystems (Nullraum von A T ) ein n − m dimensionaler
Teilraum ⇒ es gibt n − m linear unabhängige Vektoren z i ∈ R n mit A T z i = 0,
i = 1, . . . , n − m (Basis für N(A T )). Für die n × (n − m) Matrix Z := (z 1 , . . . , z n−m )
gilt dann
Rg(Z) = n − m, A T Z = 0, (A T x = 0 ⇐⇒ ∨
p∈R n−m x = Zp)
2. Spezielle Lösung des inhomogenen Systems: Aus Rg(A) = m folgt wiederum, dass
eine (im allgemeinen nicht eindeutig bestimmte) n × m Matrix S mit A T S = I
(Rechtsinverse) existiert (z.B. die sogenannte Pseudoinverse S = A(A T A) −1 ). Dann
ist x 0 := Sb eine Lösung von Ax = b
3. Allgemeine Lösung des inhomogenen Systems: Sei x ∈ R n , Z und S wie oben bestimmt.
Dann gilt
Ax = b ⇐⇒
∨
x = Sb + Zp
p∈R n−m
Da die n×n Matrix (S . Z) regulär ist (Sb+Zp = 0 ⇒ A T (Sb+Zp) = b = 0 ⇒ p = 0)
ist der Vektor p eindeutig bestimmt.
Wir diskutieren nun 2 Möglichkeiten, um die Matrizen S und Z tatsächlich auszurechnen:
1. Direkte Elimination: Da RgA = m existieren m linear unabhängige Spalten
von A T . O.B.d.A. seien die ersten m Spalten von A T linear unabhängig, d.h. A T =
(A T 1 . A T 2 ), wobei A T 1 die von den ersten m Spalten von A T gebildete reguläre m × m
Matrix, A T 2 die durch die ( restlichen ) Spalten gebildete m ×(n −m) Matrix ist. Analog
x1
partitionieren wir x = mit x
x 1 ∈ R m , x 2 ∈ R n−m . Dann gilt A T x = b
2
⇐⇒ A T 1 x 1 + A T 2 x 2 = b ⇐⇒
78
(
x1
)
=
x 2
(
A
−T
1 b − A −T
1 A 2 p
p
)