pdf-file, 2.03 Mbyte - Torsten Schütze

2.3 Separable Quadratmittelprobleme 21
Separable Quadratmittelprobleme sind ein Spezialfall sog. reduzibler nichtlinearer Optimierungsprobleme,
bei denen eine natürliche Unterscheidung der Variablen in zwei Gruppen
auftritt. Die Variablen, welche den Vektor α darstellen, sind so gewählt, daß das ndimensionale
Subproblem
min f(α, tc) : α ∈ R n , tc ∈ R l
fest
effizient und akkurat gelöst werden kann.
Der unrestringierte Quadratmittelfall wurde erstmals von Golub/Pereyra [GP73] im
Detail untersucht. Später verallgemeinerten Ruhe/Wedin [RW80] diese Ideen auf allgemeine
unrestringierte nichtlineare Optimierungsprobleme, während Parks [Par85] restringierte
Probleme betrachtet. Wir werden zunächst die Vorgehensweise im Fall des unrestringierten
separablen Quadratmittelproblems (2.17) erläutern, bevor in Abschnitt 3.3 der restringierte
Fall aus [Par85] behandelt wird.
2.3.1 Gauß-Newton-ähnliche Verfahren für separable Quadratmittelprobleme
Wir benutzen das Gauß-Newton-Verfahren, um die Ideen zur effektiven Lösung von (2.17)
darzulegen. Ausgehend von der aktuellen Iterierten x = (α, t) wird der Gauß-Newton-
Schritt s ∈ Rn+l zur Minimierung von 1
2 F(α, t)2 als Lösung des quadratischen Ersatzproblems
(2.18) min µGN(x + s) = 1
2 F + Js2 : s ∈ R n+l
bestimmt. Unter der Voraussetzung rank J = n + l, d. h. die Jacobi-Matrix J = F ′ ∈ Rm,n+l hat vollen Spaltenrang, ist die Lösung von (2.18) eindeutig, erfüllt die Normalgleichungen
JT Js = −JT F und definiert damit das ungedämpfte Gauß-Newton-Verfahren x + = x + s.
Die Jacobi-Matrix J ∈ Rm,n+l der Residuumsfunktion F ist J = [Jα Jt] mit Jα = −B und
Jt = −∂Bα, dabei bezeichne ∂ den Operator der Fréchet-Ableitung bez. t.
Wir können den Gauß-Newton-Schritt s ∈ Rn+l in eine Komponente sα ∈ Rn bezüglich
der Variablen α und eine Komponente st ∈ Rl bezüglich t aufspalten. Schreiben wir die
Normalgleichungen aus, so erhalten wir
JT αJα JT αJt
JT t Jα JT
sα −JT = αF
t Jt
−JT
t F
bzw.
(2.19)
(2.20)
st
B T Bsα − B T Jtst = B T F
−J T t Bsα + J T t Jtst = −J T t F.
Indem wir die Gleichung (2.19) von links mit JT t (B + ) T multiplizieren und das Resultat zu
(2.20) addieren, erhalten wir wegen der Beziehung B +T
BT + B = BB T (P 3) + (P 1)
B = BB B =
B die Gleichung
J T +
t I − BB Jtst = −J T +
t I − BB F.