Kapitel 9 Quadratische Optimierung

10.1.2 Gleichungs– und Ungleichungsrestriktionen
Die Verallgemeinerung der Überlegungen des vorangehenden Abschnitts ist naheliegend:
Seien x k , λ k Näherungen für ¯x, ¯λ. Wir bestimmen eine Lösung s k des Problems
(P1 k ) min
1
2 sT W k s + g kT s
a k i
T
s + c
k
i = 0, i ∈ I 1
a k i
T
s + c
k
i ≤ 0, i ∈ I 2
und erhalten neue Näherungen x k+1 = x k + s k , λ k+1 als Lagrangemultiplikator zu s k . Dies
ist das sogenannte Wilson-Verfahren (1963)
Satz 10.1 Sei f, c ∈ C 3 und ¯x ein lokales Minimum für (P1), in dem die Gradienten der
aktiven Restriktionen linear unabhängig und die hinreichenden Kuhn-Tucker-Bedingungen
2.Ordnung erfüllt sind, ¯λ sei der zu ¯x gehörende eindeutige Lagrangemultiplikator. Dann
gibt es eine Umgebung U ⊂ R n × R I 1∪I 2
von (¯x, ¯λ), eine Umgebung S ⊂ R n von 0 und eine
Zahl β > 0, sodass für alle (x k , λ k ) ∈ U gilt:
1. Das Problem (P1 k ) besitzt mindestens ein lokales Minimum s k ∈ S.
2. Für jeden stationären Punkt s k ∈ S für (P1 k ) mit zugehörigem Lagrangemultiplikator
λ k+1 gilt (x k+1 , λ k+1 ) ∈ U (x k+1 := x k + s k ) und
max{‖x k+1 − ¯x‖, ‖λ k+1 − ¯λ‖} ≤ β‖x k − ¯x‖ max{‖x k − ¯x‖, ‖λ k − ¯λ‖}
≤ β max{‖x k − ¯x‖, ‖λ k − ¯λ‖} 2
Satz 10.1 ergibt die lokale quadratische Konvergenz des Wilsonverfahrens, vorausgesetzt
wir kennen einen Startpunkt (x 0 , λ 0 ) hinreichend nahe bei (¯x, ¯λ) und wir finden die ”richtigen”
Lösungen (in S) für Problem (P1 k ). Problem (P1 k ) ist normalerweise ein indefinites
quadratisches Problem und muss keine eindeutige Lösung besitzen, weiters können auch
Lösungen existieren, die nicht in S liegen. Eine weitere Einschränkung ist, dass nicht nur
ein Startpunkt x 0 hinreichend nahe bei ¯x bekannt sein muss, sondern auch Lagrangemultiplikatoren
λ 0 hinreichend nahe bei ¯λ. Diese beiden Schwierigkeiten können allerdings
zumindest theoretisch relativ leicht umgangen werden.
Entscheidende Nachteile des Wilsonverfahrens liegen jedoch im
1. Fehlen von globalen Konvergenzeigenschaften
2. hohen numerischen Aufwand bei der Bestimmung der Hessematrix der Lagrangefunktion
In der Praxis wird das Wilson–Verfahren nur mehr für sehr spezielle Probleme verwendet.
Für allgemeine Probleme ist ein Quasi–Newtonverfahren vorzuziehen, das beide Nachteile
vermeiden. Bevor wir jedoch zu den Quasi–Newtonverfahren kommen, benötigen wir noch
andere Methoden.
92