Seminar Optimierung mit PDE-Bedingungen

Hauptseminar Optimierung mit PDE-Bedingungen
Arbeitsbereich numerische Mathematik
Prof. Dr. Andreas Prohl
Dipl.-Math. Markus Klein
Handout
Optimierungsaufgaben im Banachraum
Franziska Schmidt
Tübingen, den 28. Juni 2011

Inhaltsverzeichnis
Inhaltsverzeichnis 3
1 Einführung 5
2 Optimierungsaufgaben mit Gleichungsrestriktion - Ein Beispiel im R n 5
3 Optimierungsaufgaben mit Ungleichungsrestriktion 6
3.1 Optimierungsproblem im Alltag . . . . . . . . . . . . . . . . . . . . . . . . . 6
3.2 Grundlagen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
3.3 Differenzierbare Aufgabe . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
4 Rückblick: Beispiel mit Gleichungsrestriktion 10
5 Eine nichtdifferenzierbare, konvexe Aufgabe 11
6 Literaturverzeichnis 13

4 Inhaltsverzeichnis

1 Einführung
1 Einführung 5
Gesucht ist eine notwendige Bedingung für ein Optimum ū, das die folgende Optimierungsaufgabe
löst:
min f(u),
u.d.N. G(u) ≤K 0,
u ∈ C ⊆ U.
Im Folgenden seien die Mengen U und Z reelle Banachräume. Die Zielfunktion, die unter
den o.g. Nebenbedingungen minimiert werden soll, sei durch f : U → R gegeben und die
Abbildung G : U → Z muss nicht notwendigerweise linear sein. Weitere Details werden
in Kapitel 3.2 gegeben. So ist beispielsweise noch zu klären, wie die Halbordnungsrelation
„≤K“ auf einem Banachraum zu definieren bzw. was für eine Menge „K“ ist. Zunächst
bleiben wir jedoch im R n , wo die Halbordungsrelation „≤“ bereits bekannt ist.
Mit Hilfe der Lagrangetechnik werden wir als notwendige Bedingungen für eine optimale
Lösung ū der o.g. Optimierungsaufgabe die Karush-Kuhn-Tucker-Bedingungen erhalten.
2 Optimierungsaufgaben mit Gleichungsrestriktion - Ein Beispiel
im R n
Die Zielfunktion f : U → R und die Abbildung G : U → R m seien stetig differenzierbar
in der offenen Menge U ⊆ R n . Die Abbildung G ′ (ū) : U → R m sei surjektiv, wobei ū eine
Lösung des Optimierungsproblems mit Gleichungsrestriktion
sei.
Definition 2.1 (Lagrangefunktion)
Die Funktion L : U × R m → R mit
heißt Lagrange-Funktion.
min f(ū),
u.d.N. G(ū) = 0,
ū ∈ C = U.
L(u, z ∗ ) := f(u) + z ∗ · G(u)

6 3 Optimierungsaufgaben mit Ungleichungsrestriktion
Satz 2.2 (Lagranger Multiplikatorensatz)
Wenn ū eine Lösung des Optimierungsproblems unter der Nebenbedingung G(ū) = 0 ist,
dann existieren z ∗ , so dass L stationär, d.h. L ′ (ū, z ∗ ) = f ′ (ū) + z ∗ · G ′ (ū) = 0.
Definition 2.3 (Lagrangesche Multiplikatoren)
Die Elemente z ∗ ∈ R m , für die L ′ (ū, z ∗ ) = 0 gilt, heißen Lagrange Multiplikatoren.
Notwendige Bedingungen für ein Optimum ū sind folglich:
• G(ū) = 0,
• Die Lagrange-Multiplikatoren z ∗ existieren.
3 Optimierungsaufgaben mit Ungleichungsrestriktion
In Kapitel 1 haben wir die Optimierungsaufgabe mit Ungleichungsrestriktion allgemein
formuliert. Im Weiteren werden wir zunächst ein Beispiel dafür geben, wie ein solches
Optimierungsproblem in der Wirklichkeit aussehen könnte.
3.1 Optimierungsproblem im Alltag
Eine Erdbeer-Fabrik stellt die zwei Produkte „Erdbeerjoghurt“ und „Erdbeershake“ aus
Erdbeeren, Zucker und Naturjoghurt her.
Für die Herstellung eines Erdbeerjoghurts werden 5 g Erdbeeren, 15 g Zucker und 40 g
Naturjoghurt benötigt. Um einen Erdbeershake zu erzeugen, werden 35 g Erdbeeren, 15 g
Zucker und 10 g Naturjoghurt gebraucht.
Insgesamt vorhanden sind 15000 g Erdbeeren, 10500 g Zucker und 24000 g Naturjoghurt.
Problematischerweise hat die Erdbeer-Fabrik mehr Ausgaben als Einnahmen. Der Verlust
für den Erbeerjoghurt beträgt 2 Cent und für den Erdbeershake 1 Cent.
Das Ziel ist nun optimale Produktionszahlen j ≥ 0 für den Erdbeerjoghurt und s ≥ 0
für den Erdbeershake zu finden, um den Verlust zu minimieren. Durch die begrenzten
Rohstoffe erhalten wir die weiteren Nebenbedingungen:
5j + 35s ≤ 15000,
15j + 15s ≤ 10500,
40j + 10s ≤ 24000.
Das Optimierungsproblem mit der Zielfunktion f : R 2 → R lautet also

3 Optimierungsaufgaben mit Ungleichungsrestriktion 7
min f(j, s) = −2j − s,
u.d.N. j ≥ 0, s ≥ 0,
5j + 35s − 15000 ≤ 0, 15j + 15s − 10500 ≤ 0, 40j + 10s − 24000 ≤ 0.
Diese Optimierungsaufgabe soll nun so umgeformt werden, dass sie mit der Formulierung
in Kapitel 1 in Zusammenhang gebracht werden kann. Die durch die begrenzten Rohstoffe
entstandenen Nebenbedingungen lassen sich mit Hilfe der Abbildung G : R 2 → R 3
zusammenfassen.
Gesucht ist also ein Optimum ū = (¯j, ¯s), das folgende Optimierungsaufgabe löst:
min f(u) = −2j − s,
u.d.N. u = (j, s) ∈ C ⊆ R2 ,
⎛
⎞
5j + 35s − 15000
⎜
⎟
G(u) = ⎝15j
+ 15s − 10500⎠
≤ 0.
40j + 10s − 24000
Da j ≥ 0 und s ≥ 0, ist die Menge C ⊆ R 2 der positive Quadrant und damit konvex.
3.2 Grundlagen
Es ist nun noch zu klären, wie die Halbordnungsrelation ≤K auf einem Banachraum definiert
ist. Dazu benötigen wir zunächst einmal die Definition eines konvexen Kegels K.
Definition 3.1 (Konvexer Kegel)
Sei K ⊆ Z konvex.
Die Menge K = ∅ heißt konvexer Kegel, wenn gilt
∀λ > 0 : z ∈ K ⇒ λz ∈ K.
Beispiel
1. Sei Z = R 3 und K = {z ∈ R 3 : z1 = 0, z2 ≤ 0, z3 ≥ 0}. Dann ist K ein konvexer
Kegel.
2. Der geometrische Kegel ist kein „mathematischer“ Kegel, da er unter der Multiplikation
mit einer positiven Zahl nicht abgeschlossen ist.

8 3 Optimierungsaufgaben mit Ungleichungsrestriktion
Definition 3.2 (Halbordnungsrelation ≥K)
Sei K ⊆ Z ein konvexer Kegel.
Es gilt
z ≥K 0 :⇔ z ∈ K.
Analog gilt
z ≤K 0 :⇔ −z ∈ K.
Im Weiteren bedeutet die echte Ungleichung z

3.3 Differenzierbare Aufgabe
3 Optimierungsaufgaben mit Ungleichungsrestriktion 9
Die Menge C = ∅ sei im Folgenden konvex.
Wir möchten nun eine notwendige Bedingung für eine Lösung der Optimierungsaufgabe
aus Kapitel 1 unter der Voraussetzung formulieren, dass f und G stetig Fréchetdifferenzierbar
in einer offenen Umgebung von ū. Die Existenz eines solchen Optimums ū
sei vorausgesetzt.
Die Lagrangefunktion haben wir bereits in Definition 2.1 für den Fall Z = R m definiert.
Nun soll sie für einen beliebigen Banachraum definiert werden.
Definition 3.4 (Lagrangefunktion)
Sei Z ∗ der Dualraum von Z.
Die Funktion L : U × Z ∗ −→ R mit
heißt Lagrange-Funktion.
L(u, z ∗ ) := f(u) + 〈z ∗ , G(u)〉 Z ∗ ,Z
Definition 3.5 (Lagrangescher Multiplikator)
Sei ū eine lokale Lösung der gegebenen Optimierungsaufgabe.
Ein Element z ∗ ∈ K + heißt zugehöriger Lagrangescher Multiplikator, wenn Folgendes gilt:
• DuL(ū, z ∗ )(u − ū) ≥ 0 ∀u ∈ C (Variationsungleichung),
• 〈z ∗ , G(ū)〉 Z ∗ ,Z = 0 (komplementäre Schlupfbedingung).
Um die Existenz eines Lagrangeschen Multiplikator zu erhalten, benötigen wir noch eine
Regularitätsbedigung.
Definition 3.6 (Regularitätsbedingung von Zowe und Kurcyusz)
Sei ū ∈ C mit G(ū) ≤K 0 gegeben.
Die Bedingung
G ′ (ū)C(ū) + K(−G(ū)) = Z (1)
wird Regularitätsbedingung von Zowe und Kurcyusz genannt.
Dabei heißen die Mengen
C(ū) = {α(u − ū) : α ≥ 0, u ∈ C}, K(¯z) = {β(z − ¯z) : β ≥ 0, z ∈ K}
Kegelhüllen an C bzw. K in ū bzw. ¯z.
Dass die Regularitätsbedingung (1) erfüllt ist, ist nicht selbstverständlich. Sie ist nicht
nur von den Abbildungen G ′ (ū) und G und von den Kegelhüllen an C und K abhängig,
sondern auch von der optimalen Lösung ū und insbesondere auch von der Wahl von Z.

10 4 Rückblick: Beispiel mit Gleichungsrestriktion
Satz 3.7 (Existenz der Lagrangeschen Multiplikatoren)
Sei ū die Lösung der gegebenen Optimierungsaufgabe und die Regularitätsbedingung (1)
sei erfüllt. Dann existiert ein zu ū gehöriger Lagrangescher Multiplikator z ∗ ∈ K + .
Einen Beweis findet man in [ZOKU79].
Wenn die Regularitätsbedingung (1) erfüllt ist, erhalten wir als notwendige Bedingungen
für ein Optimum ū:
• Die Nebenbedingung
ist erfüllt,
• Die Lagrange-Multiplikatoren z ∗ existieren, d.h. es gilt
G(ū) ≤K 0 ū ∈ C, (2)
DuL(ū, z ∗ )(u − ū) ≥ 0 ∀u ∈ C (3)
〈z ∗ , G(ū)〉 Z ∗ ,Z = 0. (4)
Die Gleichungen (2),(3) und (4) werden Karush-Kuhn-Tucker-Bedingungen genannt.
4 Rückblick: Beispiel mit Gleichungsrestriktion
Wir betrachten noch einmal die Optimierungsaufgabe mit Gleichungsrestriktion aus Kapitel
2 und überprüfen, ob unsere bisherigen Ergebnisse mit denen aus Kapitel 3 im Falle
einer Gleichungsrestriktion konsistent sind.
Da G ′ (ū) : U → Z nach Voraussetzung surjektiv ist, ist die Regularisierungsbedingung
(1) erfüllt.
Begründung:
Aufgrund der Gleichungsrestriktion G(ū) = 0 gilt K = {0}. Daraus folgt aber
K(−G(ū)) = {βG(ū) : β ≥ 0, G(ū) ∈ K} = {0},
wobei sich das letzte Gleichheitszeichen aus der Nebenbedingung G(ū) = 0 ergibt. Damit
und mit C = U vereinfacht sich die Regularisierungsbedingung (1) zu
G ′ (ū) · U = Z.
Also ist die Regularisierungsbedingung von Zowe und Kurcyusz in diesem Beispiel erfüllt,
wenn G ′ (ū) surjektiv ist.

5 Eine nichtdifferenzierbare, konvexe Aufgabe 11
Wie man sich leicht überlegen kann, folgt für eine Optimierungsaufgabe mit Gleichungsrestriktion,
Z = R m und C = U aus DuL(ū, z ∗ )(u − ū) ≥ 0∀u ∈ C
f ′ (u) + z ∗ · G ′ (u) = 0
und daher ist Definition 3.5 konsistent mit der Definition 2.3 der Lagrange Multiplikatoren
für ein Optimierungsproblem mit Gleichungsrestriktion. Die komplementäre Schlupfbedingung
〈z ∗ , G(ū)〉 Z ∗ ,Z = 0 ist für G(ū) = 0 immer erfüllt.
Wir erhalten also die Karush-Kuhn-Tucker-Bedingung für Gleichungsrestriktionen:
• L ′ (ū, z ∗ ) = 0,
• G(ū) = 0,
was mit dem Ergebnis in Kapitel 2 übereinstimmt.
5 Eine nichtdifferenzierbare, konvexe Aufgabe
Nun betrachten wir die Optimierungsaufgabe mit Ungleichungsrestriktionen aus Kapitel 1,
ohne dass f und G Fréchet-differenzierbar seien und formulieren notwendige Bedingungen
für ein Optimum ū, das die Aufgabe unter der Voraussetzung löst, dass f und G konvex
seien. Die Menge C = ∅ sei wieder konvex.
Da f und G und damit auch die Lagrangefunktion L nun nicht notwendigerweise differenzierbar
sind, müssen wir die Lagrange Multiplikatoren erneut definieren:
Definition 5.1 (Lagrangescher Multiplikator)
Sei ū ∈ C eine Lösung des Optimierungsproblems.
Ein Punkt (ū, z ∗ ) ∈ U × K + wird Sattelpunkt der Lagrangefunktion L genannt, wenn die
Ungleichungskette
L(ū, v ∗ ) ≤ L(ū, z ∗ ) ≤ L(u, z ∗ ) ∀u ∈ C, ∀v ∗ ∈ K +
erfüllt ist. In diesem Fall heißt z ∗ zu ū gehöriger Lagrangescher Multiplikator.
Satz 5.2 (Existenz der Lagrangeschen Multiplikatoren)
Seien f und G konvex und sei ū eine Lösung der gegebenen Optimierungsaufgabe. Weiter
existiere ein Element ũ ∈ C mit G(ũ)

12 5 Eine nichtdifferenzierbare, konvexe Aufgabe
Bemerkung (Problem)
Der Satz 5.2 ist nur dann anwendbar, wenn K ein nichtleeres Inneres besitzt.
Wenn die Slaterbedingung erfüllt ist, sind die notwendigen Bedingungen für ein Optimum
ū:
• Die komplementäre Schlupfbedingung ist erfüllt.
• Die Lagrange-Multiplikatoren z ∗ existieren.

6 Literaturverzeichnis
6 Literaturverzeichnis 13
[TRÖ09] Tröltzsch, F.: Optimale Steuerung partieller Differemtialgleichungen.
Theorie, Verfahren und Anwendungen. Wiesbaden: Vieweg+Teubner, 2.Auflage, 2009
[ZOKU79] Zowe, J. und Kurcyusz, S.: Regularity and stability for the mathematical programming
problem in Banach spaces. Appl. Math. Optimization, 5:49-62, 1979
[LUE69] Luenberger, D.G.: Optimization by Vector Space Methods. New York: Wiley, 1969