Karush - Kuhn - Tucker - Bedingungen im Banachraum - Universität ...

Karush - Kuhn - Tucker - Bedingungen im 

Banachraum 

Franziska Schmidt 

Fachbereich Mathematik 

Universität Tübingen 

Seminar: Optimierung mit PDE-Bedingungen 

28. Juni 2011 

Franziska Schmidt (Universität Tübingen) Karush - Kuhn - Tucker - Bedingungen 28. Juni 2011 | : 1 / 31

Zielorientierung 

Allgemeine Formulierung des Optimierungsproblems 

Sei f : U → R, G : U → Z . 

min f (u), 

u.d.N. G(u) ≤ 0, 

u ∈ C ⊆ U. 


Inhalt 

1 Optimierungsaufgabe mit Gleichungsrestriktion 

Ein Beispiel 

2 Optimierungsaufgabe mit Ungleichungsrestriktion 

Beispiel eines Optimierungsproblems im Alltag 

Grundlagen 

Differenzierbare Aufgabe 

Karush - Kuhn - Tucker - Bedingungen 

3 Rückblick 

4 Ergänzung zu Optimierungsaufgabe mit Ungleichungsrestriktion 

Eine nichtdifferenzierbare, konvexe Aufgabe 

5 Hinreichende Bedingung 


Inhalt 


Ein Beispiel 


3 Rückblick 




Optimierungsaufgabe mit Gleichungsrestriktion 

Optimierungsaufgabe 

min f (u), 

u.d.N. G(u) = 0, 

u ∈ C = U. 



Optimierungsaufgabe 

Voraussetzungen 

U ⊆ R n offen, 

min f (u), 

u.d.N. G(u) = 0, 

u ∈ C = U. 

f : U → R und G : U → R m stetig differenzierbar in U, 

G ′ (ū) : U → R m surjektiv, wobei ū Optimum 



Definition (Lagrangefunktion) 

L : U × R m → R mit 

L(u, z ∗ ) := f (u) + z ∗ · G(u) 




L : U × R m → R mit 

Lagranger Multiplikatorensatz 

ū Optimum mit G(ū) = 0 

L(u, z ∗ ) := f (u) + z ∗ · G(u) 

⇒ ∃z ∗ : L ′ (ū, z ∗ ) = f ′ (ū) + z ∗ · G ′ (ū) = 0. 



Notwendige Bedingungen für ein Optimum ū 

G(ū) = 0, 

Die Lagrange-Multiplikatoren z ∗ existieren. 


Inhalt 



Beispiel eines Optimierungsproblems im Alltag 

Grundlagen 


Karush - Kuhn - Tucker - Bedingungen 

3 Rückblick 




Wie könnte ein solches Problem im Alltag aussehen? 

Produktorganisation 




Erdbeerjoghurt: 5 g 15 g 40 g 





Erdbeershake: 35 g 15 g 10 g 






Insgesamt vorhanden sind: 

15000 g 10500 g 24000 g 







15000 g 10500 g 24000 g 

Einschränkungen: 

5j + 35s ≤ 15000, 







15000 g 10500 g 24000 g 

Einschränkungen: 

5j + 35s ≤ 15000, 15j + 15s ≤ 10500, 40j + 10s ≤ 24000. 


Beispiel aus dem Alltag 

Problem: Fabrik hat mehr Ausgaben als Einnahmen 

Verlust: 2 Cent pro Erdbeerjoghurt, 1 Cent pro Erdbeershake 

Ziel: Verlust minimieren. 






Optimierungsproblem 

Gesucht: 

Optimale Produktionszahlen ¯ j des Erdbeerjoghurts und ¯s des Erdbeershake 

für 







Gesucht: 


für 

min f (j, s) = −2j − s, 







Gesucht: 


für 

min f (j, s) = −2j − s, 

u.d.N. j ≥ 0, s ≥ 0, 

5j + 35s − 15000 ≤ 0, 15j + 15s − 10500 ≤ 0, 40j + 10s − 24000 ≤ 0. 




Gesucht: 

Optimum ū = ( ¯ j, ¯s) für 

min f (u) = −2j − s, 




Gesucht: 


min f (u) = −2j − s, 

u.d.N. u = (j, s) ∈ C ⊆ R 2 , 




Gesucht: 


min f (u) = −2j − s, 

u.d.N. u = (j, s) ∈ C ⊆ R2 , 

⎛ 

⎞ 

5j + 35s − 15000 

G(u) = ⎝15j + 15s − 10500⎠ 

≤ 0. 

40j + 10s − 24000 


Problemformulierung 

Optimierungsaufgabe in Banachräumen 

Sei f : U → R, G : U → Z . 

min f (u), 

u.d.N. G(u) ≤K 0, 

u ∈ C ⊆ U. 


Problemformulierung 

Optimierungsaufgabe in Banachräumen 

Sei f : U → R, G : U → Z . 

Voraussetzungen: 

U, Z reelle Banachräume. 

G i.A. nichtlinear. 

C ⊆ U konvex, C = ∅. 

K ⊆ Z konvexer Kegel. 

min f (u), 

u.d.N. G(u) ≤K 0, 

u ∈ C ⊆ U. 


Grundlagen 

Definition (Konvexer Kegel) 

K ⊆ Z konvex. 

K = ∅ heißt konvexer Kegel, wenn gilt 

∀λ > 0 : z ∈ K ⇒ λz ∈ K . 


Grundlagen 




Ist K ein konvexer Kegel? 

∀λ > 0 : z ∈ K ⇒ λz ∈ K . 

Z = R 3 und K = {z ∈ R 3 : z1 = 0, z2 ≤ 0, z3 ≥ 0} 


Grundlagen 





∀λ > 0 : z ∈ K ⇒ λz ∈ K . 

Z = R 3 und K = {z ∈ R 3 : z1 = 0, z2 ≤ 0, z3 ≥ 0} 


Grundlagen 





∀λ > 0 : z ∈ K ⇒ λz ∈ K . 

Z = R 3 und K = {z ∈ R 3 : z1 = 0, z2 ≤ 0, z3 ≥ 0} 

 


Grundlagen 

Definition (Halbordnungsrelation ≥K ) 


Es gilt 

Analog 

Außerdem 

z ≥K 0 :⇔ z ∈ K . 

z ≤K 0 :⇔ −z ∈ K . 

z

Beispiel aus dem Alltag – Wie sieht K aus? 

min f (u) = −2j − s, 

u.d.N. u = (j, s) ∈ C ⊆ R2 , 

⎛ 

⎞ 

5j + 35s − 15000 

G(u) = ⎝15j 

+ 15s − 10500⎠ 

≤K 0. 

40j + 10s − 24000 



min f (u) = −2j − s, 

u.d.N. u = (j, s) ∈ C ⊆ R2 , 

⎛ 

⎞ 

5j + 35s − 15000 

G(u) = ⎝15j 

+ 15s − 10500⎠ 

≤K 0. 

40j + 10s − 24000 

G(u) ≤K 0 ⇔ −G(u) ∈ K 

⎛ 

⎞ 

−5j − 35s + 15000 

⇔ ⎝−15j − 15s + 10500⎠ 

∈ K 

−40j − 10s + 24000 



min f (u) = −2j − s, 

u.d.N. u = (j, s) ∈ C ⊆ R2 , 

⎛ 

⎞ 

5j + 35s − 15000 

G(u) = ⎝15j 

+ 15s − 10500⎠ 

≤K 0. 

40j + 10s − 24000 

G(u) ≤K 0 ⇔ −G(u) ∈ K 

⎛ 

⎞ 

−5j − 35s + 15000 

⇔ ⎝−15j − 15s + 10500⎠ 

∈ K 

−40j − 10s + 24000 

⎧⎛ 

⎞ 

⎫ 

⎨ a1 

⎬ 

⇒ K = ⎝a2⎠ 

: a1 ≥ 0, a2 ≥ 0, a3 ≥ 0 

⎩ 

⎭ 

a3 


Grundlagen 


Grundlagen 

Definition (Dualer Kegel) 


heißt der zu K duale Kegel. 

K + := {z ∗ ∈ Z ∗ : 〈z ∗ , z〉 Z ∗ ,Z ≥ 0 ∀z ∈ K } 


Grundlagen 




Beispiel 

K + := {z ∗ ∈ Z ∗ : 〈z ∗ , z〉 Z ∗ ,Z ≥ 0 ∀z ∈ K } 

Z ein Banachraum, K = {0}. 


Grundlagen 




Beispiel 

K + := {z ∗ ∈ Z ∗ : 〈z ∗ , z〉 Z ∗ ,Z ≥ 0 ∀z ∈ K } 


⇒ K + = Z ∗ . 


Grundlagen 




Beispiel 

K + := {z ∗ ∈ Z ∗ : 〈z ∗ , z〉 Z ∗ ,Z ≥ 0 ∀z ∈ K } 


Z = R3 ⎧⎛ 

⎨ 

, K = ⎝ 

⎩ 

a1 

a2 

a3 

⇒ K + = Z ∗ . 

⎞ 

⎫ 

⎬ 

⎠ : a1 ≥ 0, a2 ≥ 0, a3 ≥ 0 

⎭ 


Grundlagen 




Beispiel 

K + := {z ∗ ∈ Z ∗ : 〈z ∗ , z〉 Z ∗ ,Z ≥ 0 ∀z ∈ K } 


Z = R3 ⎧⎛ 

⎨ 

, K = ⎝ 

⎩ 

a1 

a2 

a3 

⇒ K + = Z ∗ . 

⎞ 

⎫ 

⎬ 

⎠ : a1 ≥ 0, a2 ≥ 0, a3 ≥ 0 

⎭ 

⇒ K + = K . 



Gegebene Optimierungsaufgabe 

Sei f : U → R, G : U → Z . 

Zusätzliche Voraussetzungen 

min f (u), 

u.d.N. G(u) ≤K 0, 

u ∈ C ⊆ U. 

f und G stetig Fréchet-differenzierbar in einer offenen Umgebung von ū. 




Z ∗ Dualraum von Z . 

L : U × Z ∗ −→ R mit 

heißt Lagrange-Funktion. 

L(u, z ∗ ) := f (u) + 〈z ∗ , G(u)〉 Z ∗ ,Z 




Z ∗ Dualraum von Z . 

L : U × Z ∗ −→ R mit 

heißt Lagrange-Funktion. 

L(u, z ∗ ) := f (u) + 〈z ∗ , G(u)〉 Z ∗ ,Z 

Definition (Lagrangescher Multiplikator) 

ū lokale Lösung der Optimierungsaufgabe. 

z ∗ ∈ K + heißt zugehöriger Lagrangescher Multiplikator, wenn gilt: 

DuL(ū, z ∗ )(u − ū) ≥ 0 ∀u ∈ C (Variationsungleichung), 

〈z ∗ , G(ū)〉 Z ∗ ,Z = 0 (komplementäre Schlupfbedingung). 



Definition (Regularitätsbedingung von Zowe und Kurcyusz) 

ū ∈ C mit G(ū) ≤K 0. 

G ′ (ū)C(ū) + K (−G(ū)) = Z (1) 

wird Regularitätsbedingung von Zowe und Kurcyusz genannt. 

C(ū) = {α(u − ū) : α ≥ 0, u ∈ C}, K (¯z) = {β(z − ¯z) : β ≥ 0, z ∈ K } 

sind Kegelhüllen an C bzw. K in ū bzw. ¯z. 




ū ∈ C mit G(ū) ≤K 0. 

G ′ (ū)C(ū) + K (−G(ū)) = Z (1) 







ū ∈ C mit G(ū) ≤K 0. 

G ′ (ū)C(ū) + K (−G(ū)) = Z (1) 







ū ∈ C mit G(ū) ≤K 0. 

G ′ (ū)C(ū) + K (−G(ū)) = Z (1) 




Satz (Existenz der Lagrangeschen Multiplikatoren) 

ū Optimum, Regularitätsbedigung erfüllt. 

Dann existiert ein zu ū gehöriger Lagrangescher Multiplikator z ∗ ∈ Z ∗ . 


Karush-Kuhn-Tucker-Bedingungen 

Notwendige Bedingungen für Optimum ū 

G(ū) ≤K 0, ū ∈ C 

DuL(ū, z ∗ )(u − ū) ≥ 0 ∀u ∈ C (Variationsungleichung) 

〈z ∗ , G(ū)〉 Z ∗ ,Z = 0 (komplementäre Schlupfbedingung) 


Inhalt 



3 Rückblick 




Rückblick: Beispiel mit Gleichungsrestriktion 


Voraussetzungen 

min f (u), 

u.d.N. G(u) = 0, 

u ∈ C = U. 

f : U → R und G : U → R m stetig differenzierbar in U, 

U ⊆ R n offen, 

G ′ (ū) : U → R m surjektiv. 




Regularitätsbedingung: G ′ (ū)C(ū) + K (−G(ū)) = Z 




Regularitätsbedingung: G ′ (ū)C(ū) + K (−G(ū)) = Z 





KKT-Bedingungen: 

G(ū) = 0, ū ∈ U 

DuL(ū, z ∗ )(u − ū) ≥ 0 ∀u ∈ C 

〈z ∗ , G(ū)〉 Z ∗ ,Z = 0 






G(ū) = 0, ū ∈ U 

DuL(ū, z ∗ )(u − ū) ≥ 0 ∀u ∈ C 

〈z ∗ , G(ū)〉 Z ∗ ,Z = 0 






G(ū) = 0, ū ∈ U 

DuL(ū, z ∗ )(u − ū) ≥ 0 ∀u ∈ C 

〈z ∗ , G(ū)〉 Z ∗ ,Z = 0 






G(ū) = 0, ū ∈ U 

DuL(ū, z ∗ )(u − ū) ≥ 0 ∀u ∈ C 

〈z ∗ , G(ū)〉 Z ∗ ,Z = 0 

KKT - Bedingungen für Gleichungsrestriktion 

L ′ (ū, z ∗ ) = 0 

G(ū) = 0, ū ∈ U 


Inhalt 



3 Rückblick 


Eine nichtdifferenzierbare, konvexe Aufgabe 



Konvexe Aufgabe 

Gegebene Optimierungsaufgabe 

f : U → R, G : U → Z . 

Zusätzliche Voraussetzungen 

f , G konvex. 

min f (u), 

u.d.N. G(u) ≤K 0, 

u ∈ C ⊆ U. 



Definition (Lagrangescher Multiplikator) 

ū ∈ C Optimum. 

(ū, z ∗ ) ∈ C × K + wird Sattelpunkt der Lagrangefunktion L genannt, wenn gilt 

L(ū, v ∗ ) ≤ L(ū, z ∗ ) ≤ L(u, z ∗ ) ∀u ∈ C, ∀v ∗ ∈ K + 

z ∗ heißt zu ū gehöriger Lagrangescher Multiplikator. 



Satz (Existenz der Lagrangeschen Multiplikatoren) 

f , G konvex, ū Optimum, 

∃ ũ ∈ C mit G(ũ)

Inhalt 



3 Rückblick 




Hinreichende Bedingung 

f konvex, G konvex, 

f und G Gâteaux-differenzierbar, 

(ū, z ∗ ) ∈ C × K + lösen die Karush-Kuhn-Tucker Bedingungen. 

⇒ ū löst die Optimierungsaufgabe. 


Literaturverzeichnis 

[TRÖ09] Tröltzsch, F.: Optimale Steuerung partieller 

Differemtialgleichungen.Theorie, Verfahren und Anwendungen. 

Wiesbaden: Vieweg+Teubner, 2.Auflage, 2009 

[ZOKU79] Zowe, J. und Kurcyusz, S.: Regularity and stability for the 

mathematical programming problem in Banach spaces. 

Appl. Math. Optimization, 5:49-62, 1979 

[LUE69] Luenberger, D.G.: Optimization by Vector Space Methods. 

New York: Wiley, 1969 

[MEY11] Meyer, Christian: Skript zur Vorlesung Optimierung im Funktionenr 

Stand: 3.Februar 2011 


Vielen Dank für die Aufmerksamkeit!

Karush - Kuhn - Tucker - Bedingungen im Banachraum - Universität ...

Sie wollen auch ein ePaper? Erhöhen Sie die Reichweite Ihrer Titel.

Template löschen?

Als Template speichern?