Kap. 3 Kombinatorische Optimierung - Technische Universität ...

Quantitative Methoden II:(Operations Research und Logistik)Kapitel 3:Kombinatorische OptimierungDr. Björn GehlsenTechnische Universität DresdenFakultät Verkehrswissenschaften „Friedrich List“Institut für Wirtschaft und VerkehrLehrstuhl für Verkehrsmodellierung und –ökonometriewww.helbing.orgKombinatorik• Teilgebiet der Mathematik, das dieMöglichkeiten der Anordnung,Gruppierung und Auswahl diskreterObjekte untersucht• Anzahl der Objekte ist in der Regelabzählbar oder endlich• Abzählen ist nicht trivial• Untersuchung des Aufwandes vonAlgorithmen / LösungsverfahrenBeispieleIm Tennisverein spielen 6 Damen und 9Herren.– Wieviele Möglichkeiten gibt es, ein Team für eingemischtes Doppel zusammen zu stellen?– Wieviele verschiedene Partien sind denkbar?Beispiele (2)Tennis ist ‚out‘; daher wechseln die 15 Athletengeschlossen in den Ruderklub.– Wieviele Möglichkeiten haben sie hier, einengemischten Vierer (2 + 2) zu fahren?– Wieviele Möglichkeiten gibt es, wenn 1 bis 3 Frauendabei sein sollen?– Wieviele Möglichkeiten gibt es, wenn max. 4 Männermitrudern dürfen?– Die erfahreneren Ruderer sitzen oft eher im Heck.Wieviele Möglichkeiten gibt es, wenn die Sitzposition imBoot entscheidend ist?In der Bootshalle liegen auch noch zwei Achter…

Ziehen von Elementen• Wieviele Möglichkeiten gibt es, k Objekteaus einer n-elementigen Grundmengeauszuwählen?• 2 Kriterien → 4 Fälle:– geordnet / ungeordnet:Reihenfolge der Ziehung ist (nicht) relevant– mit / ohne Zurücklegen:Jedes Element kann (nicht) mehrfach gezogenwerdenZiehen von Elementen (2)Lena (5) bekommt eine Tüte mit– Anisbonbons (A)– Pfefferminzbonbons (B)– Kirschdrops (C)Auf wieviele Weisen kann sie zwei Bonbons wählen?• Wiederholungen und Reihenfolge:• Wiederholungen ohne Reihenfolge:• keine Wiederholungen aber Reihenfolge:• weder Wiederholungen noch Reihenfolge:k Objekte aus einer n-MengeMit ZurücklegenOhne ZurücklegenOptimierungsproblemewerden charakterisiert durchGeordnetUngeordnetI k-StichprobeIV k-AuswahlII k-PermutationIII k-Kombination• Lösungsraum: Menge X der zulässigen Lösungen,Alternativen, Aktionen, …• Zielfunktion: reellwertige Funktion f(x), x € X, die jederLösung ein eindimensionales Gütemaß zuweist.• x* € X heißt optimal, wenn für alle x € X giltf (x*) ≤ f (x) (Minimierungsproblem)f (x*) ≥ f (x) (Maximierungsproblem)

KombinatorischeOptimierungsprobleme• Ganzzahligkeitsbedingungen einzelneroder aller Entscheidungsvariablen• abzählbarer Lösungsraum– NB beschränken Lösungsraum, aber:• keine analytischen Lösungsmethoden– schwierigere Lösung!!– z.T. nur heuristische Verfahren einsetzbarBeispiele für kombinatorischeOptimierungsprobleme• Zuordnungsprobleme– Lineares und quadratisches ZOP, Standort- undLayoutplanung, Stundenplanprobleme• Reihenfolgeprobleme– Rundreiseprobleme (travelling salesman), Briefträgerprobleme,Tourenplanung, Maschinenbelegung• Gruppierungsprobleme– Fließbandabstimmung, Losgrößenplanung• Auswahlprobleme– Rucksackproblem (knapsack)Lösung von OptimierungsproblemenArt des Lösungsraumes bestimmt die Arbeitsweise eineskonkreten, schematisierten Rechenverfahrens(Algorithmus)KomplexitätAufwand von Algorithmus A zur Lösung von Problem P:• Rechenzeit• Speicherplatz• X ist Kontinuum:– Lineare Programmierung– Methoden der Differentialrechnung• X ist abzählbar oder endlich (diskrete Strukturen):– vollständige Enumeration– beschränktes Abzählen– Suchverfahren in GraphenAbschätzung der Größenordnung durch Landau-Notation:• für verschiedene Problemtypen• in Abhängigkeit von der Problemgröße n• Rechenaufwand R(n) von der Größe O(f(n)):R(n) ≤ c • f(n) mit c > 0 und für großes n• Tripel-Algorithmus: O(n 3 )• B & B: O(2 n )

P vs. NPZur Rechtfertigung von Näherungsverfahren:• polynomieller vs. exponentieller Aufwand• P vs. NP (nichtdeterministisch polynomiell)• Polynomielle Reduzierbarkeit– NP-vollständige Entscheidungsprobleme (SAT, …, HamiltonKreis)– NP-schwere Optimierungsprobleme (TSP)– Ungelöstes Problem: P = NP ?P: kürzeste Wege, lineare ZuordnungsproblemeNP: viele kombinatorische Probleme:- knapsack – travelling salesman – quad. ZOP- Simplex (verhält sich jedoch meist besser)Optimierungsverfahren• Effektive Algorithmen: kommen nach endlich vielenSchritten zu einem/dem Optimum.Exakte Lösung, aber möglicherweise ineffizient• Approximationsverfahren: nicht zwingend exakt, aberFehlermaß ist bekannt• Heuristische Algorithmen: nicht zwingend exakt, abersuboptimale Lösungen werden schnell erreicht• Randomisierte Algorithmen: Suchmethoden enthaltenZufallselemente• Hybride Verfahren: Kombination von Elementenanderer Verfahren für spezielle ProblemstellungenBranch & Bound VerfahrenBranching:– Partitionierung des Problems P in (mögl.)disjunkte Teilprobleme P iBounding:– Relaxationen P i ‘ der Teilprobleme– Bildung von oberen (bzw. unteren) Schrankenfür den Zielfunktionswert F i der Teilprobleme– Ausloten der Teilprobleme– Abschneiden von Zweigen desEntscheidungsbaumesRelaxationen- Vereinfachung durch Lockerung von NB- Ermittlung von Schranken für ZFW• LP-Relaxation: Weglassen derGanzzahligkeitsbedingungen• Weglassen von erschwerenden NB (TSP)• Lagrange-Relaxation: Aufnahme einzelner NB indie Zielfunktion• Surrogate-Relaxation: gewichtete Aggregationvon NB

Ausloten von TeilproblemenAblaufdiagramm Branch & BoundTeilprobleme sind ausgelotet, wenna. F i ≤ F : Optimale Lösung des Teilproblems istsicher schlechter als beste bekannte Lösungb. F i > F und optimale Lösung von P i ‘ ist zulässigfür P i und damit auch für P 0 :neue beste zulässige Lösung F := F ic. P i ‘ besitzt keine zulässige Lösung.[Lämmer 2004]Beispiel: Branch & BoundBranch & Bound: LösungsbaumMaximiere F (x 1, x 2) = x 1+ 2 x 2P 0F = 0 F 0 = 5,49x 21Fx 1+ 3 x 2≤ 73 x 1+ 2 x 2≤ 10x 1, x 2≥ 0 und ganzzahligx 1≥ 3x 1≤ 2P 3P 4F = 5,33 1P 1P 2F = 4 2x 2≤ 1 x 2≥ 2F = 51x 1F = 4F = 5

B&B: Was ändert sich beiMinimierungsproblemen?B & B: Minimierungsproblem• Beste bekannte Lösung ist obere Schranke F• Relaxationen liefern untere Schranken für TeilproblemeFx 2Minimiere F (x 1, x 2) = 10 - x 1- 2 x 22 x 1+ 6 x 2≤ 156 x 1+ 4 x 2≤ 21Teilprobleme sind ausgelotet, wenna. F i ≥ F: Optimale Lösung des Teilproblems ist nichtbesser als die beste bekannte Lösungb. F i < F und optimale Lösung von P i ‘ ist ganzzahlig undzulässig für P i und damit auch für P 0 :neue beste zulässige Lösung F := F ic. P i ‘ besitzt keine zulässige Lösung.11x 1, x 2≥ 0 und ganzzahligx 1B & B: AnmerkungenBranch & Bound: MinimierungsproblemReihenfolge der Betrachtung der Teilprobleme– Tiefensuche vs. Breitensuche im Lösungsbaum– Auswahl nach bester Schranke des ZFWAuswahl der Variablen, nach der verzweigt wird– Variable mit größtem/kleinsten nichtganzzahligen Anteilx 24X(P 10)Im Beispiel:– Wenn im Baum vor P 5 eine zulässige Lösung gefunden wordenwäre, hätte P 4 nicht verzweigt werden müssen.– P 5 hätte (bei Tiefensuche) konsequenterweise noch später1 F7betrachtet werden müssen P 10: Optimum des relaxierten Problems P 10‘: F (1 | 2) = 41ist zulässig für nicht relaxiertes Problem. P 10liefert Optimumx 1

B & B: Lösungsbaum F = ∞ F 0 = 19/6keine LösungFall ckeine LösungFall cP 0x 2≤ 1 x 2≥ 2P 1P 8x 1≤ 1x 1≥ 2 x 1≤ 0P 2P 9P 3x 2≤ 0 x 2≥ 1*)P 4P 5neue beste Lösungx 1≤ 5 x 1≥ 6Fall bkeine LösungFall cx 1≥ 1P 6P 7sicher schlechtere LösungFall a*) P 5müßte bei konsequenter Tiefensuche nach P 6und P 7betrachtet werden!P 10RundreiseproblemTraveling Salesman Problem (TSP)• Ein Geschäftsmann will in n Orten seine Kunden besuchen.• Die Kosten c ij zwischen jeweils 2 Orten i und j sind bekannt.• Gesucht: Optimale Reihenfolge der Kunden (Permutation)weitere Anwendungen:• Maschinenbelegung, Produktionsplanung– n Aufträge sind auf einer Maschine auszuführen– Umrüstzeit ist abhängig von der Art der beiden Aufträge• Chip-Herstellung:– Bohrungen und Drähte auf einer Leiterplatine– Minimierung von Leitungslänge, Bohrweg und Ausschuss– (Kurzschlussfreiheit)Rundreiseproblem (TSP)TSP: Kurzzyklusbedingungen• Anzahl Orte: n• Kosten: c ij(i, j = 1, …, n)• Auswahl: x ij= 1 gdw. Ort j unmittelbar nach dem Ort i besucht wird• Gesucht: Rundreise durch alle Orte mit minimalen KostenMinimiereunter den NB( x ) = ∑∑i= 1 j=1Fn∑j=1xn∑i=1ijxx∈ijij• bis hier wie Lineares Zuordnungsproblem (ZOP)n= 1= 1nc ij x iji = 1... nj = 1... n{ 0,1}i,j = 1... n• Kurzzyklen müssen durchzusätzliche Nebenbedingungen(NB) ausgeschlossen werden• 3 gängige Varianten mitunterschiedlicher Anzahl von NBBeispielk=2:k=3:xi... 11i+ x + + x ≤ k −2 i2i3iki1xx1,2+ x2,1≤Problem: n≥14 → 3Mio Bedingungen11,2+ x2,3+ x3,1≤21 32 4⎧n−1⎪ →k = 2,3,...2⎨⎪ n→⎩ 2nn5ungeradegerade

Kurzzyklusbedingungen (2)Kurzzyklusbedingungen (3)Verbiete jeden Kurzzyklus, der Knoten 1 nicht enthält (Index startet mit 2):π i- π j+ n x ij≤ n – 1 ; i, j = 2, 3, …, n ; i ≠ jVorteil: Weniger NB als im Fall 1Nachteil: Einführung zusätzlicher Varialblen π αBeispiel:1−2 + n⋅1≤n −12 −1+n⋅1≤n −1√ OKfalschjijQ V-Q Q V-Q Q V-QNicht erwünschter FallFür alle Zerlegungen (Q, V-Q) des gegebenen Graphen (V, E, c) muss gelten:∑ ∑iji∈Qj∈V−Qx ≥ 1KnotenKantenKostenExakte Lösung des TSPVollständige Enumeration• effektiv, aber nicht effizient:– 5 Orte: 12 Rundreisen– 16 Orte: 653 837 184 000 RundreisenLösungsaufwand für ein TSPAnnahme:Berechnung einer Rundreise braucht 1 Takt bei 10 GHz, alsoRechenzeit 0,1 ns pro RundreiseVollständige Enumeration von (n-1)! / 2 Rundreisen:Begrenzte Enumeration• Branch & Bound• im „worst case“ muss jedes Teilproblem verzweigtwerdendagegen: Alter des Universums: 10-20 Mrd. Jahre

Heuristische Lösung des TSPTSP 16• Eröffnungslösungen– Methode des besten Nachfolgers (greedy)– Methode der sukzessiven Einbeziehung• Lokale Verbesserungsverfahren (Nachbarschaft)– 2-opt: Austausch zweier Strecken einer Rundreise– 3-opt: …• Stochastische Suchverfahren– Random Search– Genetische Algorithmen u.a. MetaheuristikenRundreise durch 16 deutsche Landeshauptstädte:Entfernungsmatrix [in km]nach B D DD EF H HB HH KI M MD MZ P S SB SN WIB 607 189 297 308 441 285 389 594 153 608 39 645 813 205 595D 607 606 382 299 323 442 546 616 454 224 577 409 346 571 216DD 189 606 224 392 525 474 578 478 237 535 169 529 726 394 529EF 297 382 224 313 446 476 580 457 237 311 258 468 516 502 304H 308 299 392 313 133 163 267 666 155 414 271 571 618 292 408HB 441 323 525 446 133 119 223 799 288 512 420 704 647 248 506HH 285 442 474 476 163 119 104 829 318 577 316 734 766 129 570KI 389 546 578 580 267 223 104 933 422 681 416 838 870 150 674M 594 616 478 457 666 799 829 933 534 428 575 249 530 799 435MD 153 454 237 237 155 288 318 422 534 509 123 619 690 358 501MZ 608 224 535 311 414 512 577 681 428 509 581 258 235 706 15P 39 577 169 258 271 420 316 416 575 123 581 621 767 239 555S 645 409 529 468 571 704 734 838 249 619 258 621 281 863 266SB 813 346 726 516 618 647 766 870 530 690 235 767 281 895 245SN 205 571 394 502 292 248 129 150 799 358 706 239 863 895 698WI 595 216 529 304 408 506 570 674 435 501 15 555 266 245 698