• Rucksackproblem/Knapsack Problem (KP):

Approximationsalgorithmen Rucksackproblem 24
• Rucksackproblem/Knapsack Problem (KP):
✄ gegeben:
n items, jedes mit Profit pi und Gewicht wi,
ein Rucksack/bin mit Kapazität c
✄ Problem:
Wähle eine Teilmenge von items mit
maximalem Profit und Gewicht ≤ c.
Algorithmus einfacher Greedy:
Sortiere die items nach Effizienz:
p1
w1
≥ p2
w2
≥ . . . ≥ pn
wn
for i := 1 to n do
if item i paßt in den Rucksack
pack es ein
end for
Einfacher Greedy kann unbeschränkt schlecht werden.
Verbesserter Algorithmus Greedy:
Sei z E . . . der Wert des Rucksacks nach einfacher Greedy.
z G := max{z E , max{pi | i = 1, . . . , n}}
Greedy hat eine scharfe Gütegarantie von 1/2.

Approximationsalgorithmen Rucksackproblem 25
Beachte: ein einziges “großes” item hat Haupteinfluß.
Verbesserung:
“Rate” das item mit größtem Profit in der Optimallösung.
=⇒ alle items durchprobieren.
Algorithmus G 2/3 :
for i := 1 to n do
packe item i in den leeren Rucksack
wende Greedy auf das Restproblem
mit Kapazität c − wi an
end for
z A := Maximum der n Rucksack-Lösungen
G 2/3 hat eine scharfe Gütegarantie von 2/3.
Verallgemeinerung:
“Rate” die 2 items mit größtem Profit in der Optimallösung.
=⇒ alle Paare von items durchprobieren.
=⇒ scharfe Gütegarantie von 3/4.

Approximationsalgorithmen Rucksackproblem 26
Weitere Verallgemeinerung:
“Rate” die ℓ items mit größtem Profit in der Optimallösung.
=⇒ alle ℓ-Tupel von items durchprobieren.
=⇒ scharfe Gütegarantie von ℓ+1
ℓ+2 .
Laufzeit:
Tupel =⇒ O(nℓ ) viele Greedy Iterationen =⇒ O(nℓ+1 )
n
ℓ
Verbesserung auf O(n ℓ ) möglich.

Approximationsalgorithmen Approximationsschemata 27
Betrachte die relative Abweichung ε als Input-Wert.
Definition: Maximierung
Ein Algorithmus A ist ein ε–Approximationsschema,
wenn A für jedes ε ∈ (0, 1) ein (1 − ε)–Approximationsalgorithmus
ist.
Minimierung analog.
Natürlich wächst die Laufzeit mit sinkendem ε.
Definition:
Ein Approximationsschema A ist ein Polynomiales
Approximationsschema (PTAS), wenn die Laufzeit
von A polynomial in der Länge der Instanz ist.
Definition:
Ein Approximationsschema A ist ein Voll-Polynomiales
Approximationsschema (FPTAS), wenn die Laufzeit
von A polynomial in der Länge der Instanz und in 1/ε ist.
analog:
asymptotisches PTAS und asymptotisches FPTAS.

Approximationsalgorithmen Approximationsschemata 28
(PTAS):
Konstruktionsprinzip beschränkte Enumeration.
✄ Grundidee:
Wähle ein geeignetes Unterproblem der Größe k
Löse das Unterproblem optimal durch vollständige
Enumeration
Erweitere die Lösung zu einer Gesamtlösung
Multi-Prozessor Scheduling:
Approximationsschema (Graham)
Algorithmus Scheduling-PTAS:
Sortiere die jobs in absteigender Reihenfolge
p1 ≥ p2 ≥ . . . ≥ pn
(∗) wähle Parameter k
bestimme die optimale Anordnung der jobs 1, . . . , k
führe (LPT) für die restlichen jobs aus.

Approximationsalgorithmen Approximationsschemata 29
Scheduling-PTAS hat eine Gütegarantie von 1 + m−1
k .
Für gegebenes ε wähle k := (m − 1)/ε
=⇒ ε–Approximationsschema
Laufzeit:
Optimallösung für k jobs durch Enumeration in O(m k ) Zeit.
Gesamtzeit: O(m m/ε + n log n) =⇒ PTAS
m wird als konstant betrachtet.

Approximationsalgorithmen Approximationsschemata 30
(PTAS) für das Rucksackproblem (KP):
✄ Idee: (Sahni ’75)
wähle einen Parameter ℓ
“rate” die ℓ items mit größtem Profit in Optimallösung
fülle die Restkapazität mit Greedy.
“raten” =⇒ alle Teilmengen mit ℓ items durchprobieren
Gütegarantie:
A ≥
ℓ + 1
ℓ + 2 Opt
wähle ℓ := ⌈1 ε⌉−2 =⇒ (1−ε)–Approximationsalgorithmus.

Approximationsalgorithmen Approximationsschemata 31
Laufzeit:
n
ℓ
Teilmengen mit ℓ Elementen
=⇒ O(n ℓ ) viele Greedy Iterationen =⇒ O(n ℓ+1 )
Verbesserung: (Caprara et al.’00)
Systematisches Enumerieren der Teilmengen:
n ℓ−1 Iterationen mit jeweils n Teilmengen
mit sinkenden Kapazitäten
=⇒ Greedy kann in O(n) für jede Iteration
alle n Lösungen bestimmen.
=⇒ Gesamtzeit O(n ℓ )
Zeit O(n) O(n log n) O(n 2 ) O(n 3 ) O(n 4 ) . . . O(n ℓ )
Sahni ’75 1/2 1/2 1/2 2/3 3/4 . . . ℓ−1
ℓ
verbess. 1/2 2/3 ∗ 3/4 4/5 5/6 . . . ℓ+1
ℓ+2

Approximationsalgorithmen Approximationsschemata 32
• d-dimensionales Rucksackproblem (dKP):
✄ gegeben:
n Objekte mit Profit pj und d Gewichten wij,
ein Rucksack mit Kapazitätsvektor ci.
✄ Problem:
Wähle eine Teilmenge von Objekten mit maxim.
Profit und Gewicht ≤ ci ∀i = 1, . . . , d.
ILP-Formulierung:
(dKP ) maximiere
unter d.B.
n
j=1
pj xj
n
wij xj ≤ ci , i = 1, . . . , d,
j=1
xj ∈ {0, 1}, j = 1, . . . , n.
Satz: Die Optimallösung der LP-Relaxation von (dKP) hat
höchstens min{n, d} nicht-ganzzahlige Variablenwerte.

Approximationsalgorithmen Approximationsschemata 33
Einfacher Approximationsalgorithmus:
LP-Relaxation optimal lösen
Nimm alle items mit Variablenwert 1 (=abrunden)
Oder: Größtes Einzelitem (vgl. Greedy)
=⇒ Approximation mit scharfer Gütegarantie 1
d+1 .
Das spezielle LP kann in O(n) Zeit gelöst werden.
PTAS: analog zu (KP)
wähle einen Parameter ℓ
“rate” die ℓ items mit größtem Profit in Optimallösung
– Algorithmus.
fülle die Restkapazität mit dem 1
d+1
Laufzeit: O(n ℓ+1 )
wähle ℓ := ⌈d ε⌉ − (d + 1) =⇒ PTAS für dKP.
Für d = 1 entsteht genau das frühere PTAS für KP.
Satz: Bereits für 2-KP gibt es kein FPTAS (unter P=N P).

Approximationsalgorithmen Approximationsschemata 34
(FPTAS):
Konstruktionsprinzip Skalierung.
✄ Grundidee:
Beachte:
1. Dynamisches Programmieren liefert die Optimallösung
in pseudopolynomialer Zeit.
2. Skalieren der Eingabewerte eliminiert die
Eingabedaten aus der Laufzeit-Komplexität
Skalieren entspricht einer Klasseneinteilung in Intervalle
Alle Werte eines Intervalls werden gleichgesetzt
(FPTAS) für das Rucksackproblem (KP):
1. Dynamisches Programmieren nach Profiten
Definiere array y:
y(p) enthält das minimale Gewicht einer Teilmenge
von items mit Gesamtprofit p.
Optimallösung: z ∗ := max {p | y(p) ≤ c}
yj(p): Einschränkung auf item Menge {1, . . . , j}

Approximationsalgorithmen Approximationsschemata 35
Rekursive Berechnung durch Einfügen von item j + 1:
yj+1(p) := min{yj(p), yj(p − pj+1) + wj+1} .
Dynamisches Programmieren nach Profiten:
Bestimme obere Schranke P ≥ z ∗
for p := 0 to P do
y(p) := c + 1 dummy Initialisierung
for j := 0 to n − 1 do
for p := P down to pj+1 do
versuche item j + 1 zu packen
if y(p − pj+1) + wj+1 < y(p) then
y(p) := y(p − pj+1) + wj+1
z ∗ := max {p | y(p) ≤ c}

Approximationsalgorithmen Approximationsschemata 36
Pseudopolynomialer Algorithmus
Laufzeit: O(nP ) Speicher: O(nP )
Beachte die notwendige Manipulation der item-Mengen!
Adaptieren des Dynamischen Programmieren:
Ziel: Ersetzen von P durch n, 1/ε.
Wähle eine Konstante K und skaliere den Profit-Bereich:
˜pi :=
⎢
⎣ pi
Dynamisches Programmieren mit den skalierten Profit-
Werten für K = ε pmax/n liefert ein FPTAS.
Laufzeit:
˜P ≤ n ˜pmax ≤ n pmax
K
K
⎥
⎦
= n n pmax
ε pmax
Zeit und Speicher: O(n 3 /ε) (Ibarra, Kim’75)
= n2
ε
Beachte: Skalieren der Gewichte führt zu Schwierigkeiten!

Approximationsalgorithmen Komplexitätstheorie 37
Kurzüberblick Komplexitätstheorie:
Definition:
Für eine Instanz I eines Problems P ist
L(I): Anzahl der Eingabewerte
Max(I): Betrag des größten Eingabewertes
Länge der Instanz: O(L(I) · log(Max(I)))
Definition:
Ein Algorithmus A für das Problem P ist polynomial,
wenn seine Laufzeit für jede Instanz I ein Polynom
in L(I) und log(Max(I)) ist.
Ein Algorithmus A für P ist pseudopolynomial,
wenn seine Laufzeit für jede Instanz I ein Polynom
in L(I) und Max(I) ist.
Korollar:
Wenn Max(I) ein Polynom in L(I) ist, dann ist jeder
pseudopolynomiale Algorithmus bereits ein polynomialer
Algorithmus.
Korollar:
Wenn Max(I) ein Polynom in L(I) ist und P ein N Pvollständiges
Problem ist, dann gibt es keinen pseudopolynomialen
Algorithmus für P (unter P=N P).

Approximationsalgorithmen Komplexitätstheorie 38
Betrachte das Unterproblem Ppoly von P , welches nur jene
Instanzen I enthält, für die Max(I) ein Polynom in L(I)
ist.
Definition:
Wenn Ppoly N P-vollständig ist, so nennt man P streng
N P-vollständig.
Satz:
Wenn P streng N P-vollständig ist, dann gibt es keinen
pseudopolynomialen Algorithmus für P (unter P=N P).
Satz:
Ist Opt(I) ein Polynom in L(I) und Max(I), dann gilt:
Wenn es ein FPTAS für P gibt, dann gibt es auch einen
pseudopolynomialen Algorithmus für P .
Korollar:
Ist Opt(I) ein Polynom in L(I) und Max(I), dann gilt:
Wenn P streng N P-vollständig ist, dann gibt es kein FPTAS
für P (unter P=N P).

Approximationsalgorithmen Komplexitätstheorie 39
Satz: (für Minimierung)
Ist für ein Problem P bereits das Entscheidungsproblem:
“Gibt es einen zulässige Lösung mit Wert ≤ k ? ”
N P-vollständig, dann folgt:
Es gibt keinen polynomialen Approximationsalgorithmus mit
Gütegarantie < 1 + 1/k.
(=⇒ es gibt kein PTAS.)
Vorsicht mit dem Begriff asymptotisch:
Multi-Prozessor Scheduling ist streng N P-vollständig =⇒
kein FPTAS
Es gibt ein PTAS, aber kein asymptotisches FPTAS.
Bin-Packing ist streng N P-vollständig =⇒ kein FPTAS
Es gibt keine Approximation besser als 3/2, also kein PTAS.
Trotzdem gibt es ein asymptotisches PTAS !!
Fernandez de la Vega, Luecker (1981),
und sogar ein asymptotisches FPTAS
Karmakar, Karp (1982).

Approximationsalgorithmen Komplexitätstheorie 40
Komplexitätshierarchie:
in absteigender Reihenfolge der Schwierigkeit:
Optimierungsprobleme in N P:
Die Zulässigkeit einer möglichen Lösung kann in
polynomialer Zeit überprüft werden.
APX: Es gibt einen polynomialen Approximationsalgorithmus
mit konstanter Gütegarantie k.
MAX-SNP: konstante Gütegarantie existiert, aber
das Erreichen einer gewissen Güte 1+δ ist N P-schwer.
PTAS: Beliebige Gütegarantie 1 + ε ist erreichbar in einer
Zeit polynomial in der Länge der Instanz.
FPTAS: Beliebige Gütegarantie 1+ε ist erreichbar in einer
Zeit polynomial in der Länge der Instanz und in 1/ε.
Optimierungsprobleme in P:
Optimallösung kann in polynomialer Zeit berechnet werden.
Neueres Konzept:
Probabilistically Checkable Proofs:
PCP-Theorem