Column Generation

Generazione di Colonne AA 2009/10 1
Metodi di Generazione di Colonne
Alcuni problemi di programmazione lineare sono caratterizzati da un
elevato numero di variabili e/o vincoli.
Alcuni di questi problemi hanno generalmente una struttura della matrice
dei vincoli tale per cui sia possibile risolverli decomponendoli in
sottoproblemi di piú facile soluzione.
In generale l’obiettivo é quello di risolvere tali problemi senza considerare
esplicitamente tutti le variabili e/o vincoli del problema.
L’algoritmo che sta alla base dei metodi basati sulla generazione di
colonne é il metodo del simplesso revisionato.
Si consideri la seguente coppia di problemi primale-duale:
(P) z(P) = Min c T x
s.t. Ax = b
x ≥ 0
(D) z(D) = Max u T b
s.t. u T A ≤ c T
dove A é una matrice (m×n), e c(n), b(m), x(n) e u(m).
Modelli per le Decisioni - M. Dell’Amico/M. Iori

Generazione di Colonne AA 2009/10 2
Sia nel metodo del simplesso primale che in quello duale si eseguono
iterativamente le seguenti operazioni:
(1) Selezione di una colonna s di A;
(2) Selezione di una riga r di A;
(3) Esecuzione di un’operazione di pivoting usando ars come elemento
di pivot.
Nota una base B di A:
- u T = c T BB −1 : variabili duali associate a B;
- b = B −1 b: valore delle variabili in base;
- Aj: colonna j di A;
- cj = cj −uAj: costo ridotto associato alla variabile xj;
- aij: elemento (i,j) della matrice B −1 A.
Le operazioni del metodo del simplesso primale e duale possono essere
riassunte come segue.
Modelli per le Decisioni - M. Dell’Amico/M. Iori

Generazione di Colonne AA 2009/10 3
Simplesso primale e duale
Simplesso Primale Simplesso Duale
Test di ottimalitá cj ≥ 0,j = 1,...,m bi ≥ 0,i = 1,...,m
Var. entrante in base s = argmin{cj : j = 1,...,n} s = argmin{ cj
|a rj| : arj < 0,j = 1,...,n}
Var. uscente dalla base r = argmin{ b i
a is : ais > 0,i = 1,...,m} r = argmin{bi : i = 1,...,m}
Elemento di pivoting ars ars
Modelli per le Decisioni - M. Dell’Amico/M. Iori

Generazione di Colonne AA 2009/10 4
Si noti che nel caso in cui n e/o m siano molto grandi, potrebbe diventare
proibitivo effettuare le operazione di pivoting.
Simplesso in formato tableau:
z x1 ... xm xm+1 ... xn
-1 c T B c T F 0
0. B F b
0
BxB +FxF = b
−z +c T B xB +c T F xF = 0
xB = b−FxF
−z +c T BB −1 b+(c T F −cBB −1 F)xF = 0
−z +c0 +c T F xF = 0
z x1 ... xm xm+1 ... xn
-1 0 ... 0 c T F −c0
0. I F b
0
Si noti che non é necessario calcolare A = B −1 A ma é sufficiente calcolare
B −1 e u T = c T BB −1 :
Modelli per le Decisioni - M. Dell’Amico/M. Iori

Generazione di Colonne AA 2009/10 5
Il simplesso revisionato
0 ... 0 c T B c T F 0
I B F b
CARRY tableau normale
Effettuando i pivot anche sulla matrice CARRY
0−uI = −u c T B −u T B = 0 c T F −u T F −u T b
B −1 I B −1 F B −1 b
CARRY tableau normale
Nella matrice CARRY sono memorizzati B −1 e u.
Possiamo eliminare il tableau normale e usare solo la CARRY.
Algoritmo Simplesso Rivisto
1. Calcola i costi cj = cj −u T Aj per ogni j ∈ F;
2. scegli la variabile entrante xh;
3. genera la sola colonna Ah = B −1 Ah e orla la CARRY;
4. scegli la riga t del pivot (criterio del rapporto bi/aih > 0);
5. effettua il pivot sulla CARRY e sulla colonna dei r.h.s.
Modelli per le Decisioni - M. Dell’Amico/M. Iori

Generazione di Colonne AA 2009/10 6
Esempio
−u T ch −u T b
a1h
B −1 ath B −1 b
0 2 1 0 0
1 2 1 0 6
4 -1 2 1 8
B =
⎡
⎢
⎣
amh
CARRY orlata
2 0
−1 1
⎤
c T F = [0,1] T −[1,0]
CARRY
orlata
⇒
− �u T − �u T b
�
B−1 Scelta la base B = [A2,A4] si ha
⎥ ⎦, B−1 =
⎡
⎢
⎣
1 1
4 2
⎡
⎢
⎣
B −1 Ah b
-1 0 -1 -6
1/2 0 1/2 3
1/2 1 9/2 11
c T F = [1,0]T −[8/9,−2/9]
⎤
1/2 0
1/2 1
⎤
Nuova CARRY
⎥ ⎦, uT = [1,0] b =
⎡
⎡
⎢
⎣ 3
11
⎥
⎦ = [−1,0]⇒(h=1)Ah = B−1 ⎢
⎣ 1
4
⎡
⎢
⎣
1 0
2 1
⎤
⇒
⎥
⎦ = [5/9,2/9]
Soluzione ottima x1 = 22/9,x2 = 16/9,z = 32/9
⎤
� B −1 b
⎤
⎥
⎦
⎥
⎦ =
⎡
⎢
⎣ 1/2
9/2
�
B−1 �
Ah
�
b
-8/9 2/9 0 -32/9
4/9 -1/9 0 16/9
1/9 2/9 1 22/9
Modelli per le Decisioni - M. Dell’Amico/M. Iori
⎤
⎥
⎦

Generazione di Colonne AA 2009/10 7
Generazione di Colonne
Dato il seguente problema di programmazione lineare
(P) z(P) = Min
s.t.
n�
cijxj
j=1
n�
j=1
aijxj = bi, i = 1,...,m
xj ≥ 0,j = 1,...,n
abbiamo visto che la soluzione base associata ad una base B di A puó
essere migliorata se posto
risulta ∆ < 0.
∆ = min
j=1,...,n [cj −cBB −1 Aj] (1)
In generale perció il problema é quello di determinare il valore ∆ del
sottoproblema (1).
Abbiamo visto come questo puó essere fatto per problemi di programmazione
lineare utilizzando il simplesso revisionato e che puó risultare
proibitivo se il numero di colonne é elevato.
Vedremoinseguitocheperalcuniproblemi lastrutturadelsottoproblema(1)étalepercuipossaessererisoltosenzaconsiderareesplicitamente
tutte le variabili j.
Ilmetodoprendeilnomedigenerazionedicolonne (columngeneration)
perché nella risoluzione del sottoproblema (1) le colonne/variabili del
problema vengono generate solo quando servono.
Modelli per le Decisioni - M. Dell’Amico/M. Iori

Generazione di Colonne AA 2009/10 8
Algoritmo Generazione di Colonne
Step 1. Scegli una base ammissibile iniziale B.
Step 2. Calcola xB = B −1 b.
Step 3. Determina la variabile j ∗ con costo ridotto
c ∗ j = c ∗ j −c T BB −1 A ∗ j minimo.
Step 4. Se c ∗ ≥ 0 STOP, altrimenti costruisci la
nuova base B e vai allo Step 2.
Modelli per le Decisioni - M. Dell’Amico/M. Iori

Generazione di Colonne AA 2009/10 9
Problema del taglio monodimensionale
(Cutting Stock Problem, Gilmore e Gomory (1960))
Sia I un insieme di n oggetti ognuno di lunghezza pari a li, i =
1,...,n.
Sia ni il numero di pezzi che si devono produrre per ogni oggetto i,
i = 1,...,n.
Sia L la lunghezza delle lastre a disposizione dalle quali tagliare gli
oggetti necessari.
Uno schema di taglio (o pattern) é una possibile configurazione di
taglio degli oggetti I su di una lastra.
Ad esempio, dati i seguenti 3 oggetti:
Oggetto li ni
(cm)
A 5 150
B 7 200
C 9 300
e lastre di lunghezza L = 20 cm, alcune configurazioni di taglio sono le
seguenti.
Modelli per le Decisioni - M. Dell’Amico/M. Iori

Generazione di Colonne AA 2009/10 10
Pattern 1
20
7 9 4
Setting 1
Pattern 2
20 20
Altre configurazioni:
5 5 7 3
Setting 2
Pattern 3
20
5 5 9 1
Setting 3
Pattern 1 Pattern 2 Pattern 3 Pattern 4 Pattern 5
A (5 cm) 0 2 2 4 1
B (7 cm) 1 1 0 0 2
C (9 cm) 1 0 1 0 0
Modelli per le Decisioni - M. Dell’Amico/M. Iori

Generazione di Colonne AA 2009/10 11
Sia J l’insieme degli indici di tutte le possibili configurazioni di taglio.
Sia inoltre aij il numero di volte in cui l’oggetto i é tagliato nella configurazione
j, i ∈ I, j ∈ J.
L’obiettivo del problema é quello di tagliare dalle lastre tutti i pezzi
necessari minimizzando il numero di lastre necessarie.
Sia yj una variabile non negativa intera rappresentante il numero di
volte che la configurazione j ∈ J é usata per tagliare i pezzi.
La formulazione matematica del problema é la seguente:
(P) Min
�
yj
j∈J
� �� �
numero di lastre
�
aijyj
j∈J
� �� �
n. di pezzi i
≥ ni, ∀i ∈ I
yj ≥ 0 intera , ∀j ∈ J
Si noti che la cardinalitá dell’insieme J puó essere grande.
Modelli per le Decisioni - M. Dell’Amico/M. Iori

Generazione di Colonne AA 2009/10 12
Si consideri il rilassamento lineare di P, ovvero:
(LP) Min
�
yj
j∈J
� �� �
numero di lastre
�
aijyj
j∈J
� �� �
n. di pezzi i
≥ ni, ∀i ∈ I
yj ≥ 0, ∀j ∈ J
Sia LP ′ il problema LP dove l’insieme J delle configurazioni é sostituito
dall’insieme J ′ ⊂ J (si supponga che J ′ sia tale da garantire che
LP ′ ammette una soluzione ammissibile).
Si risolva il problema LP ′ e siano ui,i ∈ I, la variabile duale associata
ai vincoli di LP ′ .
Il costo ridotto di ogni configurazione j ∈ J é dato da:
Se risulta
cj = 1− �
aijui
i∈I
min
j∈J\J ′[cj] < 0
allora la soluzione base corrente non é ottima per LP.
Modelli per le Decisioni - M. Dell’Amico/M. Iori

Generazione di Colonne AA 2009/10 13
Siccome i costi ridotti cj, j ∈ J ′ , sono non negativi:
�
min
j∈J\J ′[1−
aijui]
i∈I
�
= min[1−
aijui]
j∈J i∈I
e ció equivale a risolvere il seguente problema
Min 1− �
�
i∈I
uizi
i∈I
lizi ≤ L
zi ≥ 0 intera ,∀i ∈ I
dove zi, i ∈ I é, rappresenta il numero di volte che l’oggetto i é tagliato
sulla nuova configurazione.
Il problema (2) é equivalente al seguente problema di knapsack intero
Max
�
uizi
i∈I
�
i∈I
lizi ≤ L
zi ≥ 0 intera ,∀i ∈ I
Il generatore di colonne é in questo caso un problem di knapsack intero
risolubile in tempo pseudopolinomiale.
Modelli per le Decisioni - M. Dell’Amico/M. Iori
⎫
⎪⎬
⎪⎭
⎫
⎪⎬
⎪⎭
(2)

Generazione di Colonne AA 2009/10 14
Algoritmo generazioni di colonne per il
Cutting Stock Problem
Step 1. Si generi un insieme iniziale J ′ di configurazioni di taglio in
modo tale che il problema LP ′ ammetta una soluzione
ammissibile;
Step 2. Si risolva il problema LP ′ definito sull’insieme di
configurazioni J ′ . Sia x ∗ la soluzione ottima primale e
sia u ∗ la corrispondente soluzione duale;
Step 3. Si risolva il seguente problema di knapsack intero:
⎧
⎪⎨
⎪⎩
Max
Step 4. Se �
�
u
i∈I
∗ izi
�
i∈I
lizi ≤ L
zi ≥ 0 intera ,∀i ∈ I
Sia z ∗ la soluzione ottima.
i∈I
u ∗ iz ∗ i ≤ 1, stop, x ∗ é la soluzione ottima,
altrimenti aggiungi a J ′ la colonna data dalla soluzione z ∗
(nuova configurazione) e vai allo Step 2.
Modelli per le Decisioni - M. Dell’Amico/M. Iori

Generazione di Colonne AA 2009/10 15
Branch & Price
Nel caso di problemi di Programmazione Lineare, l’algoritmo column
generation determina la soluzione ottima del problema.
Nel caso di problemi di Programmazione Intera, l’algoritmo column
generation applicato al rilassamento lineare del problema puó terminare
con una soluzione che risulta frazionaria.
In questo caso é necessario applicare un’algoritmo di tipo branch and
boundperdeterminarelasoluzioneottimainteradoveilcalcolodellower
bound avviene utilizzando la tecnica column generation.
Questi metodi prendono il nome di metodi branch and price.
P 1
...
Albero decisionale
P 0
P ... 2 Pq Modelli per le Decisioni - M. Dell’Amico/M. Iori