Metoda podpornih vektorjev

Lagrangeovi multiplikatorji 14/60
Recimo, da imamo takšen optimizacijski problem:
minimiziraj f(x) (f imenujemo kriterijska funkcija)
pri pogojih x ∈ R d , ∀i ∈ 1..l : f i (x) ≥ 0
Če x ustreza vsem pogojem f i (x) ≥ 0, pravimo, da je dopustna rešitev.
Mnoˇzico vseh dopustnih rešitev označimo s Φ.
Nasvet: vpeljimo Lagrangeove multiplikatorje u = (u 1 , . . . , u l ) (ki bodo vedno
nenegativna realna števila) in definirajmo Lagrangeovo funkcijo
L(x, u) := f(x) − ∑ l
i=1 u if i (x).
Izpeljimo iz nje dve novi funkciji: ˆf(x) := max L(x, u) in g(u) := min L(x, u).
u∈(R + 0 )l x∈Rd Hitro se vidi:
In ∀x, u:
Torej tudi:
ˆf(x) =
{ f(x), če x ∈ Φ
+∞, če x ∉ Φ
g(u) = min L(˜x, u) ≤ L(x, u) ≤ max L(x, ũ) = f(x).
˜x∈R d ũ∈(R + 0 )l
max
u∈(R + 0 )l g(u) ≤ min
x∈R d ˆf(x).