Universitatea Politehnica din Bucureti

Referat Programare neliniara

Student,
Dogaru Ramona



BUCURETI
2014
2



Problema duala Langrange

Pentru fiecare
*
d = cu 0 > functia duala Lagrange ne da o limita
inferioara a valorii optime p* a problemei de optimizare.Astfel vom avea o limita
inferioara care va depinde de cativa parametric , v . O intrebare naturala este:
Care este cea mai buna limita inferioara care poate fi obtinuta cu ajutorul functiei
duale Lagrange?
Aceasta conduce la problema de optimizare :
Maximizarea g( , ) v , cu 0 > (1)
Termenul dual probabil, pentru a descrie perechea ( , ) v cu 0 > si
g( , ) v > .
Problema duala Lagrange(1) este o problem de optimizare convex,
deoarece obiectivul care trebuie maximizat este concav i constrngere este
convex.

Explicitarea constrangerilor duale

Exemplele de mai sus arat c nu este neobinuit pentru domeniul functiei
dubl,
dom g = {( , ) | g( , )> - } v v ,
3

s aib dimensiuni mai mici dect m + p. n multe cazuri, putem identifica corpul
afin al domenului g, i o descriu ca fiind un set de constrngeri liniare de egalitate.
Aproximativ vorbind, acest lucru nseamn c putem identifica constrngerile de
egalitate care sunt "ascunse" sau "implicite" n g obiectiv a problemei duale . n
acest caz, ne putem forma o problem echivalent, n care aceste constrngeri de
egalitate sunt date n mod explicit ca constrngeri. Urmtoarele exemple
demonstreaz aceast idee.
Duala Lagrange a formei standard LP

Mai sus gasim functia duala Lagrange a formei standard LP
Minimizarea
T
c x , pentru Ax b = , 0 x >
Date de

Strict vorbind, problema dubla Lagrange a formulei standard LP este de a
maximiza aceast funcie dubl g cu 0 >

Aici g este finite doar cand 0
T
A c v + = . Putem forma o problema
echivalenta , realizand constrangerile explicite:

Aceasta expresie poate fi exprimata astfel

4

Care este forma inegalitatii LP.

Duala Lagrange a formei inegalitatii LP
ntr-un mod similar putem gsi duala Lagrange a unui program liniar n
form de inegalitate


Lagrangianul este


Deci forma duala este


Infimum unei funcii liniare este - , cu excepia cazului special atunci cnd
acesta este identic nula, astfel nct funcia dual este

Dualul Lagrange a lui LP este de a maximiza g peste tot > 0. Din nou,
putem reformula acest lucru n mod explicit, inclusiv condiiile de fezabilitate
duble fi constrngeri, ca i n

5


Care este un LP in forma standard
Dualitatea Slaba

Valoarea optim a problemei duale Lagrange, notate cu d*, este, prin
definiie, cea mai buna limit inferioar p* care pot fi obinute de la funcia dual
Lagrange. n special, avem inegalitatea simple, dar importante
* * d p s
care deine chiar dac problema original nu este convex. Aceast proprietate este
numita dualitate slaba.
Dualitatea slaba se realizeaza cand d* si p* sunt infinite. De exemplu, n
cazul n care problema primara este nemarginita, astfel nct
*
p = , trebuie s
avem
*
d = , adic problema dubla Lagrange este imposibila.
Ne referim la diferen p*- d* ca decalajul dualitatii optime a problemei
iniiale, deoarece ofer diferena dintre valoarea optim a problemei primare i
cea mai bun (adic, mai mare) limit inferioar , care poate fi obinut de la
funcia dubla Lagrange. Decalajul dualitatii optime este ntotdeauna nenegativ.
Problema duala este SDP






6


Dualitatea puternica si calificarea Slater a
constrangerii

Daca egalitatea
d*=p*
Are decalajul dualitatii optime egal cu zero, atunci spunem ca exista
dualitatea puternica. Aceasta nseamn c cea mai bun legatura care poate fi
obinuta de la funcia dual Lagrange este strns. Dualitate tare nu, n general,
deine. Dar dac problema primara este convexa, de exemplu, de forma

cu
0
,...,
m
f f ,convexa, de obicei (dar nu ntotdeauna), au dualitate tare. Exist multe
rezultate care stabilesc condiiile acestei probleme, dincolo de convexitate, n care
dualitatea puternica este detinuta. Aceste condiii sunt numite calificri ale
constrngerii.
O simpl calificare constrngere este constrangerea Slater: Exist un x
relint D, astfel nct
( ) 0, 1,...,
i
f x i m < = Ax=b
Un astfel de punct este uneori numit strict posibil, deoarece constrngerile
de inegalitate ine cu inegaliti stricte. Teorema Slater afirm c dualitatea
puternic deine, n cazul n care starea Slater deine (i problema este convex).
Condiia Slater poate fi rafinata atunci cnd o parte din constrngere inegalitate
functii
i
f sunt afine.
7

n cazul n care prima k constrngere ale functiilor f1, ..., fk afine, apoi
dualitate tare deine furnizat urmtoarea condiie mai slab are: Exist un x
relintD cu
( ) 0, 1,..., k
i
f x i s = ( ) 0, 1,..., m
i
f x i k s = + Ax=b
Cu alte cuvinte, inegalitile afine nu trebuie s dein cu strict inegalitatea.
Reinei c starea Slater rafinat se reduce la fezabilitate n cazul n care
constrngerile sunt toate egaliti liniare i inegaliti, i domf0 este deschis.
Condiie Slater implic nu numai dualitate tare pentru probleme convexe.

Exemple
1. Solutia celor mai mici patrate a ecuatiilor liniare
Amintindu-ne problema:

Problema duala asociata este

care este o problem concave fr restricii de maximizare patratica.
Condiia Slater este pur i simplu c problema primara este posibil, astfel
nct p* = d* prevzut b R (A), de exemplu, p* <. De fapt, pentru aceast
problem, avem mereu dualitate tare, chiar i atunci cnd p* = . Acesta este
cazul atunci cnd beR (A), astfel nct nu este a z cu 0
T
A z = , 0
T
b z = . Rezult c
funcia de dublu este nemarginita mai sus de-a lungul liniei de {tz | t R}, deci
d = , de asemenea.

8

2. Duala Lagrange a LP
Despre forma mai slab de starea Slater lui, aflm c dualitatea puternica
deine pentru orice LP (n form standard sau inegalitate), cu condiia ca
problema primara este fezabil. Aplicarea acestui rezultat la duala, putem
concluziona c dualitatea puternica deine pentru LP dac duala este fezabila.
Acest lucru las o singur situaie posibil, n care dualitatea puternic pentru LP
poate eua: att problemele primare i duble sunt imposibile. Acest caz patologic
poate, n fapt, s apar;
3. Duala Lagrange a QCQP
Consideram problema QCQP

Cu
0
n
P S
++
e si
1
n
P S
+
e i=1,,m.Lagrangianul este

Unde

Prin urmare, ne putem exprima problema dubla ca :

Condiia Slater spune c dualitate puternic rezista n cazul n care
restriciile de inegalitate ptratice sunt strict posibil, de exemplu, exist un x cu


9

4. Maximizarea entropiei
Urmatorul exemplu trateaza maximizarea entropiei

Cu domeniul
n
D R
+
= .Problema duala este

Cu variabilele ,
m
R R v e e .
Maximizarea peste dublu variabila analitic. Pentru fixe, funcia
obiectiv este maximizat cnd derivatul cu privire la este zero, adic,

nlocuind aceast valoare optim a la nivelul problemei duale d

care este un program de geometric (n form convex) cu constrngeri non-
negative.






10

Bibliografie
1. Stephen Boyd, Convex Optimization, ed Cambridge University
press