ELEMENTE DE PROGRAMARE NELINIARA

1.Introducere
Caracteristic unei probleme de programare liniar este faptul c toate funciile implicate
n ea funcia obiectiv i restricii sunt liniare. Dei ipotezele de liniaritate au loc n
numeroase situaii practice tot att de frecvent ale nu sunt ndeplinite. De fapt, muli economiti
teoreticieni au constatat c un anume grad de neliniaritate este regula i nu excepia n
problemele de planificare economic.
Exist deci o puternic motivaie economic pentru studiul problemelor de programare
neliniar a cror form canonic de prezentare este:

Sa se determine x * ( x1* , x 2* ,..., x n* )

care minimizeaza functia obiectiv :

z f ( x1 , x 2 ,..., x n )

( P) cu satisfacerea restrictiilor :

g i ( x1 , x 2 ,..., x n ) 0 i 1,2,..., m

si a conditiilor de nenegativitate :

x1 0 , x 2 0 , ... x n 0

min f ( x ) x R n

g i ( x) 0 i 1,2,..., m

x0

Dac n cazul liniar (f si gi sunt funcii liniare) exist (cel puin) o metod general de
rezolvare de exemplu metoda simplex n cazul neliniar nu exist o asemenea metod. Totui
progrese substaniale au fost fcute n unele cazuri speciale prin impunerea unor condiii asupra
funciilor f si gi .Aria acestor cazuri speciale este destul de mare astfel c nu ne vom putea opri
dect asupra unora mai relevante.
2. Neliniaritatea n modelarea proceselor economice. Cteva exemple
S considerm problema firmei al crei obiectiv este determinarea unui program de
producie astfel nct:

necesarul de resurse pentru susinerea programului s se ncadreze n disponibile

profitul total, rezultat din vnzarea bunurilor produse s fie maxim.

date;

n multe situaii practice, preurile i costurile unitare de fabricaie pot fi considerate constante
astfel c i profiturile unitare vor fi la fel. n consecin, n aceste cazuri funcia obiectiv, care
reprezint profitul total, va fi liniar:
f ( x1 , x 2 ,..., x n ) P1 x1 P2 x 2 ... Pn x n
(xj reprezint cantitatea produs i vndut din bunul j;Pj este profitul unitar corespunztor
bunului j )
Nu ntotdeauna tot ceeace se produce dintr-un bun se poate i vinde la un anumit pre. Apare aa
numita problem a elasticitii preului: cantitatea de marf vndut se afl ntr-o relaie invers
cu preul cerut aa cum arat curba pre cerere (fig. 2.1a)

profit
pre
P(x)

p(x)
c
cost unitar de

cantitate produs
i vndut

producie
x

cerere

p(x) este preul care permite firmei s vnd x uniti de produs

a)

b)
Figura 2.1

Dac c este costul unitar de producie, cost pe care l presupunem pentru simplificarea
expunerii fix, atunci profitul firmei, rezultat din producerea i vnzarea cantitii x este dat de
funcia neliniar (vezi fig. 2.1b):
P(x) = x.p(x) c(x)
Dac fiecare din produsele firmei are o asemenea funcie profit, notat Pj(xj), profitul total va fi
exprimat prin funcia neliniar:
n

f ( x1 , x 2 ,..., x n ) Pj ( x j )
j 1

O alt surs de neliniariti n funcia obiectiv o constituie variaia costului marginal pentru producerea a nc unei uniti dintr-un produs - n funcie de nivelul produciei. Acest cost
marginal poate s scad n unele situaii (ca urmare a trecerii la producia de serie, al acumulrii
experienei i al perfecionrii procesului de producie) iar n altele poate s creasc (ore
suplimentare,utilizarea n regim de urgen a unor capaciti de producie mai costisitoare pentru
satisfacerea unor cereri imediate)
Neliniaritatea poate apare i n restricii ntr-o manier asemntoare. De exemplu, dac
exist o restricie bugetar asupra costului produciei, relaia corespunztoare va fi cu siguran
neliniar n cazul n care costul marginal al produciei este variabil.
Pentru restriciile privitoare la alte tipuri de resurse, neliniaritatea apare ori de cte ori
consumurile nu sunt direct proporionale cu nivelele de producie.
Exemplul 2.1 n problema transporturilor se urmrete determinarea unui program
pentru transportul unui produs de la diferite surse la diveri consumatori, cunoscndu-se
cantitile disponibile i cererile, astfel nct costul total al transportului s fie minim. n
programarea liniar, costul transportului unei uniti de produs de la o anumit surs la o anumit
destinaie a fost considerat constant, independent de cantitatea transportat. De multe ori se
ntmpl ca la cantiti mari s se acorde la transport anumite reduceri; n aceste situaii, costul
marginal al transportului unei uniti suplimentare tinde s scad i ca o consecin costul C(x) al
transportrii cantitii x este dat de o funcie neliniar. S analizm datele din fig. 2.2 a) i b).

cost marginal

cost

6.5

186

132

84

3
39

15

27

45

cantitate

15

27

45

transportat

a)

b)
Figura 2.2

Fie x cantitatea transportat i C(x) costul transportrii cantitii x.

dac 0 x 6 costul unitar de transport este de 6.5 u.m. deci C1(x) = 6.5x u.m.;
dac 6 x 15 , 6 uniti vor fi transportate cu costul 6.5 u.m. per unitate iar
urmtoarele cu numai 5 u.m. per unitate astfel c :
C2(x) = 6.5 6 + 5.(x - 6) = 9 + 5.x
dac 15 x 27 , 15 uniti vor fi transportate cu costul C2(15) = 84 iar urmtoarele
cu numai 4 u.m. per unitate. Costul total va fi :
C3(x) = 84 + 4.(x 15) = 24 + 4.x
dac 27 < x 45 , 27 uniti vor fi transportate cu costul C3(27) = 132 iar urmtoarele
cu 3 u.m. per unitate de unde costul total:
C4(x) = 132 + 3.(x 27) = 51 + 3.x
Prin urmare, costul C(x) al transportrii a x uniti este dat de funcia:

C ( x)

6.5 x
9 5.x
24 4.x
51 3.x

0 x6
6 x 15
15 x 27
27 x 45

care este neliniar dar liniar pe poriuni. Din fig. 2.2 b) rezult c pantele poriunilor liniare
ale graficului funciei C(x) sunt chiar costurile marginale evideniate n fig 2.2 a).
Dac fiecare cuplu (surs i , destinaie j ) are o funcie cost similar, aa nct costul
transportului a xij uniti de la i la j este dat de funcia neliniar Cij(xij) atunci costul total este
reprezentat de funcia de asemenea neliniar;
f ( x1 , x 2 ,..., x n ) C ij ( xij )
i, j

Aceste consideraii nu modific restriciile problemei de transport care rmn liniare:

x
j 1

ai

ij

i 1,2,..., m

suma cantitilor livrate de sursa i nu depete disponibilul su;

m

x
i 1

ij

bj

j 1,2,..., n

suma cantitilor primite de consumatorul j acoper cererea sa.

Exemplul 2.2 La terminalul unei conducte petroliere situat ntr-un port sosesc vasele A,
B, C pentru a fi ncrcate. Vasul A trebuie ncrcat cu 15 mii tone n maximum 48 de ore, vasul B
trebuie ncrcat cu 20 mii tone n maximum 60 de ore iar vasul C trebuie ncrcat cu 45 mii tone
n maximum 70 de ore. (timpii de staionare pentru ncrcare se numesc timpi de stalii i sunt
prevzui n contractul de transport; orice depire a acestor timpi (contrastalii) se penalizeaz,
penalizarea depinznd de tipul navei etc) Terminalul dispune de pompe i conducte care
nsumeaz o capacitate de ncrcare de 1200 tone pe or. Se pune problema de a stabili ce debit
trebuie afectat fiecrei nave astfel nct ele s fie ncrcate n cel mai scurt timp.
Dac se noteaz cu y1 , y2 , y3 deditele repartizate vaselor A, B, C i cu x1 , x2 , x3 numrul
de ore necesar ncrcrii lor se obine uor urmtorul program neliniar:

(min) f x1 x 2 x 3

x1 y1 15000 x 2 y 2 20000

y1 y 2 y 3 1200

x1 48 , x 2 60 , x 3 70

x j , y j 0 j 1,2,3

x 3 y 3 45000

Eliminnd y1 , y2 , y3 rezult modelul mai simplu:

(min) f x1 x 2 x 3
15000 20000 45000

1200
x2
x3
x1

x1 48 , x 2 60 , x 3 70

x1 0, x 2 0, x 3 0

3. Dificulti cauzate de neliniaritate

Considerm problema de optimizare:
min f ( x)
,
x Rn

( P ) g ( x) 0 , g ( x ) ( g1 ( x), g 2 ( x ),..., g m ( x))

x0

a crei mulime de soluii admisibile o notm cu A:

A =
(P) se rescrie:

x R

g ( x ) 0 g1 ( x) 0, g 2 ( x) 0,..., g m ( x) 0; x 0

*
S se determine x* A cu proprietatea: f ( x ) min f ( x), x A

Este cunoscut faptul c dac (P) este un program liniar (adic f i g1,g2,,gm sunt funcii liniare)
atunci mulimea A este convex i mai mult chiar poliedral (intersecie finit de
semispaii).Aceste proprieti ale mulimii A plus faptul c funcia obiectiv este i ea liniar ne
asigur c:

o soluie optim dac exist este un punct de minim global adic:

f(x*) f(x)

() x A

cel puin o soluie este un vrf al mulimii A

Cum numrul vrfurilor mulimii poliedrale A este finit urmeaz c, pentru programul liniar (P),
problema determinrii unei soluii optime x* din mulimea, n general infinit, a tuturor soluiilor
admisibile se reduce la gsirea lui x* n mulimea finit a vrfurilor acestei mulimi.
Metoda simplex realizeaz n mod sistematic aceast cutare oferind ntr-un numr finit de pai
(iteraii) soluia optim x*.
Neliniaritatea obiectivului sau a unora dintre restricii face ca unele din proprietile
relevate mai sus s dispar fapt care duce la complicarea sarcinii de determinare a optimului.
1) De la bun nceput vom sublinia faptul c n programarea neliniar cu cteva
excepii metodele de rezolvare obin teoretic soluia optim ca limit a unui ir de soluii.
Astfel, un proces concret de optimizare neliniar este finit nu datorit structurii problemei ci prin
voina utilizatorului care limiteaz numrul pailor n funcie de o serie ntreag de factori cum
ar fi : complexitatea calcului, timpul disponibil, performanele echipamentului de calcul etc.
2) Este posibil ca funcia obiectiv din (P) s aibe mai multe minime locale pe
mulimea soluiilor admisibile A . Pentru exemplificare considerm problema:

min f ( x1 , x 2 ) 2 x1 3x 2

( P)

x12 x 22 4

x 0, x 0
2
1

f=6

A(0,2)

f= 4

B(2,0)

Figura 3.1
Mulimea soluiilor admisibile A este vizualizat n fig.3.1. Evident, A nu este o mulime
convex. Punctul A (0,2) ofer obiectivului valoarea 6 care este cea mai mic valoare a funciei f
pe soluiile admisibile situate n imediata apropiere de A! Totui A nu este soluia optim a
problemei (P) deoarece n B(2,0) f are valoarea 4 < 6. Ca i A, B minimizeaz funcia obiectiv pe
soluiile admisibile vecine cu B dar, spre deosebire de A, B minimizeaz obiectivul pe ntreaga
mulime A i n consecin reprezint soluia optim a problemei (P). Spunem c A i B sunt
puncte de minim local ale funciei obiectiv f, B fiind chiar un punct de minim global.
Posibilitatea existenei mai multor minime locale ale funciei obiectiv reprezint o
serioas dificultate n rezolvarea unui program neliniar. ntr-adevr, prin nsi formulare, ntr-o
asemenea problem se cere determinarea minimului global al obiectivului. Or, toate metodele de
optimizare neliniar cunoscute, nu reuesc s determine dect cel mult un minim local,
neexistnd garania c acesta coincide cu minimul global cutat.
5

Dup cum vom vedea, dac A este convex iar funcia obiectiv este convex i se
minimizeaz atunci aceasta are cel mult un minim local care dac exist este automat global !
Din fericire, marea majoritate a aplicaiilor economice au proprietile de mai sus, fapt care
constituie un serios avantaj.
3) Chiar dac restriciile din (P) sunt liniare dar obiectivul ramne neliniar ns
convex, soluia optim, dei se afl pe frontiera lui A nu este neaprat vrf. Considerm
urmtorul exemplu:
min f ( x1 , x 2 ) ( x1 72 x 2 ) 2 2( x 2 4) 2

x1 x 2 6

x1 x 2 1

2 x1 x 2 6

12 x1 x 2 4

x1 , x 2 0

x* = (5/2 , 7/2)

x2

min f = f(x*) = 3/2

Figura 3.2

punctul de minim
liber al funcei f
x = (7/2 , 4)

x1

Curbele de nivel ale funciei obiectiv patratice f sunt elipse centrate n x = (7/2 , 4) care
reprezint i punctul de minim nerestricionat al lui f. Se poate arta, prin mijloace algebrice
elementare c f are pe A un minim global x* = (5/2 , 7/2) care nu este vrf al lui A .
4) este posibil ca soluia optim s fie situat n interiorul mulimii A . Pentru
exemplificare s atam restriciilor din problema precedent funcia
f ( x1 , x 2 ) ( x1 2) 2 2( x 2 3) 2
al crei minim liber este punctul x = (2 , 3). Deoarece x A ( i mai precis x Int (A ) )
acest punct reprezint soluia optim x*.

4. Clase de probleme neliniare

6

1) Problemele de optimizare fr restricii au forma general:

S se determine x* Rn care minimizeaz valoarea funciei
z f ( x1 , x 2 ,..., x n )
minimul fiind luat dupa toi x Rn n care funcia f este definit.
2) Probleme de optimizare cu restricii liniare i funcie obiectiv neliniar. n aceast
clas un loc deosebit l ocup problemele de programare patratic n care funcia obiectiv este
un polinom de gradul doi n variabilele sale:
n

f ( x1 , x 2 ,..., x n ) c0 ci xi
i 1

1 i j n

ij

xi x j

Importana problemelor de programare patratic este motivat prin:

faptul c modeleaz cu suficient acuratee multe situaii practice;
se rezolv prin metode derivate din metoda simplex ntr-un numr finit de pai;
rezolvarea multor probleme cu restricii liniare i funcie obiectiv neliniar se poate
reduce la rezolvarea unei secvene de probleme de programare patratic ale cror funcii obiectiv
aproximeaz din ce n ce mai bine obiectivul neliniar original.
3) Problemele de programare convex se caracterizeaz prin:
funcie obiectiv convex dac aceasta se minimizeaz (echivalent: funcie obiectiv
concav dac aceasta se maximizeaz);
restriciile inegaliti sunt de forma g i ( x) 0 n care gi este o funcie convex
(echivalent g i ( x) 0 cu g funcie concav);
i

eventualele restricii egaliti sunt liniare, cerin motivat prin aceea c funciile
liniare sunt singurele funcii simultan convexe i concave.
Problemele convexe au urmtoarele proprieti fundamentale:
mulimea soluiilor admisibile este convex;
funcia obiectiv admite cel mult un optim (minim sau maxim) local; automat acesta
va fi un optim global i va reprezenta optimul problemei;
dac optimul liber (nerestricionat) al funciei obiectiv nu este o soluie admisibil
atunci optimul restricionat se gsete cu necesitate pe frontiera mulimii A .
Importana acestei clase de probleme este covritoare. ntr-adevr:
programarea convex include programarea liniar ;
n acest domeniu a fost depus cel mai mare efort de cercetare i s-au obinut cele mai
puternice rezultate teoretice (cum ar fi teoria dualitii neliniare, condiiile de optimalitate Kuhn
Tucker) i practice (metode i algoritmi de optimizare);
ntregul formalism matematic al teoriei economice moderne se bazeaz pe ipotezele
de convexitate.
4) Problemele de programare separabil se caracterizeaz prin faptul c funcia
obiectiv f ca i funciile gI din restricii sunt separabile n sensul urmtoarei definiii:
7

Funcia f ( x1 , x 2 ,..., x n ) se numete separabil dac ea se poate scrie ca o sum de funcii,

fiecare de cte o singur variabil:
f ( x1 , x 2 ,..., x n ) f 1 ( x1 ) f 2 ( x 2 ) ... f n ( x n )
Separabilitatea este important prin aceea c uureaz optimizarea. De exemplu, optimizarea
unei funcii separabile fr restricii se reduce la optimizarea independent a termenilor!
5) Problemele de programare neconvex reunesc toate problemele care nu satisfac
ipotezele de convexitate. Ele sunt grele n primul rnd din cauza faptului c au mai multe
minime locale. Dup cum s-a mai spus, metodele actuale pot determina un asemenea optim dar
nu garanteaz c optimul gsit este cel global. Din fericire, exist cteve tipuri de probleme
neconvexe, utile n practic, care pot fi rezolvate fr dificulti deosebite prin metode speciale.
rintre aceste tipuri, se numr problemele de programare fracionar. Iat un exemplu:

cx c 0
min f ( x) dx d
0

x ( x1 , x 2 ,..., x n ) R n

Ax b
x0

unde se presupune c dx d 0 0 pe A ={x Rn Ax b , x 0}.

O asemenea problem se reduce la un program liniar uzual punnd:
y ( y1 , y 2 ,..., y n )

1
1
y
x,t
x
dx d 0
dx d 0 astfel c
t .

Rezult programul liniar echivalent n n + 1 variabile y = (y1,y2,,yn) i t:

min cy c 0 t
Ay bt 0

dy d 0 t 1
y 0 , t 0
5. Optimizare fr restricii
5.1 Introducere Fie f o funcie numeric de n variabile pe care, pentru simplitate, o
presupunem definit i cu derivate pariale cel puin de ordinul doi n fiecare punct din R n.
Considerm problema de optimizare fr restricii:
(P) S se determine x*Rn cu proprietatea:

f ( x * ) {inf f ( x ) x R n }

n legtur cu aceast problem, analiza matematic clasic furnizeaz urmtorul rezultat

fundamental:
8

Teorem Dac x* este un punct de extrem local al funciei f, atunci f(x*) = 0, unde

f f
f
,
,...,

x n
x1 x 2

f ( x )

(5.1)

este gradientul funciei f. Reciproc, dac x* Rn este un punct n care condiia (1) are loc i n
plus matricea hessian H(x*) este pozitiv definit, unde
2 f

xi x j

H ( x)

1 i, j n

atunci x* este un punct de minim local al funciei f.

Prin urmare, soluia optim a problemei (P) trebuie cutat printre soluiile sistemului de
n ecuaii n n variabile, n general neliniar:
f ( x ) 0

f
f
f
0,
0,...,
0
x1
x 2
x n

(5.2)

ns rezolvarea sistemului (5.2), cel puin n sensul uzual al termenului, este practic imposibil de
fcut n cvasitotalitatea cazurilor practice. Chiar i n cazul fericit n care, prin mijloace analitice
adic cu formule am putea gsi o soluie a sistemului (5.2) nu avem nici o garanie c
aceasta este soluia optim a problemei (P): ea ar putea fi foarte bine un punct de maxim local
sau un punct a sau, n cel mai bun caz, un minim local diferit de cel global! Astfel apare
necesitatea considerrii altor metode de abordare a problemei (P).
5.2 Principiul metodelor de optimizare fr restricii Ideea comun a tuturor metodelor de
minimizare nerestricionat (liber) este urmtoarea:

Se genereaz un ir de puncte x0, x1, x2 din Rn, numite n continuare

aproximaii. Punctul iniial x0 este dat, alegerea sa fiind fcut de utilizator n funcie de
specificul problemei (P). O dat obinut aproximaia xk, noua aproximaie xk+1 se determin
astfel:

Se alege o direcie de deplasare sk precum i un pas al deplasrii k ; sk este un

sk 1
vector nenul din Rn de regul
; k este un scalar pozitiv.

Se pune:
x k 1 x k k s k

(5.3)

n principiu, vectorul sk este

deplasarea din xk n direcia sk, s
prima faz a deplasrii o
funciei de minimizat f. O dat
deplasare sk, pasul k se alege

astfel ales nctprin

se obin cel puin n
descretere a valorii
stabilit direcia de
astfel nct:

xk

f ( x k 1 ) f ( x k )

sk

Figura 5.1
Prin urmare:
f ( x 0 ) f ( x1 ) f ( x 2 ) ...
Mai precis k se gsete prin minimizarea funciei de o singur variabil:
g ( ) f ( x k s k ) 0

(5.4)

Pentru a obine o metod efectiv de minimizare este necesar s se precizeze:

k
modul de alegere a direciei de deplasare s , k = 0,1,2,;
modul de alegere a pasului k altfel spus, modul n care se execut minimizarea funciei
unidimensionale g() din (6.4);
procedeul de oprire a procesului iterativ.
Decisiv n diferenierea metodelor concrete att n ceea ce fundamentul teoretic ct i
performanele numerice este prima chestiune, legat de alegerea direciei de deplasare.
Este foarte important de reinut c dac funcia de minimizat nu are proprieti adiionale
bune, cum ar fi aceea de a fi convex, rezultatul aplicrii acestor metode se materializeaz n
cel mai bun caz, ntr-un minim local de regul cel mai apropiat de punctul iniial x0. n practic,
pentru a obine toate minimele locale i n particular minimul global, se procedeaz la repetarea
minimizrii din mai multe puncte iniiale, judicios alese.
Marea majoritate a metodelor de minimizare nerestricionat presupun difereniabilitatea
funciei obiectiv ; exist totui i scheme de minimizare pentru funcii nedifereniabile!
5.3 Gradientul unei funcii. Proprieti n ipotezele i notaiile precedente, o hipersuprafa de
n
nivel a funciei f este mulimea punctelor x ( x1 , x 2 ,..., x n ) R care satisfac o ecuaie de forma:
f( x ) = C, unde C este o constant. n cazul a dou (respectiv trei) variabile vom vorbi despre
curbe (respectiv,suprafee) de nivel. Astfel pentru funciile:

10

a ) f ( x1 , x 2 ) 2 x1 3x 2 ; b) f ( x1 , x 2 ) 4 x1 2 x 2 x12 x 22
c) f ( x1 , x 2 ) 2 x1 16 x 2 x12 4 x 22

curbele de nivel sunt: a) drepte paralele; b) cercuri concentrice; c) elipse concentrice (vezi fig.
5.2)

Gradientul funciei f este vectorul:

f f
f
,
,...,

x n
x1 x 2

f ( x )

Figura 5.2
Acesta are urmtoarele proprieti:
n orice punct de extrem local x* al funciei f avem f(x*) = 0; reciproca nu este n
general adevrat.
n

Fie x R un punct n care f ( x ) 0 .Atunci s f (x ) este direcia de deplasare

din x corespunztoare celei mai rapide descreteri afunciei f. Analog, f (x ) este direcia celei

mai rapide creteri.

ntr-adevr, s considerm o direcie oarecare

s ( s1 , s 2 ,..., s n ) R n , s 0 i funcia :

g ( ) f ( x s ) 0

care indic variaia funciei f pe direcia de deplasare s din x .

11

Dup cum se tie, variaia (adic creterea sau descreterea) potenial sau incipient a
funciei f pe direcia s plecnd din x , este dat de derivata g (0) .
f = -1
f=4
f=6
f=3
f =0
f = -5

f = -4

a)

f = -13

b)

f = -17

c)
general:
n

g ( ) si
i 1

f
( x s ) s f ( x s )
xi

astfel c:

g (0) s f ( x )
Din inegalitatea Cauchy Buniakovski Schwarz:

s f ( x ) s f ( x ) s f ( x ) g (0) s f ( x )
rezult c g (0) are cea mai mic valoare pentru
s f (x ) i cea mai mare pentru s = f (x ) .
Dac f ( x ) 0 , atunci acest vector
este perpendicular pe hipersuprafaa de nivel
f ( x ) f ( x ) ce trece prin x 9vezi fig. 4.8

Figura 5.3

Exemplul 5.1 Considerm funcia patratic:

f ( x1 , x 2 ) 16 x12 ( x 2 4) 2

12

Figura 5.4

Figura 5.5

*
Curbele sale de nivel sunt elipse cu centrul n punctul x (0,4) care reprezint i punctulde
minim global al funciei.Gradientul lui f:
f ( x1 , x 2 ) [32 x1 ,2 x 2 8]

n punctul x = (1,1) este nenul: f (x ) = (32,-6). Cea mai rapid descretere a funciei f plecnd
din x are loc pe direcia s f (x ) = (-32,6) vezi fig. 5.4
Atenie: pe direcia celei mai rapide descreteri, funcia nu descrete nencetat! Pentru ilustrare,
n exemplul de mai sus, s considerm un punct variabil pe direcia celei mai rapide descreteri
din x = (1,1):
x( ) x f ( x ) (1,1) (32,6) (1 32,1 6 ) 0
Pe
aceast
direcie,
comportarea
funciei f este
descris
de
funcia:

x2
x*

Curba de nivel
=25

25

7.893

x1

0 =0.032

g ( ) f ( x( )) 16(1 32 ) 2 (6 3) 2 16420 2 1060 25

a crei variaie este artat n fig.5.5
Se observ c atunci cnd crete de la 0 la 0.032 (= punctul n care g() are valoarea minim),
funcia g i deci i funcia f scad de la valoarea 25 la valoarea 7.893 dup care ncep din nou s
creasc!
5.4 Criterii de oprire ale procesului iterativ de minimizare
13

1) Deoarece ntr-un punct de minim local avem f(x*) = 0, procesul de minimizare se

poate opri n momentul n care:

a)

f
( x k ) i 1,2,..., n
xi

sau:
n

b)
i 1

( x k )

xi

unde este un numr pozitiv foarte mic, ca de exemplu = 10-5.

2) De multe ori este preferabil s oprim procesul iterativ n momentul n care variaia
funciei obiectiv n dou aproximaii succesive nu depete o toleran dat:
f ( x k ) f ( x k 1 )
3) Se poate ntmpla ca, din cauza unei nefericite alegeri a aproximaiei iniiale x0 sau a
structurii funciei de minimizat, procesul iterativ, dei convergent, s fie foarte lent. n asemenea
situaii, timpul de calcul poate atinge valori nepermis de mari. Vom evita acest inconvenient
limitnd din start numrul iteraiilor posibil de efectuat.
5.5 Metoda gradientului (Cauchy)
La fiecare iteraie a algoritmului din fig.6.10 direcia de deplasare este dat de relaia:

s k f ( x k )
k
cu condiia ca f ( x ) 0 .
k
Aceast opiune se bazeaz pe faptul c f ( x ) este direcia celei mai rapide descreteri din
xk.

Caracteristic acestei metode este faptul c dou direcii de deplasare consecutive sunt
perpendiculare! ntr-adevr, dat direcia sk, lungimea pasului k al deplasrii se afl, aa cum s-a
mai spus, minimiznd funcia unidimensional:
g ( ) f ( x k s k ) , 0
k
k
k

Prin urmare g ( k ) 0 .Am vzut c: g ( ) s f ( x s ) - a se revedea seciunea 5.3!

aa nct:

g ( k ) 0 s k f ( x k k s k ) 0 s k f ( x k 1 ) 0 s k s k 1 0

14

START

Se introduc datele problemei de

minimizare: funcia f, aproximaia x0 de
start,parametrii criteriilor de oprire(nr. maxim de
iteraii, precizia calculului)

k=0

BLOCUL D: Se determin direcia sk de

deplasare din aproximaia curent xk

BLOCUL P: Se alege pasul deplasrii k prin

minimizarea funciei unidimensionale g() = f(xk +

sk) , 0

Se calculeaz noua aproximaie:

xk+1 = xk + ksk

k=k+1

NU

BLOCUL O
Sunt verificate criteriile de
oprire ale procesului de calcul?

DA
Se cerceteaz dac ultima aproximaie
calculat poate constitui o aproximare
acceptabil pentru soluia problemei
de minimizare

STOP

Figura 5.10

15

Pentru funciile sferice de forma:

n

i 1

i 1

f ( x1 , x 2 ,..., x n ) c0 ci xi xi2 c0 cx x

c (c1 , c 2 ,..., c n )

metoda gradientului ofer punctul de minim (global) ntr-o singur iteraie, indiferent de
aproximaia iniial x0 (vezi fig. 5.11a) Pentru orice alt funcie irul de aproximaii:
x0 , x1 , x2 ,. pentru care f(x0) > f(x1) > f(x2) >
conduce n general la un optim local.
Principalul neajuns al metodei gradientului const n faptul c paii succesivi sunt
perpendiculari fapt care, n cazul anumitor funcii, conduce la o convergen foarte lent. Mai
precis, dac hipersuprafeele de nivel au o oarecare excentricitate zig zagul procesului
iterativ amendeaz convergena,deoarece n acest caz direcia gradientului este mult diferit de
direcia ctre minim (vezi fig. 5.11b)
Exist scheme de minimizare mult mai eficiente dintre care cea mai puternic pare a fi
metoda Davidon Fletcher Powell [3]. n principiu,aceste metode garanteaz obinerea
minimului unei funcii patratice de n variabile n cel mult n pai.
Exemplu numeric Vom efectua cteva iteraii pentru cutarea minimului funciei:
f ( x1 , x 2 ) x 2 x12 2 x1 x 2 2 x 22
cu metoda gradientului. Punctul de plecare x0 = (1,1)
Gradientul funciei:

f f
,
2 x1 2 x 2 , 1 2 x1 4 x 2
x1 x 2

Iteraia 1
0
f(x ) = [0,1]
0
0
s = -f(x ) = [0,-1]
0
0
x()= x + s = [1,1] + [0,-1] = [1,1 - ] , > 0
2
g() = f(x()) = 2 - are un minim n 0 =
1
x = x(1/4) = [1,3/4]
Iteraia 2
1
f(x ) = [1/2,0]
1
1
s = -f(x ) = [-1/2,0]
1
1
x()= x + s = [1,3/4] + [-1/2,0] = [1 - /2,3/4] , > 0
1
2 14 18 are un minim n =
g() = f(x()) = 4
1

x2 = x(1/2) = [3/4,3/4]

Iteraia 3
2
f(x ) = [0,1/2]
2
2
s = -f(x ) = [0,-1/2]

3 3
1
x()= x2 + s2 = [3/4,3/4] + [0,-1/2] = [ 4 , 4 2 ] , > 0
2
3
1
1
g() = f(x()) = 2 4 16 are un minim n = 1/4

x3 = x(1/4) = [3/4,5/8]

16

Curbe de nivel
direcia celei mai rapide
descreteri

x*

x* x1
x1

x2
x0

a) Cazul funciilor sferice

b) Cazul funciilor nesferice

Figura 5.11

La iteraia 4 se obine [5/8,5/8] .a.m.d. Funcia dat este convex (exerciiu!) avnd un minim n
x* = [1/2,1/2]. n figura 5.12 se poate constata apropierea n zig zag a punctelor x0 , x1 , x3
de x*.
x0
x2

x1

x*

Figura 5.12

6. Optimizarea neliniar fr restricii. Cazul convex

Relum problema de optimizare general sub forma:
(P) S se determine x* A Rn cu proprietatea: f(x*) = inf {f(x) , x A }
unde A ,numit i mulimea soluiilor admisibile ale problemei (P) este definit de o mulime de
restricii:
gi(x) 0
i M = {1,2,...,m}
Pentru simplificarea expunerii, eventualele condiii de nenegativitate xj 0 au fost incluse
n blocul restriciilor sub forma: -xj 0.
Presupunem c funciile f i g1 , g2 ,..., gm sunt definite n ntreg spaiul Rn, sunt convexe i
difereniabile i cel puin una dintre ele este neliniar, altminteri (P) ar fi un program liniar.
Astfel, (P) este o problem de programare convex.
Reamintim c n acest context:
17

A este o mulime convex i nchis;

orice minim local al funciei f pe mulimea A este un minim global.
(vezi seciunea 5)

Metodele de optimizare cu restricii se mpart n trei categorii:

1) Metode bazate pe adaptarea schemei generale de optimizare nerestricionat la cazul
prezenei restriciilor; aceste metode poart numele generic de metode de gradient.
2) Metode bazate pe utilizarea funciilor de penalizare : rezolvarea problemei (P) se
reduce la o suit (teoretic infinit) de optimizri nerestricionate.
3) Metode bazate pe plane de seciune; n principiu,aceste metode "aproximeaz" A
printr-o mulime poliedral adic printr-o mulime ce poate fi descris printr-un sistem de
inegaliti liniare; rezolvarea problemei (P) se reduce la o secven (infinit) de optimizri
liniare efectuate cu ajutorul algoritmului simplex.
7.1 Principiul metodelor de gradient
Aplicarea schemei generale de minimizare nerestricionat trebuie s in seama de urmtoarele
aspecte:
de regul soluia optim x* a problemei (P) se gsete pe frontiera lui A , adic
satisface cu egalitate cel puin una din restriciile gi(x) 0, i M.

chiar dac se pleac de la un punct iniial x0 situat n interiorul lui A ( gi(x) <
0,i M) se ajunge relativ repede la un punct xk situat chiar pe frontier altfel spus care satisface
cu egalitate o parte din restriiile problemei (P):
gi(xk) = 0 , i I M

ntr-o atare situaie, direcia celei mai rapide descreteri

admisibil adic:

-f(xk) s-ar putea s nu mai fie

x( ) x k f ( x k ) A () > 0
(vezi fig. 6.1)

18

Introducem urmtoarea terminologie:

o direcie s (s Rn, s 0) se va numi admisibil relativ la punctul curent xk+1 dac

o deplasare suficient de mic din xk pe direcia s ne menine n A ;

direcia s se va numi utilizabil dac deplasarea din xk pe direcia s duce la

scderea valorii funciei obiectiv.
Se poate arta c o direcie s este admisibil i utilizabil relativ la punctul curent xk dac i
numai dac s satisface condiiile:
s gi ( x k ) 0 i I

s f ( x k ) 0
(6.1)
O dat stabilit direcia de deplasare sk din xk - direcie care verific condiiile (6.1) - pasul k se
alege astfel nct noua aproximaie :
xk+1 = xk + ksk
s aibe proprietile:
xk+1 A ( gi(xk+1) 0 , i M) i f(xk+1) < f(xk)
Cu acest amendament - legat de modul de alegere a direciei de deplasare - schema general de
minimizare nerestricionat funcioneaz i n cazul prezenei restriciilor.
7 Condiiile de optimalitate Kuhn - Tucker n programarea convex
7.1 Formularea condiiilor
Considerm un program convex (P) pe care l presupunem adus la urmtoarea form
zis canonic:
S se determine x* Rn cu proprietatea:

g(x) = 0

xk

g(xk)

-f(xk)

xk+1
x0

x*

Figura 6.1

19

f(x*) = min f(x)

(P)

minimul fiind luat dup toi x Rn care satisfac restriciile:

gi(x) 0 i = 1,...,m
i condiiile de nenegativitate:
x 0 xj 0, j = 1,...,n

Pentru simplitatea expunerii vom presupune c funciile convexe f i g1 , g2 ,..., gm sunt

definite i difereniabile n ntreg spaiul Rn.
Asociem fiecrei restricii gi(x) 0 o variabil nenegativ ui i construim funcia:
m

L(x, u) = L( x1 ,..., x n ; u1 ,...,um ) f ( x ) ui gi ( x )

i 1

Funcia L se numete lagrangianul problemei (P) iar u1 , ... ,um se numesc multiplicatori
Lagrange. Se observ imediat c pentru xRn fixat L este o funcie liniar n u1 ,..., um iar pentru
u 0 fixat n Rm, L este o funcie convex i difereniabil.
Vom presupune ndeplinit urmtoarea condiie, numit condiia de regularitate Slater:
n
x 0 j 1,...,n
Exist x R cu proprietatea c gi ( x ) 0 i 1,..., m i j
altfel spus,
n
mulimea soluiilor admisibile A = { xR gi(x) 0 , x 0} are interiorul relativ nevid.
Cu aceste pregtiri putem enuna urmtoarea:
Teorem (Kuhn - Tucker). Condiia necesar i suficient ca x*Rn s fie o
soluie optim a problemei (P) este s existe u* Rm astfel nct cuplul (x*,u*) s verifice relaiile:

L
0 ( 1j )
xj

xj

L
0 ( 1j )
xj

L
0 ( 2i )
ui

ui

L
0 ( 2i )
ui

xj 0

ui 0

(3)

i = 1,...,m
j = 1,...,n

(3')

Condiiile ncadrate sunt cunoscute sub numele de condiiile de optimalitate Kuhn Tucker.
Dei este un rezultat de factur pur teoretic, teorema de mai sus este la baza multor
algoritmi eficieni de rezolvare a programelor neliniare convexe cum sunt, de exemplu, cei
utilizai n programarea patratic.
Observaie : Condiia de regularitate Slater intervine n probarea suficienei condiiilor
de optimalitate KT. Ea nu mai este necesar n cazul
n care restriciile
programului (P) sunt liniare.
f(x) =fmin
Exemplul
neliniar patratic:

f(x) = -1
x*

f(x) = 0

7.1

Considerm

programul

max 2 x1 x 2 x12

x x2 3
( P ) 1
3 x1 2 x 2 6
x 0,x 0
2
1
20

Figura 7.1

a crui form canonic este:

(min) f 2 x1 x 2 x12

x x2 3 0
( P ) 1
3 x1 2 x 2 6 0
x 0,x 0
2
1

Fig. 7.1 confirm faptul c (P) este un program convex: mulimea soluiilor admisibile
este convex, chiar poliedral fiind definit prin inecuaii liniare iar curbele de nivel f(x) =
c(constant) sunt parabole cu axa de simetrie comun x = 1. Desenul sugereaz c soluia optim
x* satisface cu egalitate restricia x1 + x2 3 i cu inegalitate strict cealalt restricie i condiiile
de nenegativitate.Aceste concluzii "calitative" i condiiile de optimalitate K - T ne vor permite
s determinm punctul x*.
Asociem celor dou restricii variabilele nenegative u1 i u2 i construim lagrangianul:
L = -2x1 - x2 + x12 + u1(x1 + x2 - 3) + u2(3x1 - 2x2 - 6)
Scriem condiiile de optimalitate K - T:
L
0 2 2 x 1 u1 3u2 0 ( 11
. )
x1
L
0
1 u1 2u2 0 ( 1.2 )
x2
L

0 x1 x 2 3 0 ( 2.1 )
u1
L
0 3 x 1 2 x 2 6 0 ( 2.2 )
u2
x1 , x 2 0 ( 3 )

L
0 x1 ( 2 2 x 1 u1 3u2 ) 0 ( 1.!' )
x1
L
x2
0
x 2 ( 1 u1 2u2 ) 0 ( 1.2' )
x2
x1

L
0
u1 ( x 1 x 2 3 ) 0 ( 2.1' )
u1
L
u2
0 u2 ( 3 x 1 2 x 2 6 ) 0 ( 2.2' )
u2
u1

u1 , u 2 0 ( 3' )

Reamintim interpretarea acestor condiii: x ( x1 , x 2 ) este soluia optim a programului

(P) dac i numai dac exist u ( u1 , u2 ) astfel nct cuplul ( x ,u ) s satisfac relaiile mai
sus scrise.

21

Deoarece la optim avem: x1 > 0 , x2 > 0 i 3x1 - 2x2 < 6 din relaiile (1.1') , (1.2') i (2.2')
obinem:
-2 + 2x1 +u1 + 3u2 = 0 , -1 + u1 - 2u2 = 0 i u2 = 0 care mpreun cu x1 + x2 = 3 constituie
un sistem de patru ecuaii cu patru variabile x1 , x2 , u1 , u2. Rezult uor:
x ( 21 , 52 ) , u ( 1,0 )

de unde

(min) f 13
4

7.2. Condiiile de optimalitate Kuhn - Tucker n programarea patratic

Considerm problema de programare patratic:
(min) f px 1 x T Cx
2

( P )

Ax b
x0

n care:
p [ p1 , p2 ,..., pn ]

x1
x
x 2


xn
a11
a
21
A

a m1

c11
c
C 21

cn1
a12
a 22

a m2

c12
c22

cn 2

a1n
a2n

a mn

c1n
c2 n

cnn
= matrice simetric
b1
b
2
b

bm

Vom presupune c matricea C este pozitiv semidefinit ; tim atunci c funcia patratic f este
convex i ca urmare, programul (P) este convex.
Asociem blocului de restricii Ax - b b vectorul (linie) de multiplicatori Lagrange
u = [u1,u2,...,um] i construim lagrangianul problemei (P):
L( x , u ) px 21 x T Cx u( Ax b )

n scriere matricial, condiiile de optimalitate K - T pentru programul (P) arat astfel:

x L 0 p x T C uA 0 ( 1 )
u L 0 Ax b 0 ( 2 )
x0
(3)

( x L ) x 0 ( p x T C uA ) x 0 ( 1 )
u ( u L ) 0 u( Ax b ) 0 ( 2 )
u0
(3')

Transformm inegalitile (1) i (2) n egaliti introducnd vectorii de variabile de abatere:

v [ v1 , v 2 ,...,v n ] p x T C uA 0
def

22

 y1
y
2
y
b Ax 0
def

ym

Atunci:

x T C uA v p i Ax+y = b
Se vede uor c:

( 1' ) v x 0 v j x j 0

j 1,...,n

( 2' ) u y 0 ui yi 0 i 1,..., m

Cu aceste pregtiri putem formula urmtoarea interpretare a relaiilor K - T:

Condiia necesar i suficient pentru ca x* Rn s rezolve programul patratic (P) este s

m
n
m

existe u R , v R , y R astfel nct ( x , u ,v , y ) s verifice relaiile:

x T C uA v
p

Ax
y b

k 1
n

i 1

k 1

c kj x k aij ui v j
a x
ik k

(4)
pj

yi bi

j 1,...,n
i 1,...,m

x 0 , u 0 , v 0 , y 0 xk 0 , ui 0 , vj 0 , yi 0
v-x=0 ; u-y=0

(5)

vjxj = 0 j = 1,...,n ; uiyi = 0

i = 1,...,m

Se observ c (4) este un sistem liniar cu m + n ecuaii i 2m + 2n variabile. n concluzie:

Rezolvarea programului patratic (P) s-a redus la determinarea unei soluii admisibile
(adic nenegative) a sistemului liniar (4) care s verifice relaiile de complementaritate (5).
n principiu, aceasta se poate face cu ajutorul algoritmului simplex n felul urmtor:

se nmulesc cu -1 acele egaliti din (4) ai cror termeni liberi sunt < 0;

dac, dup efectuarea operaiei precedente, matricea sistemului (4) nu conine o

submatrice unitate de ordinul m + n, ea se completeaz cu coloanele care lipsesc adugnd acolo unde este cazul - variabile artificiale nenegative. Astfel, sistemul (4) devine:

x T C uA v

Ax

z1
y

p
z2 b

unde:
z 1 ( z11 , z21 ,..., zn1 ) 0 cu z 1j 0 daca p j 0
i

23

z12
2
z
2
z 2 0 cu zi2 0 daca bi 0

2
zm
se rezolv programul liniar:

x T C uA v

Ax

z1

p
z

x 0 ,u 0 ,v 0 , y 0 , z 1 0 , z 2 0

j 1

i 1

(min)w z 1j zi2

cu ajutorul algoritmului simplex, modificat cu urmtoarea regul suplimentar care se refer la

criteriul de intrare n baz:
La fiecare iteraie, noua variabil bazic va fi astfel aleas nct:
variabilele vj i xj s nu fie simultan bazice j = 1,...,n;

variabilele ui i yi s nu fie simultan bazice i = 1,...,m.

La start se va pleca cu soluia:
x=0,u=0
p
daca
p

0
j
j
bi daca bi 0
vj
,
y

1
i
0 daca bi 0 zi2 bi
0 daca p j 0 z j p j
Deoarece x = 0 , u = 0 , relaiile de complementaritate (5) sunt verificate. Regula suplimentar ne
asigur c la fiecare iteraie:
vj = 0

sau xj = 0

ui = 0 sau

yi = 0

deci

vjxj = 0 j = 1,...,n

deci

uiyi = 0 i = 1,...,m

Se poate arta c dac programul (P) este compatibil atunci ntr-un numr finit de iteraii se
ajunge la o soluie n care (min)w = 0 toate variabilele artificiale introduse au valoarea zero.
Este clar atunci c s-a obinut o soluie admisibil a sistemului (4) care satisface relaiile de
complementaritate (5). Componenta x* a acestei soluii constituie soluia optim a programului
patratic (P).
Observaie Consideraiile de mai sus constituie o descriere de principiu a algoritmului lui
Wolfe pentru rezolvarea programelor patratice convexe.
Exemplu numeric Vom arta cum se aplic efectiv condiiile de optimalitate K - T i
algoritmul simplex la rezolvarea programului patratic:
(min) f 15 x1 30 x 2 4 x1 x 2 2 x12 4 x 22

( P )
x1 2 x 2 30

x1 0 , x 2 0

Scriem matricial funcia obiectiv:

24

 x1
4 4 x 1
f ( x1 , x 2 ) [ 15 ,30 ] 21 [ x1 , x 2 ]

x2
4 8 x 2
4 4
C

4 8 este chiar pozitiv definit astfel c f este o funcie strict

Matricea simetric
convex. Lagrangianul problemei:

L( x1 , x 2 ) 15 x1 33 x 2 4 x1 x 2 2 x12 4 x 22 u( x1 2 x 2 30 )
Condiiile de optimalitate K - T:

L
L
15 4 x 2 4 x1 u 0
x1
0 x1 ( 15 4 x 2 4 x1 u ) 0
x1
x1
L
L
30 4 x1 8 x 2 2u 0 x 2
0 x 2 ( 30 4 x1 8 x 2 2u ) 0
x2
x2
L
L
x1 2 x 2 30 0
u
0 u( x1 2 x 2 30 ) 0
u
u
x1 , x2 0
u 0
Punem:

L
15 4 x 2 4 x1 u
x1
L
v2
30 4 x1 8 x 2 2u
x2
L
y
30 x1 2 x 2
u
Condiiile K - T n forma (4) - (5):
v1

4 x1 4 x 2 u v1
15
v2
30
4 x 1 8 x 2 2 u

x1 2 x 2
y 30

x1 0 , x 2 0 , u 0 , v1 0 , v 2 0 , y 0
x1 v 1 0 x 2 v 2 0 u y 0

(4)

(5)

tim c dac ( x , u ,v , y ) este o soluie admisibil a sistemului (4) care satisface relaiile (5)
atunci x* este o soluie optim a problemei date.

Introducem variabilele artificiale z1 i z2 n primele dou egaliti i rezolvm programul liniar:

(min)w z1 z2
4 x1 4 x 2 u v1
z1
15
4 x 1 8 x 2 2 u
v2
z2 30
x1 2 x 2
y
30
Toate variabilele nenegative

cu ajutorul algoritmului simplex, plecnd de la soluia de baz iniial:

25

x1 x 2 u v1 v 2 0

z1 15 z2 30

y 30

care satisface vizibil condiia (5).

CB VB
1 z1
1 z2
0 y
w
1 z1
0 x2
0 y
w
1 z1
0 x2
0 x1
w
0 u
0 x2
0 x1
w

0
VVB x1
15
4
30
-4
30
1
45
0
30
2
15/4 -1/2
45/2
2
30
2
15/2
0
75/8
0
45/4
1
15/2
*
3
9
12
0

0
x2
-4
8
2
4
0
1
0
*
0
1
0
*

0
u
1
2
0
3
2
1/4
-1/2
2
5/2
1/8
-1/4
5/2

0
v1
-1
0
0
-1
-1
0
0
-1
-1
0
0
-1

0
v2
0
-1
0
-1
-1/2
-1/8
1/4
-1/2
-3/4
-1/16
1/8
-3/4

0
y
0
0
1
*
0
0
1
*
-1
1/4
1/2
-1

1
z1
1
0
0
*
1
0
0
*
1
0
0
*

1
z2
0
1
0
*
1/2
1/8
-1/4
-1/2
3/4
1/16
-1/8
-1/4

ITERAIA 1 Poate intra x2

deoarece v2 = 0

ITERAIA 2 Poate intra x1

deoarece v1 = 0

ITERAIA 3 Poate intra u

deoarece y = 0

Nu mai este cazul!

Prin urmare,o soluie a condiiilor de optimalitate K - T este x* = (12,9) i u* = 3.n concluzie

x1 12 x 2 9
este o soluie optim a programului patratic dat de altfel i singura avnd n vedere faptul c
funcia obiectiv f este strict convex.

8. ntrebri i probleme
1. Se d o funcie numeric f definit n toate punctele unei mulimi C Rn.
a) Ce nseamn c mulimea C este convex? Presupunnd C convex, ce nseamn c
funcia f este convex (strict convex)?
b) Ce nseamn c punctul x* C este un punct de minim local al funciei f? Dar c x*
este un punct de minim global al funciei f pe C?
c) Artai c dac C este o mulime convex iar f este o funcie strict convex atunci f nu
poate avea dect cel mult un punct de minim global pe C.
2. a) Se consider funcia patratic (x) = xTCx , x Rn unde C este o matrice simetric de
ordinul n. S se arate c pentru orice x, y Rn i orice R are loc identitatea:

((1 - )x + y) = (1 - )(x) + (y) - (1 - )(x - y)

b) Scriei funcia patratic:
f ( x1 , x 2 , x 3 ) x1 2 x 2 x 3 21 x12 x1 x 2 x1 x 3 x 22 x 2 x 3 x 32
n formatul matricial

26

 x1
f ( x ) px x Cx , x x 2 R 3

x 3
i cercetai dac f este o funcie convex (strict convex)
1
2

3. Descriei principiul metodelor de minimizare fr restricii

f ( x1 , x 2 ) 2 x1 x 2 21 x12 x1 x 2 2 x 22
4. Se d funcia patratic
.
a) Scriei f n formatul matricial
x1
f ( x ) px 21 x T Cx , x R 2
x2
i artai c f este o funcie strict convex.
b) Calculai gradientul f i determinai minimul liber x* al funciei f.
c) Determinai direcia celei mai rapide descreteri a funciei f din x0 = (0,0) i prima
aproximaie x1 din metoda gradientului.
d) Efectuai nc dou iteraii din metoda gradientului pentru minimizarea nerestricionat
a funciei f. Comparai x3 cu x* obinut la b).

5. n procesul de minimizare nerestricionat a unei funcii numerice de trei variabile ,efectuat cu

metoda gradientului,printre direciile de deplasare s-au numrat i vectorii s = (1,1,-3),
s' = (2,-1,1). Este posibil ca cele dou direcii s fi fost obinute n dou iteraii consecutive?
6. Se consider programul convex:

(min) f 3 x1 9 x 2 x12 x1 x 2 x 22

( P ) g( x1 , x 2 ) x12 x 22 5 0
x 0, x 0
2
1

i punctul x ( 1,2 ) aflat pe frontiera mulimii soluiilor admisibile (deoarece g( x ) 0 )

a) Calculai gradienii funciilor f i g n x .
b) Ce condiii trebuie s satisfac un vector s = (s1,s2) R2 pentru a fi o direcie
admisibil i utilizabil din x ? Care din urmtorii vectori s1 = (-1,1) , s2 = (1,1) , s3 = (1,-1)
satisfac aceste condiii?
7. Se d programul neliniar patratic:
(min) f ( x1 4 )2 ( x 2 3 )2

3 x1 2 x 2 12
2 x 2 x 3
1
2
( P )
2 x1 x 2 4
2x 3x 6
1
2

x1 0 . x 2 0
a) Vizualizai mulimea soluiilor admisibile;
b) Ce form au curbele de nivel ale funciei obiectiv? Stabilii punctul de minim liber xo
al funciei f;
27

c) Scriei condiiile de optimalitate Kuhn - Tucker;

d) Stabilii cu aproximaie poziia soluiei optime x* a programului (P) i folosind
condiiile K - T determinai efectiv x*.
8. Se d programul neliniar;
(max) f x12 x 2

x1 x 22 5

( P )

2 x1 x 2 1
x 0,x 0
2
1

a) Reprezentai grafic mulimea soluiilor admisibile i curbele de nivel f(x) = 1 , f(x) = 4

ale funciei obiectiv;
b) Aducei programul (P) la forma canonic i scriei condiiile de optimalitate K - T;
c) Determinai soluia optim x* a programului (P) tiind c ea satisface cu egalitate
numai prima restricie a acestuia.
9. S se rezolve programul patratic:
(min) f ( x1 , x 2 ) x1 x 2 x12 x1 x 2 1 x 22
2

x1 x 2 3
3 x1 2 x 2 6

x1 0 , x 2 0

folosind condiiile de optimalitate K - T i algoritmul simplex (vezi seciunea 7.2)

( P )

28