Condies Necessrias e Suficientes para um Mnimo Local

Bianca Nahime Juliana Morais Louise Tessarolli Patricia Duarte Sayonara soares

ndice
Problemas de otimizao Exemplo de um problema de otimizao Utilizando o multiplicador de Lagrange no

problema de otimizao Condies necessrias de primeira ordem para um extremo Multiplicadores de Lagrange como medidores de sensibilidade Problemas contendo inequaes como restries Problemas convexos Condies necessrias de segunda ordem

Problemas de otimizao
Problema: necessrio otimizar uma funo

objetivo f(x), sujeita a restries h(x) = 0.

Necessrio encontrar extremos (mnimos ou

mximos) locais para o valor de x.

Em x* (um extremo local), existem relaes entre

f(x*) funo objetivo e h(x*) restrio.

Nesse ponto x*, as funes objetivo e restrio

so paralelas, ou seja, tm grandientes proporcionais.

Exemplo de um problema de otimizao

Funo Objetivo: funo a a ser minimizada f(x) f(x1, x2) = x1 + x2 Funo de restrio: Equao base: hj(x) = bj h(x1, x2) = x1 + x2-1
x2

x1 Funo a ser minimizada Equao base

x2

Projeo no nula. No mnimo local!

( 1 )

x no timo

x1 ( 1 )

A componente negativa da projeo do gradiente indica que, para melhorar a funo objetivo, deve-se fazer um movimento para baixo com a

Tangent e

 No extremo local (x*), o gradiente da funo

objetivo ( ) ortogonal tangente . No geral, sempre ortogonal tangente. Assim, tem-se que e so colineares e apenas apontam em direo diferentes.

( )

( )

Assim, = ( )

Utilizando o multiplicador de Lagrange no problema de otimizao

Montar a funo Lagrangiana

, = + ()
Multiplicador de Lagrange

, = x1 + x2 + (x1 + x21)
Calcular as derivadas parciais

= 1 + 21 = 0 1 = 1 + 22 = 0 2

 Resolver o sistema de equaes

= 1 + 21 = 0 1

= 1 + 22 = 0 2
= 1 2 + 2 2 1 = 0
Assim, =0,707 e 1 =2 = 0,707

O sinal de + simboliza o ponto de mximo

(0,707;0,707) e o sinal de -, o ponto de mnimo (0,707;-0,707)

Condies necessrias de primeira ordem para um extremo

Dado que x* um mnimo ou mximo local para um problema do tipo Funo a ser minimizada (funo objetivo): f(x) Equao base (restries): =

e assumido que os gradientes das restries ( ) so linearmente independentes. Ento existe um vetor de multiplicadores de Lagrange * em que (x*,*) satisfaz as condies necessrias de primeira ordem
= + =0

= 0

 As condies de primeira ordem apresentadas

so apenas necessrias, mas no so suficientes para dizer se um ponto um extremo local. Por exemplo, em casos onde h inflexo, o gradiente nulo, no entanto no h extremo. Para dizer se um ponto que satisfaz as condies de primeira ordem um extremo local, necessrio verificar se ele satisfaz as condies de segunda ordem.

Multiplicadores de Lagrange como medidores de sensibilidade

O multiplicador de Lagrange

pode indicar como

o valor timo do problema varia com o valor do lado direito da funo restrio
Funo objetivo ( aquela que deve ser minimizada): f(x1, x2) Ter = x1 + xtimo 2 valor
aps resoluo do problema

Funo de restrio
x1 + x2 = b
Lado direito da restrio

Funo Lagrangiana:
, = + ()

, = 1 +2 + (1 + x2 b)

Equaes a serem resolvidas:

= 1 + 21 = 0 1

= 1 + 22 = 0 2 = 1 2 + 2 2 = 0

1 1 = 2 = 2
1 2

Como queremos o valor de mnimo:

= 1 2

1 = 2 = 2

O valor mnimo da funo , portanto:

= 1 + 2 = = 2 2 2

E sua derivada:
() = 0,5 2
0,5

1 2= = 2

Ou seja,

() =

() = A variao do valor mnimo da funo objetivo o

negativo do multiplicador de Lagrange Por exemplo, para multiplicadores grandes, o valor extremo da funo objetivo varia muito com b (parmetro do lado direito da equao de restrio)

Problemas contendo inequaes como restries

As condies de primeira ordem para um

extremo desse tipo de problema so chamadas condies de Kuhn-Tucker.

Exemplo de problemas com inequaes como restries Minimizar a funo objetivo:
, = 2
2

+ 1

Sob as restries

1 , = + 2 0 2 , = + 2 3 , = 0

 fcil observar que o ponto mnimo est na

interseo entre as duas primeiras restries. No ponto timo, essas restries agem como igualdades e so chamadas de restries de ligao ou restries ativais

Ponto de menor raio (mnimo da funo objetivo) que est dentro das restries.

 Uma direo vivel de busca definida como um

vetor tal que um movimento diferencial ao longo desse vetor no viola nenhuma restrio. Para o problema exemplificado, o conjunto desses vetores est na regio do cone formado pelos gradientes das duas restries ativas.

Cone entre os gradientes das restries ativas

Gradientes das restries ativas

Qualquer vetor dentro do cone poder ser uma direo vivel de busca, pois resultados nessa regio respeitam as restries

 O vetor - f aponta na direo da taxa mxima de

reduo de f, que a funo objetivo que queremos minimizar. Um movimento ao longo de qualquer direo fazendo um ngulo positivo de menos de 90 com -f diminuir f.

Vetor -f o vetor de mxima diminuio do valor de f (funo restrio

Vetor -f o vetor de mxima diminuio do valor de f (funo restrio

Um movimento em qualquer direo de at 90 de -f causar uma queda em f

 No ponto extremo (ou ponto timo) nenhuma

direo vivel pode ter um ngulo de menos de 90 com -f.

No ponto timo, a diminuio em f no ocorre em uma direo vivel.

Direes viveis

Diminuio em f

Condio de primeira ordem para um extremo local com inequaes como restrio: Dado o problema Funo objetivo: f(x) Restries: gj(x) < cj, j = 1,2,3... Se f(x) (funo objetivo) e g(x) (restrio) so diferenciveis, uma condio necessria para um ponto x* ser um extremo do problema que, em x*, f esteja dentro do cone gerado por g1, e g2, que so os gradientes das funes restries envolvidas no ponto x*.

Gradiente da objetivo contida cone convexo.

funo em um

Propriedade: restries de desigualdade inativas possuem multiplicadores nulos NEGLIGNCIA COMPLEMENTAR (Complementary Slackness)

Formas nas quais as condies de KuhnTucker (KTC) normalmente so apresentadas.

Problemas contendo equaes e inequaes como restries

Condies necessrias para um ponto crtico

Ponto de inflexo (ponto de sela)

Solues crticas do problema

Ponto de mximo

Ponto de mnimo

Restrio

Ponto de sela Curvas de nvel da regio estudada

b: restrio de igualdade c: restrio de desigualdade

Valor timo da funo objetivo f no mnimo local, visto como uma funo do lado direito das restries b e c.

Funo objetivo: LUCRO

Os multiplicadores indicam que as mudanas na pureza de B provocariam maior impacto na funo objetivo. Essa a varivel mais sensvel das trs.

Problemas Convexos
Funo objetivo f(x) Estritamente convexo Convexo Cncavo Estritamente cncavo Matriz Hessiana H(x) Positivo definido Positivo semidefinido Negativo semidefinido = 2 () Negativo definido Autovalores de H(x) >0 0 0 <0

Problemas Convexos
As condies de Kuhn-Tucker so necessrias e

suficientes para a otimizao de problemas convexos suaves Para a situao Funo objetivo f(x) em que:

convexa Inequaes limitantes gj so convexas Funes de igualdade limitantes hj so lineares x* uma soluo factvel Todas as funes tm derivadas primeira contnuas em x* Os gradientes das restries em x* so independentes A regio de soluo factvel convexa Mnimo local o mnimo global

x* soluo tima se e apenas se as condies de Kuhn-Tucker so satisfeitas em x*

Problemas Convexos
Consideraes prticas
Hipteses de problemas convexos no so aplicadas ao

problema real
Consideraes de Kuhn-Tucker no so mais suficientes

para definio de um ponto de timo global

Definio de tolerncia de viabilidade f

para i = 1, , m para j = 1, , r
Definio de tolerncia de otimizao 0
( , , )

0 para i = 1, , m

0 para j = 1, , r

Condies necessrias de segunda ordem

T 2 , , > 0 Para todo vetor no-nulo y, tal que: J = 0 Onde J(x*) a matriz cujas linhas so os gradientes das restries ativas em x*
Se o sinal > na inequao for substitudo por , as condies acima, juntamente com as de Kuhn-Tucker so as condies de segunda ordem necessrias para um mnimo local.