Motivacao

Teoria
Exemplos

M ATRIZES P OSITIVAS D EFINIDAS

Algebra
Linear (MAT-27)

Ronaldo Rodrigues Pela

IEFF-ITA

7 de novembro de 2011

R.R.Pela

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

Roteiro

Motivacao

Teoria

Exemplos

R.R.Pela

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

Roteiro

Motivacao

Teoria

Exemplos

R.R.Pela

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

Por que saber se uma matriz e definida positiva?

Importancia
do sinal dos autovalores.
Os autovalores devem ser reais.

Problemas de analise
estabilidade: et

A parte real de deve ser negativa para que a funcao

decresca.

sentido para matrizes simetricas

Conceitos que so tem

(ou
hermitianas).
que surge em problemas de otimizacao.

Questao
Muito frequente em Engenharia.
Teste da segunda derivada.

R.R.Pela

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

Por que saber se uma matriz e definida positiva?

Criterio
de estabilidade de Lyapunov. Dado um sistema
X = f (X, t)
O ponto de equilbrio O e uniformemente assintoticamente

potencial V : Rn R R
estavel
se existir uma funcao
com V /X e V /t contnuas e V (O, t) = 0 satisfazendo
a:
1

2
3

(||X||) V (X, t) (||X||) t, com (.) e (.) funcoes

nao decrescentes.
nao
decrescente.
V (X, t) (||X||) t, com (.) funcao
V (X, t) e radialmente ilimitada: V (X, t) ||X|| .

Num cenario
tpico: V (X) = X P X com P hermitiana.
P (pelo menos) deve ser positiva definida.
R.R.Pela

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

Roteiro

Motivacao

Teoria

Exemplos

R.R.Pela

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

Analise
de um caso

Considere as funcoes
F (x, y) = 7+2(x+y)2 y sin yx3

f (x, y) = 2x2 +4xy+y 2 .

um mnimo em x = y = 0?
Sera que elas tem

Os termos de ordem zero F (0, 0) = 7 e f (0, 0) = 0 nao

ajudam a responder. Eles simplesmente representam um

shift nos graficos

de F e f .

R.R.Pela

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

Analise
de um caso

necessaria:

Os termos lineares fornecem uma condicao

para que se tenha alguma chance de mnimo, as primeiras
derivadas devem se anular.
F
= 4(x + y) 3x2
x

F
= 4(x + y) y cos y sin y.
y

f
= 4x + 4y
x

f
= 4x + 2y.
y

Isto de fato acontece!

Portanto, (0, 0) e um ponto estacionario

de F e de f .

R.R.Pela

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

Analise
de um caso

decisivas
As segundas derivadas em (0, 0) sao
2F
= 4 6x
x2
2F
2F
=
=4
xy
yx

2f
= 4.
x2
2f
2f
=
= 4.
xy
yx

2F
= 4 + y sin y 2 cos y
y 2

R.R.Pela

2f
= 2.
x2

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

Analise
de um caso
Calculando em (0, 0)
2F
2f
=
= 4.
x2
x2
2F
2f
2f
2F
=
=
=
= 4.
xy
yx
xy
yx
2F
2f
=
= 2.
y 2
x2
se comportam exatamente da mesma
As duas funcoes
proximas

forma quando estao

da origem.
F possui um mnimo em (0, 0) se e somente se f possuir
um mnimo em (0, 0).
R.R.Pela

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

Analise
de um caso

tem
influencia

Os termos de mais alto grau de F nao

sobre
(0, 0) ser um mnimo local.
Mas podem influenciar no caso de a pergunta ser sobre
um mnimo global.

Forma Quadratica

Toda forma quadratica

ax2 + 2bxy + cy 2 possui um ponto

estacionario
na origem.

R.R.Pela

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

Analise
de um caso

Se o ponto estacionario
de uma F (x, y) ocorrer em (, )

e nao na origem, basta efetuar a translacao

x
=x

y = y

e analisar o que ocorre com:

f (
x, y) =

x
2 2 F
2F
y2 2 F
(,
)
+
x

(,
)
+
(, )
2 x2
xy
2 y 2

que representa o comportamento de F (x, y) nas

vizinhancas de (, ).

R.R.Pela

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

Analise
de um caso

Em princpio, basta analisar o seguinte polinomio

ax2 + 2bxy + cy 2
obtido a partir das segundas derivadas.
Queremos investigar se:
ax2 + 2bxy + cy 2 > 0

(x, y) 6= (0, 0) ponto de mnimo

ou
ax2 + 2bxy + cy 2 < 0

(x, y) 6= (0, 0) ponto de maximo

anteriores se
Pode ser que nenhuma das duas condicoes
verifique (ponto de sela).

As derivadas superiores podem ser necessarias

quando a

parte quadratica
e singular.
R.R.Pela

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

Analise
de um caso
garantem que
Que condicoes
ax2 + 2bxy + cy 2 > 0

(x, y) 6= (0, 0)

que seja definida positiva?

isto e,
1
2

a > 0.
Se ax2 + 2bxy + cy 2 e definida positiva, entao
c > 0.
Se ax2 + 2bxy + cy 2 e definida positiva, entao

anteriores sao
suficientes para garantir
As duas condicoes
2
2
que ax + bxy + cy seja positiva definida?
(necessariamente)! Tome x2 10xy + y 2 e aplique em
Nao
(1, 1): o resultado e 8.
o sinal do termo misto deve ser positivo?
Entao
(necessariamente)! Tome x2 + 10xy + y 2 e aplique em
Nao
(1, 1): o resultado e 8.
R.R.Pela

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

Analise
de um caso
garantem que
Que condicoes
ax2 + 2bxy + cy 2 > 0

(x, y) 6= (0, 0)

que seja definida positiva?

isto e,
que falta deve envolver a, b e c. Vejamos:
A condicao




b 2
b2
2
2
ax + 2bxy + cy = a x + y + c
y2
a
a
Portanto, basta exigir que:
a>0

ac > b2

c > 0 e consequencia

Note que a condicao

das duas
anteriores (e pode ser suprimida).
condicoes
R.R.Pela

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

Analise
de um caso

que garantem que

Analogamente, as condicoes
ax2 + 2bxy + cy 2 < 0

(x, y) 6= (0, 0),

que seja definida negativa, sao:

isto e,
a<0

ac > b2 .

fica como exerccio.

Esta verificacao
Quando ac < b2 , teremos um ponto de sela. Veja que e
F (x, y) e f (x, y) = 2x2 + 4xy + y 2 .
este o caso das funcoes

R.R.Pela

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

Analise
de um caso
Matricialmente, teramos:
2

ax + 2bxy + cy =
Definindo u = [x

x y

a b
b c



x
y

y]T e A a matriz 2 2 acima:

ax2 + 2bxy + cy 2 = uT Au.

Facamos uma mudanca de coordenadas u

= M u. Logo:
uT Au = u
T (M T AM )
u.

R.R.Pela

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

Analise
de um caso

Como A e simetrica,
podemos tomar M formada pelos
seus autovetores ortonormais, de modo que M T AM = D
e uma matriz diagonal, digamos diag(1 , 2 ).
Sendo u
= [
x

y]T , temos
ax2 + 2bxy + cy 2 = 1 x
2 + 2 y2

que chegamos antes poderiam ser inferidas

As condicoes
a partir dos autovalores. Veja que:
1 > 0, 2 > 0: positiva definida.
1 < 0, 2 < 0: negativa definida.

Sinais contrarios:
indefinida (caso equivalente ao ponto de
sela).

R.R.Pela

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

maiores
Dimensoes
Ja estudamos o caso bidimensional. Vejamos agora o que
maiores.
acontece para dimensoes
F : Rn R, o seu polinomio

Se tivermos uma funcao

de

Taylor em torno de O e:
F (x) = F (O)+xT

1
F
(O)+ xT Ax+termos de ordem superior
x
2

compacta para o gradiente: F =

OBS.: Notacao

F
.
x

A matriz A e formada pelas derivadas segundas:

2F

aij =
(O). Esta e uma matriz que e simetrica
(a
xi xj
teimosamente mal-comportadas!).
menos de funcoes
R.R.Pela

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

maiores
Dimensoes

Suponha que a origem O e um ponto estacionario:

F
(O) = O
x

Para saber se e maximo

ou mnimo (ou ponto de sela),
devemos analisar o sinal de xT Ax, ja que
1
F (x) = F (O) + xT Ax + termos de ordem superior
2

for a origem e sim um ponto

E se o ponto estacionario
nao
analoga

? Neste caso, basta fazer uma tranlacao,

a que
antes fizemos: x
= x .

R.R.Pela

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

maiores
Dimensoes
Veja que

xT Ax = [x1

x2

...

xn ]

a11
a21
..
.

a12
a22
..
.

an1 an2

. . . a1n
. . . a2n
..
..
.
.
. . . ann

x1
x2
..
.

xn

que resulta na seguinte forma quadratica:

xT Ax =

n X
n
X

aij xi xj

i=1 j=1

no nosso caso, e melhor trabalhar com a forma matricial...

R.R.Pela

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

maiores
Dimensoes
Precisamos responder a` pergunta: que matrizes

a propriedade xT Ax > 0 x 6= O?
simetricas
tem
Quando uma matriz satifaz a desigualdade anterior ela e
dita ser positiva definida.
Para um caso mais geral (complexo), precisamos de uma

ligeira adaptacao:
Matriz Positiva Definida
Uma matriz A Mn (C) hermitiana e positiva definida se
x Ax > 0 x 6= O.

O caso real e analogo,

bastando trocar hermitiana por

simetrica
e x por x .
Analogamente, podemos definir o conceito de matriz
positiva semidefinida, quando x Ax 0 x 6= O
R.R.Pela

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

maiores
Dimensoes
Analogamente, podemos definir o conceito de matriz
negativa definida.
Matriz Negativa Definida
Uma matriz A Mn (C) hermitiana e negativa definida se
x Ax < 0 x 6= O.
Analogamente, podemos definir o conceito de matriz
negativa semidefinida, quando x Ax 0 x 6= O
sao
nem
Ha algumas matrizes hermitianas que nao
positivas (semi)definidas, nem negativas (semi)definidas.
Este e o caso da matriz diag(1, 1).

R.R.Pela

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

maiores
Dimensoes

Voltando ao problema, precisamos verificar que matrizes

a propriedade xT Ax > 0 x 6= O.
simetricas
tem
Ha diversas formas de fazer isto.
de uma delas.
Veremos a deducao
a ideia central e fazer uma mudanca de
Nesta deducao,
base: x
= M x, para alguma matriz M escolhida
convenientemente.
xT Ax = x
T (M T AM )
x

R.R.Pela

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

maiores
Dimensoes

hermitiana), sempre
Como A e simetrica
(ou entao
conseguimos encontrar uma base ortonormal de
autovetores.

Tomando M a matriz formada por estes autovetores, entao

M T AM sera uma matriz diagonal.
xT Ax = 1 x
21 + 2 x
22 + . . . + n x
2n
Se todos os autovalores forem positivos, teremos uma
matriz positiva definida.
Se todos os autovalores forem negativos, teremos uma
matriz negativa definida.

R.R.Pela

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

Teste de positividade
e o unico
O teste dos autovalores nao
para verificar se

uma matriz e positiva definida.

Vimos outro teste para o caso bidimensional.
Vejamos o resultado geral
Teste de positividade
Para uma matriz A Mn (C) hermitiana as seguintes
sao
equivalentes
afirmacoes
x Ax > 0 x 6= O.
positivos.
Todos os autovalores de A sao
todos positivos.
Os menores principais de A sao
singular.
A = S 2 para alguma matriz hermitiana S nao

singular.
A = T T para alguma matriz T nao
R.R.Pela

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

Teste de positividade

OBS.: os menores principais de uma matriz A n n sao

os determinantes das submatrizes



a11 a12 a13
a11 a12
[a11 ],
, a21 a22 a23 , . . . , A
a21 a22
a23 a32 a33

R.R.Pela

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

Produto Interno

Uma matriz hermitiana positiva definida induz um produto

interno:
hx|yi = x Ay
De fato:
1
2
3

Simetria: hx|yi = y Ax = hx|yi.

Linearidade: hx|y + zi = x A(y + z) = hx|yi + hx|zi.
Positividade: hx|xi = x Ax > 0, pois A e positiva definida.

R.R.Pela

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

Comentario

simetrica,

Pode existir uma matriz positiva definida nao

ou
hermitiana?
nao
nao
tem muito sentido...
Esta questao
simetrica

hermitiana) pode nao

Uma matriz nao

(ou nao

ser diagonalizavel.

R.R.Pela

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

Comentario

mais razoavel

hermitianas
Uma questao
para matrizes nao
A e verificar se sua parte hermitiana e positiva definida.
1
1
A = (A + A ) + (A A )
2
2
1
A componente (A + A ) da soma acima e conhecida
2
como a parte hermitiana de A.
1
Testar se (A + A ) e positiva definida garante que todos
2
os autovalores de A tenham parte real positiva.

R.R.Pela

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

Roteiro

Motivacao

Teoria

Exemplos

R.R.Pela

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

Exemplos

A matriz

2 1
0
2 1
A = 1
0 1
2

e positiva definida
Menores principais de A: 2, 3 e 4.

R.R.Pela

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

Exemplos

As matrizes

1 1 1
A= 1 1 1
1 1 0

2 1 2
B= 1 1 1
2 1 2

sao
positivas definidas.
nao
A tem um menor principal: 0.
e inversvel.
B nao

R.R.Pela

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

Exemplos
real para
Ha uma solucao
x2 5y 2 9z 2 4xy 6xz 8yz = 1?
Veja que

x2 +5y 2 +9z 2 +4xy+6xz+8yz = [x

1 2 3
x
z] 2 5 4 y = uT Au
3 4 8
z

A matriz acima tem determinante negativo.

Ao menos um autovalor e negativo.
Existe um certo v tal que Av = v com > 0. Assim,
tomando u = v, temos
uT Au = 2 ||v||2

Basta tomar = 1/(||v|| ) que uT Au = 1.

R.R.Pela

Matrizes Positivas Definidas


Motivacao
Teoria
Exemplos

Exemplos
e um produto interno no R2
A seguinte funcao
h(x, y)|(u, v)i = xu + 4yv xv yu?
Escrevendo matricialmente

xu + 4yv xv yu = [x

y]

1 1
1
4



u
v

A matriz e simetrica
e positiva definida (pois tem menores
principais: 1 e 3).
Logo se trata sim de um produto interno.

R.R.Pela

Matrizes Positivas Definidas