E.N.I.T.

Unité Pédagogique de Mathématiques Appliquées

Série 3 – Analyse Numérique Matricielle AU: 2019-2020

Classes : 1ère année: Tronc commun

Exercice 1.
1. Montrer que les fonctions suivantes sont différentiables et calculer leurs dérivées.
(a) x ∈ Rn 7→ 12 (Ax, x) pour A une matrice carrée d’ordre n.
(b) x ∈ Rn 7→ 21 kAx − bk22 pour A ∈ Mm,n (R) et b ∈ Rm .
2. Montrer que la fonction x 7→ kxk n’est jamais différentiable en 0.
3. Soit J : Rn → R une fonction différentiable en x ∈ Rn . Soit d ∈ Rn , d 6= 0. Montrer que
l’application Φ : R → R, t 7→ J(x + td) est dérivable en 0 et calculer sa dérivée Φ0 (0).

Exercice 2.

1. Soient J1 et J2 deux fonctions convexes sur Rn , λ > 0, et Φ une fonction convexe croissante
sur un intervalle de R contenant J1 (Rn ).
Montrer que J1 + J2 , λJ1 , max(J1 , J2 ), ΦoJ1 et x →
7 J1 (Bx + c), pour B ∈ Mpn (R) et
c ∈ p̂, sont convexes
2. Etudier la convexité des fonctions suivantes:
(a) J : x ∈ Rn 7→ 12 (Ax, x) − (b, x), où A ∈ Mn (R) symétrique et b ∈ Rn .
(b) J1 (x1 , x2 , x3 ) = x21 + x22 + x23 − x1 x2 − x1 x3 − x2 x3 .
(c) J : x ∈ Rn 7→ kxkp , p ≥ 1, pour une norme k.k quelconque de Rn .

Exercice 3. Problème quadratique

Soit A une matrice symétrique d’ordre n.
1. Soient λ1 , λn respectivement la plus petite et la plus grande valeur propre de A. Montrer
que pour tout x ∈ Rn , on a
λ1 kxk22 ≤ (Ax, x) ≤ λn kxk22 .
En déduire que la fonction J : x ∈ Rn 7→ 21 (Ax, x) − (b, x) est infinie à l’infini si A est
définie positive.

2. Montrer que la fonction J : x 7→ 21 (Ax, x) − (b, x) est différentiable sur Rn et donner ∇J(x),
pour x ∈ Rn .
3. Montrer que J est convexe (resp. strictement convexe) sur Rn si et seulement si A est
positive (resp. définie positive).

4. Montrer que si la matrice A est non semi-définie positive, alors pour tout vecteur b ∈ Rn , le
problème quadratique
1
min (Ax, x) − (b, x) (P )
x∈Rn 2

n’admet pas de solution.

5. Montrer que si A est semi définie positive, alors x̄ est solution de (P ) si et seulement si x̄
est solution de système Ax = b. Dans quel cas a-t-on unicité.
6. Déterminer, suivant le paramètre α, le minimum s’il existe sur R3 , de la fonction
1 2 1 2 3 2
J : x 7→ x + x + x + αx1 x3 + x2 x3 − x1 − x2 − x3 .
2 1 2 2 2 3
Exercice 4. Méthode du gradient à pas fixe
Soit A ∈ Mn (R) une matrice symétrique définie positive et b un vecteur de Rn . Soit le problème
1
min (Ax, x) − (b, x) (P ).
x∈Rn 2
On note (x(k) ) la suite générée par l’algorithme du gradient à pas fixe α pour approcher le
minimun x̄ de J sur Rn .
1. Ecrire la suite (x(k) ) sous la forme
x(k+1) = Bx(k) + c,
où B et c sont à déterminer.
2
2. En déduire que l’algorithme du gradient à pas fixe converge si et seulement si 0 < α < .
ρ(A)
3. Déterminer le pas optimal α∗ qui assure la convergence la plus rapide de cet algorithme et
vérifier que
cond2 (A) − 1
ρ(I − α∗ A) = .
cond2 (A) + 1
Exercice 5. Problème des moindres carrés
Soit A ∈ Mmn (R) et b ∈ Rn . On considère le problème de minimisation
1
minn kAx − bk22 . (1)
x∈R 2

1. Montrer que le problème (1) admet au moins une solution.

2. Montrer que x est une solution de (1) si et seulement si
AT Ax = AT b,
où on désigne par AT la matrice transposée de A. Dans quel cas à-t-on l’unicité de la
solution de (1) ?
3. Pour tout entier k > 0, soit le problème
1 1
minn kAx − bk22 + kxk22 . (2)
x∈R 2 2k
(a) Montrer que (2) admet une solution unique x(k) .
(b) Ecrire l’équation d’Euler satisfaite par x(k) . (c) Vérifier que kx(k) k2 ≤ kxk2 , pour tout
x solution de (1).
En déduire que (x(k) ) converge lorsque k → +∞ vers x solution de (1) de norme minimale.
Exercice 6. Soit Jβ : R3 −→ R définie pour x = (x1 , x2 , x3 )T dans R3 par:
Jβ (x1 , x2 , x3 ) = (x3 − x2 − x1 )2 + (x1 − x2 )2 − βx23 − x1 − x2 − x3
où β est un paramètre réel. On considère le problème de minimisation (P ) : min3 J(x).
x∈R

1. Calculer Jβ ( n2 , n2 , n),
pour n un entier naturel non nul. En déduire que le problème de
minimisation (P ) n’admet pas de solution lorsque β ≥ 0.
2. On suppose dans toutes la suite que β < 0. Montrer que le problème (P ) admet une unique
solution x̄. Vérifier que x̄ est solution d’un système linéaire Aβ x = b, où la matrice Aβ et le
vecteur b sont à déterminer.
3. Pour β = −1, pour quelles valeurs du pas α l’algorithme du gradient à pas constant
converge-t-il ?
4. Ecrire les deux premiers itérées de la méthode de gradient à pas optimal.
5. Calculer x̄ par la méthode du gradient conjugué pour β = −1 en partant de x(0) = 0R3 .