1

EMI - M. TAHA JANAN

Position du problme

= + + +
= + + +
= + + +
m m m n 2 2 n 1 1 n
2 m m 2 2 2 2 1 1 2
1 m m 1 2 2 1 1 1 1
b x a x a x a
.
.
.
b x a x a x a
b x a ...... x a x a
Rsoudre le systme suivant :
RESOLUTION NUMERIQUES DE
SYSTEMS LINEAIRES D'EQUATIONS
www.almohandiss.com
2
EMI - M. TAHA JANAN
Ecriture matricielle
Rsoudre le systme suivant
b x A = .
A : matrice (non forcment carre)
) (
... ...
. . . . .
... ...
. . . . .
... ...
.... ...
... ...
3 2 1
3 2 1
3 3 33 32 31
2 2 23 22 21
1 1 13 12 11
ij
nm nj n n n
im ij i i i
m j
m j
m j
a
a a a a a
a a a a a
a a a a a
a a a a a
a a a a a
A =
|
|
|
|
|
|
|
|
|
|

\
|
=
b : vecteur
colonne second
membre
x : vecteur
colonne des
inconnues
|
|
|
|
|
|
|
|

\
|
=
m
x
x
x
x
x
.
.
3
2
1
|
|
|
|
|
|
|
|

\
|
=
n
b
b
b
b
b
.
.
3
2
1
Le systme est linaire lorsque la matrice A
ne dpend pas des composantes x
i
du vecteur
des variables
www.almohandiss.com
3
EMI - M. TAHA JANAN
On distingue 3 cas :
Systme surdtermin (n>m)
Systme de Cramer (n=m)
Systme sous dtermin (n<m)
Mthodes de rsolution :
A- Mthodes directes : pour les systmes de petite taille
Solution dtermine aprs un nombre doprations connu
lavance (sans rptition)
B- Mthodes indirecte (essentiellement itratives) :
Solution dtermine par rptition dun processus dans lequel
plusieurs valeurs intermdiaires du vecteur des inconnues sont
calcules jusqu convergence
www.almohandiss.com
4
EMI - M. TAHA JANAN
A.1. Mthode de Cramer :
) ( A dt =
Si
0
: solution unique

=
i
i
x i = 1 n
Si
0 =
: deux cas
Tous les
i

sont nuls : une infinit de solutions

Au moins un des
nest pas nul : pas de solution
i

Mthode utilisable lorsque le nombre dquations est petit

Inconvnients majeurs :
- mthode difficile programmer
- temps dexcution trs lev
A- Mthodes directes
www.almohandiss.com
5
EMI - M. TAHA JANAN
Nombre doprations :
On a (n + 1) dterminants calculer et n divisions.
Pour chaque dterminant on a :
n! n multiplications et n! 1 additions.
Nombre doprations ncessaires :
(n + 1) n! n multiplications.
(n + 1) (n! 1) additions
n divisions
soit au total TC = (n + 1)
2
n! 1 oprations.
Pour n = 5 TC = 4319 oprations
Pour n = 10 TC = 439 084 799 ~ 4. 10
8
oprations
www.almohandiss.com
6
EMI - M. TAHA JANAN
A.2. Mthode de rsolution par inversion de A :
t
C
A
A
) det(
1
1
=

o C
t
est la matrice des cofacteurs.
Nombre doprations de la mthode :
T
2
= n! (n
2
+ n + 1) + 3 n
2
n.
Pour n = 5 T
C
= 3790 oprations
Pour n = 10 T
C
= 402 797 090 ~ 4 10
8
oprations
La mthode a les mmes inconvnients de celle de Cramer
b A x b x A . .
1
= =
www.almohandiss.com
7
EMI - M. TAHA JANAN
A.3. Mthode de Gauss :
Prambule : Rsolution des systmes triangulaires.
Systme triangulaire suprieur.

=
= +
= + +
= + + +
n n n n
n n 1) - n ( 1) - n ( 1) - n ( 1) - n (
2 n n 2 2 2 2
1 n n 1 2 2 1 1 1 1
b x a
x a x a
0
b x a ...... x a
b x a ...... x a x a
La matrice associ A est triangulaire suprieure
www.almohandiss.com
8
EMI - M. TAHA JANAN
Systme triangulaire infrieur.

= + + +
= +
=
n n n n 2 2 n 1 1 n
2 2 2 2 1 1 2
1 1 1 1
b x a ...... x a x a
.
.
.
b x a x a
b x a
La matrice associ A est triangulaire infrieure
www.almohandiss.com
9
EMI - M. TAHA JANAN
La rsolution des deux systmes se fait de proche en proche.
Pour le deuxime systme on a :
11
1
1
a
b
x =
i = 2,. . ., n.
Nombre doprations :
n divisions
1 + 2 + 3 + + ( n 1 ) =
2
) 1 n ( n
multiplications
1 + 2 + 3 + + ( n 1 ) =
2
) 1 n ( n
additions
Soit au total Tt = n
2
.
ii
j
1 i
1 j
ij i
i
a
x a b
x

=
www.almohandiss.com
10
EMI - M. TAHA JANAN
Mthode de Gauss, principe :
A laide dun dun algorithme dlimination convenable, cette mthode
transforme le systme en une suite de systmes quivalents (ont mmes
solutions) dont le dernier est triangulaire.
la procdure de rsolution se fait alors en deux tapes :
triangularisation par limination.
rsolution du systme triagulaire quivalent.
www.almohandiss.com
11
EMI - M. TAHA JANAN
Premire tape : triangularisation par limination.
1re limination :
Supposons que a
11
0, sinon on permute les lignes.
11
i1
i1
a
a
g =
a
11
est appel le pivot et la ligne l
1
, ligne de pivot de
la premire limination.
Pour i = 2, 3, , n, remplaons la ligne l
i
par l
i
g
i1
.l
1
Le systme devient :

= + + +
= + + +
= + + +
) 2 (
n n
) 2 (
n n 2
) 2 (
2 n
) 2 (
2 n
) 2 (
n 2 2
) 2 (
2 2
1 n

n 1 2 2 1 1 1 1
b x a ...... x a 0
.
.
.
b x a ...... x a 0
b x a ...... x a x a
Avec
j 1 1 i j i
2) (
j i
a g a a =
i , j = 2, . . ., n
1 1 i j
2) (
i
g b b b =
www.almohandiss.com
12
EMI - M. TAHA JANAN
2ime limination
On applique le procd au systme form des (n 1) dernires
lignes : a
22
pivot et l
2
ligne de pivot.
Les xi ninterviennent pas dans les liminations. On considre
alors la matrice n x ( n + 1 )
Remarque
= = b) (A, A
~
|
|
|
|
|
|
|
|

\
|
+
+
+
) 1 n ( n
) 1 n ( 2
) 1 n ( 1
nn n2 n1
2n 22 21
1n 12 11
a
a
a
a . . a a
.
.
.
a . . a a
a . . a a
www.almohandiss.com
13
EMI - M. TAHA JANAN
Algorithme de la mthode de Gauss ( k
ime
limination )

+ + = + = =
+ = = =
+
+
1 , . . . , 1 , . . . , 1
1 , . . . , 1 , . . . , 1
1
1
n k j n k i a g a a
n j k i a a
k
j k k i
k
j i
k
j i
k
j i
k
j i
O
) k (
k
) k (
k i
k i
a
a
g
k
= i = k + 1, . . ., n. Les autres lments sont nuls.
2
ime
tape : Rsolution du systme triangulaire
Nombre doprations de la mthode de Gauss :
6
7 9 4
2 3
n n n
T
G
+
=
n = 5 T
G
= 115 ; n = 10 T
G
= 805
Pour des raisons de stabilit, on a intrt chaque tape de llimination
bien choisir le pivot tel que soit le plus grand possible.
) ( k
k k
a
www.almohandiss.com
14
EMI - M. TAHA JANAN
Exemple 1 :
On se propose de dterminer la solution du systme suivant par la
mthode de Gauss :

= +
= +
=
1 3
3 2
2 3 2
z y x
z x
z y
Matrice augmente
|
|
|

\
|

1 3 1 1
3 1 0 2
2 3 2 0
On remarquera tout de suite que le premier pivot est nul :
Il faudra changer la ligne 1 avec une autre, soit la troisime
www.almohandiss.com
15
EMI - M. TAHA JANAN
|
|
|

\
|

2 3 2 0
3 1 0 2
1 3 1 1
l
2
-2l
1
|
|
|

\
|

2 3 2 0
1 5 2 0
1 3 1 1
l
2
/2
|
|
|

\
|

2 3 2 0
2 / 1 2 / 5 1 0
1 3 1 1
l
3
-2l
2
|
|
|

\
|

1 2 0 0
2 / 1 2 / 5 1 0
1 3 1 1
l
3
/2
|
|
|

\
|

2 / 1 1 0 0
2 / 1 2 / 5 1 0
1 3 1 1
z = 1/2 y = 7/4 x=5/4
www.almohandiss.com
16
EMI - M. TAHA JANAN
Exemple 2 :
Soit infiniment petit ( par exemple = 10
-6
)

= +
= +
2 y x
1 y x
|

\
|
=
2 1 1
1 1
A
~
) 1 (
Pivot a
11
=
|

\
|
=
1 - 1 -
) 2 (
- 2 - 1 0
1 1
A
~
1
1
1
2

6
6
10 1
10 2

Ce qui donne y =
= 1
; x =

y 1
= 0.
Or
|

\
|
1
0
nest pas solution du systme.
=
www.almohandiss.com
17
EMI - M. TAHA JANAN

= +
= +
1 y x
2 y x
|

\
|
=
1 1
2 1 1
A
~
) 1 (
Pivot a
11
= 1
|

\
|
=
2 - 1 - 1 0
2 1 1
A
~
) 2 (
1
2 1

6
6
10 1
10 2 1

Ce qui donne y = =
= 1 ; x = 2 - y = 1
|

\
|
1
1
est bien une solution prs.
www.almohandiss.com
18
EMI - M. TAHA JANAN
Exercices dapplication :
1) Rsoudre le systme linaire :

= + +
= + +
= + +
25 3 2 2
37 5 3 2
10
z y x
z y x
z y x
) k (
k k
a
{ } n ., . . k, i a
) k (
k i
=
) k (
k k
a { } n ., . . k, , i a
) k (
j i
= j
Pour le choix du pivot deux stratgies sont possibles
La mthode du pivot partiel :
= max
La mthode du pivot total :
= max
www.almohandiss.com
19
EMI - M. TAHA JANAN
|
|
|

\
|
=
25 3 2 2
37 5 3 2
10 1 1 1
~
) 1 (
A
Pivot a
11
= 1. g
21
= g
31
=
1
2
= 2.
|
|
|

\
|
=
5 1 0 0
17 3 1 0
10 1 1 1
~
) 2 (
A
z = 5 ; y = 17 - 3 z = 2 et x = 10 y - z = 3.
La solution du systme est
|
|
|

\
|
5
2
3
www.almohandiss.com
20
EMI - M. TAHA JANAN
2) Rsoudre le systme linaire :

= + +
= + +
= + +
2037 7 21 42
270 2 3 5
72
z y x
z y x
z y x
www.almohandiss.com
21
EMI - M. TAHA JANAN
|
|
|

\
|
=
2037 7 21 42
270 2 3 5
72 1 1 1
~
) 1 (
A
1
5
1
42
Pivot a
11
= 1. g
21
=
= 5 ; g
31
= = 42.
|
|
|

\
|

=
3024 2037 35 21 0
360 270 3 2 0
72 1 1 1
~
) 2 (
A
|
|
|

\
|

=
987 35 21 0
90 3 2 0
72 1 1 1
) 2 (
2 2
a
2
21
Pivot
= - 2. g
32
=
|
|
|
|
|

\
|
+
=
2
21
90 987
2
63
35 0 0
90 3 2 0
72 1 1 1
~
) 2 (
A
|
|
|
|
|

\
|

=
42
2
7
0 0
90 3 2 0
72 1 1 1
7
84
2
3 90 z
z = = 12 ; y = = 27 et x = 72 y z = 33.
www.almohandiss.com
22
EMI - M. TAHA JANAN
A.4. Mthode de Gauss-Jordan
Principe :
Diagonaliser la matrice
A du systme par
limination.
|
|
|
|
|
|
|
|

\
|
=
+
+
+
) 1 n ( n
) 1 n ( 2
) 1 n ( 1
nn n2 n1
2n 22 21
1n 12 11
) 1 (
a
a
a
a . . . a a
.
.
.
a . . . a a
a . . . a a
A
~
1re tape
Normalisation : on
divise l
1
par a
11
.
|
|
|
|
|
|
|
|
|

\
|
+
+
+
) 1 n ( n
) 1 n ( 2
11
) 1 n ( 1
nn n2 n1
2n 22 21
11
1n
11
12
)' 1 (
a
a
a
a
a . . a a
.
.
.
a . . a a
a
a
. .
a
a
1
~
A
www.almohandiss.com
23
EMI - M. TAHA JANAN
Rduction : on remplace l
i
par l
i
- a
i1
l
i
pour i > 2.
|
|
|
|
|
|
|
|
|
|

\
|
=
+
+
+
) 2 (
) 1 n ( n
) 2 (
) 1 n ( 2
11
) 1 n ( 1
) 2 (
nn
) 2 (
n2
) 2 (
2n
) 2 (
22
11
1n
11
12
) 2 (
a
a
a
a
a . . a 0
.
.
.
a . . a 0
a
a
. .
a
a
1
~
A
www.almohandiss.com
24
EMI - M. TAHA JANAN
2
me
tape
) 2 (
22
a
) 2 (
i2
a
Normalisation : on divise l
2
par
Rdution :
on remplace l
i
par l
i
- l
2
|
|
|
|
|
|
|
|

\
|
=
+
+
) 3 (
) 1 n ( n
) 3 (
) 1 n ( 2
) 3 (
1n
) 3 (
nn
) 3 (
2n
) 3 (
1n
) 3 (
a
a
a
a . . 0 0
.
.
.
a . . 1 0
a . . 0 1
A
A la n
ime
limination le
systme quivalent est
diagonal.
|
|
|
|
|
|
|
|

\
|
=
+
+
+
) n (
) 1 n ( n
) n (
) 1 n ( 2
) n (
) 1 n ( 1
) (
a 1
a
a
0
0 1
1
~
n
A
pour tout i 2.
Do les solutions :
) n (
) 1 n ( i i
a x
+
=
pour i = 1, 2, . . . , n.
www.almohandiss.com
25
EMI - M. TAHA JANAN
Lalgorithme de Gauss Jordan est :
1 n , . . . k, j n 1,..., k 1, k , . . . 1, i a g a
) k (
j k k i
) k (
j i
) 1 k (
j i
+ = + = =
+
a
Exercices dapplication :
1) Rsoudre le systme linaire :

= + +
= +
= + +
11 6 3 3
2 2 2
0 3 3 1
z y x
y x
z y x
|
|
|

\
|
=
11 6 3 3
2 0 2 2
0 3 3 1
~
) 1 (
A
www.almohandiss.com
26
EMI - M. TAHA JANAN
Normalisation Rduction
l
1
:
|
|
|

\
|
11 6 3 3
2 0 2 2
0 3 3 1
|
|
|

\
|


11 3 6 0
2 6 4 0
0 3 3 1
|
|
|
|

\
|

11 3 6 0
2
1
2
3
1 0
0 3 3 1
|
|
|
|
|
|

\
|

8 6 0 0
2
1
2
3
1 0
2
3
2
3
0 1
l
2
|
|
|
|
|
|

\
|

3
4
1 0 0
2
1
2
3
1 0
2
3
2
3
0 1
|
|
|
|
|
|

\
|

3
4
1 0 0
2
5
0 1 0
2
7
0 0 1
l
3
2
7
2
5
3
4
La solution est x = ; y = -
; z =
www.almohandiss.com
27
EMI - M. TAHA JANAN
2) Rsoudre le systme linaire :

=
= + +
= +
10 2 3 2
10 2 3
5 2
z y x
z y x
z y x
|
|
|

\
|

=
10 2 3 2
10 1 2 3
5 2 1 1
~
) 1 (
A
www.almohandiss.com
28
EMI - M. TAHA JANAN
Normalisation Rduction
|
|
|

\
|

10 2 3 2
10 1 2 3
5 2 1 1
|
|
|

\
|

20 6 1 0
5 5 5 0
5 2 1 1
|
|
|

\
|

20 6 1 0
1 1 1 0
5 2 1 1
|
|
|

\
|


21 7 0 0
1 1 1 0
4 1 0 1
|
|
|

\
|

3 1 0 0
1 1 1 0
4 1 0 1
|
|
|

\
|
3 1 0 0
2 0 1 0
1 0 0 1
l
1
l
2
l
3
La solution est ( 1 , 2 , 3 )
t
.
www.almohandiss.com
29
EMI - M. TAHA JANAN
3) Rsoudre le systme linaire :

= + +
= + +
= + +
11 2 2
21 4 3 2
28 6 5
z y x
z y x
z y x
|
|
|

\
|
=
11 2 2 1
21 4 3 2
28 6 5 1
~
) 1 (
A
www.almohandiss.com
30
EMI - M. TAHA JANAN
Normalisation Rduction
|
|
|

\
|
11 2 2 1
21 4 3 2
28 6 5 1
|
|
|

\
|


17 4 3 0
35 2 7 0
28 6 5 1
l
1
|
|
|
|

\
|
17 4 3 0
5
7
8
1 0
28 6 5 1
|
|
|
|
|
|

\
|
2
7
4
0 0
5
7
8
1 0
3
7
2
0 1
l
2
l
3
|
|
|
|
|
|

\
|
2
7
1 0 0
5
7
8
1 0
3
7
2
0 1
|
|
|
|
|

\
|
2
7
1 0 0
1 0 1 0
2 0 0 1
La solution est ( 1 , 2 , )
t
.
2
7
www.almohandiss.com
31
EMI - M. TAHA JANAN

= + +
= +
= + +
5 2 2
1
3
z y x
z y x
z y x

= + +
= +
= + +
9 2 2
2
6
z y x
z y x
z y x
|
|
|

\
|
=
9
2
6
5 1 2 2
1 1 1 1
3 1 1 1
~
) 1 (
A
www.almohandiss.com
32
EMI - M. TAHA JANAN
|
|
|

\
|

9
2
6
5 1 2 2
1 1 1 1
3 1 1 1
|
|
|

\
|

5
4
6
3 1 4 0
2 0 2 0
3 1 1 1
|
|
|

\
|
5
2
6
3 1 4 0
1 0 1 0
3 1 1 1
|
|
|

\
|
3
2
4
1 1 0 0
1 0 1 0
2 1 0 1
|
|
|

\
|
3
2
4
1 1 0 0
1 0 1 0
2 1 0 1
|
|
|

\
|
3
2
1
1 1 0 0
1 0 1 0
1 0 0 1
l
1
l
2
l
3
Les solution sont ( 1 , 1 , 1 )
t
et ( 1 , 2 , 3 )
t
respectivement.
www.almohandiss.com
33
EMI - M. TAHA JANAN
Application : Inversion dune matrice
Linversion dune matrice peut tre recherche en posant :
b I x A . . =
b A x I . .
1
=
Matrice augmente :
|
|
|
|
|
|
|
|
|
|

\
|
1 0 0 0 0
0 0 0 0
0 0 0 0 1 0 0
0 0 0 0 0 1 0
0 0 0 0 0 0 1
... ...
. . .
... ...
. . .
... ..
... ...
... ...
3 2 1
3 2 1
3 3 33 32 31
2 2 23 22 21
1 1 13 12 11
nn nj n n n
in ij i i i
n j
n j
n j
a a a a a
a a a a a
a a a a a
a a a a a
a a a a a
Processus de Gauss-Jordan :
A I I A
-1
www.almohandiss.com
34
EMI - M. TAHA JANAN
Exercice dapplication
Calculer la matrice inverse de A = |

\
|
4 3
1 2
( A , In ) =
|

\
|
1 0 4 3
0 1 1 2
|
|

\
|
1 0 4 3
0
2
1
2
1
1
|
|
|
|

\
|
1
2
3
2
5
0
0
2
1
2
1
1
L1 :
|
|
|
|

\
|

5
2
5
3
1 0
0
2
1
2
1
1
|
|
|
|

\
|

5
2
5
3
1 0
5
1
5
4
0 1
L2 :
5
1
|

\
|

2 3
1 4
Do A
-1
=
www.almohandiss.com
35
EMI - M. TAHA JANAN
A5 Factorisation
Principe :
Dcomposer la matrice A en facteurs faciles inverser : matrices triangulaires
Factorisations LU
U : Matrice triangulaire suprieure
L : matrice triangulaire infrieure
On pose A=L.U
www.almohandiss.com
36
EMI - M. TAHA JANAN
A admet une dcomposition L U ssi les mineurs principaux sont non nuls
det( A ) = det( L ) det( U ) 0 ( car A est inversible ).
donc L et U sont inversibles
L et U sont uniques.
Rsolution : A x = b quivalent L U x = b
Nous sommes emmen rsoudre 2 systmes triangulaires :

=
=
y x U
b y L
L.y = b systme triangulaire infrieur
U.x = y systme triangulaire suprieur
Nombre doprations : T
LU
= (n
3
/3 - n/3) + n
2
.
www.almohandiss.com
37
EMI - M. TAHA JANAN
A.5.1. Mthode de Crout :
Les u
ii
sont gaux 1
A titre dexercice :
Dterminer les expressions de L et U.
|
|
|
|
|
|
|
|
|
|

\
|
=
nn nj n n n
ij i i i
l l l l l
l l l l
l l l
l l
l
L
... ...
. . . . .
0 ... ...
. . . . .
0 ... 0 ...
0 .... 0 ... 0
0 ... 0 ... 0 0
3 2 1
3 2 1
33 32 31
22 21
11
|
|
|
|
|
|
|
|
|

\
|
=
1 ... 0 ... 0 0 0
. . . . .
... ... 0 0 0
. . . . .
... ... 1 0 0
.... ... 1 0
... ... 1
3 3
2 2 23
1 1 13 12
in ij
n j
n j
n j
u u
u u
u u u
u u u u
U
www.almohandiss.com
38
EMI - M. TAHA JANAN
A.5.1. Mthode de Crout : formules de calcul
|
|
|
|
|
|
|
|
|

\
|
|
|
|
|
|
|
|
|
|
|

\
|
=
1 ... 0 ... 0 0 0
. . . . .
... ... 0 0 0
. . . . .
... ... 1 0 0
.... ... 1 0
... ... 1
... ...
. . . . .
0 ... ...
. . . . .
0 ... 0 ...
0 .... 0 ... 0
0 ... 0 ... 0 0
.
3 3
2 2 23
1 1 13 12
3 2 1
3 2 1
33 32 31
22 21
11
in ij
n j
n j
n j
nn nj n n n
ij i i i
u u
u u
u u u
u u u u
l l l l l
l l l l
l l l
l l
l
U L
l
i1
= a
i1
n , 2, j j, i
l
u l a
u
n , 1, i i, j u l a l
ii
1 i
1 k
kj ik ij
ij
1 j
1 k
kj ik ij ij
K
K
=

=
= =

=
On dtermine la colonne des l et puis la ligne correspondantes des u
www.almohandiss.com
39
EMI - M. TAHA JANAN
Exemple
(
(
(

(
(
(

=
(
(
(

1 0 0
1 1 0
3 / 2 3 / 1 1
1 3 / 4 2
0 3 / 7 1
0 0 3
1 2 2
3 2 1
2 1 3
www.almohandiss.com
40
EMI - M. TAHA JANAN
A.5.2 Mthode de Doolittle
Identique celle de Crout mais avec ici l
ii
= 1.
|
|
|
|
|
|
|
|
|

\
|
=
1 ... ...
. . . . .
0 ... 1 ...
. . . . .
0 ... 0 ... 1
0 .... 0 ... 0 1
0 ... 0 ... 0 0 1
3 2 1
3 2 1
32 31
21
nj n n n
i i i
l l l l
l l l
l l
l
L
|
|
|
|
|
|
|
|
|

\
|
=
nn
in
n j
n j
n j
u
u
u u u
u u u u
u u u u u
U
... 0 ... 0 0 0
. . . . .
... ... 0 0 0
. . . . .
... ... 0 0
.... ... 0
... ...
3 3 33
2 2 23 22
1 1 13 12 11
Nombre doprations : T
D
= 2n
3
/3+2n
2
www.almohandiss.com
41
EMI - M. TAHA JANAN
A.5.2 Mthode de Doolittle formules de calcul :
www.almohandiss.com
42
EMI - M. TAHA JANAN
Pour k = 1 n
pour j = k n :

=
=
1
1
k
r
rj kr kj kj
u l a u
pour i = k +1 n
|

\
|
=

=
1
1
1
k
r
rk ir ik
kk
ik
u l a
u
l
On dtermine dabord la k
ime
ligne de U, puis la k
ime
colonne de L
www.almohandiss.com
43
EMI - M. TAHA JANAN
A.5.3. Dcomposition de Cholesky
Dfinition : Matrice dfinie positive :
Une matrice A est dfinie positive lorsque pour tout vecteur x non nul de
R
n
on a x
t
.A.x > 0.
Priprit
A dfinie positive ssi Tous les mineurs diagonaux > 0.
Mthode de Cholesky :
Une matrice symtrique dfinie positive peut tre dcompose comme suit :
t
LL A =
L : matrice infrieure
L
t
: transpose de L
Nombre doprations : T
Ch
= n3/3 + n2 +8n /3-2 ~ moiti LU
Exercice : Etablir les expressions des lments de L.
www.almohandiss.com
44
EMI - M. TAHA JANAN
A.5.3. Dcomposition de Cholesky dtermination des l
ij
Pour i = 1 n

=
=
1
1
2
i
k
ki ii ii
l a l
pour j = i +1 n
|

\
|
=

=
1
1
1
i
k
ki kj ij
ii
ij
l l a
l
l
www.almohandiss.com
45
EMI - M. TAHA JANAN
Mthode itrative :
Pour rsoudre un systme Ax=b o A est une matrice (n,n) et b ,
on construit des suites
qui vrifient la relation:
n
IR
{ }
( p) n
p IN
x dans IR

(p+1) (p)
x = Mx +c
M matrice (n,n) et c tant dfinis partir de A et b.
n
IR
Dans la suite, A est suppose relle et rgulire.
B- Mthodes itratives
www.almohandiss.com
46
EMI - M. TAHA JANAN
Description des mthodes usuelles
A partir d un vecteur x
(0)
quelconque pris dans , on construit la suite de
vecteurs x
(p)
dans suivant les formules:
n
IR
n
IR
n
(p+1) ( p)
i ij i j
ii
j 1
j i
n
(p+1) ( p) ( p)
i ij i i j
ii
j 1
1
(1) i 1.....n x (b a x )
a
1
(2) i 1.....n x x (b a x )
a
=

=
= =
= = +

1. Mthode de Jacobi
a) par points
Remarque: La mthode ne peut tre mise en uvre que si
ii
a 0, pour i=1 n
www.almohandiss.com
47
EMI - M. TAHA JANAN
b) par blocs
Le systme Ax=b est crit sous la forme par blocs suivante
11 12 1j 1r
1 1
21 22 2 j 2r
2 2
i i i1 i 2 ij ir
r r
r1 r 2 rj rr
A A A A
X B
A A A A
X B
X B A A A A
X B
A A A A
| |
| | | |
|
| |
|
| |
|
| |
|
=
| |
|
| |
|
| |
|
| |
|
\ \
\
L L
L L
M M M M M M
L L
M M
M M M M
L L
Pour i=1 r ,A
ii
sont des matrices carres (m
i
,m
i
) supposes inversibles. On a
donc
i i
m m
i i
X IR et B IR .
www.almohandiss.com
48
EMI - M. TAHA JANAN
La formule par points (1) stend en une formule par blocs de la faon
suivante
r
1
ii i ij i j
j 1
j i
(3) i=1,.....,r X A (B A X )

(p) (p+1)
Si m
i
=1, pour i=1 r, les matrices A
ii
se rduisent des scalaires et la
mthode par blocs concide avec la mthode par points.
www.almohandiss.com
49
EMI - M. TAHA JANAN
2. Mthode de Gauss-Seidel
a) par points
Au lieu dattendre une itration entire comme il est fait dans la mthode de
Jacobi, on corrige au fur et mesure.
11 1 12 2 1n n 1
i1 1 ii 1 i 1 ii i ii 1 i 1 in n i
n1 1
.....
.......................
..........................
.......
a x a x a x b
a x a x a x a x
...................
. a ........
....
x b
a x .
+ +
+ + + =
+ + + + =
+
(p) (p)
(p) (p)
(p+1)
(p+1) (p+1) (p+1)
(p+1)
M
M
nn 1 n 1 nn n n
a x a x . b

+ + =

(p+1) (p+1)
On tire de lquation ni, les valeurs des autres composantes tant fixes
pour j<i et pour j>i.
i
x
(p+1)
j
x
(p+1)
j
x
(p)
www.almohandiss.com
50
EMI - M. TAHA JANAN
Comme pour Jacobi, la mthode ne peut tre mise en uvre que si
ii
a 0, pour i=1 n
On obtient alors les formules:
i 1 n
i ij ij i j j
ii
j 1 j i 1
i 1 n
i ij ij i i j j
ii
j 1 j i
1
(4) i 1.....n x (b a x a x )
a
1
(5) i 1.....n x x (b a x a x )
a

= = +

= =
= =
= = +


(p+1) (p+ ( 1)
(p+1)
p)
(p) (p) (p+1)
www.almohandiss.com
51
EMI - M. TAHA JANAN
b) par blocs
On reprend la dcomposition par blocs introduite pour la mthode de Jacobi.
La formule par points (4) stend en une formule par blocs de la faon
suivante
i 1 r
1
ii i ij ij i j j
j 1 j i 1
(6) i=1,.....,r X A (B A X ) A X )

= = +
=

(p) (p+1) (p+1)
www.almohandiss.com
52
EMI - M. TAHA JANAN
I-3 mthode S.O.R. par points
En vue dacclrer la convergence de la mthode de Gauss-Seidel, on introduit
un paramtre rel

i 1 n
i ij ij i i j j
ii
j 1 j i 1
i 1 n
i ij ij i i j j
ii
j 1 j i
(7) i 1...n x (1 )x (b a x a x )
a
(8) i 1...n x x (b a x a x )
a

= = +

= =
= = +
= = +


(p) (p)
(p) (p)
(p+1) (p+1)
(p+1) (p+1)



: pondration
Si =1 "S.O.R.=Gauss-Seidel"
www.almohandiss.com
53
EMI - M. TAHA JANAN
Remarques:
a) la mthode ne peut tre mise en uvre que si
ii
a 0, pour i=1 n
b) On peut aussi dfinir une mthode S.O.R. par blocs.
c) En pratique, doit tre pris dans . Cest une condition
ncessaire de convergence.

] [
0, 2
www.almohandiss.com
54
EMI - M. TAHA JANAN
I-4 Test d arrt
Les mthodes directes le sont au sens o elles fournissent la solution du
systme en un nombre fini doprations lmentaires.
Par contre, Jacobi,Gauss-Seidel et S.O.R. sont des mthodes itratives .
Pour dterminer quand on arrte litration, il faut introduire un test darrt
bas sur un critre permettant destimer si on est proche de la solution.
Par exemple, le plus simple est un test sur le rsidu.

(p)
Ax - b
est une norme sur et un rel positif petit choisir en fonction
du problme
n
IR
www.almohandiss.com
55
EMI - M. TAHA JANAN
A=D-E-F
D : partie diagonale de A
E : oppos de la partie infrieure de A
F : oppos de la partie supieure de A
(p 1) (p)
x x b
avec (

)
+
= +

+ =

-1
- -1 1
E D
J D
(9)
J = A F I - D
Jacobi
(p+1) (p) -1
x = x +( ) b
avec

-1
D
D
- E
(10)
= ( - ) E F
1
1
L
L

Gauss-Seidel
(p+1) (p) -1
x = x + (D- E) b
avec [(1- + ]

-1
E D D
(11)
= ( - ) F


L
L )

S.O.R
Ecritures matricielles
www.almohandiss.com
56
EMI - M. TAHA JANAN
Dfinition :
Soit A une matrice(n,n) valeurs relles ou complexes.
On dit que A est diagonale strictement dominante si

n
ii ij
j=1
j i
a > a i = 1 n
Lemme de Hadamard:
A diagonale strictement dominante A rgulire
Convergence des mthodes itratives
www.almohandiss.com
57
EMI - M. TAHA JANAN
Thorme 4 (Kahan)
La matrice ditration de S.O.R. par points ou par
blocs vrifie La mthode S.O.R. n est
donc pas convergente si .
( ) 1.

L
] [
0, 2
Thorme 3
Les mthodes de Jacobi et Gauss-Seidel par points pour
rsoudre un systme de matrice diagonale strictement
dominante sont des itrations linaires convergentes.
L
w
= (D- E)
-1
[(1- )D+ F]
www.almohandiss.com
58
EMI - M. TAHA JANAN
Exemple :
Soit rsoudre le systme suivant :

= +
= + +
= +
31 12 3
19 7 2
3 4
z y x
z y x
z y x
( )
( )
( )

+ =
=
+ =
+
+
+
12 / 3 31
7 / 2 19
4 / 3
) ( ) ( ) 1 (
) ( ) ( ) 1 (
) ( ) ( ) 1 (
p p p
p p p
p p p
y x z
z x y
z y x
Jacobi :
www.almohandiss.com
59
EMI - M. TAHA JANAN
Avec (x,y,z)
(0)
= (0,0,0,)
3 2 1 17
3 2 1 16
3 2,00000002 1,00000001 15
3,00000001 1,99999999 0,99999994 14
2,99999984 2,0000001 1,00000011 13
2,99999976 1,9999993 0,99999978 12
2,99999912 2 1,00000289 11
3,00000689 1,99999531 0,99999655 10
3,00001648 2,00003028 1,00000817 9
3,00005422 2,00002155 0,99986689 8
2,99970798 2,0002404 1,00007059 7
2,99900042 1,99871806 0,99965837 6
2,99668353 1,99805004 1,00614504 5
3,01164789 1,98706774 1,00100092 4
3,0562996 2,05229592 1,0171131 3
3,19940476 2,13095238 0,7172619 2
2,58333333 2,71428571 0,75 1
0 0 0 0
z y x itration
www.almohandiss.com
60
EMI - M. TAHA JANAN
( )
( )
( )

+ =
=
+ =
+ + +
+ +
+
12 / 3 31
7 / 2 19
4 / 3
) 1 ( ) 1 ( ) 1 (
) ( ) 1 ( ) 1 (
) ( ) ( ) 1 (
p p p
p p p
p p p
y x z
z x y
z y x
Gauss-Seidel :
3 2 1 9
3 2 1,000000002 8
2,999999996 1,999999987 1,000000014 7
3,000000067 2,000000013 0,999999236 6
3,000001438 2,000004495 0,999996226 5
2,999976086 1,999991182 1,000260518 4
2,999540691 1,998498618 1,001007564 3
3,008494544 2,004464286 0,911458333 2
3,145833333 2,5 0,75 1
0 0 0 0
z y x Itration
www.almohandiss.com