Rezolvarea

numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

Ordin de
convergenţă
Rezolvarea numerică a ecuaţiilor neliniare Falsa poziţie
De aici ı̂ncepe adevărata Analiză numerică Metoda secantei

Metoda lui Newton

Metoda
aproximaţiilor
Radu Trı̂mbiţaş succesive

Rădăcini multiple
UBB
Ecuaţii algebrice

Sisteme neliniare
26 mai 2017 Metode
quasi-Newton
Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
 Rezolvarea
Ecuaţii neliniare I numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
I Problema discutată ı̂n acest capitol se poate scrie
generic sub forma Ecuaţii neliniare

f (x ) = 0, (1) Ordin de
convergenţă

dar admite diverse interpretări, depinzând de Falsa poziţie

semnificaţia lui x şi f . Metoda secantei

Metoda lui Newton

I Cel mai simplu caz este cel al unei singure ecuaţii cu o
Metoda
singură necunoscută, caz ı̂n care f este o funcţie dată aproximaţiilor
succesive
de o variabilă reală sau complexă şi ı̂ncercăm să găsim
Rădăcini multiple
valorile acestei variabile pentru care f se anulează. Ecuaţii algebrice
Astfel de valori se numesc rădăcini ale ecuaţiei (1) sau Sisteme neliniare
zerouri ale funcţiei f . Metode
quasi-Newton
I Dacă x din (1) este un vector, să zicem Interpolare liniară

x = [x1 , x2 , . . . , xd ]T ∈ Rd şi f este de asemenea un

Metode de modificare

Interpolare inversă
vector ale cărui componente sunt funcţii de cele d Metode hibride
variabile x1 , x2 , . . . , xd , atunci (1) reprezintă un sistem Bibliografie
de ecuaţii.
 Rezolvarea
Ecuaţii neliniare II numerică a
ecuaţiilor neliniare

I Se spune că sistemul este neliniar dacă cel puţin una Radu Trı̂mbiţaş

dintre componentele lui f depinde neliniar de cel puţin Ecuaţii neliniare

una din variabilele x1 , x2 , . . . , xd . Dacă toate Ordin de
convergenţă
componentele lui f sunt funcţii liniare de x1 , . . . , xd
Falsa poziţie
avem de-a face cu un sistem de ecuaţii algebrice liniare.
Metoda secantei
I Mai general (1) ar putea reprezenta o ecuaţie Metoda lui Newton
funcţională, dacă x este un element al unui spaţiu de Metoda
aproximaţiilor
funcţii şi f este un operator (liniar sau neliniar) ce succesive
acţionează pe acest spaţiu. În fiecare din aceste situaţii Rădăcini multiple
zeroul din dreapta lui (1) poate avea diverse Ecuaţii algebrice

interpretări: numărul zero ı̂n primul caz, vectorul nul ı̂n Sisteme neliniare

al doilea şi funcţia identic nulă ı̂n cel de-al treilea. Metode
quasi-Newton
I Mare parte din acest capitol este consacrată unei ecuaţii Interpolare liniară
Metode de modificare
neliniare scalare. Astfel de ecuaţii apar frecvent ı̂n Interpolare inversă
analiza sistemelor ı̂n vibraţie, unde rădăcinile corespund Metode hibride

frecvenţelor critice (rezonanţă). Bibliografie

 Rezolvarea
Ecuaţii neliniare III numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

Ordin de
convergenţă

Falsa poziţie

Metoda secantei
I Cazul special al ecuaţiilor algebrice, unde f din (1) este Metoda lui Newton
un polinom, este de importanţă considerabilă şi merită Metoda
un tratament special. aproximaţiilor
succesive

Rădăcini multiple

Ecuaţii algebrice

Sisteme neliniare

Metode
quasi-Newton
Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
 Rezolvarea
Iteraţii, convergenţă şi eficienţă numerică a
ecuaţiilor neliniare

I Nici chiar cele mai simple ecuaţii - de exemplu cele Radu Trı̂mbiţaş

algebrice - nu admit soluţii care să fie exprimabile prin Ecuaţii neliniare
expresii raţionale sau radicali. Ordin de
convergenţă
I Din acest motiv este imposibil, ı̂n general, să calculăm
Falsa poziţie
rădăcinile ecuaţiilor neliniare printr-un număr finit de
Metoda secantei
operaţii aritmetice. Este nevoie de o metodă iterativă, Metoda lui Newton
adică de o procedură care generează o secvenţă infinită Metoda
de aproximaţii {xn }n∈N astfel ı̂ncât aproximaţiilor
succesive

Rădăcini multiple
lim xn = α, (2)
n→∞ Ecuaţii algebrice

Sisteme neliniare
unde α este o rădăcină a ecuaţiei.
Metode
I În cazul unui sistem xk şi α sunt vectori de dimensiune quasi-Newton
Interpolare liniară
adecvată, iar convergenţa trebuie ı̂nţeleasă ı̂n sensul Metode de modificare

Interpolare inversă
convergenţei pe componente.
Metode hibride
I În practică, ceea ce se doreşte este o convergenţă Bibliografie
rapidă.
 Rezolvarea
Ordinul de convergenţă I numerică a
ecuaţiilor neliniare

Conceptul de bază pentru măsurarea vitezei de convergenţă Radu Trı̂mbiţaş

este ordinul de convergenţă. Ecuaţii neliniare

Definiţia 1 Ordin de
convergenţă
Spunem că xn converge către α (cel puţin) liniar dacă Falsa poziţie

Metoda secantei
| xn − α | ≤ en (3) Metoda lui Newton

Metoda
unde {en } este un şir pozitiv ce satisface aproximaţiilor
succesive

en + 1 Rădăcini multiple
lim = c, 0 < c < 1. (4) Ecuaţii algebrice
n → ∞ en
Sisteme neliniare

Dacă (3) şi (4) au loc cu egalitate ı̂n (3) atunci c se Metode
quasi-Newton
numeşte eroare asimptotică. Interpolare liniară
Metode de modificare

Interpolare inversă
I Expresia ,,cel puţin“ ı̂n această definiţie se leagă de
Metode hibride
faptul că avem doar inegalitate ı̂n (3), ceea ce dorim ı̂n
Bibliografie
practică.
 Rezolvarea
Ordinul de convergenţă II numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
I De fapt, strict vorbind, marginea en converge liniar,
ı̂nsemnând că, ı̂n final (pentru n suficient de mare) Ecuaţii neliniare

Ordin de
fiecare din aceste margini ale erorii este aproximativ o convergenţă
fracţie constantă din precedenta. Falsa poziţie

Metoda secantei
Definiţia 2 Metoda lui Newton

Se spune că xn converge către α (cel puţin) cu ordinul p ≥ 1 Metoda

aproximaţiilor
dacă (3) are loc cu succesive

Rădăcini multiple
en+1
lim p = c, c>0 (5) Ecuaţii algebrice
n→∞ en Sisteme neliniare

Metode
quasi-Newton
Interpolare liniară
I Astfel convergenţa de ordinul 1 coincide cu convergenţa Metode de modificare

liniară, ı̂n timp ce convergenţa de ordinul p > 1 este Interpolare inversă

mai rapidă. Metode hibride

Bibliografie
 Rezolvarea
Ordinul de convergenţă III numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
I De notat că ı̂n acest ultim caz nu se pune nici o
restricţie asupra constantei c: odată ce en este suficient Ecuaţii neliniare

de mic, exponentul p va avea grijă de convergenţă. Şi Ordin de

convergenţă
ı̂n acest caz, dacă avem egalitate ı̂n (3), c se numeşte Falsa poziţie
eroare asimptotică. Metoda secantei

I Aceleaşi definiţii se aplică şi şirurilor vectoriale, cu Metoda lui Newton

modulul ı̂nlocuit cu orice normă vectorială. Metoda

aproximaţiilor
succesive
I Clasificarea convergenţei ı̂n raport cu ordinul este destul
Rădăcini multiple
de rudimentară, deoarece sunt tipuri de convergenţă la
Ecuaţii algebrice
care definiţiile (1) şi (2) nu se aplică. Astfel, un şir {en } Sisteme neliniare
poate converge către zero mai ı̂ncet decât liniar, de Metode
exemplu dacă c = 1 ı̂n (4). Acest tip de convergenţă se quasi-Newton
Interpolare liniară
numeşte subliniară. La fel, c = 0 ı̂n (4) conduce la Metode de modificare

Interpolare inversă
convergenţă superliniară, dacă (5) nu are loc pentru nici
Metode hibride
un p > 1.
Bibliografie
 Rezolvarea
Ordinul de convergenţă IV numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
I Este instructiv să examinăm comportarea lui en , dacă ı̂n
Ecuaţii neliniare
loc de relaţia la limită avem egalitate pentru un anumit
Ordin de
n, să zicem convergenţă

Falsa poziţie
en + 1
= c, n = n0 , n0 + 1, n0 + 2, . . . (6) Metoda secantei
enp Metoda lui Newton

Metoda
I Pentru n0 suficient de mare, relaţia (6) este aproape aproximaţiilor
succesive
adevărată. Printr-o simplă inducţie se obţine că
Rădăcini multiple

p k −1 k Ecuaţii algebrice
en0 +k = c p −1 enp0 , k = 0, 1, 2, . . . , (7) Sisteme neliniare

Metode
care desigur are loc pentru p > 1, dar şi pentru p = 1 quasi-Newton
Interpolare liniară
când p ↓ 1: Metode de modificare

Interpolare inversă
k
en0 +k = c en0 , k = 0, 1, 2, . . . , (p = 1) (8) Metode hibride

Bibliografie
 Rezolvarea
Ordinul de convergenţă V numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
I Presupunând că en0 este suficient de mare astfel ı̂ncât
Ecuaţii neliniare
aproximarea xn0 are un număr de zecimale corecte,
scriem en0 +k = 10−δk en0 . Ordin de
convergenţă

I Atunci δk , ı̂n conformitate cu (3) reprezintă numărul Falsa poziţie

suplimentar de cifre zecimale corecte din aproximaţia Metoda secantei

Metoda lui Newton

xn0 +k (ı̂n contrast cu xn0 ). Logaritmând (7) şi (8)
Metoda
obţinem aproximaţiilor
succesive
1
(
h c , −k
k log i dacă p = 1
Rădăcini multiple

δk =
p k 1− p 1
p −1 log c + (1 − p
−k ) log 1 , dacă p > 1 Ecuaţii algebrice
en 0 Sisteme neliniare

Metode
quasi-Newton

Deci când k → ∞
Interpolare liniară
I Metode de modificare

Interpolare inversă

δk ∼ c1 k (p = 1), δk ∼ cp p k (p > 1), (9) Metode hibride

Bibliografie
 Rezolvarea
Ordinul de convergenţă VI numerică a
ecuaţiilor neliniare
unde c1 = log c1 > 0, dacă p = 1 şi
Radu Trı̂mbiţaş

1 1 1 Ecuaţii neliniare
cp = log + log
p−1 c en0 Ordin de
convergenţă

(presupunem că n0 este suficient de mare şi deci en0 Falsa poziţie

Metoda secantei
suficient de mic, pentru a avea cp > 0).
Metoda lui Newton
I Aceasta ne arată că numărul de cifre zecimale corecte Metoda
creşte liniar odată cu k când p = 1, dar exponenţial aproximaţiilor
succesive
când p > 1. În ultimul caz δk +1 /δk ∼ p ı̂nseamnă că Rădăcini multiple
(pentru k mare) numărul de cifre zecimale corecte Ecuaţii algebrice
creşte, pe iteraţie, cu un factor p. Sisteme neliniare

I Dacă fiecare iteraţie necesită m unităţi de lucru (o Metode

quasi-Newton
,,unitate de lucru” este efortul necesar pentru a calcula Interpolare liniară
Metode de modificare
o valoare a funcţiei sau a unei anumite derivate a sa), Interpolare inversă
atunci indicele de eficienţă al iteraţiei poate fi definit Metode hibride
prin Bibliografie
lim [δk +1 /δk ]1/m = p 1/m .
k →∞
 Rezolvarea
Ordinul de convergenţă VII numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

Ordin de
convergenţă

Falsa poziţie

Metoda secantei
I Aceasta ne dă o bază comună de comparare ı̂ntre Metoda lui Newton
diversele metode iterative. Metodele liniare au indicele Metoda
de eficienţă 1. aproximaţiilor
succesive

Rădăcini multiple

Ecuaţii algebrice

Sisteme neliniare

Metode
quasi-Newton
Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
 Rezolvarea
Criteriul de oprire I numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
I Calculele practice necesită o regulă de oprire care să
Ecuaţii neliniare
termine iteraţia atunci când s-a obţinut (sau se crede că
Ordin de
s-a obţinut) precizia dorită. convergenţă

I Ideal, ne oprim atunci când kxn − αk < tol, tol dat. Falsa poziţie

Metoda secantei
I Deoarece α nu este cunoscut se obişnuieşte să se Metoda lui Newton
ı̂nlocuiască xn − α cu xn − xn−1 şi se impune cerinţa ca Metoda
aproximaţiilor
succesive
kxn − xn−1 k ≤ tol (10)
Rădăcini multiple

Ecuaţii algebrice
unde
Sisteme neliniare
tol = kxn kε r + ε a (11) Metode
quasi-Newton
cu ε r , ε a valori date ale erorii. Interpolare liniară
Metode de modificare
I Ca o măsură de siguranţă, am putea cere ca (10) să Interpolare inversă

aibă loc pentru mai multe valori consecutive ale lui n, Metode hibride

nu doar pentru una singură. Bibliografie

 Rezolvarea
Criteriul de oprire II numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

Ordin de
I Alegând ε r = 0 sau ε a = 0 se obţine un test de eroare convergenţă

absolută sau relativă. Este totuşi prudent să utilizăm un Falsa poziţie

test mixt, cum ar fi, să zicem ε r = ε a = ε. Atunci, dacă Metoda secantei

kxn k este mic sau moderat de mare, se controlează Metoda lui Newton

efectiv eroarea absolută, ı̂n timp ce pentru kxn k foarte Metoda

aproximaţiilor
mare se controlează eroarea relativă. succesive

Rădăcini multiple
I Testele de mai sus se pot combina cu ||f (x )|| ≤ ε. În Ecuaţii algebrice
algoritmii din acest capitol vom presupune că avem o Sisteme neliniare
funcţie crit oprire care implementează testul de oprire. Metode
quasi-Newton
Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
 Rezolvarea
Metoda falsei poziţii numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
I Ca ı̂n metoda ı̂njumătăţirii, presupunem că avem două
numere a < b astfel ı̂ncât Ecuaţii neliniare

Ordin de
convergenţă
f ∈ C [a, b ], f (a )f (b ) < 0 (12)
Falsa poziţie

Metoda secantei
şi generăm un şir descendent de intervale [an , bn ],
Metoda lui Newton
n = 1, 2, 3, . . . cu a1 = a, b1 = b astfel ı̂ncât
Metoda
f (an )f (bn ) < 0. aproximaţiilor
succesive
I Spre deosebire de metoda ı̂njumătăţirii, pentru a Rădăcini multiple
determina următorul interval nu luăm mijlocul lui Ecuaţii algebrice
[an , bn ], ci soluţia x = xn a ecuaţiei liniare Sisteme neliniare

Metode
(L1 f )(x; an , bn ) = 0. quasi-Newton
Interpolare liniară
Metode de modificare

I Aceasta pare să fie o alegere mai flexibilă decât ı̂n Interpolare inversă

metoda ı̂njumătăţirii deoarece xn va fi mai apropiat de Metode hibride

capătul ı̂n care |f | este mai mic (Vezi figura 1) Bibliografie

 Rezolvarea
Metoda falsei poziţii - algoritmul numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare
Procedura decurge după cum urmează: Ordin de
convergenţă
for n := 1, 2, . . . do Falsa poziţie
an − bn
xn := an − f ( an ) ; Metoda secantei
f (an ) − f (bn ) Metoda lui Newton
if f (an )f (xn ) > 0 then Metoda
an+1 := xn ; bn+1 := bn ; aproximaţiilor
succesive
else Rădăcini multiple
an+1 := an ; bn+1 := xn ; Ecuaţii algebrice
end if Sisteme neliniare

end for Metode

quasi-Newton
Iteraţia se poate termina când min(xn − an , bn − xn ) ≤ tol, Interpolare liniară
Metode de modificare
unde tol este o valoare dată. Interpolare inversă

Metode hibride

Bibliografie
 Rezolvarea
Metoda falsei poziţii - convergenţa I numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
I Convergenţa se analizează mai uşor dacă presupunem
că f este convexă sau concavă pe [a, b ]. Dacă f este Ecuaţii neliniare

convexă, avem Ordin de

convergenţă

f 00 (x ) > 0,
Falsa poziţie
x ∈ [a, b ], f (a) < 0, f (b ) > 0. (13)
Metoda secantei

Metoda lui Newton

I Şirul
Metoda
aproximaţiilor
xn − b succesive
xn+1 = xn − f (xn ), n ∈ N∗ , x1 = a
f ( xn ) − f ( b ) Rădăcini multiple

(14) Ecuaţii algebrice

este monoton crescător şi mărginit superior de α, deci Sisteme neliniare

Metode
convergent către o limită x, iar f (x ) = 0. quasi-Newton
Interpolare liniară
I Viteza de convergenţă se determină scăzând α din ambii Metode de modificare

membri ai lui (14) şi utilizând faptul că f (α) = 0: Interpolare inversă

Metode hibride
xn − b Bibliografie
xn+1 − α = xn − α − [f (xn ) − f (α)].
f (xn ) − f (b )
 Rezolvarea
Metoda falsei poziţii - convergenţa II numerică a
ecuaţiilor neliniare

I Împărţind cu xn − α avem Radu Trı̂mbiţaş

Ecuaţii neliniare
xn+1 − α xn − b f (xn ) − f (α)
= 1− . Ordin de
xn − α f ( xn ) − f ( b ) xn − α convergenţă

Falsa poziţie
I Făcând n → ∞ şi utilizând faptul că xn → α, obţinem Metoda secantei

Metoda lui Newton

xn+1 − α f 0 (α)
lim = 1 − (b − α ) . (15) Metoda
n→∞ xn − α f (b ) aproximaţiilor
succesive

Rădăcini multiple
I Deci metoda converge liniar, cu eroarea asimptotică
Ecuaţii algebrice

f 0 (α) Sisteme neliniare

c = 1 − (b − a ) . Metode
f (b ) quasi-Newton
Interpolare liniară
Metode de modificare
I Datorită ipotezei convexităţii avem c ∈ (0, 1). Interpolare inversă

I Analog se face demonstraţia ı̂n cazul când f este Metode hibride

concavă. Bibliografie
 Rezolvarea
Metoda falsei poziţii - convergenţa III numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

Ordin de
I Dacă f nu este convexă sau concavă pe [a, b ], ci convergenţă

f ∈ C 2 [a, b ] şi f 00 (α) 6= 0, f 00 are semn constant pe o Falsa poziţie

vecinătate a lui α şi pentru un n suficient de mare xn Metoda secantei

ajunge ı̂n acea vecinătate şi se poate proceda ca mai Metoda lui Newton

sus. Metoda
aproximaţiilor
succesive
I Dezavantaje. (i) Convergenţa lentă; (ii) Faptul că unul
Rădăcini multiple
din capete poate rămâne fix. Dacă f este turtită ı̂n Ecuaţii algebrice
vecinătatea rădăcinii şi a este apropiat de α şi b Sisteme neliniare
depărtat convergenţa poate fi foarte lentă. Metode
quasi-Newton
Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
 Rezolvarea
numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

Ordin de
convergenţă

Falsa poziţie

Metoda secantei

Metoda lui Newton

Metoda
aproximaţiilor
succesive

Rădăcini multiple

Ecuaţii algebrice

Sisteme neliniare

Metode
quasi-Newton
Figura: Metoda falsei poziţii Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
 Rezolvarea
Metoda secantei I numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

I Este o variantă a metodei falsei poziţii, ı̂n care nu se Ecuaţii neliniare

mai cere ca f să aibă valori de semne contrare, nici Ordin de
convergenţă
măcar la capetele intervalului iniţial.
Falsa poziţie
I Se aleg două valori arbitrare de pornire x0 , x1 şi se Metoda secantei
continuă cu Metoda lui Newton

xn − xn − 1 Metoda
xn+1 = xn − f ( xn ) , n ∈ N∗ (16) aproximaţiilor
succesive
f (xn ) − f (xn−1 )
Rădăcini multiple

I Aceasta preı̂ntâmpină apariţia unei false poziţii şi Ecuaţii algebrice

sugerează o convergenţă mai rapidă. Sisteme neliniare

Metode
I Din păcate, nu mai are loc convergenţa ,,globală“ pe quasi-Newton
Interpolare liniară
[a, b ] ci doar convergenţa ,,locală“, adică numai dacă x0 Metode de modificare

şi x1 sunt suficient de apropiate de rădăcină. Interpolare inversă

Metode hibride
I Vom avea nevoie de o relaţie ı̂ntre trei erori consecutive
Bibliografie
 Rezolvarea
Metoda secantei II numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

Ordin de
f ( xn ) convergenţă
xn+1 − α = xn − α −
f [xn−1 , xn ] Falsa poziţie

Metoda secantei
f (xn ) − f (α)
 
= ( xn − α ) 1 − Metoda lui Newton
(xn − α)f [xn−1 , xn ] Metoda
 
f [ xn , α ] aproximaţiilor
= ( xn − α ) 1 − succesive
f [xn−1 , xn ] Rădăcini multiple

f [xn−1 , xn ] − f [xn , α] Ecuaţii algebrice

= ( xn − α ) Sisteme neliniare
f [xn−1 , xn ]
Metode
f [xn , xn−1 , α] quasi-Newton
= (xn − α)(xn−1 − α) . Interpolare liniară
f [xn−1 , xn ] Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
 Rezolvarea
Metoda secantei III numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

Ordin de
convergenţă
I Deci
Falsa poziţie

f [xn , xn−1 , α] Metoda secantei

(xn+1 − α) = (xn − α)(xn−1 − α) , n ∈ N∗ Metoda lui Newton
f [xn−1 , xn ]
Metoda
(17) aproximaţiilor
succesive
I Din (17) rezultă imediat că dacă α este o rădăcină Rădăcini multiple
simplă (f (α) = 0, f 0 (α) 6= 0) şi xn → α şi dacă f ∈ C 2 Ecuaţii algebrice
pe o vecinătate a lui α, convergenţa este superliniară. Sisteme neliniare

Metode
quasi-Newton
Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
 Rezolvarea
Ordinul de convergenţă I numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

I Înlocuim raportul diferenţelor divizate din (17) cu o Ecuaţii neliniare

Ordin de
constantă, ceea ce este aproape adevărat când n este convergenţă
mare. Punând ek = |xk − α|, avem Falsa poziţie

Metoda secantei
en+1 = en en−1 C , C >0 Metoda lui Newton

Metoda
I Înmulţind ambii membri cu C şi punând En = Cen aproximaţiilor
succesive
obţinem Rădăcini multiple
En+1 = En En−1 , En → 0. Ecuaţii algebrice

1 Sisteme neliniare
I Logaritmând şi punând yn = En obţinem
Metode
quasi-Newton
yn+1 = yn + yn−1 , (18) Interpolare liniară
Metode de modificare

Interpolare inversă
care este recurenţa pentru şirul lui Fibonacci. Metode hibride

Bibliografie
 Rezolvarea
Ordinul de convergenţă II numerică a
ecuaţiilor neliniare
I Soluţia este Radu Trı̂mbiţaş

yn = c1 t1n + c2 t2n ,
Ecuaţii neliniare

c1 , c2 constante şi Ordin de

convergenţă

1 √ 1 √ Falsa poziţie
t1 = (1 + 5), t2 = (1 − 5). Metoda secantei
2 2
Metoda lui Newton

I Deoarece yn → ∞, avem c1 6= 0 şi yn ∼ c1 t1n , căci Metoda

n aproximaţiilor
|t2 | < 1. Revenind la substituţie E1n ∼ e c1 t1 , succesive
1 c1 t1n şi deci
en ∼ Ce
Rădăcini multiple

Ecuaţii algebrice
n
en + 1 C t1 e c1 t1 t1t1 −1
Sisteme neliniare

∼ n +1 = C , n → ∞. Metode
ent1 Ce c1 t1 quasi-Newton
Interpolare liniară
Metode de modificare
I Ordinul de√convergenţă este Interpolare inversă
1+ 5
t1 = ≈ 1.61803 . . . (secţiunea de aur). Metode hibride
2 Bibliografie
 Rezolvarea
Convergenţa metodei secantei I numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Teorema 3 Ecuaţii neliniare

Ordin de
Fie α un zero simplu al lui f şi fie convergenţă
Iε = {x ∈ R : |x − α| < ε} şi presupunem că f ∈ C 2 [Iε ]. Falsa poziţie
Definim pentru ε suficient de mic Metoda secantei

 00  Metoda lui Newton

 f (s ) 
M (ε) = max  0  .
 (19) Metoda
aproximaţiilor
s ∈Iε
t ∈I
2f (t ) succesive
ε
Rădăcini multiple
Presupunem că Ecuaţii algebrice
εM (ε) < 1 (20) Sisteme neliniare

Metode
Atunci metoda secantei converge către rădăcina unică α ∈ Iε quasi-Newton

pentru orice valoare de pornire x0 6= x1 cu x0 ∈ Iε , x1 ∈ Iε . Interpolare liniară

Metode de modificare

Interpolare inversă
Observaţia 4 Metode hibride

Bibliografie
 Rezolvarea
Convergenţa metodei secantei II numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

Ordin de
convergenţă

Falsa poziţie
 00  Metoda secantei
 f (α) 
Se observă că lim M (ε) =  2f 0 (α)  < ∞, deci (20) poate fi Metoda lui Newton
ε →0
satisfăcută pentru ε suficient de mic. Natura locală a Metoda
aproximaţiilor
convergenţei este cuantificată prin cerinţa ca x0 , x1 ∈ Iε . succesive

Rădăcini multiple

Ecuaţii algebrice

Sisteme neliniare

Metode
quasi-Newton
Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
 Rezolvarea
Demonstraţie - pasul I numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
Se observă că α este singurul zero al lui f ı̂n Iε . Aceasta
rezultă din formula lui Taylor pentru x = α: Ecuaţii neliniare

Ordin de
(x − α)2 00 convergenţă
f (x ) = f ( α ) + (x − α )f 0 ( α ) + f (ξ ) Falsa poziţie
2
Metoda secantei

unde f (α) = 0 şi ξ ∈ (x, α) (sau (α, x )). Astfel dacă x ∈ Iε , Metoda lui Newton

atunci şi ξ ∈ Iε şi avem Metoda

aproximaţiilor
succesive
x − α f 00 (ξ )
 
0 Rădăcini multiple
f (x ) = (x − α )f ( α ) 1 +
2 f 0 (α) Ecuaţii algebrice

Sisteme neliniare
Aici, dacă x 6= α, toţi trei factorii sunt diferiţi de 0, căci Metode
quasi-Newton

 x − α f 00 (ξ )  Interpolare liniară
 
Metode de modificare

 2 f 0 (α)  ≤ εM (ε) < 1.

 
Interpolare inversă

Metode hibride

Deci f se poate anula pe Iε numai ı̂n x = α. Bibliografie

 Rezolvarea
Demonstraţie - pasul II numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Să arătăm că xn ∈ Iε pentru orice n, ı̂n afară de cazul când Ecuaţii neliniare
f (xn ) = 0, ı̂n care xn = α şi metoda converge ı̂ntr-un număr Ordin de
finit de paşi. Vom demonstra aceasta prin inducţie: convergenţă

presupunem că xn−1 , xn ∈ Iε şi xn 6= xn−1 . Acest lucru este Falsa poziţie

Metoda secantei
adevărat pentru n = 1 din ipoteză.
Deoarece f ∈ C 2 [Iε ] Metoda lui Newton

Metoda
aproximaţiilor
1 succesive
f [xn−1 , xn ] = f 0 (ξ 1 ), f [xn−1 , xn , α] = f 00 (ξ 2 ), ξ i ∈ Iε , i = 1, 2, Rădăcini multiple
2
Ecuaţii algebrice
din (17) rezultă Sisteme neliniare

 00  Metode
2  f (ξ n ) 
  quasi-Newton
|xn+1 − α| ≤ ε  0 ≤ εεM (ε) < ε, Interpolare liniară
2f (ξ 1 )  Metode de modificare

Interpolare inversă

adică xn+1 ∈ Iε . Metode hibride

Bibliografie
 Rezolvarea
Demonstraţie - pasul III numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

Convergenţa. Mai mult, din relaţia ı̂ntre trei erori Ordin de

convergenţă
consecutive, (17), rezultă xn+1 6= xn ı̂n afară de cazul când Falsa poziţie
f (xn ) = 0 (şi atunci xn = α). Utilizând (17) avem Metoda secantei

Metoda lui Newton

|xn+1 − α| ≤ |xn − α|εM (ε) Metoda
aproximaţiilor
succesive
care aplicată repetat ne dă
Rădăcini multiple

|xn+1 − α| ≤ |xn − α|εM (ε) ≤ · · · ≤ [εM (ε)]n−1 |x1 − α|. Ecuaţii algebrice

Sisteme neliniare

Metode
Cum εM (ε) < 1, rezultă că metoda este convergentă şi quasi-Newton
xn → α când n → ∞. Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
 Rezolvarea
Algoritmul numerică a
ecuaţiilor neliniare
Deoarece este nevoie de o singură √ evaluare a lui f pe pas, Radu Trı̂mbiţaş
indicele de eficienţă este p = 1+2 5 ≈ 1.61803 . . . .
Ecuaţii neliniare

Ordin de
convergenţă

Falsa poziţie

Metoda secantei

Metoda lui Newton

Metoda
aproximaţiilor
succesive

Rădăcini multiple

Ecuaţii algebrice

Sisteme neliniare

Metode
quasi-Newton
Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
Figura: Ilustrarea metodei secantei
 Rezolvarea
Algoritmul ı̂n pseudocod numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare
Intrare: Funcţia f , valorile de pornire x0 şi x1 , numarul
Ordin de
maxim de iteraţii, Nmax, informaţii de toleranţă tol convergenţă
Ieşire: O aproximaţie a rădăcinii sau un mesaj de eroare Falsa poziţie

1: xc : = x1 ; xv = x0 ; Metoda secantei

2: fc : = f (x1 ); fv := f (x0 ); Metoda lui Newton

3: for k : = 1 to Nmax do Metoda

aproximaţiilor
4: xn := xc − fc ∗ (xc − xv )/(fc − fv ); succesive

5: if crit oprire (tol ) then Rădăcini multiple

6: return xn;{Succes} Ecuaţii algebrice

Sisteme neliniare
7: end if
Metode
8: xv := xc; fv := fc; xc := xn; fc = f (xn ); quasi-Newton
9: end for Interpolare liniară
Metode de modificare

10: error (”S-a depăşit numărul de iteraţii”). Interpolare inversă

Metode hibride

Bibliografie
 Rezolvarea
Metoda lui Newton I numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
I Poate fi privită ca un caz la limită al metodei secantei,
Ecuaţii neliniare
când xn−1 → xn :
Ordin de
convergenţă
f ( xn )
xn+1 = xn − (21) Falsa poziţie
f 0 (xn ) Metoda secantei

Metoda lui Newton

I Altă interpretare: liniarizarea ecuaţiei f (x ) = 0 ı̂n Metoda
x = xn (vezi figura 3) aproximaţiilor
succesive

Rădăcini multiple
f (x ) ≈ (T1 f )(x ) = f (xn ) + (x − xn )f 0 (xn ) = 0. Ecuaţii algebrice

Sisteme neliniare
I Astfel, metoda lui Newton se poate generaliza la ecuaţii Metode
neliniare de toate tipurile (sisteme neliniare, ecuaţii quasi-Newton
Interpolare liniară
funcţionale, caz ı̂n care f 0 trebuie ı̂nţeleasă ca derivată Metode de modificare

Interpolare inversă
Fréchet), iar iteraţia este
Metode hibride
0 −1
xn+1 = xn − [f (xn )] f ( xn ) . (22) Bibliografie
 Rezolvarea
Metoda lui Newton II numerică a
ecuaţiilor neliniare
I Studiul erorii ı̂n metoda lui Newton este la fel ca cel al
Radu Trı̂mbiţaş
erorii ı̂n metoda secantei
Ecuaţii neliniare
f ( xn )
xn+1 − α = xn − α − 0 Ordin de
f (xn ) convergenţă

f ( xn ) − f ( α )
  Falsa poziţie
= ( xn − α ) 1 − Metoda secantei
(xn − α)f 0 (xn )
  (23) Metoda lui Newton
f [xn , α]
= ( xn − α ) 1 − Metoda
aproximaţiilor
f [xn , xn ] succesive

f [ xn n , α]
, x Rădăcini multiple
= ( xn − α ) 2
f [xn , xn ] Ecuaţii algebrice

Sisteme neliniare
I De aceea, dacă xn → α, atunci Metode
quasi-Newton
xn + 1 − α f 00 (α) Interpolare liniară

lim = 0 Metode de modificare

n→∞ (xn − α )2 2f (α) Interpolare inversă

Metode hibride
şi ordinul de convergenţă al metodei lui Newton este 2 Bibliografie
dacă f 00 (α) 6= 0.
 Rezolvarea
Interpretarea geometrică a metodei lui Newton numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

Ordin de
convergenţă

Falsa poziţie

Metoda secantei

Metoda lui Newton

Metoda
aproximaţiilor
succesive

Rădăcini multiple

Ecuaţii algebrice

Sisteme neliniare

Metode
quasi-Newton
Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride
Figura: Metoda lui Newton Bibliografie
 Rezolvarea
Convergenţa numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Referitor la convergenţa locală a metodei lui Newton avem Ecuaţii neliniare

Teorema 5 Ordin de
convergenţă
Fie α o rădăcină simplă a ecuaţiei f (x ) = 0 şi Falsa poziţie
Iε = {x ∈ R : |x − α| ≤ ε}. Presupunem că f ∈ C 2 [Iε ]. Metoda secantei
Definim  00  Metoda lui Newton
 f (s ) 
M (ε) = max  0  (24) Metoda
s ∈Iε
t ∈I
2f (t ) aproximaţiilor
succesive
ε
Rădăcini multiple
Dacă ε este suficient de mic astfel ı̂ncât
Ecuaţii algebrice

2εM (ε) < 1, (25) Sisteme neliniare

Metode
quasi-Newton
atunci pentru orice x0 ∈ Iε , metoda lui Newton este bine Interpolare liniară
Metode de modificare
definită şi converge pătratic către singura rădăcină α ∈ Iε . Interpolare inversă

Demonstraţia: ca la secantă. Metode hibride

Bibliografie
 Rezolvarea
Criteriul de oprire I numerică a
ecuaţiilor neliniare

Criteriul de oprire pentru metoda lui Newton Radu Trı̂mbiţaş

Ecuaţii neliniare
|xn − xn−1 | < ε
Ordin de
convergenţă
se bazează pe următoarea propoziţie: Falsa poziţie

Metoda secantei
Propoziţia 6
Metoda lui Newton
Fie (xn ) şirul de aproximante generat prin metoda lui Metoda
Newton. Dacă α este o rădăcină simplă din [a, b ], aproximaţiilor
succesive
f ∈ C 2 [a, b ] şi metoda este convergentă, atunci există un Rădăcini multiple
n0 ∈ N astfel ı̂ncât Ecuaţii algebrice

Sisteme neliniare
|xn − α| ≤ |xn − xn−1 |, n > n0 . Metode
quasi-Newton
Interpolare liniară
Metode de modificare
Demonstraţie. Vom arăta ı̂ntâi că
Interpolare inversă

1 Metode hibride
|xn − α| ≤ |f (xn )|, m1 ≤ inf |f 0 (x )|. (26) Bibliografie
m1 x ∈[a,b ]
 Rezolvarea
Criteriul de oprire II numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
Utilizând teorema lui Lagrange,
f (α) − f (xn ) = f 0 (ξ )(α − xn ), cu ξ ∈ (α, xn ) (sau (xn , α)). Ecuaţii neliniare

Din relaţiile f (α) = 0 şi |f 0 (x )| ≥ m1 pentru x ∈ (a, b )

Ordin de
convergenţă

rezultă că |f (xn )| ≥ m1 |α − xn |, adică chiar (26). Falsa poziţie

Pe baza formulei lui Taylor avem Metoda secantei

Metoda lui Newton

1
f (xn ) = f (xn−1 ) + (xn − xn−1 )f (xn−1 ) + (xn − xn−1 )2 f 00 (µ),
0 Metoda
aproximaţiilor
2 succesive
(27)
Rădăcini multiple
cu µ ∈ (xn−1 , xn ) sau µ ∈ (xn , xn−1 ). Ecuaţii algebrice
Ţinând cont de modul de obţinere a unei aproximaţii de Sisteme neliniare
metoda lui Newton, avem Metode
f (xn−1 ) + (xn − xn−1 )f 0 (xn−1 ) = 0 şi din (27) se obţine quasi-Newton
Interpolare liniară
Metode de modificare

1 1 Interpolare inversă
|f (xn )| = (xn − xn−1 )2 |f 00 (µ)| ≤ (xn − xn−1 )2 kf 00 k∞ ,
2 2 Metode hibride

Bibliografie
 Rezolvarea
Criteriul de oprire III numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

iar pe baza formulei (26) rezultă că Ecuaţii neliniare

Ordin de
kf 00 k∞ convergenţă
|α − xn | ≤ (xn − xn−1 )2 . Falsa poziţie
2m1
Metoda secantei

Cum am presupus că metoda este convergentă, există un n0 Metoda lui Newton

Metoda
natural cu proprietatea că aproximaţiilor
succesive

kf 00 k∞ Rădăcini multiple
(xn − xn−1 ) < 1, n > n0
2m1 Ecuaţii algebrice

Sisteme neliniare

şi deci Metode

quasi-Newton
|xn − α| ≤ |xn − xn−1 |, n > n0 . Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
 Rezolvarea
Alegerea valorii de pornire numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

I Alegerea valorii de pornire este, ı̂n general, o problemă Ecuaţii neliniare

dificilă. Ordin de
convergenţă
I În practică, se alege o valoare, iar dacă după un număr
Falsa poziţie
maxim fixat de iteraţii nu s-a obţinut precizia dorită,
Metoda secantei
testată prin unul din criteriile uzuale, se ı̂ncearcă cu altă Metoda lui Newton
valoare de pornire. Metoda
aproximaţiilor
I Criterii succesive

Rădăcini multiple
Criteriul 1 dacă rădăcina este izolată ı̂ntr-un interval
[a, b ] şi f 00 (x ) 6= 0, x ∈ (a, b ), un criteriu Ecuaţii algebrice

Sisteme neliniare
de alegere este f (x0 )f 00 (x0 ) > 0.
Metode
Criteriul 2 dacă f este convexă sau concavă pe [a, b ], quasi-Newton
Interpolare liniară
f (a)f (b ) < 0 şi tangentele ı̂n capete Metode de modificare

intersectează Ox ı̂n (a,b), orice valoare x0 Interpolare inversă

se poate alege ca valoare de pornire. Metode hibride

Bibliografie
 Rezolvarea
Algoritmul ı̂n pseudocod numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

Intrare: Funcţia f , derivataf 0, valoarea de pornire x0 , Ordin de

convergenţă
numarul maxim de iteraţii, Nmax, informaţii de Falsa poziţie
toleranţă tol Metoda secantei
Ieşire: O aproximaţie a rădăcinii sau un mesaj de eroare Metoda lui Newton
1: for k : = 0 to Nmax do Metoda
f (x ) aproximaţiilor
2: xk +1 := xk − f 0 (xk ) ; succesive
k
3: if crit oprire (tol ) then Rădăcini multiple

4: return xk +1 ;{Succes} Ecuaţii algebrice

5: end if Sisteme neliniare

Metode
6: end for quasi-Newton
7: error (”S-a depăşit numărul de iteraţii”). Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
 Rezolvarea
Metoda aproximaţiilor succesive I numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare
I Adesea, ı̂n aplicaţii, ecuaţiile neliniare apar sub forma Ordin de
convergenţă
unei probleme de punct fix: să se determine x astfel
Falsa poziţie
ı̂ncât
Metoda secantei
x = ϕ (x ). (28) Metoda lui Newton

Metoda
I Un număr α ce satisface această ecuaţie se numeşte aproximaţiilor
punct fix al lui ϕ. succesive

Rădăcini multiple
I Orice ecuaţie f (x ) = 0 se poate scrie (ı̂n multe moduri Ecuaţii algebrice
diferite) ı̂n forma echivalentă (28). De exemplu, dacă Sisteme neliniare
f 0 (x ) 6= 0, ı̂n intervalul de interes putem lua Metode
quasi-Newton
Interpolare liniară
f (x ) Metode de modificare
ϕ (x ) = x − . (29)
f 0 (x ) Interpolare inversă

Metode hibride

Bibliografie
 Rezolvarea
Metoda aproximaţiilor succesive II numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
I Dacă x0 este o aproximaţie iniţială a unui punct fix α a
Ecuaţii neliniare
lui (28) atunci metoda aproximaţiilor succesive
Ordin de
generează un şir de aproximaţii convergenţă

Falsa poziţie
xn+1 = ϕ(xn ). (30) Metoda secantei

Metoda lui Newton

I Dacă acest şir converge şi ϕ este continuă, atunci şirul Metoda
aproximaţiilor
converge către un punct fix a lui ϕ. succesive

I De notat că (30) este chiar metoda lui Newton dacă ϕ Rădăcini multiple

este dată de (29). Astfel metoda lui Newton poate fi Ecuaţii algebrice

Sisteme neliniare
privită ca o iteraţie de tip punct fix, dar nu şi metoda
Metode
secantei. quasi-Newton
Interpolare liniară
I Pentru o iteraţie de forma (30), presupunând că xn → α Metode de modificare

când n → ∞, ordinul de convergenţă este uşor de Interpolare inversă

determinat. Metode hibride

Bibliografie
 Rezolvarea
Metoda aproximaţiilor succesive III numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
I Să presupunem că ı̂n punctul fix α avem
Ecuaţii neliniare
0 00 (p −1) p
ϕ (α) = ϕ (α) = · · · = ϕ ϕ (α) 6= 0
(α) = 0, Ordin de
convergenţă
(31) Falsa poziţie
I Presupunem că ϕ ∈ C p pe o vecinătate V a lui α. Metoda secantei
Avem atunci, conform teoremei lui Taylor
Metoda lui Newton

( xn − α )p −1 Metoda
ϕ(xn ) = ϕ(α)+(xn − α) ϕ0 (α)+ . . . + ϕ (p −1) ( α ) aproximaţiilor
(p − 1) ! succesive

( xn − α ) p ( p )
+ ϕ (ξ n ) = ϕ(α) +
p!
Rădăcini multiple
( xn − α ) p ( p )
ϕ ( ξ n ), Ecuaţii algebrice
p!
Sisteme neliniare

unde ξ n ∈ (α, xn ) (sau (xn , α)). Metode

quasi-Newton
I Deoarece ϕ(xn ) = xn+1 şi ϕ(α) = α obţinem Interpolare liniară
Metode de modificare

xn + 1 − α 1 Interpolare inversă
= ϕ (p ) ( ξ n ) .
( xn − α ) p p! Metode hibride

Bibliografie
 Rezolvarea
Metoda aproximaţiilor succesive IV numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare
I Când xn → α, deoarece ξ n este ı̂ntre xn şi α, deducem Ordin de
pe baza continuităţii că convergenţă

Falsa poziţie
x −α 1
lim n+1 = ϕ(p ) (α) 6= 0. (32) Metoda secantei
n → ∞ ( xn − α ) p p! Metoda lui Newton

Metoda
I Aceasta ne arată că ordinul de convergenţă este exact p aproximaţiilor
şi eroarea asimptotică este succesive

Rădăcini multiple
1
c = ϕ (p ) ( α ) . (33) Ecuaţii algebrice
p! Sisteme neliniare

Metode
I Combinând aceasta cu condiţia uzuală de convergenţă quasi-Newton
Interpolare liniară
locală se obţine: Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
 Rezolvarea
Metoda aproximaţiilor succesive V numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

Ordin de
convergenţă
Teorema 7 Falsa poziţie
Fie α un punct fix al lui ϕ şi Iε = {x ∈ R : |x − α| ≤ ε}. Metoda secantei
Presupunem că ϕ ∈ C p [Iε ] şi satisface (31). Dacă Metoda lui Newton

Metoda
M (ε) := max | ϕ0 (t )| < 1 (34) aproximaţiilor
t ∈Iε succesive

Rădăcini multiple
atunci iteraţia (30) converge către α, ∀ x0 ∈ Iε . Ordinul de Ecuaţii algebrice

convergenţă este p, iar eroarea asimptotică este dată de (33). Sisteme neliniare

Metode
quasi-Newton
Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
 Rezolvarea
Interpretarea geometrica a metodei aproximaţiilor numerică a
ecuaţiilor neliniare
succesive Radu Trı̂mbiţaş

Convergenţa
Ecuaţii neliniare

Ordin de
convergenţă

Falsa poziţie

Metoda secantei

Metoda lui Newton

Metoda
aproximaţiilor
succesive

Rădăcini multiple

Ecuaţii algebrice

Sisteme neliniare

Metode
quasi-Newton
Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
 Rezolvarea
Interpretarea geometrica a metodei aproximaţiilor numerică a
ecuaţiilor neliniare
succesive Radu Trı̂mbiţaş

Divergenţa
Ecuaţii neliniare

Ordin de
convergenţă

Falsa poziţie

Metoda secantei

Metoda lui Newton

Metoda
aproximaţiilor
succesive

Rădăcini multiple

Ecuaţii algebrice

Sisteme neliniare

Metode
quasi-Newton
Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
 Rezolvarea
Metoda lui Newton pentru rădăcini multiple I numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

Ordin de
I Dacă α este o rădăcină multiplă de ordinul m, atunci convergenţă

ordinul de convergenţă a metodei lui Newton este doar Falsa poziţie

1. Într-adevăr, fie Metoda secantei

Metoda lui Newton

f (x ) Metoda
ϕ (x ) = x − 0 . aproximaţiilor
f (x ) succesive

Rădăcini multiple
I Deoarece Ecuaţii algebrice
f (x )f 00 (x )
ϕ 0 (x ) = Sisteme neliniare

[f 0 (x )]2 Metode
quasi-Newton

procesul va fi convergent dacă ϕ0 (α) = 1 − 1/m < 1. Interpolare liniară

Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
 Rezolvarea
Metoda lui Newton pentru rădăcini multiple II numerică a
ecuaţiilor neliniare

I O modalitate de a evita aceasta este să rezolvăm Radu Trı̂mbiţaş

ecuaţia Ecuaţii neliniare

f (x )
u (x ) : = 0 =0 Ordin de
f (x ) convergenţă

Falsa poziţie
care are aceleaşi rădăcini ca şi f , dar simple. Metoda lui Metoda secantei
Newton pentru problema modificată are forma Metoda lui Newton

Metoda
u ( xk ) f (xk )f 0 (xk ) aproximaţiilor
xk + 1 = xk − = . (35) succesive
u 0 (xk ) [f 0 (xk )]2 − f (xk )f 00 (xk ) Rădăcini multiple

Ecuaţii algebrice
I Deoarece α este o rădăcină simplă a lui u, convergenţa
Sisteme neliniare
lui (35) este pătratică. Singurul dezavantaj teoretic al
Metode
lui (35) este derivata a doua necesară suplimentar şi quasi-Newton
Interpolare liniară
complexitatea mai mare a calculului lui xk +1 din xk . În Metode de modificare

practică aceasta este o slăbiciune, deoarece numitorul Interpolare inversă

lui (35) poate lua valori foarte mici ı̂n vecinătatea lui α Metode hibride

când xk → α. Bibliografie
 Rezolvarea
Metoda lui Newton pentru rădăcini multiple III numerică a
ecuaţiilor neliniare
I Convergenţa pătratică a metodei lui Newton se poate Radu Trı̂mbiţaş
realiza nu numai prin modificarea problemei ci şi prin
Ecuaţii neliniare
modificarea metodei. În vecinătatea unei soluţii multiple
Ordin de
de ordinul m, α, avem convergenţă

Falsa poziţie
f (x ) = (x − α)m ϕ(x ) ≈ (x − α)m · c, (36) Metoda secantei

Metoda lui Newton

de unde rezultă Metoda
aproximaţiilor
f (x ) x −α f (x ) succesive

0
≈ ⇒ α ≈ x −m 0 . Rădăcini multiple
f (x ) m f (x )
Ecuaţii algebrice

Sisteme neliniare
I Metoda modificată corespunzătoare
Metode
quasi-Newton
f (xk ) Interpolare liniară
xk + 1 : = xk − m 0 , k = 0, 1, 2, . . . (37) Metode de modificare
f ( xk ) Interpolare inversă

Metode hibride
converge pătratic către rădăcina multiplă de ordinul m
Bibliografie
când se ı̂ntrebuinţează o valoare corectă a lui m ı̂n (37).
 Rezolvarea
Metoda lui Newton pentru rădăcini multiple IV numerică a
ecuaţiilor neliniare
I Eficienţa variantei (37) a metodei lui Newton depinde Radu Trı̂mbiţaş
de utilizarea unei valori de aproximare bune pentru m,
Ecuaţii neliniare
dacă această valoare nu este cunoscută din alte surse.
Ordin de
În ipoteza convergenţă

Falsa poziţie
|xk − α| < |xk −1 − α| ∧ |xk − α| < |xk −2 − α| Metoda secantei

Metoda lui Newton

putem ı̂nlocui ı̂n (36) α prin xk Metoda
aproximaţiilor
succesive
f ( xk − 1 ) ≈ ( xk − 1 − xk ) m · c Rădăcini multiple
f (xk −2 ) ≈ (xk −2 − xk )m · c. Ecuaţii algebrice

Sisteme neliniare
I În continuare se obţine m: Metode
quasi-Newton
Interpolare liniară
log [f (xk −1 )/f (xk −2 )] Metode de modificare
m≈ .
log [(xk −1 − xk )/(xk −2 − xk )] Interpolare inversă

Metode hibride

Această valoare poate fi utilizată ı̂n (37). Bibliografie

 Rezolvarea
Ecuaţii algebrice I numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

I Există multe metode special concepute pentru a rezolva Ecuaţii neliniare

ecuaţii algebrice. Ordin de
convergenţă
I Aici vom descrie numai metoda lui Newton aplicată ı̂n
Falsa poziţie
acest context, concentrându-ne asupra unui mod Metoda secantei
eficient de a evalua simultan valoarea polinomului şi a Metoda lui Newton
primei derivate. Metoda
aproximaţiilor
I Considerăm o ecuaţie algebrică de grad d succesive

Rădăcini multiple
f (x ) = 0, f (x ) = x d + ad −1 x d −1 + · · · + a0 , (38) Ecuaţii algebrice

Sisteme neliniare
ı̂n care coeficientul dominant se presupune (fără a Metode
quasi-Newton
restrânge generalitatea) a fi egal cu 1 şi unde putem Interpolare liniară

presupune, fără a restrânge generalitatea că a0 6= 0. Metode de modificare

Interpolare inversă
I Pentru simplitate vom presupune că toţi coeficienţii Metode hibride
sunt reali. Bibliografie
 Rezolvarea
Ecuaţii algebrice II numerică a
ecuaţiilor neliniare
I Pentru a aplica metoda lui Newton ecuaţiei (38) este Radu Trı̂mbiţaş

nevoie de o metodă bună de evaluare a polinomului şi

Ecuaţii neliniare
derivatei. Schema lui Horner este potrivită pentru aşa Ordin de
ceva: convergenţă

Falsa poziţie
bd := 1; cd := 1; Metoda secantei
for k = d − 1 downto 1 do Metoda lui Newton
bk := tbk +1 + ak ; Metoda
aproximaţiilor
ck := tck +1 + bk ; succesive
end for Rădăcini multiple
b0 := tb1 + a0 ; Ecuaţii algebrice

Sisteme neliniare
I Atunci f (t ) = b0 , f 0 (t ) = c1 . Metode
quasi-Newton
I Deci procedăm astfel: Interpolare liniară
Metode de modificare
I Se aplică metoda lui Newton, calculând simultan f (xn ) Interpolare inversă
şi f 0 (xn ) Metode hibride
f ( xn )
xn + 1 = xn − 0 . Bibliografie
f ( xn )
 Rezolvarea
Ecuaţii algebrice III numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

f (x ) Ordin de
I Se aplică apoi metoda lui Newton polinomului x −α . convergenţă
I Pentru rădăcini complexe se ı̂ncepe cu x0 complex şi Falsa poziţie

toate calculele se fac ı̂n aritmetică complexă. Metoda secantei

I Este posibil să se ı̂mpartă cu factori pătratici şi să se Metoda lui Newton

folosească aritmetica reală – metoda lui Bairstow. Metoda

aproximaţiilor
I Folosind metoda aceasta de scădere a gradului erorile succesive
pot fi mari. Rădăcini multiple
I O modalitate de ı̂mbunătăţire este de a utiliza rădăcinile Ecuaţii algebrice
astfel calculate ca aproximaţii iniţiale şi a aplica metoda Sisteme neliniare
lui Newton polinomului original. Metode
quasi-Newton
Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
 Rezolvarea
Metoda lui Newton pentru sisteme neliniare I numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
I Metoda lui Newton este uşor de generalizat la sisteme
Ecuaţii neliniare
neliniare
Ordin de
F (x ) = 0, (39) convergenţă

unde F : Ω ⊂ Rn → Rn , iar x, F (x ) ∈ Rn .
Falsa poziţie

Metoda secantei
I Sistemul (39) se scrie pe componente Metoda lui Newton

 Metoda

 F1 (x1 , . . . , xn ) = 0
 aproximaţiilor
succesive
..
 . Rădăcini multiple

Fn (x1 , . . . , xn ) = 0 Ecuaţii algebrice


Sisteme neliniare

I Fie F 0(k ) ) jacobianul lui F ı̂n x (k ) : Metode

quasi-Newton
Interpolare liniară
Metode de modificare
 ∂F1 (k ) ) . . . ∂F1 (k ) ) 
∂x1 (x ∂xn (x Interpolare inversă

J := F 0(k ) ) =  .. .. ..
. (40)
 
. . . Metode hibride

∂Fn ( k ) ∂Fn ( k ) Bibliografie

∂x1 (x ) ... ∂xn (x )
 Rezolvarea
Metoda lui Newton pentru sisteme neliniare II numerică a
ecuaţiilor neliniare

I Cantitatea 1/f 0 (x ) se ı̂nlocuieşte ı̂n acest caz cu inversa Radu Trı̂mbiţaş

jacobianului ı̂n x (k ) : Ecuaţii neliniare

Ordin de
x (k +1) = x (k ) − [F 0 (x (k ) )]−1 F (x (k ) ). (41) convergenţă

Falsa poziţie

I Scriem iteraţia sub forma Metoda secantei

Metoda lui Newton

x (k +1) = x (k ) + w (k ) . (42) Metoda

aproximaţiilor
succesive

Se observă că wk este soluţia sistemului de n ecuaţii Rădăcini multiple

liniare cu n necunoscute Ecuaţii algebrice

  Sisteme neliniare

F 0 x (k ) w (k ) = − F ( x (k ) ) . (43) Metode
quasi-Newton
Interpolare liniară
Metode de modificare
I Este mai eficient şi mai convenabil ca, ı̂n loc să Interpolare inversă
inversăm jacobianul la fiecare pas, să rezolvăm sistemul Metode hibride
(43) şi să folosim iteraţia ı̂n forma (42). Bibliografie
 Rezolvarea
Metoda lui Newton pentru sisteme neliniare III numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
Teorema 8
Fie α o soluţie a ecuaţiei F (x ) = 0 şi presupunem că ı̂n bila Ecuaţii neliniare

ı̂nchisă B (δ) ≡ {x : kx − αk ≤ δ}, există matricea Jacobi a Ordin de

convergenţă
lui F : Rn → Rn , este nesingulară şi satisface condiţia
Falsa poziţie
Lipschitz Metoda secantei

0 0 Metoda lui Newton

kF (x ) − F (y )k∞ ≤ c kx − y k∞ , ∀ x, y ∈ B (δ), c > 0. Metoda
aproximaţiilor

Punem γ = c max k[F 0 (x )]−1 k∞ : kα − x k∞ ≤ δ şi succesive


Rădăcini multiple
0 < ε < min{δ, γ−1 }. Atunci pentru orice aproximaţie
Ecuaţii algebrice
iniţială x (0) ∈ B (ε) := {x : kx − αk∞ ≤ ε} metoda lui
Sisteme neliniare
Newton este convergentă, iar vectorii e (k ) := α − x (k ) Metode
satisfac următoarele inegalităţi: quasi-Newton
Interpolare liniară
Metode de modificare
(a) ke (k +1) k∞ ≤ γke (k ) k2∞ Interpolare inversă
k
(b) k e (k ) k ∞ ≤ γ −1 ( γ k e (0) k ∞ )2 . Metode hibride

Bibliografie
 Rezolvarea
Metoda lui Newton pentru sisteme neliniare IV numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
Demonstraţie. Dacă F 0 este continuă pe segmentul ce
uneşte punctele x, y ∈ Rn , conform teoremei lui Lagrange Ecuaţii neliniare

Ordin de
convergenţă
F ( x ) − F ( y ) = Jk ( x − y ) , Falsa poziţie

Metoda secantei
unde   Metoda lui Newton
∂F1 ∂F1
∂x1 ( ξ 1 )
... ∂xn ( ξ 1 ) Metoda
.
.. .. .. aproximaţiilor
Jk =  ⇒
 
. . succesive

∂Fn ∂Fn Rădăcini multiple

∂x1 ( ξ n ) . . . ∂xn ( ξ n )
Ecuaţii algebrice

Sisteme neliniare

(k +1) (k ) 0 (k ) −1 (k ) Metode
e =e − [F (x )] (F ( α ) − F (x )) quasi-Newton
Interpolare liniară
= e (k ) − [F 0 (x (k ) )]−1 Jk e (k ) Metode de modificare

Interpolare inversă
= [F 0 (x(k ) )]−1 (F 0 (x (k ) ) − Jk )e (k ) Metode hibride

Bibliografie
 Rezolvarea
Metoda lui Newton pentru sisteme neliniare V numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

Ordin de
şi de aici rezultă imediat (a). Din condiţia Lipschitz convergenţă

Falsa poziţie
kF 0 (x (k ) ) − Jk k∞ ≤ c max kx (k ) − ξ (j ) k ≤ c kx (k ) − αk Metoda secantei
j =1,n
Metoda lui Newton

Metoda
Deci, dacă kα − x (k ) k∞ ≤ ε, atunci aproximaţiilor
succesive

Rădăcini multiple
kα − x (k +1) k∞ ≤ (γε)ε ≤ ε.
Ecuaţii algebrice

Sisteme neliniare
Deoarece (a) este adevărată pentru orice k, se obţine (b) Metode
imediat. quasi-Newton
Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
 Rezolvarea
Metoda lui Newton - pseudocod numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Intrare: Funcţia F , derivata Fréchet F 0 , vectorul de pornire Ecuaţii neliniare

x (0) , numarul maxim de iteraţii, Nmax, informaţii de Ordin de

convergenţă
toleranţă tol Falsa poziţie

Ieşire: O aproximaţie a rădăcinii sau un mesaj de eroare Metoda secantei

1: for k : = 0 to Nmax do Metoda lui Newton

2: Calculează matricea jacobian J = F 0 (x (k ) ); Metoda

aproximaţiilor
3: Rezolvă sistemul Jw = −F (x (k ) ); succesive

4: x (k +1) : = x (k ) + w ; Rădăcini multiple

5: if crit oprire (tol ) then Ecuaţii algebrice

6: return x (k +1) ;{Succes} Sisteme neliniare

Metode
7: end if quasi-Newton
8: end for Interpolare liniară
Metode de modificare

9: error (”S-a depăşit numărul de iteraţii”). Interpolare inversă

Metode hibride

Bibliografie
 Rezolvarea
Metode quasi-Newton I numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
I O slăbiciune semnificativă a metodei lui Newton pentru
Ecuaţii neliniare
rezolvarea sistemelor de ecuaţii neliniare este necesitatea
Ordin de
ca la fiecare pas să calculăm matricea jacobiană şi să convergenţă
rezolvăm un sistem n × n cu această matrice. Falsa poziţie

I Pentru a ilustra dimensiunile unei astfel de slabiciuni, să Metoda secantei

Metoda lui Newton

evaluăm volumul de calcule asociat cu o iteraţie a
Metoda
metodei lui Newton. Matricea jacobiană asociată unui aproximaţiilor
succesive
sistem de n ecuaţii neliniare scris ı̂n forma F (x ) = 0
necesită evaluarea celor n2 derivate parţiale ale celor n Rădăcini multiple

Ecuaţii algebrice
funcţii componente ale lui F . În cele mai multe situaţii,
Sisteme neliniare
evaluarea exactă a derivatelor parţiale este
Metode
neconvenabilă şi de multe ori imposibilă. Efortul total quasi-Newton
Interpolare liniară
pentru o iteraţie a metodei lui Newton va fi de cel puţin Metode de modificare

n2 + n evaluări de funcţii scalare (n2 pentru evaluarea Interpolare inversă

jacobianului şi n pentru evaluarea lui F ) şi O (n3 ) Metode hibride

Bibliografie
operaţii aritmetice pentru a rezolva sistemul liniar.
 Rezolvarea
Metode quasi-Newton II numerică a
ecuaţiilor neliniare
Acest volum de calcule este prohibitiv, exceptând valori Radu Trı̂mbiţaş

mici ale lui n şi funcţii scalare uşor de evaluat.

Ecuaţii neliniare
I Este firesc ca atenţia să fie ı̂ndreptată spre reducerea Ordin de
convergenţă
numărului de evaluări şi evitarea rezolvării unui sistem
Falsa poziţie
liniar la fiecare pas.
Metoda secantei
I La metoda secantei aproximaţia următoare x (k +1) se Metoda lui Newton
obţine ca soluţie a ecuaţiei liniare Metoda
aproximaţiilor
succesive
f (x (k ) + hk ) − f (x (k ) )
`¯ k = f (x (k ) ) + (x − x (k ) ) = 0. Rădăcini multiple
hk Ecuaţii algebrice

Sisteme neliniare
I Aici funcţia `¯ k poate fi interpretată ı̂n două moduri: Metode
quasi-Newton
1. ca aproximare a ecuaţie tangentei Interpolare liniară
Metode de modificare
 
` k ( x ) = f ( x (k ) ) + (x − x (k ) ) f 0 x (k ) ; Interpolare inversă

Metode hibride

Bibliografie
2. ca interpolare liniară ı̂ntre punctele x (k ) şi x (k +1) .
 Rezolvarea
Metode quasi-Newton III numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

I Se pot obţine diverse generalizări ale metodei secantei Ecuaţii neliniare

la sisteme de ecuaţii neliniare ı̂n funcţie de modul ı̂n Ordin de

convergenţă
care se interpretează `¯ k .
Falsa poziţie
I Prima interpretare conduce la metode de tip Newton Metoda secantei

discretizate, iar a doua la metode bazate pe interpolare. Metoda lui Newton

Metoda
I Metodele de tip Newton discretizate se obţin dacă ı̂n aproximaţiilor
metoda lui Newton (41) F 0 (x ) se ı̂nlocuieşte cu cu o succesive

Rădăcini multiple
aproximare discretă A(x, h ). Derivatele parţiale din
Ecuaţii algebrice
matricea jacobiană (40) se vor ı̂nlocui prin diferenţele
Sisteme neliniare
divizate
Metode
quasi-Newton

A(x, h )ei := [F (x + hi ei ) − F (x )]/hi , i = 1, n, Interpolare liniară

Metode de modificare

(44) Interpolare inversă

Metode hibride

Bibliografie
 Rezolvarea
Metode quasi-Newton IV numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

Ordin de
convergenţă
unde ei ∈ Rneste al i-lea vector al bazei canonice şi
Falsa poziţie
hi = hi (x ) este mărimea pasului de discretizare. O Metoda secantei
alegere posibilă a pasului este de exemplu Metoda lui Newton

 Metoda
ε|xi |, dacă xi 6= 0; aproximaţiilor
hi : = succesive
ε, altfel, Rădăcini multiple

√ Ecuaţii algebrice
cu ε := eps, unde eps este epsilon-ul maşinii. Sisteme neliniare

Metode
quasi-Newton
Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
 Rezolvarea
Interpolare liniară I numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
I La interpolare fiecare dintre planele tangente se
ı̂nlocuieşte cu un (hiper)plan care interpolează funcţiile Ecuaţii neliniare

componente Fi ale lui F ı̂n n + 1 puncte date x k,j , Ordin de

convergenţă
j = 0, n, ı̂ntr-o vecinătate a lui x (k ) , adică se determina Falsa poziţie
vectorii a(i ) şi scalarii αi , astfel ı̂ncât pentru Metoda secantei

Metoda lui Newton

(i )T
Li (x ) = αi + a x, i = 1, n (45) Metoda
aproximaţiilor
succesive
are loc
Rădăcini multiple

Li (x k,j ) = Fi (x k,j ), i = 1, n, j = 0, n. Ecuaţii algebrice

Sisteme neliniare

I Următoarea aproximaţie x (k +1)

se obţine ca punct de Metode
quasi-Newton
intersecţie ı̂ntre cele n hiperplane (45) din Rn+1 cu Interpolare liniară
Metode de modificare
hiperplanul y = 0. x (k +1) rezultă ca soluţie a sistemului Interpolare inversă

de ecuaţii liniare Metode hibride

Bibliografie
Li (x ) = 0, i = 1, n. (46)
 Rezolvarea
Interpolare liniară II numerică a
ecuaţiilor neliniare
I În funcţie de alegerea punctelor de interpolare se obţin Radu Trı̂mbiţaş

diferite metode, dintre care cele mai cunoscute sunt

Ecuaţii neliniare
metoda lui Brown şi metoda lui Brent. Ordin de
I Metoda lui Brown combină aproximarea lui F 0 şi convergenţă

Falsa poziţie
rezolvarea sistemului prin eliminare gaussiană.
Metoda secantei
I În metoda lui Brent se ı̂ntrebuinţează la rezolvarea Metoda lui Newton
sistemului metoda QR. Ambele metode aparţin unei Metoda
aproximaţiilor
clase de metode, care, la fel ca metoda lui Newton, succesive
converg pătratic, dar au nevoie doar de (n2 + 3n )/2 Rădăcini multiple
evaluări de funcţii pe iteraţie. Ecuaţii algebrice

I Într-un studiu comparativ, Moré şi Cosnard [7] au ajuns Sisteme neliniare

Metode
la concluzia că metoda Brent este adeseori de preferat quasi-Newton
metodei lui Brown şi că pentru sisteme de ecuaţii Interpolare liniară
Metode de modificare
neliniare, la care evaluarea lui f necesită un efort mai Interpolare inversă
mic, metoda lui Newton discretizată este cea mai Metode hibride

eficientă metodă de rezolvare. Bibliografie

 Rezolvarea
Metode de modificare I numerică a
ecuaţiilor neliniare

I Din punct de vedere al efortului de calcul, sunt deosebit Radu Trı̂mbiţaş

de convenabile metodele ı̂n care la fiecare pas se Ecuaţii neliniare

ı̂ntrebuinţează o aproximare Ak a lui F 0 (x (k ) ), care se Ordin de
convergenţă
obţine din Ak −1 printr-o modificare de rang 1, adică
Falsa poziţie
prin adăugarea unei matrice de rang 1:
Metoda secantei
h iT Metoda lui Newton
Ak +1 := Ak + u (k ) v (k ) , u (k ) , v (k ) ∈ Rn , k = 0, 1, 2, . . .Metoda
aproximaţiilor
succesive
I Pe baza formulei Sherman-Morrison (vezi [4]) Rădăcini multiple

 −1 Ecuaţii algebrice
 1
A + uv T = A−1 − A−1 uv T A−1 Sisteme neliniare
1 + v T A−1 u
Metode
(47) quasi-Newton
pentru Bk +1 := Ak−+1 1 are loc relaţia de recurenţă Interpolare liniară
Metode de modificare

Interpolare inversă
h iT
Bk u (k ) v (k ) Bk Metode hibride

Bk +1 = Bk −  T , k = 0, 1, 2, . . . , Bibliografie

1+ v (k ) Bk u (k )
 Rezolvarea
Metode de modificare IIi numerică a
ecuaţiilor neliniare
h T
atât timp cât 1 + v (k ) Bk u (k ) 6= 0. Radu Trı̂mbiţaş

I Necesitatea rezolvării unui sistem liniar la fiecare pas Ecuaţii neliniare

dispare; aceasta se ı̂nlocuieşte cu ı̂nmulţiri Ordin de

convergenţă
matrice-vector, ceea ce corespunde unei reduceri a
Falsa poziţie
efortului de calcul de la O (n3 ) la O (n2 ).
Metoda secantei
I Acest avantaj va fi plătit prin aceea că nu vom mai avea Metoda lui Newton
o convergentă pătratică ca la metoda lui Newton, ci Metoda
aproximaţiilor
doar una superliniară: succesive

Rădăcini multiple
k x (k +1) − α k Ecuaţii algebrice
lim = 0. (48)
k → ∞ k x (k ) − α k Sisteme neliniare

Metode
quasi-Newton
I În metoda lui Broyden alegerea vectorilor u (k ) şi v (k ) Interpolare liniară
Metode de modificare
are loc după principiul aproximaţiei secantei. În cazul
 Interpolare inversă
scalar aproximarea ak ≈ f x 0 ( k ) se face unic prin Metode hibride

Bibliografie
(k +1) (k ) (k +1) (k )
ak + 1 ( x −x ) = f (x ) − f (x ).
 Rezolvarea
Metode de modificare III numerică a
ecuaţiilor neliniare

I Pentru n > 1, din contră, aproximarea Radu Trı̂mbiţaş

Ecuaţii neliniare
Ak +1 (x (k +1) − x (k ) ) = F (x (k +1) ) − F (x (k ) ) (49) Ordin de
convergenţă

(aşa numita ecuaţie quasi-Newton) nu mai este unic Falsa poziţie

determinată; orice altă matrice de forma Metoda secantei

Metoda lui Newton

Āk +1 := Ak +1 + pq T Metoda
aproximaţiilor
succesive

cu p, q ∈ Rn şi q T (x (k +1) − x (k ) ) = 0 verifică de Rădăcini multiple

asemenea ecuaţia (49). Ecuaţii algebrice

Sisteme neliniare
I Pe de altă parte,
Metode
quasi-Newton
(k ) (k −1) (k ) (k −1)
yk := F (x ) − F (x ) şi sk := x −x Interpolare liniară
Metode de modificare

Interpolare inversă
conţin numai informaţii despre variaţia lui F ı̂n direcţia Metode hibride
sk , dar nici o informaţie ı̂n direcţii ortogonale pe sk . Bibliografie
 Rezolvarea
Metode de modificare IV numerică a
ecuaţiilor neliniare

I Pe aceste direcţii trebuie ca efectul lui Ak +1 şi Ak să Radu Trı̂mbiţaş

coincidă Ecuaţii neliniare

Ordin de
Ak +1 q = Ak q, ∀q ∈ {v : v 6= 0, v T sk = 0}. (50) convergenţă

Falsa poziţie
I Pornind de la prima aproximare A0 ≈ F 0(0) ),se Metoda secantei

generează şirul A1 , A2 , . . . utilizând formulele (49) şi Metoda lui Newton

(50) (Broyden [2], Dennis şi Moré [4]). Metoda

aproximaţiilor
I Pentru şirul B0 = A0−1
≈ [F (x (0) )]−1 , B1 , B2 , . . . cu succesive

Rădăcini multiple
ajutorul formulei Sherman-Morisson (47) se obţine
Ecuaţii algebrice
relaţia de recurenţă
Sisteme neliniare

(sk +1 − Bk yk +1 )skT+1 Bk Metode

quasi-Newton
Bk +1 := Bk + , k = 0, 1, 2, . . . Interpolare liniară
skT+1 Bk yk +1 Metode de modificare

Interpolare inversă

care conţine doar ı̂nmulţiri matrice vector şi a cărei Metode hibride

complexitate este doar O (n2 ). Bibliografie

 Rezolvarea
Metode de modificare V numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare
I Cu ajutorul matricelor Bk se poate defini metoda lui Ordin de
convergenţă
Broyden prin
Falsa poziţie

x (k +1) := x (k ) − Bk F (x (k ) ), k = 0, 1, 2, . . . Metoda secantei

Metoda lui Newton

Metoda
I Această metodă converge superliniar ı̂n sensul lui (48), aproximaţiilor
dacă paşii sk se apropie asimptotic (când k → ∞) de succesive

Rădăcini multiple
paşii metodei lui Newton.
Ecuaţii algebrice
I Se poate recunoaşte ı̂n aceasta semnificaţia centrală a Sisteme neliniare
principiului linearizării locale la rezolvarea ecuaţiilor Metode
quasi-Newton
neliniare. Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
 Rezolvarea
Metoda lui Broyden numerică a
ecuaţiilor neliniare
Intrare: F , vectorul x (0) , Nmax, toleranţa tol Radu Trı̂mbiţaş
Ieşire: O aproximaţie a rădăcinii sau un mesaj de eroare
B0 := F 0 (x (0) ); v := F (x ); B := B0−1 ;
Ecuaţii neliniare

Ordin de
s := −Bv ; x := x + s; convergenţă

for k := 1 to Nmax do Falsa poziţie

w := v ; v : = F (x ); y := v − w ; Metoda secantei

z := −By ; {z = −Bk −1 yk } Metoda lui Newton

p := −s T z; {p = skT Bk −1 yk } Metoda
aproximaţiilor
C := pI + (s + z )s T ; succesive

{C = skT Bk−−11 yk I + (sk + Bk −1 yk )skT } Rădăcini multiple

Ecuaţii algebrice
B := (1/p )CB; {B = Bk }
Sisteme neliniare
s := −Bv ; {s = −Bk F (x (k ) )}
Metode
x := x + s; quasi-Newton
Interpolare liniară
if crit oprire (tol ) then Metode de modificare

return x; {succes} Interpolare inversă

end if Metode hibride

end for Bibliografie

error (”S-a depăşit numărul maxim de iteraţii”)

 Rezolvarea
Interpolare inversă I numerică a
ecuaţiilor neliniare

I Dacă f este inversabilă pe o vecinătate V a lui α şi g Radu Trı̂mbiţaş

este inversa sa (g = f −1 ), atunci Ecuaţii neliniare

Ordin de
f (α) = 0 =⇒ α = g (0). convergenţă

Falsa poziţie
I Interpolarea inversă constă ı̂n aproximarea lui g (0) prin Metoda secantei
valoarea unui polinom de interpolare de grad mic. Metoda lui Newton

I Dacă aproximăm g prin polinomul său Taylor de grad 1, Metoda

aproximaţiilor
avem succesive

Rădăcini multiple
0
g (y ) ≈ (T1 g )(y ) = g (yn ) + (y − yn )g (yn ). Ecuaţii algebrice

Sisteme neliniare
I Dacă yn = f (xn ), ţinând cont că g 0 (yn ) = 1
f 0 (xn )
, se Metode
quasi-Newton
obţine Interpolare liniară
f (xn ) Metode de modificare
g (0) ≈ xn − 0 = : xn + 1 , Interpolare inversă
f (xn )
Metode hibride

adică metoda lui Newton! Încercaţi să obţineţi metoda Bibliografie

corespunzătoare pentru T2 g .
 Rezolvarea
Interpolare inversă II numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

I Dacă luăm g ≈ L1 g , avem Ecuaţii neliniare

Ordin de
g (y ) ≈ (L1 g )(y ) = g (yn ) + g [yn , yn−1 ](y − yn ). convergenţă

Falsa poziţie

I Ţinând cont că Metoda secantei

Metoda lui Newton

g ( yn ) − g ( yn − 1 ) xn − xn−1 Metoda
g [ yn , yn − 1 ] = = , aproximaţiilor
yn − yn−1 f (xn ) − f (xn−1 ) succesive

Rădăcini multiple
se obţine Ecuaţii algebrice

Sisteme neliniare
xn − xn−1
g ( 0 ) ≈ xn − f (xn ) , Metode
f (xn ) − f (xn−1 ) quasi-Newton
Interpolare liniară
Metode de modificare

adică metoda secantei. Interpolare inversă

Metode hibride

Bibliografie
 Rezolvarea
Metode hibride numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

I Aceste metode combină metodele cu convergenţă Ecuaţii neliniare

globală, dar mai lente, cu metode cu convergenţă locală Ordin de

convergenţă
(de exemplu, Newton sau secantă). Falsa poziţie
I De asemenea, se utilizează scheme adaptive de Metoda secantei

monitorizare a iteraţiilor şi de testare a condiţiilor de Metoda lui Newton

oprire. Metoda
aproximaţiilor
succesive
I Una dintre cele mai cunoscute metode de acest tip este
Rădăcini multiple
algoritmul lui Dekker, ı̂n varianta lui Brent, cunoscut şi
Ecuaţii algebrice
sub numele de algoritmul Dekker-Brent sau zeroin
Sisteme neliniare
[6],[8].
Metode
I El combină metoda ı̂njumătăţirii cu metoda secantei şi quasi-Newton
Interpolare liniară
cu metoda interpolării inverse pătratice (IQI). Metode de modificare

Interpolare inversă
I Funcţia MATLAB fzero se bazează pe acest algoritm. Metode hibride

Bibliografie
 Rezolvarea
Descrierea algoritmului numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
I Se ı̂ncepe cu a şi b astfel ı̂ncât f (a) şi f (b ) au semne
Ecuaţii neliniare
opuse.
Ordin de
I Se utilizează un pas al metodei secantei pentru a obţine convergenţă

Falsa poziţie
c ı̂ntre a şi b.
Metoda secantei
I Se repetă paşii următori până când |b − a| < ε|b | sau Metoda lui Newton
f (b ) = 0 Metoda
aproximaţiilor
I Se permută a, b, c astfel ı̂ncât succesive

I f (b ) şi f (a) au semne opuse Rădăcini multiple

I |f (b )| ≤ |f (a)| Ecuaţii algebrice

I c este valoarea precedentă a lui b. Sisteme neliniare

Metode
I Dacă c 6= a se realizează un pas IQI, altfel un pas al quasi-Newton
metodei secantei. Interpolare liniară
Metode de modificare
I Dacă rezultatul pasului IQI sau secantei este ı̂n [a, b ], se
Interpolare inversă
acceptă
Metode hibride
I Dacă nu, ı̂njumătăţire.
Bibliografie
 Rezolvarea
Bibliografie I numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Octavian Agratini, Ioana Chiorean, Gheorghe Coman, Ecuaţii neliniare

Trı̂mbiţaş Radu, Analiză numerică şi teoria aproximării, Ordin de
convergenţă
vol. III, Presa Universitară Clujeană, 2002, coordonatori
Falsa poziţie
D. D. Stancu şi Gh. Coman.
Metoda secantei
C. G. Broyden, A Class of Methods for Solving Metoda lui Newton

Nonlinear Simultaneous Equations, Math. Comp. 19 Metoda

aproximaţiilor
(1965), 577–593. succesive

Rădăcini multiple
Gheorghe Coman, Analiză numerică, Editura Libris,
Ecuaţii algebrice
Cluj-Napoca, 1995. Sisteme neliniare

J. E. Dennis, J. J. Moré, Quasi-Newton Metods, Metode

quasi-Newton
Motivation and Theory, SIAM Review 19 (1977), 46–89. Interpolare liniară
Metode de modificare

W. Gautschi, Numerical Analysis. An Introduction, Interpolare inversă

Metode hibride
Birkhäuser, Basel, 1997.
Bibliografie
 Rezolvarea
Bibliografie II numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare
C. Moler, Numerical Computing in MATLAB, SIAM,
Ordin de
2004 convergenţă

J. J. Moré, M. Y. Cosnard, Numerical Solutions of Falsa poziţie

Metoda secantei
Nonlinear Equations, ACM Trans. Math. Softw. 5
Metoda lui Newton
(1979), 64–85.
Metoda
aproximaţiilor
W. H. Press, S. A. Teukolsky, W. T. Vetterling, B. P. succesive
Flannery, Numerical Recipes in C, Cambridge University Rădăcini multiple

Press, Cambridge, New York, Port Chester, Melbourne, Ecuaţii algebrice

Sidney, 1996, disponibila prin Sisteme neliniare

www, http://www.nr.com/. Metode

quasi-Newton
Interpolare liniară
J. Stoer, R. Bulirsch, Introduction to Numerical Metode de modificare

Analysis, 2nd ed., Springer Verlag, 1992. Interpolare inversă

Metode hibride

Bibliografie