Sunteți pe pagina 1din 79

Rezolvarea

numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

Ordin de
convergenţă
Rezolvarea numerică a ecuaţiilor neliniare Falsa poziţie
De aici ı̂ncepe adevărata Analiză numerică Metoda secantei

Metoda lui Newton

Metoda
aproximaţiilor
Radu Trı̂mbiţaş succesive

Rădăcini multiple
UBB
Ecuaţii algebrice

Sisteme neliniare
10 mai 2021 Metode
quasi-Newton
Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
Rezolvarea
Ecuaţii neliniare I numerică a
ecuaţiilor neliniare

I Problema discutată ı̂n acest capitol se poate scrie Radu Trı̂mbiţaş

generic sub forma Ecuaţii neliniare


f (x ) = 0, (1) Ordin de
convergenţă

dar admite diverse interpretări, depinzând de Falsa poziţie

semnificaţia lui x şi f . Metoda secantei

I Cel mai simplu caz este cel al unei singure ecuaţii cu o Metoda lui Newton

Metoda
singură necunoscută, caz ı̂n care f este o funcţie dată aproximaţiilor
succesive
de o variabilă reală sau complexă şi ı̂ncercăm să găsim
Rădăcini multiple
valorile acestei variabile pentru care f se anulează.
Ecuaţii algebrice
Astfel de valori se numesc rădăcini ale ecuaţiei (1) sau
Sisteme neliniare
zerouri ale funcţiei f . Metode
I Dacă x din (1) este un vector, să zicem quasi-Newton
Interpolare liniară

x = [x1 , x2 , . . . , xd ]T ∈ Rd şi f este de asemenea un Metode de modificare

Interpolare inversă
vector ale cărui componente sunt funcţii de cele d
Metode hibride
variabile x1 , x2 , . . . , xd , atunci (1) reprezintă un sistem
Bibliografie
de ecuaţii.
Rezolvarea
Ecuaţii neliniare II numerică a
ecuaţiilor neliniare

I Se spune că sistemul este neliniar dacă cel puţin una Radu Trı̂mbiţaş

dintre componentele lui f depinde neliniar de cel puţin Ecuaţii neliniare


una din variabilele x1 , x2 , . . . , xd . Dacă toate Ordin de
convergenţă
componentele lui f sunt funcţii liniare de x1 , . . . , xd
Falsa poziţie
avem de-a face cu un sistem de ecuaţii algebrice liniare.
Metoda secantei
I Mai general (1) ar putea reprezenta o ecuaţie Metoda lui Newton
funcţională, dacă x este un element al unui spaţiu de Metoda
aproximaţiilor
funcţii şi f este un operator (liniar sau neliniar) ce succesive

acţionează pe acest spaţiu. În fiecare din aceste situaţii Rădăcini multiple

zeroul din dreapta lui (1) poate avea diverse Ecuaţii algebrice

interpretări: numărul zero ı̂n primul caz, vectorul nul ı̂n Sisteme neliniare

al doilea şi funcţia identic nulă ı̂n cel de-al treilea. Metode
quasi-Newton
I Mare parte din acest capitol este consacrată unei ecuaţii Interpolare liniară
Metode de modificare

neliniare scalare. Astfel de ecuaţii apar frecvent ı̂n Interpolare inversă

analiza sistemelor ı̂n vibraţie, unde rădăcinile corespund Metode hibride

frecvenţelor critice (rezonanţă). Bibliografie


Rezolvarea
Ecuaţii neliniare III numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

Ordin de
convergenţă

Falsa poziţie

Metoda secantei
I Cazul special al ecuaţiilor algebrice, unde f din (1) este Metoda lui Newton

un polinom, este de importanţă considerabilă şi merită Metoda


aproximaţiilor
un tratament special. succesive

Rădăcini multiple

Ecuaţii algebrice

Sisteme neliniare

Metode
quasi-Newton
Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
Rezolvarea
Iteraţii, convergenţă şi eficienţă numerică a
ecuaţiilor neliniare
I Nici chiar cele mai simple ecuaţii - de exemplu cele Radu Trı̂mbiţaş

algebrice - nu admit soluţii care să fie exprimabile prin


Ecuaţii neliniare
expresii raţionale sau radicali. Ordin de
I Din acest motiv este imposibil, ı̂n general, să calculăm convergenţă

Falsa poziţie
rădăcinile ecuaţiilor neliniare printr-un număr finit de
Metoda secantei
operaţii aritmetice. Este nevoie de o metodă iterativă,
Metoda lui Newton
adică de o procedură care generează o secvenţă infinită
Metoda
de aproximaţii {xn }n∈N astfel ı̂ncât aproximaţiilor
succesive

Rădăcini multiple
lim xn = α, (2)
n→∞ Ecuaţii algebrice

Sisteme neliniare
unde α este o rădăcină a ecuaţiei. Metode
I În cazul unui sistem xk şi α sunt vectori de dimensiune quasi-Newton
Interpolare liniară

adecvată, iar convergenţa trebuie ı̂nţeleasă ı̂n sensul Metode de modificare

Interpolare inversă
convergenţei pe componente.
Metode hibride
I În practică, ceea ce se doreşte este o convergenţă Bibliografie
rapidă.
Rezolvarea
Ordinul de convergenţă I numerică a
ecuaţiilor neliniare

Conceptul de bază pentru măsurarea vitezei de convergenţă Radu Trı̂mbiţaş

este ordinul de convergenţă. Ecuaţii neliniare

Definiţia 1 Ordin de
convergenţă

Spunem că xn converge către α (cel puţin) liniar dacă Falsa poziţie

Metoda secantei
|xn − α| ≤ en (3) Metoda lui Newton

Metoda
unde {en } este un şir pozitiv ce satisface aproximaţiilor
succesive

Rădăcini multiple
en + 1
lim = c, 0 < c < 1. (4) Ecuaţii algebrice
n → ∞ en
Sisteme neliniare

Dacă (3) şi (4) au loc cu egalitate ı̂n (3) atunci c se Metode
quasi-Newton
numeşte eroare asimptotică. Interpolare liniară
Metode de modificare

I Expresia ,,cel puţin“ ı̂n această definiţie se leagă de Interpolare inversă

faptul că avem doar inegalitate ı̂n (3), ceea ce dorim ı̂n Metode hibride

Bibliografie
practică.
Rezolvarea
Ordinul de convergenţă II numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
I De fapt, strict vorbind, marginea en converge liniar,
Ecuaţii neliniare
ı̂nsemnând că, ı̂n final (pentru n suficient de mare) Ordin de
fiecare din aceste margini ale erorii este aproximativ o convergenţă

fracţie constantă din precedenta. Falsa poziţie

Metoda secantei

Definiţia 2 Metoda lui Newton

Se spune că xn converge către α (cel puţin) cu ordinul p ≥ 1 Metoda


aproximaţiilor
dacă (3) are loc cu succesive

Rădăcini multiple
en+1 Ecuaţii algebrice
lim p = c, c>0 (5)
n→∞ en Sisteme neliniare

Metode
quasi-Newton
I Astfel convergenţa de ordinul 1 coincide cu convergenţa Interpolare liniară
Metode de modificare

liniară, ı̂n timp ce convergenţa de ordinul p > 1 este Interpolare inversă

mai rapidă. Metode hibride

Bibliografie
Rezolvarea
Ordinul de convergenţă III numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
I De notat că ı̂n acest ultim caz nu se pune nici o
Ecuaţii neliniare
restricţie asupra constantei c: odată ce en este suficient
Ordin de
de mic, exponentul p va avea grijă de convergenţă. Şi convergenţă
ı̂n acest caz, dacă avem egalitate ı̂n (3), c se numeşte Falsa poziţie

eroare asimptotică. Metoda secantei

I Aceleaşi definiţii se aplică şi şirurilor vectoriale, cu Metoda lui Newton

Metoda
modulul ı̂nlocuit cu orice normă vectorială. aproximaţiilor
succesive
I Clasificarea convergenţei ı̂n raport cu ordinul este destul
Rădăcini multiple
de rudimentară, deoarece sunt tipuri de convergenţă la Ecuaţii algebrice
care definiţiile (1) şi (2) nu se aplică. Astfel, un şir {en } Sisteme neliniare
poate converge către zero mai ı̂ncet decât liniar, de Metode
quasi-Newton
exemplu dacă c = 1 ı̂n (4). Acest tip de convergenţă se Interpolare liniară

numeşte subliniară. La fel, c = 0 ı̂n (4) conduce la Metode de modificare

Interpolare inversă
convergenţă superliniară, dacă (5) nu are loc pentru nici
Metode hibride
un p > 1.
Bibliografie
Rezolvarea
Ordinul de convergenţă IV numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
I Este instructiv să examinăm comportarea lui en , dacă ı̂n
Ecuaţii neliniare
loc de relaţia la limită avem egalitate pentru un anumit Ordin de
n, să zicem convergenţă

Falsa poziţie
en + 1
= c, n = n0 , n0 + 1, n0 + 2, . . . (6) Metoda secantei
enp Metoda lui Newton

Metoda
I Pentru n0 suficient de mare, relaţia (6) este aproape aproximaţiilor
succesive
adevărată. Printr-o simplă inducţie se obţine că
Rădăcini multiple

p k −1 k
Ecuaţii algebrice
en0 +k = c p −1 enp0 , k = 0, 1, 2, . . . , (7) Sisteme neliniare

Metode
care desigur are loc pentru p > 1, dar şi pentru p = 1 quasi-Newton
Interpolare liniară

când p ↓ 1: Metode de modificare

Interpolare inversă

en0 +k = c k en0 , k = 0, 1, 2, . . . , (p = 1) (8) Metode hibride

Bibliografie
Rezolvarea
Ordinul de convergenţă V numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
I Presupunând că en0 este suficient de mare astfel ı̂ncât
Ecuaţii neliniare
aproximarea xn0 are un număr de zecimale corecte,
Ordin de
scriem en0 +k = 10−δk en0 . convergenţă

I Atunci δk , ı̂n conformitate cu (3) reprezintă numărul Falsa poziţie

Metoda secantei
suplimentar de cifre zecimale corecte din aproximaţia
Metoda lui Newton
xn0 +k (ı̂n contrast cu xn0 ). Logaritmând (7) şi (8)
Metoda
obţinem aproximaţiilor
succesive

1
(
k log c, dacă p = 1 Rădăcini multiple
δk = h
p −k
i Ecuaţii algebrice
p k 1− 1
p −1 log c + (1 − p
−k ) log 1 , dacă p > 1
en Sisteme neliniare
0
Metode
quasi-Newton
Interpolare liniară
I Deci când k → ∞ Metode de modificare

Interpolare inversă

δk ∼ c1 k (p = 1), δk ∼ cp p k (p > 1), (9) Metode hibride

Bibliografie
Rezolvarea
Ordinul de convergenţă VI numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare
unde c1 = log c1 > 0, dacă p = 1 şi Ordin de
convergenţă

1 1 1 Falsa poziţie
cp = log + log
p−1 c en0 Metoda secantei

Metoda lui Newton

(presupunem că n0 este suficient de mare şi deci en0 Metoda


aproximaţiilor
suficient de mic, pentru a avea cp > 0). succesive

Rădăcini multiple
I Aceasta ne arată că numărul de cifre zecimale corecte
Ecuaţii algebrice
creşte liniar odată cu k când p = 1, dar exponenţial Sisteme neliniare
când p > 1. În ultimul caz δk +1 /δk ∼ p ı̂nseamnă că Metode
(pentru k mare) numărul de cifre zecimale corecte quasi-Newton
Interpolare liniară
creşte, pe iteraţie, cu un factor p. Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
Rezolvarea
Ordinul de convergenţă VII numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

Ordin de
I Dacă fiecare iteraţie necesită m unităţi de lucru (o convergenţă

,,unitate de lucru” este efortul necesar pentru a calcula Falsa poziţie

o valoare a funcţiei sau a unei anumite derivate a sa), Metoda secantei

atunci indicele de eficienţă al iteraţiei poate fi definit Metoda lui Newton

prin Metoda
aproximaţiilor
lim [δk +1 /δk ]1/m = p 1/m . succesive
k →∞ Rădăcini multiple

I Aceasta ne dă o bază comună de comparare ı̂ntre Ecuaţii algebrice

Sisteme neliniare
diversele metode iterative. Metodele liniare au indicele
Metode
de eficienţă 1. quasi-Newton
Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
Rezolvarea
Criteriul de oprire I numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
I Calculele practice necesită o regulă de oprire care să
Ecuaţii neliniare
termine iteraţia atunci când s-a obţinut (sau se crede că
Ordin de
s-a obţinut) precizia dorită. convergenţă

I Ideal, ne oprim atunci când kxn − αk < tol, tol dat. Falsa poziţie

Metoda secantei
I Deoarece α nu este cunoscut se obişnuieşte să se
Metoda lui Newton
ı̂nlocuiască xn − α cu xn − xn−1 şi se impune cerinţa ca
Metoda
aproximaţiilor
succesive
kxn − xn−1 k ≤ tol (10)
Rădăcini multiple

Ecuaţii algebrice
unde
Sisteme neliniare
tol = kxn kε r + ε a (11)
Metode
quasi-Newton
cu ε r , ε a valori date ale erorii. Interpolare liniară
Metode de modificare
I Ca o măsură de siguranţă, am putea cere ca (10) să Interpolare inversă
aibă loc pentru mai multe valori consecutive ale lui n, Metode hibride
nu doar pentru una singură. Bibliografie
Rezolvarea
Criteriul de oprire II numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

Ordin de
I Alegând ε r = 0 sau ε a = 0 se obţine un test de eroare convergenţă

Falsa poziţie
absolută sau relativă. Este totuşi prudent să utilizăm un
Metoda secantei
test mixt, cum ar fi, să zicem ε r = ε a = ε. Atunci, dacă
Metoda lui Newton
kxn k este mic sau moderat de mare, se controlează
Metoda
efectiv eroarea absolută, ı̂n timp ce pentru kxn k foarte aproximaţiilor
succesive
mare se controlează eroarea relativă.
Rădăcini multiple
I Testele de mai sus se pot combina cu ||f (x )|| ≤ ε. În Ecuaţii algebrice
algoritmii din acest capitol vom presupune că avem o Sisteme neliniare

funcţie crit oprire care implementează testul de oprire. Metode


quasi-Newton
Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
Rezolvarea
Metoda falsei poziţii numerică a
ecuaţiilor neliniare

I Ca ı̂n metoda ı̂njumătăţirii, presupunem că avem două Radu Trı̂mbiţaş

numere a < b astfel ı̂ncât Ecuaţii neliniare

Ordin de
f ∈ C [a, b ], f (a )f (b ) < 0 (12) convergenţă

Falsa poziţie

şi generăm un şir descendent de intervale [an , bn ], Metoda secantei

Metoda lui Newton


n = 1, 2, 3, . . . cu a1 = a, b1 = b astfel ı̂ncât
Metoda
f (an )f (bn ) < 0. aproximaţiilor
succesive
I Spre deosebire de metoda ı̂njumătăţirii, pentru a
Rădăcini multiple
determina următorul interval nu luăm mijlocul lui Ecuaţii algebrice
[an , bn ], ci soluţia x = xn a ecuaţiei liniare Sisteme neliniare

Metode
(L1 f )(x; an , bn ) = 0. quasi-Newton
Interpolare liniară
Metode de modificare

I Aceasta pare să fie o alegere mai flexibilă decât ı̂n Interpolare inversă

metoda ı̂njumătăţirii deoarece xn va fi mai apropiat de Metode hibride

capătul ı̂n care |f | este mai mic (Vezi figura 1) Bibliografie


Rezolvarea
Metoda falsei poziţii - algoritmul numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare
Procedura decurge după cum urmează: Ordin de
convergenţă
for n := 1, 2, . . . do Falsa poziţie
an − bn
xn := an − f ( an ) ; Metoda secantei
f (an ) − f (bn ) Metoda lui Newton
if f (an )f (xn ) > 0 then Metoda
an+1 := xn ; bn+1 := bn ; aproximaţiilor
succesive
else Rădăcini multiple
an+1 := an ; bn+1 := xn ; Ecuaţii algebrice
end if Sisteme neliniare

end for Metode


quasi-Newton
Iteraţia se poate termina când min(xn − an , bn − xn ) ≤ tol, Interpolare liniară
Metode de modificare
unde tol este o valoare dată. Interpolare inversă

Metode hibride

Bibliografie
Rezolvarea
Metoda falsei poziţii - convergenţa I numerică a
ecuaţiilor neliniare

I Convergenţa se analizează mai uşor dacă presupunem Radu Trı̂mbiţaş

că f este convexă sau concavă pe [a, b ]. Dacă f este Ecuaţii neliniare

convexă, avem Ordin de


convergenţă

f 00 (x ) > 0, x ∈ [a, b ], f (a) < 0, f (b ) > 0. (13) Falsa poziţie

Metoda secantei

I Şirul Metoda lui Newton

Metoda
aproximaţiilor
xn − b
n ∈ N∗ ,
succesive
xn+1 = xn − f (xn ), x1 = a
f ( xn ) − f ( b ) Rădăcini multiple

(14) Ecuaţii algebrice

este monoton crescător şi mărginit superior de α, deci Sisteme neliniare

convergent către o limită x, iar f (x ) = 0. Metode


quasi-Newton
I Viteza de convergenţă se determină scăzând α din ambii Interpolare liniară
Metode de modificare

membri ai lui (14) şi utilizând faptul că f (α) = 0: Interpolare inversă

Metode hibride
xn − b
xn+1 − α = xn − α − [f (xn ) − f (α)]. Bibliografie
f (xn ) − f (b )
Rezolvarea
Metoda falsei poziţii - convergenţa II numerică a
ecuaţiilor neliniare

I Împărţind cu xn − α avem Radu Trı̂mbiţaş

Ecuaţii neliniare
xn+1 − α xn − b f (xn ) − f (α)
= 1− . Ordin de
xn − α f ( xn ) − f ( b ) xn − α convergenţă

Falsa poziţie
I Făcând n → ∞ şi utilizând faptul că xn → α, obţinem Metoda secantei

Metoda lui Newton


xn+1 − α f 0 (α) Metoda
lim = 1 − (b − α ) . (15) aproximaţiilor
n→∞ xn − α f (b ) succesive

Rădăcini multiple
I Deci metoda converge liniar, cu eroarea asimptotică Ecuaţii algebrice

Sisteme neliniare
f 0 (α)
c = 1 − (b − a ) . Metode
f (b ) quasi-Newton
Interpolare liniară
Metode de modificare

I Datorită ipotezei convexităţii avem c ∈ (0, 1). Interpolare inversă

I Analog se face demonstraţia ı̂n cazul când f este Metode hibride

concavă. Bibliografie
Rezolvarea
Metoda falsei poziţii - convergenţa III numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

Ordin de
I Dacă f nu este convexă sau concavă pe [a, b ], ci convergenţă

f ∈ C 2 [a, b ] şi f 00 (α) 6= 0, f 00 are semn constant pe o Falsa poziţie

Metoda secantei
vecinătate a lui α şi pentru un n suficient de mare xn
Metoda lui Newton
ajunge ı̂n acea vecinătate şi se poate proceda ca mai
Metoda
sus. aproximaţiilor
succesive
I Dezavantaje. (i) Convergenţa lentă; (ii) Faptul că unul Rădăcini multiple
din capete poate rămâne fix. Dacă f este turtită ı̂n Ecuaţii algebrice
vecinătatea rădăcinii şi a este apropiat de α şi b Sisteme neliniare

depărtat convergenţa poate fi foarte lentă. Metode


quasi-Newton
Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
Rezolvarea
numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

Ordin de
convergenţă

Falsa poziţie

Metoda secantei

Metoda lui Newton

Metoda
aproximaţiilor
succesive

Rădăcini multiple

Ecuaţii algebrice

Sisteme neliniare

Metode
quasi-Newton
Figura: Metoda falsei poziţii Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
Rezolvarea
Metoda secantei I numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

I Este o variantă a metodei falsei poziţii, ı̂n care nu se Ecuaţii neliniare


mai cere ca f să aibă valori de semne contrare, nici Ordin de
măcar la capetele intervalului iniţial. convergenţă

Falsa poziţie
I Se aleg două valori arbitrare de pornire x0 , x1 şi se
Metoda secantei
continuă cu Metoda lui Newton

xn − xn − 1 Metoda
xn + 1 = xn − f ( xn ) , n ∈ N∗ (16) aproximaţiilor
f (xn ) − f (xn−1 ) succesive

Rădăcini multiple
I Aceasta preı̂ntâmpină apariţia unei false poziţii şi Ecuaţii algebrice

sugerează o convergenţă mai rapidă. Sisteme neliniare

Metode
I Din păcate, nu mai are loc convergenţa ,,globală“ pe quasi-Newton

[a, b ] ci doar convergenţa ,,locală“, adică numai dacă x0 Interpolare liniară


Metode de modificare

şi x1 sunt suficient de apropiate de rădăcină. Interpolare inversă

I Vom avea nevoie de o relaţie ı̂ntre trei erori consecutive Metode hibride

Bibliografie
Rezolvarea
Metoda secantei II numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

Ordin de
f ( xn ) convergenţă
xn+1 − α = xn − α − Falsa poziţie
f [xn−1 , xn ]
Metoda secantei
f (xn ) − f (α)
 
= ( xn − α ) 1 − Metoda lui Newton
(xn − α)f [xn−1 , xn ] Metoda
  aproximaţiilor
f [ xn , α ] succesive
= ( xn − α ) 1 −
f [xn−1 , xn ] Rădăcini multiple

f [xn−1 , xn ] − f [xn , α] Ecuaţii algebrice


= ( xn − α ) Sisteme neliniare
f [xn−1 , xn ]
Metode
f [xn , xn−1 , α] quasi-Newton
= (xn − α)(xn−1 − α) . Interpolare liniară

f [xn−1 , xn ] Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
Rezolvarea
Metoda secantei III numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

Ordin de
convergenţă
I Deci Falsa poziţie

Metoda secantei
f [xn , xn−1 , α]
(xn+1 − α) = (xn − α)(xn−1 − α) , n ∈ N∗ Metoda lui Newton
f [xn−1 , xn ] Metoda
(17) aproximaţiilor
succesive
I Din (17) rezultă imediat că dacă α este o rădăcină Rădăcini multiple

simplă (f (α) = 0, f 0 (α) 6= 0) şi xn → α şi dacă f ∈ C 2 Ecuaţii algebrice

pe o vecinătate a lui α, convergenţa este superliniară. Sisteme neliniare

Metode
quasi-Newton
Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
Rezolvarea
Ordinul de convergenţă I numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

I Înlocuim raportul diferenţelor divizate din (17) cu o Ecuaţii neliniare

constantă, ceea ce este aproape adevărat când n este Ordin de


convergenţă
mare. Punând ek = |xk − α|, avem Falsa poziţie

Metoda secantei
en+1 = en en−1 C , C >0 Metoda lui Newton

Metoda
I Înmulţind ambii membri cu C şi punând En = Cen aproximaţiilor
succesive
obţinem Rădăcini multiple
En+1 = En En−1 , En → 0. Ecuaţii algebrice

I Logaritmând şi punând yn = 1 Sisteme neliniare


En obţinem
Metode
quasi-Newton
yn+1 = yn + yn−1 , (18) Interpolare liniară
Metode de modificare

Interpolare inversă
care este recurenţa pentru şirul lui Fibonacci. Metode hibride

Bibliografie
Rezolvarea
Ordinul de convergenţă II numerică a
ecuaţiilor neliniare

I Soluţia este Radu Trı̂mbiţaş

yn = c1 t1n + c2 t2n , Ecuaţii neliniare

Ordin de
c1 , c2 constante şi convergenţă

Falsa poziţie
1 √ 1 √
t1 = (1 + 5), t2 = ( 1 − 5 ) . Metoda secantei
2 2 Metoda lui Newton

I Deoarece yn → ∞, avem c1 6= 0 şi yn ∼ c1 t1n , căci Metoda


aproximaţiilor
|t2 | < 1. Revenind la substituţie 1 c1 t1n ,
En ∼ e
succesive

1 c1 t1n şi deci Rădăcini multiple


en ∼ Ce Ecuaţii algebrice

Sisteme neliniare
en + 1 C t1 e c1 t1n t1
t1 −1
t1 ∼ n +1 = C , n → ∞. Metode
quasi-Newton
en Ce c1 t1 Interpolare liniară
Metode de modificare

I Ordinul de√convergenţă este Interpolare inversă


1+ 5 Metode hibride
t1 = ≈ 1.61803 . . . (secţiunea de aur).
2 Bibliografie
Rezolvarea
Convergenţa metodei secantei I numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare
Teorema 3 Ordin de
convergenţă
Fie α un zero simplu al lui f şi fie
Iε = {x ∈ R : |x − α| < ε} şi presupunem că f ∈ C 2 [Iε ].
Falsa poziţie

Metoda secantei
Definim pentru ε suficient de mic
Metoda lui Newton

f 00 (s ) Metoda
aproximaţiilor
M (ε) = max . (19)
s ∈Iε
t ∈Iε
2f 0 (t ) succesive

Rădăcini multiple

Ecuaţii algebrice
Presupunem că
Sisteme neliniare
εM (ε) < 1 (20)
Metode
quasi-Newton
Atunci metoda secantei converge către rădăcina unică α ∈ Iε Interpolare liniară

pentru orice valoare de pornire x0 6= x1 cu x0 ∈ Iε , x1 ∈ Iε .


Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
Rezolvarea
Convergenţa metodei secantei II numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

Ordin de
convergenţă

Falsa poziţie

Metoda secantei
Observaţia 4
f 00 (α) Metoda lui Newton
Se observă că lim M (ε) = 2f 0 (α)
< ∞, deci (20) poate fi
ε →0 Metoda
aproximaţiilor
satisfăcută pentru ε suficient de mic. Natura locală a succesive
convergenţei este cuantificată prin cerinţa ca x0 , x1 ∈ Iε . Rădăcini multiple

Ecuaţii algebrice

Sisteme neliniare

Metode
quasi-Newton
Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
Rezolvarea
Demonstraţie - pasul I numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
Se observă că α este singurul zero al lui f ı̂n Iε . Aceasta
rezultă din formula lui Taylor pentru x = α: Ecuaţii neliniare

Ordin de
(x − α)2 00 convergenţă
f (x ) = f ( α ) + (x − α )f 0 ( α ) + f (ξ ) Falsa poziţie
2
Metoda secantei

unde f (α) = 0 şi ξ ∈ (x, α) (sau (α, x )). Astfel dacă x ∈ Iε , Metoda lui Newton

atunci şi ξ ∈ Iε şi avem Metoda


aproximaţiilor
succesive
x − α f 00 (ξ )
 
0 Rădăcini multiple
f (x ) = (x − α )f ( α ) 1 +
2 f 0 (α) Ecuaţii algebrice

Sisteme neliniare
Aici, dacă x 6= α, toţi trei factorii sunt diferiţi de 0, căci Metode
quasi-Newton

x − α f 00 (ξ )
Interpolare liniară
Metode de modificare
≤ εM (ε) < 1.
2 f 0 (α) Interpolare inversă

Metode hibride
Deci f se poate anula pe Iε numai ı̂n x = α. Bibliografie
Rezolvarea
Demonstraţie - pasul II numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Să arătăm că xn ∈ Iε pentru orice n, ı̂n afară de cazul când Ecuaţii neliniare
f (xn ) = 0, ı̂n care xn = α şi metoda converge ı̂ntr-un număr Ordin de
finit de paşi. Vom demonstra aceasta prin inducţie: convergenţă

presupunem că xn−1 , xn ∈ Iε şi xn 6= xn−1 . Acest lucru este Falsa poziţie

Metoda secantei
adevărat pentru n = 1 din ipoteză.
Deoarece f ∈ C 2 [Iε ] Metoda lui Newton

Metoda
aproximaţiilor
1 succesive
f [xn−1 , xn ] = f 0 (ξ 1 ), f [xn−1 , xn , α] = f 00 (ξ 2 ), ξ i ∈ Iε , i = 1, 2, Rădăcini multiple
2
Ecuaţii algebrice
din (17) rezultă Sisteme neliniare

Metode
2 f 00 (ξ n ) quasi-Newton
|xn+1 − α| ≤ ε ≤ εεM (ε) < ε, Interpolare liniară

2f 0 (ξ 1 ) Metode de modificare

Interpolare inversă
adică xn+1 ∈ Iε . Metode hibride

Bibliografie
Rezolvarea
Demonstraţie - pasul III numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

Convergenţa. Mai mult, din relaţia ı̂ntre trei erori Ordin de


convergenţă
consecutive, (17), rezultă xn+1 6= xn ı̂n afară de cazul când Falsa poziţie
f (xn ) = 0 (şi atunci xn = α). Utilizând (17) avem Metoda secantei

Metoda lui Newton


|xn+1 − α| ≤ |xn − α|εM (ε) Metoda
aproximaţiilor
succesive
care aplicată repetat ne dă
Rădăcini multiple

|xn+1 − α| ≤ |xn − α|εM (ε) ≤ · · · ≤ [εM (ε)]n−1 |x1 − α|. Ecuaţii algebrice

Sisteme neliniare

Metode
Cum εM (ε) < 1, rezultă că metoda este convergentă şi quasi-Newton
xn → α când n → ∞. Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
Rezolvarea
Algoritmul numerică a
ecuaţiilor neliniare
Deoarece este nevoie de o singură √ evaluare a lui f pe pas, Radu Trı̂mbiţaş
indicele de eficienţă este p = 1+2 5 ≈ 1.61803 . . . .
Ecuaţii neliniare

Ordin de
convergenţă

Falsa poziţie

Metoda secantei

Metoda lui Newton

Metoda
aproximaţiilor
succesive

Rădăcini multiple

Ecuaţii algebrice

Sisteme neliniare

Metode
quasi-Newton
Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
Figura: Ilustrarea metodei secantei
Rezolvarea
Algoritmul ı̂n pseudocod numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare
Intrare: Funcţia f , valorile de pornire x0 şi x1 , numarul
Ordin de
maxim de iteraţii, Nmax, informaţii de toleranţă tol convergenţă
Ieşire: O aproximaţie a rădăcinii sau un mesaj de eroare Falsa poziţie

1: xc : = x1 ; xv = x0 ; Metoda secantei

2: fc : = f (x1 ); fv := f (x0 ); Metoda lui Newton

3: for k : = 1 to Nmax do Metoda


aproximaţiilor
4: xn := xc − fc ∗ (xc − xv )/(fc − fv ); succesive

5: if crit oprire (tol ) then Rădăcini multiple

6: return xn;{Succes} Ecuaţii algebrice

Sisteme neliniare
7: end if
Metode
8: xv := xc; fv := fc; xc := xn; fc = f (xn ); quasi-Newton
9: end for Interpolare liniară
Metode de modificare

10: error (”S-a depăşit numărul de iteraţii”). Interpolare inversă

Metode hibride

Bibliografie
Rezolvarea
Metoda lui Newton I numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
I Poate fi privită ca un caz la limită al metodei secantei,
când xn−1 → xn : Ecuaţii neliniare

Ordin de
convergenţă
f ( xn )
xn+1 = xn − (21) Falsa poziţie
f 0 (xn ) Metoda secantei

Metoda lui Newton


I Altă interpretare: liniarizarea ecuaţiei f (x ) = 0 ı̂n
Metoda
x = xn (vezi figura 3) aproximaţiilor
succesive

Rădăcini multiple
f (x ) ≈ (T1 f )(x ) = f (xn ) + (x − xn )f 0 (xn ) = 0.
Ecuaţii algebrice

Sisteme neliniare
I Astfel, metoda lui Newton se poate generaliza la ecuaţii
Metode
neliniare de toate tipurile (sisteme neliniare, ecuaţii quasi-Newton

funcţionale, caz ı̂n care f 0 trebuie ı̂nţeleasă ca derivată


Interpolare liniară
Metode de modificare

Fréchet), iar iteraţia este Interpolare inversă

Metode hibride

xn+1 = xn − [f 0 (xn )]−1 f (xn ). (22) Bibliografie


Rezolvarea
Metoda lui Newton II numerică a
ecuaţiilor neliniare
I Studiul erorii ı̂n metoda lui Newton este la fel ca cel al Radu Trı̂mbiţaş
erorii ı̂n metoda secantei
Ecuaţii neliniare
f (xn )
xn+1 − α = xn − α − 0 Ordin de
convergenţă
f (xn )
Falsa poziţie
f ( xn ) − f ( α )
 
= ( xn − α ) 1 − Metoda secantei
(xn − α)f 0 (xn ) Metoda lui Newton
  (23)
f [xn , α] Metoda
= ( xn − α ) 1 − aproximaţiilor
f [xn , xn ] succesive

f [xn , xn , α] Rădăcini multiple


= ( xn − α ) 2 Ecuaţii algebrice
f [xn , xn ]
Sisteme neliniare
I De aceea, dacă xn → α, atunci Metode
quasi-Newton

xn + 1 − α f 00 (α)
Interpolare liniară
Metode de modificare
lim =
n→∞ (xn − α )2 2f 0 (α) Interpolare inversă

Metode hibride
şi ordinul de convergenţă al metodei lui Newton este 2 Bibliografie
dacă f 00 (α) 6= 0.
Rezolvarea
Interpretarea geometrică a metodei lui Newton numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

Ordin de
convergenţă

Falsa poziţie

Metoda secantei

Metoda lui Newton

Metoda
aproximaţiilor
succesive

Rădăcini multiple

Ecuaţii algebrice

Sisteme neliniare

Metode
quasi-Newton
Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride
Figura: Metoda lui Newton Bibliografie
Rezolvarea
Convergenţa numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Referitor la convergenţa locală a metodei lui Newton avem Ecuaţii neliniare

Teorema 5 Ordin de
convergenţă
Fie α o rădăcină simplă a ecuaţiei f (x ) = 0 şi Falsa poziţie
Iε = {x ∈ R : |x − α| ≤ ε}. Presupunem că f ∈ C 2 [Iε ]. Metoda secantei
Definim Metoda lui Newton
f 00 (s )
M (ε) = max (24) Metoda
s ∈Iε
t ∈I
2f 0 (t ) aproximaţiilor
succesive
ε
Rădăcini multiple
Dacă ε este suficient de mic astfel ı̂ncât
Ecuaţii algebrice

2εM (ε) < 1, (25) Sisteme neliniare

Metode
quasi-Newton
atunci pentru orice x0 ∈ Iε , metoda lui Newton este bine Interpolare liniară
Metode de modificare
definită şi converge pătratic către singura rădăcină α ∈ Iε . Interpolare inversă
Demonstraţia: ca la secantă. Metode hibride

Bibliografie
Rezolvarea
Criteriul de oprire I numerică a
ecuaţiilor neliniare

Criteriul de oprire pentru metoda lui Newton Radu Trı̂mbiţaş

Ecuaţii neliniare
|xn − xn−1 | < ε
Ordin de
convergenţă
se bazează pe următoarea propoziţie: Falsa poziţie

Metoda secantei
Propoziţia 6
Metoda lui Newton
Fie (xn ) şirul de aproximante generat prin metoda lui Metoda
Newton. Dacă α este o rădăcină simplă din [a, b ], aproximaţiilor
succesive
f ∈ C 2 [a, b ] şi metoda este convergentă, atunci există un Rădăcini multiple
n0 ∈ N astfel ı̂ncât Ecuaţii algebrice

Sisteme neliniare
|xn − α| ≤ |xn − xn−1 |, n > n0 . Metode
quasi-Newton
Interpolare liniară
Metode de modificare
Demonstraţie. Vom arăta ı̂ntâi că
Interpolare inversă

1 Metode hibride
|xn − α| ≤ |f (xn )|, m1 ≤ inf |f 0 (x )|. (26) Bibliografie
m1 x ∈[a,b ]
Rezolvarea
Criteriul de oprire II numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
Utilizând teorema lui Lagrange,
Ecuaţii neliniare
f (α) − f (xn ) = f 0 (ξ )(α − xn ), cu ξ ∈ (α, xn ) (sau (xn , α)).
Ordin de
Din relaţiile f (α) = 0 şi |f 0 (x )| ≥ m1 pentru x ∈ (a, b ) convergenţă

rezultă că |f (xn )| ≥ m1 |α − xn |, adică chiar (26). Falsa poziţie

Pe baza formulei lui Taylor avem Metoda secantei

Metoda lui Newton


1
f (xn ) = f (xn−1 ) + (xn − xn−1 )f (xn−1 ) + (xn − xn−1 )2 f 00 (µ),
0 Metoda
aproximaţiilor
2 succesive
(27) Rădăcini multiple
cu µ ∈ (xn−1 , xn ) sau µ ∈ (xn , xn−1 ). Ecuaţii algebrice
Ţinând cont de modul de obţinere a unei aproximaţii ı̂n Sisteme neliniare
metoda lui Newton, avem Metode

f (xn−1 ) + (xn − xn−1 )f 0 (xn−1 ) = 0 şi din (27) se obţine


quasi-Newton
Interpolare liniară
Metode de modificare

1 1 Interpolare inversă
|f (xn )| = (xn − xn−1 )2 |f 00 (µ)| ≤ (xn − xn−1 )2 kf 00 k∞ ,
2 2 Metode hibride

Bibliografie
Rezolvarea
Criteriul de oprire III numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

iar pe baza formulei (26) rezultă că Ecuaţii neliniare

Ordin de
convergenţă
kf 00 k ∞
|α − xn | ≤ (xn − xn−1 )2 . Falsa poziţie
2m1 Metoda secantei

Metoda lui Newton


Cum am presupus că metoda este convergentă, există un n0
Metoda
natural cu proprietatea că aproximaţiilor
succesive

kf 00 k∞ Rădăcini multiple
(xn − xn−1 ) < 1, n > n0 Ecuaţii algebrice
2m1
Sisteme neliniare

şi deci Metode


quasi-Newton
|xn − α| ≤ |xn − xn−1 |, n > n0 . Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
Rezolvarea
Alegerea valorii de pornire numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

I Alegerea valorii de pornire este, ı̂n general, o problemă Ecuaţii neliniare


dificilă. Ordin de
convergenţă
I În practică, se alege o valoare, iar dacă după un număr
Falsa poziţie
maxim fixat de iteraţii nu s-a obţinut precizia dorită, Metoda secantei
testată prin unul din criteriile uzuale, se ı̂ncearcă cu altă Metoda lui Newton
valoare de pornire. Metoda
aproximaţiilor
I Criterii succesive

Criteriul 1 dacă rădăcina este izolată ı̂ntr-un interval Rădăcini multiple

[a, b ] şi f 00 (x ) 6= 0, x ∈ (a, b ), un criteriu Ecuaţii algebrice

de alegere este f (x0 )f 00 (x0 ) > 0. Sisteme neliniare

Metode
Criteriul 2 dacă f este convexă sau concavă pe [a, b ], quasi-Newton
f (a)f (b ) < 0 şi tangentele ı̂n capete Interpolare liniară
Metode de modificare

intersectează Ox ı̂n (a,b), orice valoare x0 Interpolare inversă


se poate alege ca valoare de pornire. Metode hibride

Bibliografie
Rezolvarea
Algoritmul ı̂n pseudocod numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

Intrare: Funcţia f , derivataf 0, valoarea de pornire x0 , Ordin de


convergenţă
numarul maxim de iteraţii, Nmax, informaţii de Falsa poziţie
toleranţă tol Metoda secantei
Ieşire: O aproximaţie a rădăcinii sau un mesaj de eroare Metoda lui Newton
1: for k : = 0 to Nmax do Metoda
f (x ) aproximaţiilor
2: xk +1 := xk − f 0 (xk ) ; succesive
k
3: if crit oprire (tol ) then Rădăcini multiple

4: return xk +1 ;{Succes} Ecuaţii algebrice

5: end if Sisteme neliniare

Metode
6: end for quasi-Newton
7: error (”S-a depăşit numărul de iteraţii”). Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
Rezolvarea
Metoda aproximaţiilor succesive I numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare
I Adesea, ı̂n aplicaţii, ecuaţiile neliniare apar sub forma Ordin de
unei probleme de punct fix: să se determine x astfel convergenţă

Falsa poziţie
ı̂ncât
Metoda secantei
x = ϕ (x ). (28)
Metoda lui Newton

I Un număr α ce satisface această ecuaţie se numeşte Metoda


aproximaţiilor
punct fix al lui ϕ. succesive

Rădăcini multiple
I Orice ecuaţie f (x ) = 0 se poate scrie (ı̂n multe moduri
Ecuaţii algebrice
diferite) ı̂n forma echivalentă (28). De exemplu, dacă
Sisteme neliniare
f 0 (x ) 6= 0, ı̂n intervalul de interes putem lua Metode
quasi-Newton

f (x ) Interpolare liniară

ϕ (x ) = x − . (29) Metode de modificare

f 0 (x ) Interpolare inversă

Metode hibride

Bibliografie
Rezolvarea
Metoda aproximaţiilor succesive II numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
I Dacă x0 este o aproximaţie iniţială a unui punct fix α a
Ecuaţii neliniare
lui (28), atunci metoda aproximaţiilor succesive
Ordin de
generează un şir de aproximaţii convergenţă

Falsa poziţie

xn+1 = ϕ(xn ). (30) Metoda secantei

Metoda lui Newton


I Dacă acest şir converge şi ϕ este continuă, atunci şirul Metoda
aproximaţiilor
converge către un punct fix a lui ϕ. succesive

I De notat că (30) este chiar metoda lui Newton dacă ϕ Rădăcini multiple

Ecuaţii algebrice
este dată de (29). Astfel metoda lui Newton poate fi
Sisteme neliniare
privită ca o iteraţie de tip punct fix, dar nu şi metoda
Metode
secantei. quasi-Newton
Interpolare liniară
I Pentru o iteraţie de forma (30), presupunând că xn → α Metode de modificare

când n → ∞, ordinul de convergenţă este uşor de Interpolare inversă

Metode hibride
determinat.
Bibliografie
Rezolvarea
Metoda aproximaţiilor succesive III numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
I Să presupunem că ı̂n punctul fix α avem
Ecuaţii neliniare

ϕ0 (α) = ϕ00 (α) = · · · = ϕ(p −1) (α) = 0,


Ordin de
ϕp ( α ) 6 = 0 convergenţă
(31) Falsa poziţie
I Presupunem că ϕ ∈ C p pe o vecinătate V a lui α. Metoda secantei
Avem atunci, conform teoremei lui Taylor Metoda lui Newton

Metoda
( xn − α )p −1 aproximaţiilor
ϕ(xn ) = ϕ(α)+(xn − α) ϕ0 (α)+ . . . + ϕ (p −1) ( α ) succesive
(p − 1) !
Rădăcini multiple
( xn − α ) p ( p ) ( xn − α ) p ( p )
+ ϕ (ξ n ) = ϕ(α) + ϕ ( ξ n ), Ecuaţii algebrice
p! p! Sisteme neliniare

Metode
unde ξ n ∈ (α, xn ) (sau (xn , α)). quasi-Newton
I Deoarece ϕ(xn ) = xn+1 şi ϕ(α) = α obţinem Interpolare liniară
Metode de modificare

xn + 1 − α 1 Interpolare inversă

p
= ϕ (p ) ( ξ n ) . Metode hibride
( xn − α ) p!
Bibliografie
Rezolvarea
Metoda aproximaţiilor succesive IV numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare
I Când xn → α, deoarece ξ n este ı̂ntre xn şi α, deducem Ordin de
pe baza continuităţii că convergenţă

Falsa poziţie
x −α 1
lim n+1 = ϕ(p ) (α) 6= 0. (32) Metoda secantei
n → ∞ ( xn − α ) p p! Metoda lui Newton

Metoda
I Aceasta ne arată că ordinul de convergenţă este exact p aproximaţiilor
succesive
şi eroarea asimptotică este
Rădăcini multiple

1 (p ) Ecuaţii algebrice
c= ϕ ( α ). (33)
p! Sisteme neliniare

Metode
I Combinând aceasta cu condiţia uzuală de convergenţă quasi-Newton
Interpolare liniară

locală se obţine: Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
Rezolvarea
Metoda aproximaţiilor succesive V numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

Ordin de
convergenţă
Teorema 7 Falsa poziţie
Fie α un punct fix al lui ϕ şi Iε = {x ∈ R : |x − α| ≤ ε}. Metoda secantei
Presupunem că ϕ ∈ C p [Iε ] şi satisface (31). Dacă Metoda lui Newton

Metoda
M (ε) := max | ϕ0 (t )| < 1 (34) aproximaţiilor
succesive
t ∈Iε
Rădăcini multiple

atunci iteraţia (30) converge către α, ∀ x0 ∈ Iε . Ordinul de Ecuaţii algebrice

convergenţă este p, iar eroarea asimptotică este dată de (33). Sisteme neliniare

Metode
quasi-Newton
Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
Rezolvarea
Interpretarea geometrica a metodei aproximaţiilor numerică a
ecuaţiilor neliniare
succesive Radu Trı̂mbiţaş

Convergenţa
Ecuaţii neliniare

Ordin de
convergenţă

Falsa poziţie

Metoda secantei

Metoda lui Newton

Metoda
aproximaţiilor
succesive

Rădăcini multiple

Ecuaţii algebrice

Sisteme neliniare

Metode
quasi-Newton
Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
Rezolvarea
Interpretarea geometrica a metodei aproximaţiilor numerică a
ecuaţiilor neliniare
succesive Radu Trı̂mbiţaş

Divergenţa
Ecuaţii neliniare

Ordin de
convergenţă

Falsa poziţie

Metoda secantei

Metoda lui Newton

Metoda
aproximaţiilor
succesive

Rădăcini multiple

Ecuaţii algebrice

Sisteme neliniare

Metode
quasi-Newton
Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
Rezolvarea
Metoda lui Newton pentru rădăcini multiple I numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

I Dacă α este o rădăcină multiplă de ordinul m, atunci Ordin de


convergenţă
ordinul de convergenţă a metodei lui Newton este doar Falsa poziţie
1. Într-adevăr, fie Metoda secantei

Metoda lui Newton


f (x )
ϕ (x ) = x − 0 . Metoda
aproximaţiilor
f (x ) succesive

Rădăcini multiple
I Deoarece
f (x )f 00 (x )
Ecuaţii algebrice

ϕ 0 (x ) = Sisteme neliniare
[f 0 (x )]2 Metode
quasi-Newton
procesul va fi convergent dacă ϕ0 (α) = 1 − 1/m < 1. Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
Rezolvarea
Metoda lui Newton pentru rădăcini multiple II numerică a
ecuaţiilor neliniare

I O modalitate de a evita aceasta este să rezolvăm Radu Trı̂mbiţaş

ecuaţia Ecuaţii neliniare


f (x )
u (x ) : = 0 =0 Ordin de
convergenţă
f (x )
Falsa poziţie
care are aceleaşi rădăcini ca şi f , dar simple. Metoda lui Metoda secantei
Newton pentru problema modificată are forma Metoda lui Newton

Metoda
u (x ) f (xk )f 0 (xk ) aproximaţiilor
xk + 1 = xk − 0 k = 0 . (35) succesive
u (xk ) [f (xk )]2 − f (xk )f 00 (xk ) Rădăcini multiple

Ecuaţii algebrice
I Deoarece α este o rădăcină simplă a lui u, convergenţa
Sisteme neliniare
lui (35) este pătratică. Singurul dezavantaj teoretic al Metode
lui (35) este derivata a doua necesară suplimentar şi quasi-Newton
Interpolare liniară
complexitatea mai mare a calculului lui xk +1 din xk . În Metode de modificare

practică aceasta este o slăbiciune, deoarece numitorul Interpolare inversă

lui (35) poate lua valori foarte mici ı̂n vecinătatea lui α Metode hibride

când xk → α. Bibliografie
Rezolvarea
Metoda lui Newton pentru rădăcini multiple III numerică a
ecuaţiilor neliniare
I Convergenţa pătratică a metodei lui Newton se poate Radu Trı̂mbiţaş

realiza nu numai prin modificarea problemei ci şi prin


Ecuaţii neliniare
modificarea metodei. În vecinătatea unei soluţii multiple Ordin de
de ordinul m, α, avem convergenţă

Falsa poziţie
m m
f (x ) = (x − α) ϕ(x ) ≈ (x − α) · c, (36) Metoda secantei

Metoda lui Newton

de unde rezultă Metoda


aproximaţiilor
succesive
f (x ) x −α f (x )
0
≈ ⇒ α ≈ x −m 0 . Rădăcini multiple
f (x ) m f (x ) Ecuaţii algebrice

Sisteme neliniare
I Metoda modificată corespunzătoare
Metode
quasi-Newton
f (xk ) Interpolare liniară

xk + 1 : = xk − m , k = 0, 1, 2, . . . (37) Metode de modificare

f 0 ( xk ) Interpolare inversă

Metode hibride
converge pătratic către rădăcina multiplă de ordinul m
Bibliografie
când se ı̂ntrebuinţează o valoare corectă a lui m ı̂n (37).
Rezolvarea
Metoda lui Newton pentru rădăcini multiple IV numerică a
ecuaţiilor neliniare
I Eficienţa variantei (37) a metodei lui Newton depinde Radu Trı̂mbiţaş

de utilizarea unei valori de aproximare bune pentru m,


Ecuaţii neliniare
dacă această valoare nu este cunoscută din alte surse. Ordin de
În ipoteza convergenţă

Falsa poziţie

|xk − α| < |xk −1 − α| ∧ |xk − α| < |xk −2 − α| Metoda secantei

Metoda lui Newton

putem ı̂nlocui ı̂n (36) α prin xk Metoda


aproximaţiilor
succesive
f (xk −1 ) ≈ (xk −1 − xk )m · c Rădăcini multiple
m
f (xk −2 ) ≈ (xk −2 − xk ) · c. Ecuaţii algebrice

Sisteme neliniare

I În continuare se obţine m: Metode


quasi-Newton
Interpolare liniară

log [f (xk −1 )/f (xk −2 )] Metode de modificare

m≈ . Interpolare inversă
log [(xk −1 − xk )/(xk −2 − xk )]
Metode hibride

Bibliografie
Această valoare poate fi utilizată ı̂n (37).
Rezolvarea
Ecuaţii algebrice I numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
I Există multe metode special concepute pentru a rezolva
Ecuaţii neliniare
ecuaţii algebrice. Ordin de
I Aici vom descrie numai metoda lui Newton aplicată ı̂n convergenţă

Falsa poziţie
acest context, concentrându-ne asupra unui mod
Metoda secantei
eficient de a evalua simultan valoarea polinomului şi a
Metoda lui Newton
primei derivate. Metoda
I Considerăm o ecuaţie algebrică de grad d aproximaţiilor
succesive

Rădăcini multiple
f (x ) = 0, f (x ) = x d + ad −1 x d −1 + · · · + a0 , (38) Ecuaţii algebrice

Sisteme neliniare
ı̂n care coeficientul dominant se presupune (fără a Metode
restrânge generalitatea) a fi egal cu 1 şi unde putem quasi-Newton
Interpolare liniară

presupune, fără a restrânge generalitatea că a0 6= 0. Metode de modificare

Interpolare inversă
I Pentru simplitate vom presupune că toţi coeficienţii
Metode hibride
sunt reali. Bibliografie
Rezolvarea
Ecuaţii algebrice II numerică a
ecuaţiilor neliniare

I Pentru a aplica metoda lui Newton ecuaţiei (38) este Radu Trı̂mbiţaş

nevoie de o metodă bună de evaluare a polinomului şi Ecuaţii neliniare

derivatei. Schema lui Horner este potrivită pentru aşa Ordin de


convergenţă
ceva:
Falsa poziţie
bd := 1; cd := 1; Metoda secantei

for k = d − 1 downto 1 do Metoda lui Newton

bk := tbk +1 + ak ; Metoda
aproximaţiilor
ck := tck +1 + bk ; succesive

end for Rădăcini multiple

b0 := tb1 + a0 ; Ecuaţii algebrice

Sisteme neliniare
I Atunci f (t ) = b0 , f 0 (t ) = c1 . Metode
quasi-Newton
I Deci procedăm astfel: Interpolare liniară

I Se aplică metoda lui Newton, calculând simultan f (xn ) Metode de modificare

şi f 0 (xn ) Interpolare inversă

Metode hibride
f ( xn )
xn + 1 = xn − 0 . Bibliografie
f ( xn )
Rezolvarea
Ecuaţii algebrice III numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

Ordin de
I Se aplică apoi metoda lui Newton polinomului fx (−xα) . convergenţă

I Pentru rădăcini complexe se ı̂ncepe cu x0 complex şi Falsa poziţie

toate calculele se fac ı̂n aritmetică complexă. Metoda secantei

I Este posibil să se ı̂mpartă cu factori pătratici şi să se Metoda lui Newton

folosească aritmetica reală – metoda lui Bairstow. Metoda


aproximaţiilor
I Folosind metoda aceasta de scădere a gradului erorile succesive

pot fi mari. Rădăcini multiple

I O modalitate de ı̂mbunătăţire este de a utiliza rădăcinile Ecuaţii algebrice

astfel calculate ca aproximaţii iniţiale şi a aplica metoda Sisteme neliniare

lui Newton polinomului original. Metode


quasi-Newton
Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
Rezolvarea
Metoda lui Newton pentru sisteme neliniare I numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
I Metoda lui Newton este uşor de generalizat la sisteme
neliniare Ecuaţii neliniare

F (x ) = 0, (39) Ordin de
convergenţă

unde F : Ω ⊂ Rn → Rn , iar x, F (x ) ∈ Rn . Falsa poziţie

Metoda secantei
I Sistemul (39) se scrie pe componente Metoda lui Newton
 Metoda
 F1 (x1 , . . . , xn ) = 0
 aproximaţiilor
succesive
..
 . Rădăcini multiple

Fn (x1 , . . . , xn ) = 0
 Ecuaţii algebrice

Sisteme neliniare

I Fie F 0(k ) ) jacobianul lui F ı̂n x (k ) : Metode


quasi-Newton
Interpolare liniară
 ∂F1 (k ) ) . . . ∂F1 (k ) )  Metode de modificare

∂x1 (x ∂xn (x Interpolare inversă


J := F 0(k ) ) =  .. .. ..
. (40)
 
. . . Metode hibride
∂Fn
( (k ) ) . . . ∂Fn ( k )
x ∂xn (x ) Bibliografie
∂x1
Rezolvarea
Metoda lui Newton pentru sisteme neliniare II numerică a
ecuaţiilor neliniare

I Cantitatea 1/f 0 (x ) se ı̂nlocuieşte ı̂n acest caz cu inversa Radu Trı̂mbiţaş

jacobianului ı̂n x (k ) : Ecuaţii neliniare

Ordin de
(k +1) (k ) 0 (k ) −1 (k ) convergenţă
x =x − [F (x )] F (x ). (41)
Falsa poziţie

I Scriem iteraţia sub forma Metoda secantei

Metoda lui Newton

(k +1) (k ) (k ) Metoda
x =x +w . (42) aproximaţiilor
succesive

Se observă că wk este soluţia sistemului de n ecuaţii Rădăcini multiple

Ecuaţii algebrice
liniare cu n necunoscute
Sisteme neliniare
 
F 0 x (k ) w (k ) = − F ( x (k ) ) . (43) Metode
quasi-Newton
Interpolare liniară
Metode de modificare
I Este mai eficient şi mai convenabil ca, ı̂n loc să Interpolare inversă
inversăm jacobianul la fiecare pas, să rezolvăm sistemul Metode hibride
(43) şi să folosim iteraţia ı̂n forma (42). Bibliografie
Rezolvarea
Metoda lui Newton pentru sisteme neliniare III numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
Teorema 8
Ecuaţii neliniare
Fie α o soluţie a ecuaţiei F (x ) = 0 şi presupunem că ı̂n bila
Ordin de
ı̂nchisă B (δ) ≡ {x : kx − αk ≤ δ}, există matricea Jacobi a convergenţă
lui F : Rn → Rn , este nesingulară şi satisface condiţia Falsa poziţie

Lipschitz Metoda secantei

Metoda lui Newton


kF 0 (x ) − F 0 (y )k∞ ≤ c kx − y k∞ , ∀ x, y ∈ B (δ), c > 0. Metoda
aproximaţiilor
succesive
Punem γ = c max k[F 0 (x )]−1 k∞ : kα − x k∞ ≤ δ şi

Rădăcini multiple
0 < ε < min{δ, γ−1 }. Atunci pentru orice aproximaţie Ecuaţii algebrice
iniţială x (0) ∈ B (ε) := {x : kx − αk∞ ≤ ε} metoda lui Sisteme neliniare

Newton este convergentă, iar vectorii e (k ) := α − x (k ) Metode


quasi-Newton
satisfac următoarele inegalităţi: Interpolare liniară
Metode de modificare
(a) ke (k +1) k∞ ≤ γke (k ) k2∞ Interpolare inversă
k
(b) ke (k ) k∞ ≤ γ−1 (γke (0) k∞ )2 . Metode hibride

Bibliografie
Rezolvarea
Metoda lui Newton pentru sisteme neliniare IV numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Demonstraţie. Dacă F 0 este continuă pe segmentul ce


Ecuaţii neliniare
uneşte punctele x, y ∈ Rn , conform teoremei lui Lagrange Ordin de
convergenţă

F ( x ) − F ( y ) = Jk ( x − y ) , Falsa poziţie

Metoda secantei

unde   Metoda lui Newton


∂F1 ∂F1
∂x1 ( ξ 1 )
... ∂xn ( ξ 1 ) Metoda
aproximaţiilor
.
.. .. ..
Jk =  ⇒ succesive
 
. .
∂Fn ∂Fn Rădăcini multiple
∂x1 ( ξ n ) . . . ∂xn ( ξ n ) Ecuaţii algebrice

Sisteme neliniare

Metode
e (k +1) = e (k ) − [F 0 (x (k ) )]−1 (F (α) − F (x (k ) )) quasi-Newton
Interpolare liniară

= e (k ) − [F 0 (x (k ) )]−1 Jk e (k ) Metode de modificare

Interpolare inversă
= [F 0 (x(k ) )]−1 (F 0 (x (k ) ) − Jk )e (k ) Metode hibride

Bibliografie
Rezolvarea
Metoda lui Newton pentru sisteme neliniare V numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

Ordin de
şi de aici rezultă imediat (a). Din condiţia Lipschitz convergenţă

Falsa poziţie
0 (k ) (k ) (j ) (k )
kF (x ) − Jk k∞ ≤ c max kx − ξ k ≤ c kx − αk Metoda secantei
j =1,n Metoda lui Newton

Metoda
Deci, dacă kα − x (k ) k∞ ≤ ε, atunci aproximaţiilor
succesive

Rădăcini multiple
kα − x (k +1) k∞ ≤ (γε)ε ≤ ε. Ecuaţii algebrice

Sisteme neliniare
Deoarece (a) este adevărată pentru orice k, se obţine (b) Metode
imediat. quasi-Newton
Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
Rezolvarea
Metoda lui Newton - pseudocod numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Intrare: Funcţia F , derivata Fréchet F 0 , vectorul de pornire Ecuaţii neliniare

x (0) , numarul maxim de iteraţii, Nmax, informaţii de Ordin de


convergenţă
toleranţă tol Falsa poziţie

Ieşire: O aproximaţie a rădăcinii sau un mesaj de eroare Metoda secantei

1: for k : = 0 to Nmax do Metoda lui Newton

2: Calculează matricea jacobian J = F 0 (x (k ) ); Metoda


aproximaţiilor
3: Rezolvă sistemul Jw = −F (x (k ) ); succesive

4: x (k +1) : = x (k ) + w ; Rădăcini multiple

5: if crit oprire (tol ) then Ecuaţii algebrice

6: return x (k +1) ;{Succes} Sisteme neliniare

Metode
7: end if quasi-Newton
8: end for Interpolare liniară
Metode de modificare

9: error (”S-a depăşit numărul de iteraţii”). Interpolare inversă

Metode hibride

Bibliografie
Rezolvarea
Metode quasi-Newton I numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
I O slăbiciune semnificativă a metodei lui Newton pentru
rezolvarea sistemelor de ecuaţii neliniare este necesitatea Ecuaţii neliniare

ca la fiecare pas să calculăm matricea jacobiană şi să Ordin de


convergenţă
rezolvăm un sistem n × n cu această matrice. Falsa poziţie

I Pentru a ilustra dimensiunile unei astfel de slabiciuni, să Metoda secantei

evaluăm volumul de calcule asociat cu o iteraţie a Metoda lui Newton

metodei lui Newton. Matricea jacobiană asociată unui Metoda


aproximaţiilor
sistem de n ecuaţii neliniare scris ı̂n forma F (x ) = 0 succesive

necesită evaluarea celor n2 derivate parţiale ale celor n Rădăcini multiple

Ecuaţii algebrice
funcţii componente ale lui F . În cele mai multe situaţii,
Sisteme neliniare
evaluarea exactă a derivatelor parţiale este
Metode
neconvenabilă şi de multe ori imposibilă. Efortul total quasi-Newton

pentru o iteraţie a metodei lui Newton va fi de cel puţin Interpolare liniară


Metode de modificare

n2 + n evaluări de funcţii scalare (n2 pentru evaluarea Interpolare inversă

jacobianului şi n pentru evaluarea lui F ) şi O (n3 ) Metode hibride

operaţii aritmetice pentru a rezolva sistemul liniar. Bibliografie


Rezolvarea
Metode quasi-Newton II numerică a
ecuaţiilor neliniare

Acest volum de calcule este prohibitiv, exceptând valori Radu Trı̂mbiţaş

mici ale lui n şi funcţii scalare uşor de evaluat. Ecuaţii neliniare

I Este firesc ca atenţia să fie ı̂ndreptată spre reducerea Ordin de


convergenţă
numărului de evaluări şi evitarea rezolvării unui sistem Falsa poziţie
liniar la fiecare pas. Metoda secantei
I La metoda secantei aproximaţia următoare x (k +1) se Metoda lui Newton

obţine ca soluţie a ecuaţiei liniare Metoda


aproximaţiilor
succesive
f (x (k ) + hk ) − f (x (k ) )
`¯ k = f (x (k ) ) + (x − x (k ) )
Rădăcini multiple
= 0.
hk Ecuaţii algebrice

Sisteme neliniare
I Aici funcţia `¯ k poate fi interpretată ı̂n două moduri: Metode
quasi-Newton
1. ca aproximare a ecuaţie tangentei Interpolare liniară
Metode de modificare
 
` k ( x ) = f ( x (k ) ) + (x − x (k ) ) f 0 x (k ) ; Interpolare inversă

Metode hibride

Bibliografie
2. ca interpolare liniară ı̂ntre punctele x (k ) şi x (k +1) .
Rezolvarea
Metode quasi-Newton III numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

I Se pot obţine diverse generalizări ale metodei secantei Ecuaţii neliniare

la sisteme de ecuaţii neliniare ı̂n funcţie de modul ı̂n Ordin de


convergenţă
care se interpretează `¯ k . Falsa poziţie

I Prima interpretare conduce la metode de tip Newton Metoda secantei

discretizate, iar a doua la metode bazate pe interpolare. Metoda lui Newton

Metoda
I Metodele de tip Newton discretizate se obţin dacă ı̂n aproximaţiilor

metoda lui Newton (41) F 0 (x ) se ı̂nlocuieşte cu cu o


succesive

Rădăcini multiple
aproximare discretă A(x, h ). Derivatele parţiale din
Ecuaţii algebrice
matricea jacobiană (40) se vor ı̂nlocui prin diferenţele Sisteme neliniare
divizate Metode
quasi-Newton
Interpolare liniară
A(x, h )ei := [F (x + hi ei ) − F (x )]/hi , i = 1, n, Metode de modificare

(44) Interpolare inversă

Metode hibride

Bibliografie
Rezolvarea
Metode quasi-Newton IV numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

Ordin de
convergenţă
unde ei ∈ Rn este al i-lea vector al bazei canonice şi Falsa poziţie
hi = hi (x ) este mărimea pasului de discretizare. O Metoda secantei

alegere posibilă a pasului este de exemplu Metoda lui Newton

Metoda
aproximaţiilor

ε|xi |, dacă xi 6= 0; succesive
hi : =
ε, altfel, Rădăcini multiple

Ecuaţii algebrice

cu ε := eps, unde eps este epsilon-ul maşinii. Sisteme neliniare

Metode
quasi-Newton
Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
Rezolvarea
Interpolare liniară I numerică a
ecuaţiilor neliniare

I La interpolare fiecare dintre planele tangente se Radu Trı̂mbiţaş

ı̂nlocuieşte cu un (hiper)plan care interpolează funcţiile Ecuaţii neliniare


componente Fi ale lui F ı̂n n + 1 puncte date x k,j , Ordin de

j = 0, n, ı̂ntr-o vecinătate a lui x (k ) , adică se determina convergenţă

Falsa poziţie
vectorii a(i ) şi scalarii αi , astfel ı̂ncât pentru
Metoda secantei

(i )T Metoda lui Newton


Li (x ) = αi + a x, i = 1, n (45)
Metoda
aproximaţiilor
succesive
are loc
Rădăcini multiple
k,j k,j
Li (x ) = Fi ( x ), i = 1, n, j = 0, n. Ecuaţii algebrice

Sisteme neliniare

I Următoarea aproximaţie x (k +1) se obţine ca punct de Metode


quasi-Newton
intersecţie ı̂ntre cele n hiperplane (45) din Rn+1 cu Interpolare liniară
Metode de modificare
hiperplanul y = 0. x (k +1) rezultă ca soluţie a sistemului Interpolare inversă
de ecuaţii liniare Metode hibride

Bibliografie
Li (x ) = 0, i = 1, n. (46)
Rezolvarea
Interpolare liniară II numerică a
ecuaţiilor neliniare

I În funcţie de alegerea punctelor de interpolare se obţin Radu Trı̂mbiţaş

diferite metode, dintre care cele mai cunoscute sunt Ecuaţii neliniare
metoda lui Brown şi metoda lui Brent. Ordin de
convergenţă
I Metoda lui Brown combină aproximarea lui F 0 şi
Falsa poziţie
rezolvarea sistemului prin eliminare gaussiană. Metoda secantei
I În metoda lui Brent se ı̂ntrebuinţează la rezolvarea Metoda lui Newton

sistemului metoda QR. Ambele metode aparţin unei Metoda


aproximaţiilor
clase de metode, care, la fel ca metoda lui Newton, succesive

converg pătratic, dar au nevoie doar de (n2 + 3n )/2 Rădăcini multiple

evaluări de funcţii pe iteraţie. Ecuaţii algebrice

Sisteme neliniare
I Într-un studiu comparativ, Moré şi Cosnard [7] au ajuns
Metode
la concluzia că metoda Brent este adeseori de preferat quasi-Newton
Interpolare liniară
metodei lui Brown şi că pentru sisteme de ecuaţii Metode de modificare

neliniare, la care evaluarea lui f necesită un efort mai Interpolare inversă

mic, metoda lui Newton discretizată este cea mai Metode hibride

eficientă metodă de rezolvare. Bibliografie


Rezolvarea
Metode de modificare I numerică a
ecuaţiilor neliniare
I Din punct de vedere al efortului de calcul, sunt deosebit Radu Trı̂mbiţaş

de convenabile metodele ı̂n care la fiecare pas se


Ecuaţii neliniare
ı̂ntrebuinţează o aproximare Ak a lui F 0 (x (k ) ), care se Ordin de
obţine din Ak −1 printr-o modificare de rang 1, adică convergenţă

prin adăugarea unei matrice de rang 1: Falsa poziţie

Metoda secantei
h iT
(k ) (k ) (k ) (k )
∈ R , k = 0, 1, 2, . . .
n Metoda lui Newton
Ak +1 := Ak + u v , u ,v
Metoda
aproximaţiilor
succesive
I Pe baza formulei Sherman-Morrison (vezi [4])
Rădăcini multiple
  −1 1 Ecuaţii algebrice
A + uv T = A−1 − A−1 uv T A−1 Sisteme neliniare
1 + v T A−1 u
(47) Metode
quasi-Newton
pentru Bk +1 := Ak−+1 1 are loc relaţia de recurenţă Interpolare liniară
Metode de modificare

h iT Interpolare inversă

Bk u (k ) v (k ) Bk Metode hibride

Bk +1 = Bk −  T , k = 0, 1, 2, . . . , Bibliografie
1 + v (k ) Bk u (k )
Rezolvarea
Metode de modificare IIi numerică a
ecuaţiilor neliniare
h T
atât timp cât 1 + v (k ) Bk u (k ) 6= 0. Radu Trı̂mbiţaş

I Necesitatea rezolvării unui sistem liniar la fiecare pas Ecuaţii neliniare

dispare; aceasta se ı̂nlocuieşte cu ı̂nmulţiri Ordin de


convergenţă
matrice-vector, ceea ce corespunde unei reduceri a
Falsa poziţie
efortului de calcul de la O (n3 ) la O (n2 ).
Metoda secantei
I Acest avantaj va fi plătit prin aceea că nu vom mai avea Metoda lui Newton
o convergentă pătratică ca la metoda lui Newton, ci Metoda
aproximaţiilor
doar una superliniară: succesive

Rădăcini multiple
k x (k +1) − α k Ecuaţii algebrice
lim = 0. (48)
k → ∞ k x (k ) − α k Sisteme neliniare

Metode
quasi-Newton
I În metoda lui Broyden alegerea vectorilor u (k ) şi v (k ) Interpolare liniară

are loc după principiul aproximaţiei


  secantei. În cazul
Metode de modificare

Interpolare inversă
scalar aproximarea ak ≈ f x 0 ( k ) se face unic prin Metode hibride

Bibliografie

ak + 1 ( x ( k + 1 ) − x ( k ) ) = f ( x ( k + 1 ) ) − f ( x ( k ) ) .
Rezolvarea
Metode de modificare III numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş
I Pentru n > 1, din contră, aproximarea
Ecuaţii neliniare
Ak +1 (x (k +1) − x (k ) ) = F (x (k +1) ) − F (x (k ) ) (49) Ordin de
convergenţă

Falsa poziţie
(aşa numita ecuaţie quasi-Newton) nu mai este unic
Metoda secantei
determinată; orice altă matrice de forma
Metoda lui Newton

T Metoda
Āk +1 := Ak +1 + pq aproximaţiilor
succesive

cu p, q ∈ Rn şi q T (x (k +1) − x (k ) ) = 0 verifică de Rădăcini multiple

asemenea ecuaţia (49). Ecuaţii algebrice

Sisteme neliniare
I Pe de altă parte,
Metode
quasi-Newton

yk := F (x (k ) ) − F (x (k −1) ) şi sk := x (k ) − x (k −1) Interpolare liniară


Metode de modificare

Interpolare inversă
conţin numai informaţii despre variaţia lui F ı̂n direcţia Metode hibride
sk , dar nici o informaţie ı̂n direcţii ortogonale pe sk . Bibliografie
Rezolvarea
Metode de modificare IV numerică a
ecuaţiilor neliniare

I Pe aceste direcţii trebuie ca efectul lui Ak +1 şi Ak să Radu Trı̂mbiţaş

coincidă Ecuaţii neliniare

Ordin de
Ak +1 q = Ak q, ∀q ∈ {v : v 6= 0, v T sk = 0}. (50) convergenţă

Falsa poziţie

I Pornind de la prima aproximare A0 ≈ F 0(0) ),


se Metoda secantei

generează şirul A1 , A2 , . . . utilizând formulele (49) şi Metoda lui Newton

Metoda
(50) (Broyden [2], Dennis şi Moré [4]). aproximaţiilor
succesive
I Pentru şirul B0 = A0−1 ≈ [F (x (0) )]−1 , B1 , B2 , . . . cu
Rădăcini multiple
ajutorul formulei Sherman-Morisson (47) se obţine Ecuaţii algebrice
relaţia de recurenţă Sisteme neliniare

Metode
(sk +1 − Bk yk +1 )skT+1 Bk quasi-Newton
Bk +1 := Bk + , k = 0, 1, 2, . . . Interpolare liniară

skT+1 Bk yk +1 Metode de modificare

Interpolare inversă

care conţine doar ı̂nmulţiri matrice vector şi a cărei Metode hibride

complexitate este doar O (n2 ). Bibliografie


Rezolvarea
Metode de modificare V numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare

I Cu ajutorul matricelor Bk se poate defini metoda lui Ordin de


convergenţă
Broyden prin Falsa poziţie

Metoda secantei
x (k +1) := x (k ) − Bk F (x (k ) ), k = 0, 1, 2, . . . Metoda lui Newton

Metoda
I Această metodă converge superliniar ı̂n sensul lui (48), aproximaţiilor
succesive
dacă paşii sk se apropie asimptotic (când k → ∞) de Rădăcini multiple
paşii metodei lui Newton. Ecuaţii algebrice

I Se poate recunoaşte ı̂n aceasta semnificaţia centrală a Sisteme neliniare

principiului linearizării locale la rezolvarea ecuaţiilor Metode


quasi-Newton
neliniare. Interpolare liniară
Metode de modificare

Interpolare inversă

Metode hibride

Bibliografie
Rezolvarea
Metoda lui Broyden numerică a
ecuaţiilor neliniare
Intrare: F , vectorul x (0) , Nmax, toleranţa tol Radu Trı̂mbiţaş
Ieşire: O aproximaţie a rădăcinii sau un mesaj de eroare
B0 := F 0 (x (0) ); v := F (x ); B := B0−1 ;
Ecuaţii neliniare

Ordin de
s := −Bv ; x := x + s; convergenţă

for k := 1 to Nmax do Falsa poziţie

w := v ; v : = F (x ); y := v − w ; Metoda secantei

z := −By ; {z = −Bk −1 yk } Metoda lui Newton

p := −s T z; {p = skT Bk −1 yk } Metoda
aproximaţiilor
C := pI + (s + z )s T ; succesive

{C = skT Bk−−11 yk I + (sk + Bk −1 yk )skT } Rădăcini multiple

Ecuaţii algebrice
B := (1/p )CB; {B = Bk }
Sisteme neliniare
s := −Bv ; {s = −Bk F (x (k ) )}
Metode
x := x + s; quasi-Newton
Interpolare liniară
if crit oprire (tol ) then Metode de modificare

return x; {succes} Interpolare inversă

end if Metode hibride

end for Bibliografie

error (”S-a depăşit numărul maxim de iteraţii”)


Rezolvarea
Interpolare inversă I numerică a
ecuaţiilor neliniare
I Dacă f este inversabilă pe o vecinătate V a lui α şi g Radu Trı̂mbiţaş
este inversa sa (g = f −1 ), atunci
Ecuaţii neliniare

Ordin de
f (α) = 0 =⇒ α = g (0). convergenţă

Falsa poziţie
I Interpolarea inversă constă ı̂n aproximarea lui g (0) prin Metoda secantei
valoarea unui polinom de interpolare de grad mic. Metoda lui Newton
I Dacă aproximăm g prin polinomul său Taylor de grad 1, Metoda
aproximaţiilor
avem succesive

Rădăcini multiple
g (y ) ≈ (T1 g )(y ) = g (yn ) + (y − yn )g 0 (yn ). Ecuaţii algebrice

Sisteme neliniare
I Dacă yn = f (xn ), ţinând cont că g 0 (yn ) = 1
f 0 (xn )
, se Metode
quasi-Newton
obţine Interpolare liniară

f (xn ) Metode de modificare

g (0) ≈ xn − 0 = : xn + 1 , Interpolare inversă


f (xn )
Metode hibride
adică metoda lui Newton! Încercaţi să obţineţi metoda Bibliografie

corespunzătoare pentru T2 g .
Rezolvarea
Interpolare inversă II numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

I Dacă luăm g ≈ L1 g , avem Ecuaţii neliniare

Ordin de
convergenţă
g (y ) ≈ (L1 g )(y ) = g (yn ) + g [yn , yn−1 ](y − yn ).
Falsa poziţie

Metoda secantei
I Ţinând cont că
Metoda lui Newton

g ( yn ) − g ( yn − 1 ) xn − xn−1 Metoda
aproximaţiilor
g [ yn , yn − 1 ] = = , succesive
yn − yn−1 f (xn ) − f (xn−1 )
Rădăcini multiple

se obţine Ecuaţii algebrice

Sisteme neliniare
xn − xn−1 Metode
g ( 0 ) ≈ xn − f (xn ) , quasi-Newton
f (xn ) − f (xn−1 ) Interpolare liniară
Metode de modificare

adică metoda secantei. Interpolare inversă

Metode hibride

Bibliografie
Rezolvarea
Metode hibride numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

I Aceste metode combină metodele cu convergenţă Ecuaţii neliniare

globală, dar mai lente, cu metode cu convergenţă locală Ordin de


convergenţă
(de exemplu, Newton sau secantă). Falsa poziţie
I De asemenea, se utilizează scheme adaptive de Metoda secantei

monitorizare a iteraţiilor şi de testare a condiţiilor de Metoda lui Newton

oprire. Metoda
aproximaţiilor
I Una dintre cele mai cunoscute metode de acest tip este succesive

Rădăcini multiple
algoritmul lui Dekker, ı̂n varianta lui Brent, cunoscut şi
Ecuaţii algebrice
sub numele de algoritmul Dekker-Brent sau zeroin
Sisteme neliniare
[6],[8].
Metode
I El combină metoda ı̂njumătăţirii cu metoda secantei şi quasi-Newton
Interpolare liniară

cu metoda interpolării inverse pătratice (IQI). Metode de modificare

Interpolare inversă
I Funcţia MATLAB fzero se bazează pe acest algoritm.
Metode hibride

Bibliografie
Rezolvarea
Descrierea algoritmului numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

I Se ı̂ncepe cu a şi b astfel ı̂ncât f (a) şi f (b ) au semne Ecuaţii neliniare


opuse. Ordin de
convergenţă
I Se utilizează un pas al metodei secantei pentru a obţine
Falsa poziţie
c ı̂ntre a şi b. Metoda secantei
I Se repetă paşii următori până când |b − a| < ε|b | sau Metoda lui Newton

f (b ) = 0 Metoda
aproximaţiilor
I Se permută a, b, c astfel ı̂ncât succesive
I f (b ) şi f (a) au semne opuse Rădăcini multiple
I |f (b )| ≤ |f (a)| Ecuaţii algebrice
I c este valoarea precedentă a lui b.
Sisteme neliniare
I Dacă c 6= a se realizează un pas IQI, altfel un pas al Metode
metodei secantei. quasi-Newton
Interpolare liniară
I Dacă rezultatul pasului IQI sau secantei este ı̂n [a, b ], se Metode de modificare

acceptă Interpolare inversă


I Dacă nu, ı̂njumătăţire. Metode hibride

Bibliografie
Rezolvarea
Bibliografie I numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Octavian Agratini, Ioana Chiorean, Gheorghe Coman, Ecuaţii neliniare


Trı̂mbiţaş Radu, Analiză numerică şi teoria aproximării, Ordin de
convergenţă
vol. III, Presa Universitară Clujeană, 2002, coordonatori
Falsa poziţie
D. D. Stancu şi Gh. Coman.
Metoda secantei
C. G. Broyden, A Class of Methods for Solving Metoda lui Newton

Nonlinear Simultaneous Equations, Math. Comp. 19 Metoda


aproximaţiilor
(1965), 577–593. succesive

Rădăcini multiple
Gheorghe Coman, Analiză numerică, Editura Libris,
Ecuaţii algebrice
Cluj-Napoca, 1995. Sisteme neliniare

J. E. Dennis, J. J. Moré, Quasi-Newton Metods, Metode


quasi-Newton
Motivation and Theory, SIAM Review 19 (1977), 46–89. Interpolare liniară
Metode de modificare

W. Gautschi, Numerical Analysis. An Introduction, Interpolare inversă

Birkhäuser, Basel, 1997. Metode hibride

Bibliografie
Rezolvarea
Bibliografie II numerică a
ecuaţiilor neliniare

Radu Trı̂mbiţaş

Ecuaţii neliniare
C. Moler, Numerical Computing in MATLAB, SIAM,
Ordin de
2004 convergenţă

J. J. Moré, M. Y. Cosnard, Numerical Solutions of Falsa poziţie

Metoda secantei
Nonlinear Equations, ACM Trans. Math. Softw. 5
Metoda lui Newton
(1979), 64–85.
Metoda
aproximaţiilor
W. H. Press, S. A. Teukolsky, W. T. Vetterling, B. P. succesive
Flannery, Numerical Recipes in C, Cambridge University Rădăcini multiple

Press, Cambridge, New York, Port Chester, Melbourne, Ecuaţii algebrice

Sidney, 1996, disponibila prin Sisteme neliniare

www, http://www.nr.com/. Metode


quasi-Newton
Interpolare liniară
J. Stoer, R. Bulirsch, Introduction to Numerical Metode de modificare

Analysis, 2nd ed., Springer Verlag, 1992. Interpolare inversă

Metode hibride

Bibliografie

S-ar putea să vă placă și