Universitatea POLITEHNICA din Timi oara

Facultatea de Automatic i Calculatoare

Probleme calitative n dinamica

reelelor neuronale

Coordonator: Nicolae ROBU

Student: Adrian TLNG

Timioara
Ianuarie 2013

Structura prezentrii:

Obiectivele proiectului
Caracteristici generale ale reelelor neuronale
Structura lucrrii
Caracteristici de baz ale reelelor neuronale

Obiectivele proiectului

Teza de doctorat, cu titlul PROBLEME CALITATIVE N DINAMICA

REELELOR NEURONALE , i propune studiul teoretic, validat prin
exemple i simulri numerice, al comportamentului dinamic al sistemelor
neuronale neliniare.
S-a realizat studiul fenomenelor induse de prezena ntrzierilor n
dinamica reelelor neuronale.

Caracteristici generale ale reelelor neuronale

O directiv important n studiul reelelor dinamice artificiale (RNA), o constitue

abordarea acestora ca sisteme dinamice i studiul stabilitii lor.
O RNA funcioneaz corect dac evoluia ei tinde ctre echilibrele semnificative
pentru aplicaia pentru care a fost proiectat
Proprietile de comportament dinamic sunt verificate pe modelul matematic
RNA sunt sisteme dinamice neliniare
RNA sunt sisteme cu mai multe stri de echilibru ce garanteaz performanele
de calcul n rezolvarea problemelor

Structura lucrrii

Coninutul lucrrii este structurat in 5 capitole:

1.Tipuri i modele dinamice de reele neuronale
2.Elemente de teoria stabilitii n sens Liapunov i sisteme cu mai multe
stri de echilibru
3.Funcii Liapunov pentru reele neuronale
4.Prezentarea ntrzierilor n RNA i fenomenele induse de acestea
5.Consideraii generale asupra rezultatelor

1. Tipuri i modele dinamice de reele neuronale

RNA sunt dispozitive de calcul din clasa mainilor inteligente
Strucura RNA cuprinde un numr mare de elemente simple de procesare
neliniare (neuroni artificiali) care opereaz n paralel
Neuronul artificial poate primi mai multe semnale de intrare i poate genera
un singur semnal de ieire
Funciile de activare ale neuronului:
Funcia prag
Funcia ramp bipolar
Funcia sigmoidal
Funcia Gauss
Metode de invaare:
nvare supravegheat ( supervizat)
nvaare nesupravegheat (autoorganizarea)

1. Tipuri i modele dinamice de reele neuronale

Modele de neuroni artificiali:
- fr reacie : -perceptronul McCulloch-Pitts
-modelul Fukushima
- cu reacie : -neuronul artificial cu reacie la nivelul activrii
-modelul perceptronului cu reacie local la nivelul sinapsei
-modelul perceptronului simplu cu reacie local la nivelul
ieirii
-modelul general de perceptron simplu
Exemple reele neuronale:
Releele neuronale competitive
Reele neuronale celulare
Reele neuronale tip Hopfield
Memorii asociative bidirecionale

2. Elemente de teoria stabilitii n sens Liapunov i sisteme

cu mai multe stri de echilibru
RNA sunt sisteme cu mai multe puncte de echilibru , n acest sens nu ne mai
intereseaz stabilitatea echlibrelor locale, ci i comportamentul global al
sistemului.
Stabilitatea n sens Liapunov este o teorie a stabilitii traiectoriilor sistemelor
dinamice, avnd metode specifice de rezolvare
Metoda funciei Liapunov instrumentul cel mai general pentru studiul
stabilitatii soluiilor sistemelor neliniare

3. Funcii Liapunov pentru reele neuronale

Funcia Hopfield J. Hopfield a popularizat interpretarea conform creia, n
domeniu reelelor neuronale, funcia liapunov poate fi o msur a energiei
sistemnului fizic.
Se urmarete obinerea unor condiii suficiente pentru un comportament
calitativ bun al sistemelor neuronale artificiale.
Abordarea RNA din perspective diferite:
Teoria calitativ a sistemelor dinamice neliniare
Teoria calitativ a sistemelor cu mai multe echilibre
Teoria calitativ a sistemelor mari

4. Prezena ntrzierii n reele neuronale i fenomene induse

de aceasta
ntarzierile n RNA apar datorit:
Necesitii modelrii fenomenului de propagare a semnalului la nivelul
sinapselor reelelor neuronale biologice
Vitezei finite de comutare i transmiterii a semnalelor
Se studiaz reelele neuronale tip Hopfield cu stimuli variabili, de tip periodic
i/sau aproape periodic, n prezena ntrzierilor.
Rezultatele sunt independente de ntrzieri i au fost testate pe o reea
neuronal tip Hopfield cu doi neuroni.
Se utilizeaz o nou abordare: metoda bazat pe principii de comparaie,
restriciile viznd att parametrii reelei, ct i ntrzierile.

5. Consideraii generale asupra rezultatelor

S-a efectuat un studiu teoretic validat prin exemple i simulri numerice, al

comportamentului dinamic al sistemelor neuronale neliniare
S-a prezentat utilizarea funciei Liapunov :
Pentru reele neuronale privite ca sisteme cu mai multe stri de
echilibru
n studiul stabilitii memoriilor asociative bidirecionale
n stabilitatea reelelor celulare
S-au studiat reele neuronale de tip Hopfield

V mulumesc pentru atenie!