Introducere n reele neuronale artificiale

1 Modele ale calculului

Automatele celulare - John von Neumann: automatele celulare proceseaz simultan datele comunicarea i coordonarea ntre celulele de calcul este realizat prin anumii algoritmi i convenii orice funcie Turing calculabil poate fi calculat de asemenea de m automate celulare unidimensionale primul model de calcul paralel masiv Modelul biologic reele neuronale inspirate de fiziologia neuronilor structur ierarhic multistratificat cu comunicare globala parametri necesari funcionrii unei reele neuronale trebuie determinai n mod adaptiv adapteaz soluii descoperite de natur pentru operarea ntr-un mediu nedeterminist, nesigur.

2 Reele neuronale artificiale

Componente funciile primitive sunt plasate n nodurile reelei regulile de compunere sunt date: implicit de modelul de interconectare a nodurilor de modul sincron sau asincron n transmiterea informaiei prezena sau absena ciclurilor in graful de conectare procesarea: in noduri (functiile) si pe arce (ponderile) Reele de funcii primitive Neuron abstract cu n intrri intrarea i transmite o valoare real xi funcia primitiv f (corpul neuronului abstract) transform suma ponderat a intrrilor ntr-o mrime de ieire bine determinat ponderile wi sunt asociate conexiunilor ntre intrri i corpul neuronului.

x1

w1 x2 w2 xn wn f f(w1x1+...+wnxn)

RNA - reea n ale crei noduri sunt plasate funcii primitive modele diferite generate de: diverse moduri de alegere a funciilor primitive modelul de interconectare temporizarea transmisiei informaiei Un exemplu de RNA:

x1 x2 x3 w2

w1 w4 f1 w6

f2

w7 f4 w8 (x1,x2,x3)

noduri: funciile primitive f1 , f 2 , f3 , f4 . conexiuni: ponderi w funcii de ieire = ( x1 , x2 , x3 ) :

w9 w2 f3

w3

( x1 , x2 , x3 ) = f 4 ( w6 f1 ( w2 x2 ) + w8 f 3 ( w5 f1 ( w2 x2 ) + w3 x3 + w9 f 2 ( w1 x1 )) + w7 f 2 ( w1 x1 )) ,
Funcia calculata de o RNA- funcie de reea.

Definirea unui RNA cere precizarea urmtoarelor trei elemente: structura intern nodurilor topologia reelei algoritmul de nvare aplicat pentru determinarea ponderilor. Funcii de reea clasice Aproximarea unei funcii F prin seria Taylor ntr-o vecintate a punctului x0 : F ( x) = a0 + a1 ( x x0 ) + a 2 ( x x0 ) 2 + ... + a n ( x x0 ) n + ... constantele a 0 , a1 ,... depind de F ( x0 ) i F ( x0 ) Reinnd doar n termeni din suma ce definete seria i considernd funciile primitive f i ( z ) = z i , i = 0,1,..., n se obine reeaua: Parametrii reelei: 1 a 0 ,..., a n 1 a0 x se pot fi calcula analitic dar i cu 1 un algoritm de nvare aa cum 1 1 a1 z se face de obicei n cazul unei RNA generale.

-1 x0

-1 -1 -1

a2 an

zn
4

Dac F este dezvoltat ca o serie Fourier,

F ( x) = (ai cos(ix) + bi sin(ix) ) ,
i =0

atunci considernd funcii primitive f i ( x) = sin( x + d i ) , rezult F f ( x) = wi sin(k i x + d i ) implementat de reeaua Fourier:
i =0 n

sin k0 k1 x k2 kn d2 sin dn
5

d0 sin d1 sin

w0 w1 + w2 wn F(x)

Caracteristici - RNA: funcia este dat implicit printr-o mulime de exemple de intrare-iesire (xi, yi), i=1,...,n. generalizare ct mai bun cu ajutorul unei reele de funcii ajustarea optim a parametrilor reelei pentru a cuprinde deplin informaia disponibil