Documente Academic
Documente Profesional
Documente Cultură
Curs 6analiza Neuronala
Curs 6analiza Neuronala
Fig. .1
Acest model al unui neuron este de tip feedforward , mrimea de iesire y fiind definit
prin relatia:
x x 1 , x 2 ,...x n
vectorul intrrilor
W x
i i
i 0
=f(net)
w w 1 , w 2 ,...w n
vectorul ponderilor
f (u)= 0 pentru
h
u0
u0
Cea mai utilizat structur pentru o arhitectur de reea neuronal este perceptronul
multistrat MLP (multilayer perceptron),:
Nodurile din stratul de intrare au o singur intrare, iar ieirile acestora merg la stratul
ascuns care nu este accesibil. O reea neuronal trebuie instruit, adic se d un set de date de
intrare i ieirile scop (target). Prin operaia de instruire, ieirea actual a reelei neuronale se
compar cu scopul i n funcie de eroarea aceasta, se modific ponderile, operaia repetnduse pentru toate seturile de intrare de test. n operaia de instruire se folosete o funcie cost
dependent de eroarea de instruire la fiecare pas. Cea mai utilizat funcie de cost E p, se
refer la suma ponderat a erorilor de instruire pentru fiecare set de date de instruire, de
forma:
m
Ep yi ti Wp
2
i 1
unde m este numrul de seturi de date pentru instruirea reelei, W p este o pondere care arat
calitatea setului de date, cu valori cuprinse n domeniul 0<W1.
Fig. 3
reeaua neural are o eroare final de instruire mare, simptom care se poate datora
faptului c s-au ales greit parametrii algoritmului de instruire i procesul de
instruire este slab convergent;
3
se obin performane inadecvate pentru setul de date de test dup instruirea reelei,
simptom care poate fi cauzat de complexitatea prea mare a reelei neurale;
neuroni ntr-un circuit integrat) sau numeric, la care informaiile se pot transmite n paralel
sau n serie. Exist procesoare neurale, care includ multiplexoare, procesoare numerice de
semnale DSP, registre, etc. cu care se poate realiza o structur feedforward sau backforward
pentru reele neurale.
Pentru reele neurale de tip multistrat MLP, cel mai utilizat algoritm de instruire se
bazeaz pe metoda propagrii inverse, care impune o funcie prag continuu derivabil, de
forma:
f ( net )
1
1 e K net
w ji ( t 1) w ji ( t ) pj Opi [w ji ( t ) w ji ( t 1)]
instruire nesupervizat, la care nu exist un target, unde o reea nva s recunoasc orice
imagine patern n datele de intrare i care sunt prezentate n continuare.
Noduri intrare
b) Reele neurale cu funcii de baz radiale (Radial Basic Function RBF). Aceste reele sunt o
alternativ la reelele de tip MLP, avnd avantajul c n unele aplicaii pot fi mai uor
instruite, clasificare de imagini, discriminare, prognoze etc. n stratul ascuns al reelei RBF,
fiecare neuron are ca intrri toate ieirile de la stratul de intrare. Un neuron conine o basic
5
function, fig. , care are ca parametrii centrul i limea. Structura unui neuron din stratul
ascuns al reelei RBF este dat n fig. :
Fig.
n fig.. prin "d" s-a notat:
x C
Structura unei reele de tip RBF, fig., reteaua are iesirea descris de ecuaia:
n
y w i Ri x w 0
i 1
T
i
Ri ( x ) u C i , C i R n
unde (.) are o valoare maxim n origine, deci numai n vecintatea vectorului Ci, care este
numit centrul lui Ri(x).
Fig.
Clasa cea mai general de funcii radiale de baz conine funcii gausiene de forma:
u c
R n exp
2 * cj
Pentru alegerea funciilor de baz se poate folosi o reea Kohonen, care printr-o
instruire nesupervizat pentru un set de date de intrare determin la ieire clustere care sunt
utilizate pentru a defini basis function centers
c) Reele Hopfield. Aceste reele constau dintr-un numr de noduri, fiecare conectat unul cu
altul, deci o reea complet interconectat, fig. . O reea Hopfield admite numai intrri cu dou
stri (0;1) sau bipolar (-1;1). Ieirea reelei este starea neuronilor n stare stabil, n regim
staionar. Instruirea unei reele Hopfield se face prin asigurarea ponderilor pentru conexiuni,
n iniializarea reelei cu imaginea cunoscut i n iterarea calculelor pentru ponderi pn la
convergen.
Interconexiuni
Nodurile reelei
neurale
Fig.
Dintre alte tipuri de reele neurale se menioneaz reelele neurale recurente (folosite
n special pentru aplicaii de prognoz), reele neurale autoasociative (de tip forward i cu
instruire nesupervizat) i reele cu cuantizare vectorial (de tip feedforward i cu instruire
7
supervizat). Fiecare tip de reea neural are avantaje i dezavantaje, fiind adecvate deci
pentru o anumit clas de aplicaii.
-viteza de alimentare a substratului FIN, cm3/l, transmis la fel la trei intrri, FIN(t), FIN(t-1),
FIN(t-2).
deasemenea, la dou intrri ale reelei neuronale se transmit valorile precedente ale
concentraiei de biomas,la momente anterioare de timp x(t-1) i x(t-2).
Rezult c la intrarea reelei neurale se aplic 14 semnale de intrare, iar la ieire este
un singur semnal, concentraia de biomas x(t). n concluzie, pentru predicia biomasei x(t), sa folosit o reea neuronal cu 14 semnale de intrare (deci 14 noduri de intrare), 10 noduri n
stratul ascuns i un nod n stratul de ieire, pentru x(t). Pentru instruirea reelei s-a folosit
metoda propagrii inverse.
Configurare
Analiz
Depanare
Comunicaii
CP
Conducere
Fig.6.9
De la
camera video
Memorare date
Procesare
Extragere texturi
Reea neural
Evaluare rezultate
Preprocesare
Fig.6.9
n aceast aplicaie s-a folosit o reea neural cu peste 800 de noduri n stratul de
intrare (care de exemplu reprezint 32 de grupri S), 20 de neuroni de ieire pentru
identificarea a 20 tipuri de obiecte de pe band i o ieire pentru obiecte necunoscute.
Blocul de evaluare a rezultatelor este bazat pe un sistem expert n care se folosesc
informaii curente introduse de ctre operatorul uman, privind unele caracteristici ale
deeurilor analizate. n practic se observ c n timp ce crete numrul de tipuri de obiecte
care trebuie sortate, din care motiv rmn cca. 15% obiecte neidentificate, eroarea de
identificare este de cca.1%.
Reprezentarea numeric a imaginilor necesit vehicularea unui volum mare de date
prin canale de comunicaie cu band limitat i memorarea unui volum mare de date. Din
acest motiv a aprut ideea de a memora date comprimate pentru imagini, adic date mai puin
corelate ntre ele. Comprimarea datelor este posibil deoarece imaginile naturale conin date
redundante ntre elemente (pixeli) ai imaginii. Transformarea codificat a imaginii reprezint
o imagine obinut prin coeficieni de transformare.
O metoda convenional de clasificare a subimaginilor const n sortarea dup energia
AC a acestora. Indicele de energie AC reprezint o msur a activitii unei subimagini i este
definit prin relaia:
M 1 M 1
energia AC = - energia DC +
x u, v
2
u 0 v 0
unde x(u,v) este imaginea bidimensional de dimensiune finit. Indicele DC definete nivelul
de intensitate al fondului, iar indicele AC reprezint energia total din care se scade energia
DC. Rezult c subimaginile cu un fond uniform au un indice AC redus, iar subimaginile cu
detalii numeroase au o valoare mare a indicelui AC. Printr-o metod convenional de
clasificare, o imagine este sortat i clasificat dup valoarea indicelui AC, obinndu-se
subimagini, care n continuare sunt prelucrate dup acelai criteriu.
10
x c
i
f(x) = 0 +
i 1
unde este o funcie neliniar, ||.|| este norma euclidian, i sunt ponderi, i1,m, iar ci sunt
centrele reelei RBF. Deci, este necesar o reea cu un nod de ieire care realizeaz o nsumare
a semnalelor de la stratul ascuns care implementeaz funciile neliniare. Funciile neliniare pot
fi de diferite tipuri i alegerea acestora nu este crucial n gsirea unui model, ns un rol
hotrtor l are alegerea centrelor. La nceputul utilizrii reelelor RBF, ca centre s-au folosit
date de intrare, care ns nu dau rezultate satisfctoare n asigurarea convergenei. Alte
metode pentru alegerea centrelor sunt: algoritmul celor mai mici ptrate ortogonale i
algoritmul gruprii mediilor k standard. Recent s-a propus utilizarea reelelor Kohonen cu
11
autoorganizare pentru obinerea centrelor, ceea ce se justific prin faptul c centrele trebuie s
fie corespunztore datelor de intrare.
Funcia neliniar se alege de tip gausian, parametrii creia se aleg dup criterii
statistice, deoarece au o mare importan n precizia de aproximare a funciei neliniare.
Schema bloc de interconectare a celor dou reele neurale este prezentat n fig. 6.9. n figura
6.10 se prezint un exemplu de funcie neliniar, ntre concentraia C ntr-un reactor i debitul
F de neutralizant.
Figura 6.9
Fig 6.10
12
6.6.
UTILIZAREA
REELELOR
NEURALE
PLANIFICAREA
1
a
b
c
d
e
Fig.6.11
13
14