Retele Neuronale

a. Neuronul artificilal este elemental de baza in strucutura unei retele neurionale;

b. O retea neuronala se construieste prin concatenarea unuia sau mai multora straturi
arhitecura retelei;
c. Retelele neuronale sunt de mai multe tipuri:

1. De tip perceptron – pot fi implementate numai in problem de clasificare liniara si

sunt retele de tip feed-forward;
2. Multistrat (MLP) – acestea contin mai multe straturi ascunse de neuroni. De cele
mai multe ori reteaua este compusa dintr-un strat de intrare continand neuroni
sursa si un strat de iesire continand neuroni computationali, dintre care cel putin
un strat ascuns contine neuroni computationali.

Retelele neuronale sunt implemantate in pachetul scikit-learn in clasele

MLPClassifier si MLPRegressor.
MLPClassifier – este utilizata pentru clasificari;
MLPRegressor – pentru predictii;

d. Antrenarea retelei:

Consta inactualizarea parametrilor retelei si a vectorului deplasarilor cu scopul de a

p×N
satisfice cene N egalitati f(xi)=zi, unde Z=[ z 1 , … , z N ] ∈ R ; Pentru acest algoritm ,
utilizatorul stabileste numarul maxim de iteratii.

e. Etapa de initializare:
- Vecorii se organizaeaza sub forma matricelor ; Se initializeaza ponderile si
deplasarile cu valori numerice aleatoare din intervalul [-0.5;+0.5] ;
- La inceperea fiecarei iteratii valorile sunt notate :
Wold - pentru ponderi şi bold - pentru deplasări

f. Verificarea se face prin calcularea vectorii erorilor = vecorii tinta – vecorii iesire la
itertaia curenta . Va continua pana cand este indeplinita una din conditii:
- Toti vecorii eroare au o valoare acceptabila ;
- A fost atins nr max de iteratii;
 – La sfarsitul iteratiei va afisa valorile parametrilor retelei rezultate din antrenare , acesta
vor fi notate cu : Wf (pentru ponderi) şi bf (pentru deplasări). Daca nu se sastisface
aceasta conditie va continua cu etapa urmatoare a it curente.

g. Acutalizarea parametrilor :

- Se construieste matricea erorilor pe baza careia se calculeaza matricele de actualizare

a parametrilor :
- Ponderi D W =f (E , X T )∈ R p × N
- Deplsari D b =f ( E ,b) ∈ R p

Se calculează noile valori ale parametrilor:

– pentru ponderi: Wnew=Wold+Dw

– pentru deplasări: bnew=bold+Db

h. Testarea si validarea :

– Corectitudinea modelului se testează și se validează pe date noi, verificându-se abaterea

dintre ieșirea rețelei Y și valorile actuale ale vectorului Z.

Datele de intrare se normalizează utilizând metodele din clasa StandardScaler:

from sklearn.preprocessing import StandardScaler

scaler = StandardScaler()
scaler.fit(X_train)
X_train = scaler.transform(X_train)
X_test = scaler.transform(X_test)