http://neuralnetworksanddeeplearning.com/chap1.

html
Sistemul vizual uman reprezint una dintre minunile lumii. Luai n considerare
urmtoarea secven de cifre scrise de mn:

Fig. x
Cei mai muli oameni recunosc fr efort aceste cifre: 504192. Totu i, aceast
uurin este neltoare. In fiecare emisfer a creierului, oamenii au un cortex
vizual primar, cunoscut sub numele de V1 ce conine 140 de milioane de neuroni i
zeci de miliarde de conexiuni. i totui, capacitatea vizual uman nu implic
dect V1, ci o ntreag serie de cortexuri vizuale- V2, V3, V4, V5 - ce fac posibil
procesarea complex a imaginilor. Creierul nostru a urmat un proces de evolu ie
complex de peste sute de milioane de ani, adaptndu-se extraordinar i devenind
capabil s perceap lumea vizual. Recunoaterea cifrelor scrise de mn nu este
uoar, ns noi putem face asta ntr-un mod incontient i de cele mai multe ori nu
apreciem ct de grele pot fi situaiile cu care sistemul nostru vizual se ntlnete.

Fig.x
Dificultatea de recunoatere a tiparului vizual devine evident dac ncercai sa
scriei un program pe calculator care s identifice cifrele, cum ar fi cele de mai sus.
Ceea ce pare uor cnd o facem noi incontient, brusc devine extrem de dificl.
Simplele intuiii despre cum putem noi recunote formele, nu pot fi simplu de

exprimat n mod algoritmic. Atunci cnd ncercai s construii aceste reguli

precise, va putei pierdi ntr-o aglomeraie de limitri i cazuri speciale.
Aceast situaie este abordat de reelele neuronale ntr-un mod diferit. Ideea este
aceea de a lua un numr mare de cifre scrise de mn, cunoscute sub numele de set
de antrenare, iar apoi s fie dezvoltat un sistem care poate nva din aceste
exemple. Cu alte cuvinte, reeaua neuronal folosete exemple pentru a deduce
automat regulile de recunoatere a caracterele scrise de mn. Mai mult dect att,
prin creterea numrului de exemple, reeaua poate afla mai multe despre scrisul de
mn pentru a avea o precizie sporit.
Recunoaterea scrisului de mn este un excelent exemplu pentru n elegerea
reelei neuronale. Acest model se ncadreaz ntr-o zon optim: este provocator,
nu este uor s produci un sistem de recunoatere a caracaterelor, dar nu este nici
foarte dificil, nct s fie necesite o soluie sau un calcul extrem de complicat. n
plus, este o metod foarte bun de a dezvolta tehnice avansate, cum ar fi nv area
profund. Pentru a nelege cum funcioneaz reeaua neruonal, trebuie discutate
cele dou tipuri de neuroni artificiali (preceptronul i neuronul sigmoid), precum i
algoritmul standard de nvare pentru reeaua neuronal, cunoscut sub numele de
SGD (stochastic gradient descent).
Pentru nceput, voi explica ce presupune primul tip de neuron artificial numit
preceptron. Preceptronii au fost dezvoltai n anii 1950-1960 de savantul Frank
Rosenblatt, inspirat de cercetrile anterioare ale lui Warren McCulloch i Walter
Pitts. n zilele noastre, ntr-adevr, modelul principal de neuron folosit n cadrul
reelelor neuronale este cel numit neuronul sigmoid. Voi prezenta pe larg acest tip
de neuron, ns voi face i o scurt prezentare a preceptronilor.
Un preceptron are mai multe intrri binare : x1, x2, , i produce un singur rezultat
binar.

Fig.x

n imagine se observ c preceptronul are 3 intrri, x1, x2, x3. Poate avea mai multe
sau mai puine intrri Rosenbalt a propus o regul simpl pentru a calcula
rezultatul. Aceasta introduce greuti, w1, w2, , numere reale care s exprime
importana respectivelor intrri pentru rezultat. Rezultatul neuronului, 0 sau 1, este
w j x j este ori
determinat de urmtoarele dou cazuri: dac suma ponderat
j
mai mic, ori mai mare dect o anumit valoare de prag. Asemenea, greut ilor,
pragul este un numr real, un parametru al neuronului. n termeni algebrici mai
precii:

Acesta este modul prin care funcioneaz un preceptron, altfel spus, modelul
matematic de baz. Putem considera preceptronul ca pe un dispozitiv care ia
decizii n urma cntririi evidenelor.