Documente Academic
Documente Profesional
Documente Cultură
Bazele RNA PDF
Bazele RNA PDF
4.1 INTRODUCERE
Noiunea de calcul poate lua mai multe aspecte. Din punct de vedere
istoric, calculul a fost dominat de conceptul de calcul programat, n care
algoritmii sunt proiectai i apoi implementai folosind arhitecturile dominante
curente. Este nevoie de un punct de vedere alternativ atunci cnd se consider
operaiile de calcul din sistemele biologice. De exemplu, calculul din creierul
uman este diferit de paradigma mai sus amintit prin:
calculele sunt masiv distribuite i efectuate n paralel;
nvarea nlocuiete un program apriori de dezvoltare.
mprumutnd aceste caracteristici din natur, a aprut o nou model de
calcul motivat biologic, acela al reelelor neuronale artificiale (RNA).
Tehnologia RNA are potenialul necesar pentru a deveni arhitectura de calcul
dominant iar neuronii artificiali pot deveni blocuri fundamentale de tip RISC
(Reduced Instruction Set Computer). Paragrafele care urmeaz exploreaz
ramificaiile procesului de proiectare a reelelor neuronale, inclusiv idei i
abordri noi, fundamente matematice i exemple de aplicaii.
RNA reprezint att un domeniu tiinific ct i o tehnologie: tiina este
definit prin cunotine structurate (care, n general, privesc lumea fizic) iar
tehnologia reprezint tiina aplicat. Ambele aspecte vor fi explorate n
capitolele care urmeaz, de la fundametele biologice i matematice ale RNA
pn la soluionarea problemelor pe baza RNA.
La nceputul discuiei despre RNA trebuie s fie luate n discuie trei
chestiuni:
1. Este tehnologia RNA o tehnologie ntr-adevr nou, i cum poate fi aceasta
utilizat?
2. Ce este comun cu sau derivat din alte tehnologii?
3. Ce este comun tuturor RNA pe care le vom studia?
129
Concepte fundamentale
Ieiri
Intrri
Ieiri
Intrri
(a)
(b)
132
i 1T
T
i2
P = i T3 .
...
T
in
R : Matricea rspuns a reelei, cu o structur similar cu P .
t : Un vector int sau vector de ieire dorit.
E : Msura erorii sau a energiei.
H : Mulimea de antrenare, etichetat sau nu. Cardinalul lui H este n ;
adic, aceast mulime conine n elemente.
FF: Reea cu propagare direct (feedforward).
133
Avantaje
Calculul se efectueaz n paralel
RNA pot fi tolerante la defecte datorit paralelismului
RNA pot fi proiectate astfel nct s fie adaptive
Nu este nevoie de caracterizarea extensiv a problemei (n alt mod dect
prin setul de antrenare).
134
Dezavantaje
Nu exist reguli clare sau indicaii de proiectare pentru o aplicaie
arbitrar
Nu exist o cale general pentru a evalua modul intern de operare pentru
o reea
Antrenarea poate fi dificil sau imposibil
Este dificil s se prevad performana viitoare a reelei (generalizare).
Tipuri de transformri
o
o [0, M ]
o1
o2
oc
o1
o2
=1
oi o j = 0 pentru i j
i
Codurile indic
descrierea sau clasa
om
o
o'
ANN
Tipuri de transformri
11
2
Sau, dup o oarecare analiz, din aceste matrici pot fi extrase caracteristici
care pot fi folosite ca intrri ale RNA. Deocamdat, nu este foarte clar care
variant este de preferat.
Distorsiunile intrrilor
Selecia ieirilor
Tipuri de transformri
Digit - ieire
1 din 10
1 din 10 <5
RNA
RNA
H {( si , ri )} i = 1,2,..., n
(4.1)
(4.2)
Unul dintre exemplele cele mai simple este reprezentat de cazul n care si
i ri sunt numere reale.
141
:s r
(4.3)
r = f D (s )
(4.4)
sau
Una dintre cele mai folosite transformri de forma (4.4) este transformarea
liniar, care poate fi realizat prin intermediul unei matrici de transformare.
Aceasta are forma:
r =M s
(4.5)
(4.6)
r i = f ( s i , a c , w)
(4.7)
Structuri tipice
w L1
w L2
w LN
Forma de ieire
(semnal) o
Forma de
intrare x
L1
Ponderi
(memorare)
x(k )
L2
w LH
LH
LN
.....
x(k + 1)
z 1
Structuri tipice
Date de imtrare
preprocesate
(caracteristici)
145
Element de
procesare de
baz
Elemente de
procesare
Regiune
Regiune
Regiune
inhibitoare excitatoare inhibitoare
Vedere de sus
Metode de nvare
r a = f A (s)
(4.8)
r d = f D (s)
"deplasnd" f
mai aproape de f
(4.9)
H = {( si , ri )} i = 1,2,..., n
(4.10)
4.7.2 Generalizare
Orice soluie a ecuaiei (4.10), de forma x d = f ( x) , trebuie s satisfac
ecuaia n n puncte din R d . Apare o problem important referitoare la
comportarea n alte puncte dect n x i . Aceasta introduce conceptul important de
generalizare realizat de RNA (Capitolul 7). Un exemplu de generalizare a fost
amintit n paragraful 4.5.2, n discuia legat de problema de recunoatere a
cifrelor. Generalizarea dorit a fost invariana la poziie i la distorsiunile
digiilor cum este cazul datelor lips sau al datelor suplimentare.
Presupunem dat caracteristica S-R pentru o reea cu o intrare i o ieire,
sub forma unui set de patru perechi ordonate. Aceste puncte sunt reprezentate n
Figura 4.9. Att capacitatea de generalizare dorit ct i cea realizat (adic,
dup antrenare) pentru aceast transformare realizat cu RNA pot lua multe
forme. n Figura 4.9, ambele transformri funcionale reprezentate grafic
realizeaz obiectivul de transformare a setului de antrenare (aici, fr erori de
transformare). Probabil c cei mai muli cititori vor prefera generalizarea dat de
curba notat cu 1; totui, menionm c restriciile de transformare furnizate
numai de setul de antrenare sunt satisfcute de ambele soluii. Ar trebui s se
foloseasc date suplimentare (set de test) pentru a testa i ameliora aceast
transformare. Exemplul din Figura 4.9 conduce la o alt problem interesant,
care conduce ctre generalizare. S presupunem c intrrile i ieirile au fost
constrnse s fie discretizate (de exemplu, ntregi). Cum ar trebui s se integreze
aceste restricii n proiectarea RNA, inclusiv prin H , pentru a fi ndeplinite? Cu
alte cuvinte, cum vom fora generalizarea RNA s produc numere ntregi?
148
Metode de nvare
ri
si
Figura 4.9 Dilema generalizare vs. memorizare
n contextul suprapunerii curbelor.
(b)
(d)
(a)
Iteraia
150