Documente Academic
Documente Profesional
Documente Cultură
PARADIGMA (NEO)CONEXIONISTĂ
= Paradigma procesărilor paralele distribuite/ modelare neuromimetică (neuronală).
Ea pornește de la ideea că activitatea cognitivă poate fi explicată pe baza unor modele de
inspirație neuronală.
O rețea neuromimetică poate realiza calcule logice.
F.Rosenblatt - rețea neuromimetică cu două niveluri - perceptron - discriminare între dotă
impulsuri senzoriale diferite.
Parallel Distributed Processing: Exploration in the Microstructure of Cognition, vol. 2:
Psychological and Biological Models.
REȚELE NEUROMIMETICE
Nucleul teoretic al neoconexionismului se află în jurul modelării procesării informației (la nivel
reprezentațional-algoritmic) prin rețele neuromimetice.
Neoconexionismul susține că informația este reprezentată de sistemul cognitiv uman prin valori și
patternuri de activare ale unor unități simple (neuromimi).
Aceste rețele poartă numele de rețele neuromimetice sau rețele neuronale.
Norman: „informația circulă între unitățile de procesare nu sub forma unor mesaje, ci a unor
valori de activare, sub formă de scalari, nu de simboluri”.
o Regulile care guvernează dinamica acestor rețele nu sunt reguli de manipulare a
simbolurilor, ci reguli de modificare sau propagare a valorilor de activare.
o Procedurile de transformare (algoritmi) a inputului în output nu mai sunt de natură
formal-logică, nu mai vizează ordonarea unor expresii simbolice, ci constau în ajustarea
reciprocă a patternurilor de activare dintre unitățile rețelei.
O rețea neuromimetică, model conexionist este formată din:
o O mulțime de unități.
o O stare de activare.
o O regulă de activare.
o O funcție output.
o Un pattern de conexiuni între aceste unități.
o Reguli de învățare.
o Un mediu (sau ambianță) în care operează rețeaua respectivă.
1. Unitățile (u).
o = unități cognitive/ neuromimi/ neuroni formali/ noduri.
o Singura caracteristică = valoarea ei de activare (-1 - 1).
o Dacă unitățile au funcție de a recepta input, convertindu-l într-o valoare de activare =
unități input.
o Unitățile care transmit outputul în mediul rețelei se numesc unități output.
o Ambele pot fi accesate din mediu, de aceea se numesc unități vizibile.
o Dacă între unitățile input și unitățile output se interpun alte unități, ele nu pot fi
accesate direct, de aceea se numesc unități ascunse.
Principala lor funcție este de a modula valorile de activare ce se propagă între
unitățile vizibile.
o Rețele conexioniste care conțin doar unități vizibile = unități binivelare.
o Dacă rețeaua conține și unități ascunse = multinivelară.
o Neuromimii nu sunt interpretabili semantic.
Adică nu simbolizează stări de lucruri.
Ceea ce face ca rețelele conexioniste să fie semantic-opace, spre deosebire de
modelele simbolice care sunt semantic-transparente.
o Unitățile neuromimetice li se poate atribui o interpretare de cel care explorează
proprietățile rețelei.
Interpretarea este exterioară.
Nu este inerentă rețelei respective.
Rețeaua nu manipulează simboluri, ci valori de activare.
o Rețele se împart în 2 categorii;
Rețele localizaționiste - fiecare unitate reprezintă un concept sau o anumită
ipoteză.
Rețele distributive - informația este distribuită pe interacțiunile dintre unități.
o Un anumit concept sau propoziție nu este reprezentat de o singură unitate, ci de patternul
de conexiuni dintre unitățile unei rețele.
2. Stările de activare
o Indică nivelul de activitate.
o O unitate dintr-o rețea conexionistă nu este nimic altceva decât o stare de activare, codată
într-un număr.
o Se poate alege orice alt interval.
o O rețea conexionistă apare ca o matrice a valorilor de activare.
Modificare stărilor de activare corespunde cu modificarea valorilor din interiorul
matricei respective.
o Orice unitate cognitivă are un rest de activare, rezultat al stimulărilor ei trecute.
Valoarea de activare se deteriorează o dată cu trecerea timpului sau cu modificare
conexiunilor - așa cum la un neuron real rata sa de descărcare descrește în funcție de
timp sau prin inhibiție laterală.
Rata descreșterii stării de activare = rata degradării = dr = decay rate.
3. Regula de activare
o Este o funcție ce stabilește modul în care se modifică valoarea de activare a unităților
dintr-o rețea.
o Modificarea stării de activarea (a) se stabilește pe baza calculului netinputului.
Netinputul reprezintă suma inputurilor recepționate de o anumită unitate.
Aceste inputuri sunt ponderate cu ponderea sau tăria legăturilor dintre unitățile
input (ui) și unitatea receptoare (uj).
Netinputul este suma ponderată a valorilor de activare recepționate.
o Modificarea valorii de activare se realizează adăugând netinputul la restul de activare.
o Funcția de activare are o formă sigmoidă: inițial, valori mai mici ale netinputului produc
modificări semnificative ale stării de activare a unității, după un anumit prag creșterea
netinputului neafectând semnificativ valoarea de activare.
4. Funcția output
o Funcția output stabilește relația dintre valoarea de activare a unei unități și outputul pe
care ea îl transmite sper ale unități din rețea.
o În cazul cel mai simplu, valoarea outputului este egală cu valoarea stării de activare.
o Ca soluție alternativă se poate stabili un prag de activare sub care valoarea outputului este
zero, iar deasupra căruia valoarea outputului este egală cu starea de activare.
5. Conexiunile
o Nodurile rețelei sunt legate între ele prin conexiuni.
o Ponderea sau importanța conexiunii dintre două unități „i” și „j” se notează cu „Wij”.
o Dacă conexiunile sunt orientate într-o singură direcție, adică după activare se propagă
numai de la unitățile de input spre unitățile output, atunci avem de-a face cu o rețea
unidimensională (feed-forward network).
o Dacă conexiunile sunt reciproce, atunci se stabilește ponderea pentru fiecare dintre ele.
Avem: o conexiune de la i la j cu ponderea Wij și o conexiune de la j la i cu
ponderea Wji.
Interacțiunile sunt bidirecționale.
Rețea interactivă.
o Atât în cazul rețelelor unidimensionale/unidirecționale cât și în cazul celor interactive,
conexiunile pot fi excitative sau inhibitive.
Conexiunile excitative au o pondere pozitivă, adică ponderea Wi,j (și/sau Wj,i)
este pozitivă.
De regulă 0<Wi,j sau Wj,i <1.
Când ponderea Wi,j (și/sau Wj,i) este negativă, avem de-a face cu conexiuni
inhibitive.
-1< Wi,j < 0.
o Ponderea conexiunilor modulează starea de activare și valoarea netinputului unei unități
cognitive.
De regulă, în faza de învățare rețeaua are nevoie de mai mult epoci pentru a oferi
o soluție dezirabilă.
După faza de învățare sau antrenament, rețeaua intră în faza de testare, în care se
evaluează performanțele sale pentru o categorie de stimuli similari cu cei care au fost
utilizați în faza de antrenament.
2. Mediul sau ambianța rețelei
o Orice rețea conexionistă este scufundată în structuri mai generale, este conexată cu alte
rețele care formează mediul sau ambianța sa.
o Influența mediului apare în modelele conexioniste sub forma unor „biași”, adică a unor
inputuri cu valori fixe, independente de dinamica activităților din cadrul rețelei.
Adesea, biașii sporesc performanțele rețelei.
Învățarea mai poate fi privită și ca un vector de reducere a erorii datorate conexiunilor, care
pornește de la un moment în care tăria conexiunilor este stabilită aleatoriu și se finalizează într-un
minim de eroare global, adică într-un pattern de conexiuni care generează o eroare minimă.
După faza de învățare, urmează faza de testare, în care comportamentul rețelei este apreciat în
raport cu o altă colecție de stimuli decât cei care au fost prezentați în faza de antrenament, dar
aparținând aceleași categorii.
Cunoștințele pe care le avem despre o situație sau stare de lucruri sunt reprezentate printr-un
pattern de activare al unităților de rețea.
o Rezultă așadar că nu avem o reprezentare în memorie a fiecărei camere în parte, ci avem
o rețea de cunoștințe ale cărei conexiuni se ajustează mereu, desemnând încăperi diferite.
Rețelele neuromimetice, unidirecționale sau interactive, nu au o semantică proprie, nu operează
cu simboluri ci cu valori de activare.