Curs 2 - AI - Sisteme de inteligenta

StrongAI = o masina care gandeste si este constienta de sine; abordarea clasica in AI

Weak AI = o masina care nu poate gandi, insa poate sa rezolve o problema intr -un mod inteligent
Dpdv al gradului de inteligenta (Turing):

• Strong super-human: performante > toate fiintele umane

• Super-human: performante > majoritatea fiintelor umane
• Sub-human: performante < majoritatea fiintelor umane
• Optimal: care are cele mai bune performante posibile

Dpdv al scopurilor sistemelor inteligente:

• cu gandire umana: opereaza in acelasi fel in care gandesc fiintele umane

• cu comportament uman: indeplinesc taskuri ce necesita intel cand sunt efectuate de oameni
• cu gandire rationala: iau cele mai bune decizii pe baza resurselor si cunostintelor detinute
• cu comportament rational: cele mai bune comportamente pe baza resurselor detinute

Dpdv al abordarii:

• symbolic AI – inteligenta se poate reduce la capacitatea de a manipula, intelege si interpreta

simboluri; –Strong AI
• subsymbolic AI – bazate pe comportament ( + perceptie, emergenta etc in conceptul de
inteligenta); –Weak AI // Applied AI

Dpdv al ingineriei sistemelor:

• Sisteme Fuzzy: reprezentari lingvistice • Algoritmi Evolutionisti: cautari

• Sisteme Expert: cunostinte euristice
• Retele Neurale: neuroni artificiali • Retele Bayesiene: probabilitati
• Agenti Inteligenti: entitati inteligente
autonome

O reprezentare simplificata a unui sistem inteligent are patru functii esentiale: perception; learning;
reasoning; behaviour generation– interactiunea cu mediul prin senzorisi elem de exec (comunicare) -
procesare senzoriala a informatiilor (perceptie) – capacitatea de memorare (invatare) – planificare
(generare de comportamente) – gandire (rationament)

Sistem de conducere inteligent: Un sistem de conducere dezvoltat sau implementat utilizand tehnici
sau metode inteligente, sau care emuleaza functii specifice fiintelor umane sau altor sisteme biologice.

– Inferenta: o forma de rationament; se trece de la un enunt la altul in mod deductiv sau inductiv.
– Deductia: o forma de rationament in care concluzia decurge din premise.
– Inductia: o forma de rationament, de la particular la general, de la fapte la concepte. Inferenta
inductiva sta la baza majoritatii proceselor de invatare.
- O metoda de inferenta - procedura de obtinere a noi elemente din date, informatii sau cunostinte
anterioare. – Rationamentul - lant de judecati, al carui obiectiv este obtinerea de noi adevaruri. o
judecata numita premisa este legata de o alta, concluzia, prin inferenta
– Judecata - forma fundamentala de logica, exprimata prin propozitii care afirma sau neaga ceva si
care are o valoare de adevar (adevarat sau fals)
 Curs 3 - Sisteme si complexitate

Sistem – o forma de model utiliz pt a descrie lumea – grup de elem care funct impreuna pt a crea
sistemul ca intreg – aparent: simplu si abstract – insa: versatil + format din elemente interconectate

Complexitate – intuitiv: o calitate a unui sistem; numar de elemente din sistem; gradul de
conectivitate al elementelor din sistem -proprietatile elementelor vs. relatiile dintre ele; adaptabilitate;
grad de diversitate

Liniaritate si determinism – cauza → efect = relatie liniara (usor de modelat, inteles, controlat)

• Necauzalitate –cauza si efectul nu sunt • Fragilitate la evenimente la scara mare

conectate liniar – colaps
• Robustete la evenimente la scara mica • Neliniaritate
– Butterfly effect • Interconectivitate

Stiinta sistemelor complexe = o paradigma alternativa; important: connectivitate + interactiuni;

modelare computationala: seturi simple de reguli care guverneaza comportamentele individuale ale
elementelor, elementele interactioneaza si evolueaza in timp, rezultatul este un (cumul de)
comportament(e) colectiv(e) => o lume intercontectata si interdependenta

Sistem complex = sisteme alc din elem heterogene interconect care indep, in ans, o funct sau form o
struct Ex: Internet

Complexitate: – concept care descr un ansamblu de multe elemente ce interact in mod divers Ex:
Google concept network

Systems thinking

• Reductionism (analiza) – sisteme = Ʃ elem componente; abordare traditionala; se analiz

caract si prop elem, insa nu ale intregului – nu exista interactiuni intre elemente => nu.
• Holism (sinteza) - sisteme= intelegerea contributiei elem componente la functia sau structura
sistemului; fundatia stiintelor sistemice; se construiesc si inteleg rel/interact dintre elem –
perspectiva contextualizata => da!

→ Systems theory! Aplicab ridicata in multe domenii - Sisteme inchise vs. Sisteme deschise
(permit schimbul de energie); Intrari si iesiri; Incapsulare: sisteme de sisteme • Systems engineering

Model:

 elemente + relatii
 functionare i/o: intrari → procesare → iesiri
 abordare black-box (sist = Ʃ elem acre sunt sist Ʃ elem etc)
 eficienta: echilibru intre entropie si energie (ca iesiri)
 frontiera sistemului: interfata dintre sistem si mediu
 control: parti din sistem sunt controlabile
 incapsulare si scalare (element = black-box = subsistem, stratif subsist pe baza complex lor, un
sist de sist e un sist) ex: Google maps
 Curs 4 - AI - Arhitecturi de agenti

Agenti si sisteme multi-agentDef existente fac referire la propr pe care treb sa le aibă o entitate
pentru a fi consid agent[Wooldridge & Jennings]: sistem informatic situat într-un mediu, capabil să
realizeze acțiuni autonome în acel mediu cu scopul de a-și îndeplini obiectivele.

• Noț slabă: autonomie, abilit sociale, reactivitate, implicare activă

• Noț puternică: noț slaba + mobilitate, veridicitate, benevolența, rațiune
o Autonomie: capacit de a acț fără interv umană, control minim asupra acțiunilor proprii
o Abilități sociale: capacit de a interact cu alți agenți prin interm unui limbaj de com orientat pe
agent
o Reactivitate: capacit de a percepe mediul înconj și de a acț în conform cu schimb care apar în
acesta
o Implicare activă: capacit de a se implica, de a lua inițiative în scopul îndeplinirii propriilor
obiective
o Mobilitate: capacitatea de deplasare în cadrul unei rețele
o Veridicitate: proprietatea prin care agenții nu comunică intenționat informații false
o Benevolența: presup că agenții nu au conflicte în priv obiectiv, ei încercând în orice mom să îl
îndepl
o Rațiune: proprietatea conform căreia agenții fac tot posibilul sa își îndeplinească obiectivele

Agenții autonomi = sist computaționale care există într-un mediu dinamic și complex, percep și
acționează autonom în acest mediu în scopul de a-și îndeplini obiectivele pentru care au fost proiectați.

• Autonomie Descriptivă: autonomie ca auto-suficiență, care se întinde pe oriz pt a

descrie acț pe care le poate realiza un agent într-un context dat
• Autonomie Prescrisă - sens direct al autonomiei, care se întinde pe vert pt a descrie
acț care îi sunt permise sau impuse unui agent într-un anumit context

Arhitecturi

• Ag reactivi - răsp la schimb de mediu pe baza unui comport de tip stimul-răspuns, deloc
inteligenți
• Ag cognitivi - oarecum inteligenți; au o reprez simbolică a lumii și a cunoșt și obiective
explicite; sunt capabili să își planif comport, să își amint acțiunile realizate în trecut, să com
folosind un sist de com
• Ag intenționali sau BDI (BDI- belief, desire, intention) - inteligent, aplică modelul
inteligenței și perspect umane asupra lumii folosind concepte mentale, cunoștințe, credințe,
intenții, dorințe, alegeri
• Ag raționali - sunt capabili să acționeze într-o maniera care le permite să își atingă scopul cu
cel mai mare succes
• Ag adaptivi - se adapt la orice schimb care apare în mediu; f intel , capabil să își modif
obiectiv și cunoșt în fct de schimb apărute)
• Ag comunicativi - sunt capabili să comunice info cu tot ceea ce îi înconjoară

Multi-Agent Systems: MAS - mulţi agenţi, de dif tipuri, care conlucr pt a rez anumite cerinţe
sau pt a asig anumite perform; Cooperarea reprez capacitatea unui agent de a lucra în echipă cu altii
pentru a atinge un scop comun (poate duce la obținerea unui rezultat mai bun); Coordonarea este
capacit ag de a gestiona interdep între activ pe care le realiz; Negocierea este abilit ag de a ajunge la o
înțelegere cu privire la prob de interes comun.

Arhitecturi deliberative - reprezsimbolica unui sist fizic const un set de entități fizic realiz care se pot
combina pentru form struct, și care sunt capabile de rularea proc ce operează cu acele simboluri
potrivit instrucț; un ag deliberativ este un sist care are un model intern simbolic explicit al lumii și în
care deciziile sunt luate prin raționament logic bazat pe manipularea simbolică și potrivirea tiparelor.

Probleme: – problema transductiei (transpunerea lumii reale într-o descriere simbolică) –

problema reprezentării și raționării (reprezentarea simbolică a infor despre entitățile și procesele
complexe din lumea reală și rationarea folosind aceste informații)

Avantajele arhitecturii deliberative:

– folos în sit în care penalit pentru realiz acț în mod incor este f ridicată, de ex în medii primejd
– permite transp într-un limbaj de prog a unei proced gen pt căutarea unei sol pt o clasă gen de
prob, soluție care poate fi optimă pentru sit în care se află

Limitari:

– lumea = model dinam => o actualiz a modelului lumii const și posibil în ac timp cu planif
– limb de reprez = suf de expr aî să fie folos în or dom dar limitpt a fi ușor de folos computațion
– costuri mari de calcul (uneori o reacție suboptimală, mai puțin costisitoare poate fi eficientă)

Arhitectura BDI= arhit bazpe rationarea practică (rationarea directă orientată către acțiuni);
Rationarea teoretică este direcționată direct către credințe (credința: viziunea ag despre mediu;
Dorința: efectul credinței - poate fi nerealizabilă și inconsistentă; obiectivul: un subset al dorințelor,
realistice și consistente; intențiile: un subset al obiectivelor – când un agdecide să il realizeze; planul:
o secvență de acțiuni necesare pentru a realiza intențiile, pe baza obiectivelor ag)

Avantajele arhitecturii BDI:

– intuitive, ușor de def din pdvformal, folos logica de convertit într-un limbaj de prog

Limitări ale arhitecturii:

– dif mare pt balansarea activit mentale (intențiilor necesit raționare - costisitoare dar necesară)
– rata de schimbare a mediului care duce la reluarea procesului de raționare
– cost computațional ridicat

Arhitecturi reactive – Nu incl model simbolic al lumii și nu folos raționare simbolică

complexă – Ag reactiv: o reprez internă f simplă a lumii, cuplare strânsă între percepție și acțiune

Caracteristici ale agenților reactivi: simplitatea, proc de interacț simplu, interacț dinamice
au ca rezultat modele complexe de comport, comport glob al sist care nu este specificat, posibilit
descomp unui ag în module autonome (fiecare modul gestionează 1 sarcină), comunicația între module
minimală, de nivel jos, nu există un model global al lumii, nu există un ag de planificare sau control,
senzorii oferă date simple, nu există o gestionare simbolică, complexă a datelor

Avantajele arhitecturilor reactive:

– simplitatea agenților
 – flexibilitate, adaptabilitate (ideal în medii dinamice și nepredictibile)
– monitoriz computațională (evit planif complexe și a proced de rațion, actualiz cont a
modelului)
– robustețe împotriva eșecului (nu există o componentă centrală)

Limitări ale arhitecturilor hibride:

– ag nu au un model al lumii =>ei treb să aibă suf info valabile din mediul local
– deciz sunt luate pe baza datelor loc => nu se pot lua în consid datele nelocale (vedere de scurtă
dur)
– nu are capacitate de planificare pe termen lung
– aplicabilitate limitată (roboți de bază, jocuri, simulări)
– dificultate ridicată la învățare

Arhit de subsum (subsumption) arhit ierarh de comp orient pe realiz de sarcini, comp simple,
reguli S (starea med) → A (acț pe care ag este cap să o realiz), fiec comp concurcu restpt control ag

Arhitecturi hibride – tehnici de stratificare a arhitecturilor:pe orizontală (fiecare strat/ nivel

este direct conectat la intrările senzorilor și la ieșirile efectorilor, ca urmare fiecare nivel se comportă
ca un agent), pe verticală (intrările senzorilor și ieșirile către efectori sunt conectate la nivelul din
imediata apropiere)

Ag hibrid: – două subsist: deliberativ (conț o reprez simb a lumii, care dezvoltă planuri și ia
decizii în modul prop de IA simbolică) + reactiv (capsă reacț rapid la even cu o complexde raț scăz)

Avantajele arhitecturilor hibride:

– arhitecturi orizontale: fiecare nivel se comportă ca un ag, oferind indep și simplitate

– arhitecturi orizontale: pentru n comportamente diferite se implementează un singur nivel
– arhitecturi verticale: complexitate scăzută

Limitările arhitecturilor hibride:

– arhitecturi orizontale: competiția între nivele poate cauza incoerență

– arhitecturi orizontale: necesit exist unui mediator între niv =>nivel de complex foarte ridicat
– arhitecturi verticale: puțin flexibile și netoler la defecte (o decizie este neces tuturor nivelelor)
– lipsa unei proiectări generale pentru ghidarea metodologiilor
– gradul de specif, în general acestea fiind depend de aplicația pentru care au fost proiectate
– integrarea cu teoriile formale
 Curs 5 - AI - Modelare Bazata pe Agenti

Caracteristici ale sistemelor complexe:

– Schimbari in timp – Cauzele si efectele nu sunt neaparat

– Feedback pozitiv sau negativ cu sau fara contectate spatial, temporal sau tipologic
intarzieri – Adaptare + Evolutie
– Comportamente si interactiuni neliniare – Aleatoare
– Efectul butterfly – Simplificarea nu este o solutie!
Cand se alege un model/metoda de modelare, se tine cont de: Reprezentare liniara vs. neliniara
– Sisteme cuplate vs. decuplate – Feedback pozitiv vs. negativ etc

Agent based modeling (ABM): tip de model computational

Agent = entitate persistenta caracteriz de o

stare reprezentabila, care interact cu mediul
sau cu alti agenti, provocand schimbari in
mediu sau in starile celorlalti agenti.

– Intrari: de la alti agenti, din mediu

– Iesiri (actiuni): catre alti agenti, catre mediu
– Feedback loops: de la sine, catre sine
– In interior: Starile pot fi guvernate de reguli,
regulile pot fi modificate de catre starile
trecute (agenti care invata)

Un model bazat pe ag = colectie de agenti si

starile acestora, regulile care guverneaza
interactiunile dintre ei si mediul din care fac
parte.

Reguli – creeaza modelele interne ale agentilor; prin ele se iau decizii, tranzitia de la intrari si stari la
actiuni si comportamente. Baze de reguli: structuri incapsulate de tip if-then-else, Sist de decizie
multi-criteriale – Motoare de inferenta – Machine learning – Calcul evolutionist

Actiuni si comportamente: determinate de alti agenti, mediu, starile interne, reguli –> Agentii
efectueaza actiuni (uneori) ->Actiunile afecteaza: alti agenti/starea proprie/regulile proprii/mediul.
Comportament: totalitatea actiunilor observabile. Mediu: Universul in care traieste entitatea agent.
Pune la dispozitie info, are structura, tot ce nu e agent, dar e relevant, poate afecta agentii si vice-
versa. Timp: Discret, Ticks: esantionul uzual de timp in ABM. Intre doua tick-uri: executie paralela a
agentilor, simularea lumii reale

ABM: ag ca entitati decizionale autonome, mediu interactiv, interdependente ag-ag si ag-mediu, reguli
ce guverneaza secventierea actiunilor si fluxurile de informatii. ABM pentru sisteme complexe:
Ireductibilitate analitica, Traiectorii interdependente, Ierarhii incapsulate si interconectare verticala,
Emergenta. Starile de echilibru in ABM sunt rezultatul actiunilor comportamentelor locale ale
entitatilor participante. Un ABM “evolueaza”.
Conceptul generativ: abordare bottom-up, varianta holistica, set de reguli minimale ce genereaza
comportamente si lumi complexe, descrie fenomene utilizand retele interconectate de entitati (relativ)
simple ce sunt guvernate de seturi de reguli (de obicei) determinstice si finite, interactiunile dintre
entitati genereaza comportamente complexe

Experimentul generativ: modele de tip “growth”, care evolueaza: o populatie de agenti

heteorgeniintr-un mediu relevant, se permite interactiunea dintre agenti pe baza unor reguli locale
simple, se observa o organizare macroscopica de tip bottom-up

modele de tip “what if”, care predicteaza: o populatie de agenti bine definiti,
(quasi-)complet cunoscuti si intelesi, se genereaza o serie de conditii (initiale, de mediu, de
interactiune etc.), se observa care sunt comportamentele de care sunt capabili agentii in conditiile date

Caracteristici:

 Emergenta  Interdependenta  Diversitate si

 Dependenta de traiectoriilor similaritate
observator  Adaptivitate  Robustete si
 Incapsulare  Haos si instabilitate rezilienta
sistemica  Evolutie
 Retele
 Curs 6 - IA - Emergenta si Adaptivitate

Emergenta = intersectia dintre holism si reductionism, generarea de comportamente complexe din

comportamente simple care interactioneaza. Presupune proprietati diferite calitativ ale intregului (vs.
elemente componente). Un fenomen emergent nu poate fi descris numai prin entitati si relatiile dintre
ele, emergenta este un proces.

Proprietati emergente ale sistemelor:

 Nu pot fi reduse la caracteristicile partilor componente

 Consecinte ne-evidente ale interactiunii dintre proprietatile de nivel jos
 Pot fi dezirabile sau nu
 Emergenta se pierde la descompunere
 Elementele pierd proprietatea de emergenta cand sunt izolate de sistem
 Depend de observ – prin emergenta se formeaza pattern-uri, vizibile de la un nivel superior

Observatorul e inseparabil de sistem –> caracteristicile, proprietatile si cunostintele observatorului

(World View - WV) afecteaza modul in care este perceput sistemul. WV: orientarea cognitiva
fundamentala a unui individ sau al unei societati. Elaborarea ABM depinde de observator, includerea
ABM intr-un framework depinde de WV

Observator vs. emergenta: emergenta = un nivel in sistem = pattern; formare de pattern-uri:

identificarea de catre observator a unei anume organizari a elem componente; observatorul alege
nivelul de observatie, perspectiva, recunoaste pattern-ul, descopera pattern-uri acolo unde nu exista

Incapsulare verticala – organizare ierarhica a sistemelor complexe, limitari ale interactiunilor intre
nivele produse de limitarea comportamentelor pe un nivel de catre cele superioare –> nivelele
superioare le constrang pe cele inferioare, cauzalitate descendenta. Elementele de nivel jos pot
produce toate comportamentele posibile ale sistemului ( nivele de abstractizare)

Incapsulare orizontala – dependenta de observator, frontierele sistemelor sunt definite de observator.

Sisteme deschise

Adaptivitate =proces dinamic, se intampla in timp. La nivel de sistem: invatarea din mediu (mediul =
contextul care determina adaptarea, scari de timp diferite fata de cel al agentilor) Ex. Adaptarea culorii
la specii in functie de mediu. Evolutia = tip de adaptare

 MAS: nivel de sistem ca intreg: generatii, scari de timp relativ mari

 Agent: cicluri de viata, scari de timp rel mici (prin modif regulilor, a starilor sau a actiunilor)
 ABM: adaptivitate limitata

Interdependenta traiectoriilor – Neolonomie (nonholonomy): propr a sist a caror stare depinde de

traiectoria lor pana in prez. Evolutia (i.e. traiectoria) conteaza. Traiectorii: definite in spatiul starilor.

Intersistemic:

 traiectoria unui sistem modifica starile altor sisteme, chiar si cand acestea din urma prezinta
comportamente ciclice (ex. traiectoriile fizice ale pamantului si a lunii),
  in sisteme sociale: alinierea la perspective de grup care fac devierea de la starea curenta greu
de realizat (ex. tendintele sociale cunoscute drept “mainstream” si gandirea de grup),
 in sisteme socio-tehnice: infrastructurile existente (ex. dependenta de combustibili fosili),
 temporala: dependenta starilor curente si viitoare de starile trecute ale agentilor → memoria
(cand agentii au memorie: – starile trecute ale agentului influenteaza deciziile lui curente:
invatare)
 temporala: starile trecute ale agentilor afecteaza proprietatile emergente ale sistemului multi-
agent ca intreg (cand agentii nu au memorie: sistemul are memorie prin emergenta, memoria
sistemului intreg se obtine din structura acestuia prin starile combinate ale agentilor si
interactiuni - ex. Modelul ecosistemului prada-pradator)

Spatiul starilor in ABM: contine toate starile posibile ale sistemului, dependenta puternica de starile
initiale, reprezentare multidimensionala: fiecare stare ca un punct in spatiul generat, evolutia acestor
puncte creeaza traiectorii care faciliteaza analiza comportamentelor inregistrate in sistem

Robustete si rezilienta

 Elasticitate in revenirea la o stare stabila sau dezirabila dintr-o stare nedorita

 Viteza in recuperarea la defectiuni / avarii / evenimente
 In sisteme socio-tehnice: structuri organizationale
 Perspectiva ecologica: stabilitate si echilibru in sistem ca intreg
 Perspectiva psihologica: dependenta doar de starea interna a agentului si a modului de
interactiune cu mediul

Robustete in sisteme complexe

 greu de masurat si de estimat  atentie – interactiuni si supervizare

 mecanisme care asigura robustete  improvizare
 incredere – ne asteptam ca regulatorul  redundanta
sa functioneze corect
 Curs 7 - AI - Haos si retele

Haos – comportament complex intr-un sistem neliniar determinist dinamic, ce prezinta doua
proprietati: sensibilitate mare la conditiile initiale, structuri caracteristice. Comportament
determinist: exista si cauze, si efecte –> cunoscand complet conditiile, s-ar putea prezice evolutia
sistemului (in realitate, nu).

Determinism:Non-aleator/non-stocastic, un sistem determinist poate fi haotic

Non-determinism:Aleator/stocastic, sistemele nu pot produce iesiri aleatoare, pur (se suspecteaza):

dezintegrarea radioactiva. De obicei, ce se percepe a fi aleator sunt doar sisteme haotice. Semnale
non-deterministe pure: nu au cauza, nu contin info, cauzeaza mutatii in sistmele evolutive naturale

Generatoarele pseudo-aleatoare in ABM: afecteaza interdependenta traiectoriilor, afecteaza

interactiunile dintre agenti, ordinea de interactiune a agentilor afecteaza starile urmatoare. Pentru a
observa un comportament emergent in model, sunt necesare mai multe rulari, in care ordinea de
interactiune a agentilor difera.

Diversitate si auto-similaritate (sistemele complexe prezinta diversitate in subsistemele componente).

Diversitate a indivizilor, starilor, comportamentelor.Auto-similaritate: repetare de pattern-uri, reguli
de comportament simple si repetitive, apare in nivelele de emergenta (fractali)

Retele (ex. Internet, bloguri politice, retea de transport) -> domenii

 Sociologie (social network analysis)  Sisteme complexe (retele complexe)

 Matematica (teoria grafurilor)  Economie (retele)
 Calculatoare (grafuri)  Bioinformatica si biologie (retele)

Terminologie:

 Varf (vertex), nod, actor: unitatea fundamentala a retelei

 Latura (edge), legatura, relatie: conexiunea dintre doua varfuri
 Orientare: o latura are orientare daca aceasta realizeaza transfer (de energie, informatie,
materie etc.) numai intr-o singura directie
 Grad: numarul de laturi conectate la un varf
 Componenta, cluster, comunitate: o multime de varfuri conectate prin drumuri care circula
numai in interiorul multimii
 Drum: un lant de varfuri prin care se trece pentru a ajunge de la un varf la altul (teoria

 retelelor,retea = graf)

Topologii elementare
Retele complexe

 Neregulate, dar nu  Scale free  Omniprezenta

aleatoare!  Universalitate in  Sisteme complexe
 Topologie netriviala proprietati

Proprietati caracteristice ale retelelor complexe

 Distributie exponentiala inversa (de tip power law) intre noduri si gradul lor
 Diametru mic si o medie mica a drumurilor: teoria lumii mici (small world)
 Coeficient mare de conectivitate: tranzitivitate

Small World – S. Milgram 1967 “The small-world problem” - experimentul social cu scrisorile -un
numar mic de pasi = o “lume” mai mica. Model de distributie a informatiei; la baza diversilor
algoritmi pentru diseminarea de informatie intr-o retea (de ex. rumor/gossiping algorithms). Concept
util pentru modelarea dinamicilor din interiorul retelei

Clustering – daca un nod este conectat cu doua alte noduri, care este probabilitatea ca cele doua
noduri sa fie la randul lor conectate? Se formeaza tringhiuri (clustere elementare). Gradul de
conectivitate al retelei. Arata formarea comunitatilor ?

Rezilienta in retele – Retelele prezinta rezilienta la eliminarea de noduri. Concept util in: reducerea
dimensionala a retelelor, analiza robustetii, tolerantei la defecte. Eliminarea unui nod poate duce la
cresterea drumului dintre noduri, eventual la pierderea unor conexiuni (pierdere de informatie etc.).
 Curs 8 - IA - Viata Artificiala

Viata = entitate stiintifica, incercari de modelare

Viata artificiala = evolutii notabile in domeniul inteligentei artificiale: de la algoritmi genetici

(sisteme inteligente) si pana la automate celulare

Masina Turing(Alonzo Church + Alan Turing): “orice procedură algoritmică poate fi executată de
către o maşină Turing” – i.e. o maşină poate să memoreze şi să recreeze sistemele neliniare întâlnite în
natură = inceputurile modelarii & simularii

John von Neumann + Stanislaw Ulam – “un calculator se poate utiliza la completarea proceselor
experimentale”

 constructia modelului unui proces

 rularea experimentului
 compararea rezultarelor cu ipotezele
 formarea unei noi ipoteze
 reluare procedura

De la top-down la bottom up:

 Comportament global vs.  Reguli simple

comportament individual  Modele complexe
 Control local

Viata artificiala este pentru biologie ceea ce inteligenta artificiala pt psihologie.

Automate Celulare = un algoritm numeric definit pe o retea ce contine un numar finit de celule ce
pot avea un numar finit de stari, determinate in functie de o lege locala aleasa si de starea celulelor
din vecinatate, o retea regulata de automate finite simple identice

Automatele celulare sunt sist cu structura spatiala discreta (celule), si evolutie discreta (automat)

Caracteristici :

 paralelism masiv (numar mare de  simplitatea celulelor (automate finite

celule) cu numar mic de stari)
 localitatea conexiunilor intre celule

Vecinatatea unei celule: multimea celulelor (de obicei apropiate fizic de aceasta) a caror stare
influenteaza direct tranzitia acesteia.
Fct de tranzitie a automatului se numeste lege de tranzitie si fct de tranzitie comuna tuturor celulelor
se numeste legea automatului celular. Haos: schimbari mici in conditiile initiale produc diferente
mari la rezultate. Trasaturi de nivel superior: emergenta, atractori, comportamente complexe.

Tipuri de AC, dupa dinamica automatelor celulare:

• clasa I : automatele converg repede catre un punct fix

• clasa II : atractori simpli. converg catre oscilatori sau pattern-uri stabile
• clasa III : atractori haotici, converg catre pattern-uri aleatoare
• clasa IV : tranzitii de lungime arbitrara, in care pattern-ul initial evolueaza catre
structuri complexe care interactioneaza si se modifica in timp, supravietuind pe
parcursul a mai multor cicluri

Game of life = Jocul Vieţiia fost propus de Conway in 1970

• Orice celulă vie cu mai puţin de doi vecini vii moare, cauză a subpopulării
• Orice celulă vie cu doi sau trei vecini vii supravieţuieşte până la următoarea generaţie
• Orice celulă vie cu exact trei vecini vii moare, datorită suprapopulării
• Orice celulă moartă cu exact trei vecini vii devine o celulă vie, ca urmare a
reproducerii

Curs 9 - IA – Evolutie

Evolutia – Nu are un scop final

– Are rol de optimizare numai la nivel local, nu si global • Supravietuieste elementul cel mai
potrivit la conditiile de mediu curente

– Interdependenta puternica a traiectoriilor

Co-evolutia – Interactiuni dintre doua sau mai multe sisteme interdependente care influenteaza
reciproc dezvoltarea acestora

-Proces evolutiv dintre doua sau mai multe subsisteme

– Determinat de reciprocitatea selectiei sau adaptarii subsistemelor

Dimensiunea dinamica a co-evolutiei

– Scari de timp

– Ierarhii incapsulate – Incertitudini

 – Interactiuni multi-dimensionale

– Proprietati emergente

Reprezentarea co-evolutiei – Supravietuiesc (i.e. trec sau transmit informatie “genetica” in si catre
urmatoarea generatie) sistemele care demonstreaza un grad ridicat de adaptabilitate si de potrivire
la mediu

– Fitness: grad de adaptabilitate si potrivire al unui individ (sistem, subsistem, element, agent etc.) la
mediu – Reprezentare: spatii de fitness cuplat

Intractability sau complexitatea computationala a evolutiei – Indiferent de cata putere de calcul ne

pune universul la dispozitie, rezultatul evolutiei nu poate fi prezis

• Nu se pot reprezenta/analiza toate starile posibile ale sistemului determinate de fiecare decizie ce
ar putea fi luata vreodata in acest sistem.

Calcul evolutionist in ABM – Principiu fundamental: dezvoltarea de sisteme de calcul inteligent

pornind de la implementarea unor reguli simple din a caror interactiune va deriva comportamentul
complex dorit

– Specific: preluarea principiilor de rezolvare a problemelor din sistemele naturale

– Ofera mecanisme de cautare in spatiul solutiilor bazate pe principiile evolutiei naturale

– Utilizeaza o populatie de agenti de rezolvare a problemei, care este supusa unui proces de evolutie
caracterizat prin selectie, mutatie si incrucisare.

Algoritmi evolutionisti

– obiectiv – Evolutia este controlata prin intermediul unei functii de fitness:

• masoara gradul de adecvare (fitness) a fiecarui individ la mediul din care face parte

• un individ este cu atat mai adecvat cu cat se apropie de comportamentul dorit (ex de solutia unei
probleme date)

– etape – stabilirea modului de codificare a indivizilor/agentilor

– stabilirea modului de evaluare a indivizilor/agentilor

– alegerea operatorilor de evolutie

-Calcul evolutionist – aplicatii

– optimizare neliniara multidimensionala

– probleme de optimizare combinatoriala cu aplicatii in tehnica

– probleme de cautare in volum mare de informatii

– probleme de predictie
– probleme de planificare a activitatilor

– programare automata

– prelucrarea imaginilor

– proiectarea retelelor neuronale

– modelarea unor sisteme sau procese din biologie si ecologie

– modelarea unor sisteme sociale si extrapolarea rezultatelor la sisteme multiagent

Programare genetica – obiectiv: gasirea unui program care sa rezolve o problema prin cautarea in
spatiul tuturor programelor posibile

– crestere a complexitatii in sensul structurii obiectelor reprezentate

– furnizeaza o metoda unificata de gasire a unui program pentru rezolvarea unei probleme

– un program poate fi: o formula, un plan, o procedura de calcul, o strategie de conducere, un model,
o functie de transfer, o expresie matematica

– intrari: valori senzoriale (variabile de stare, semnale de intrare, argumente de functii sau chiar
semnale ce trebuie procesate)

– iesiri: variabile dependente (o comanda, o decizie sau actiune, o traiectorie sau valoarea returnata
de o functie)

– Pasi: • Preparatori • Executionali

pasi preparatori – specifici domeniului si problemei

– necesita sa se specifice: • setul variabilelor independente ale problemei, functii

fara argumente, constante

• setul primitivelor (functii de baza)

• functia fitness

• parametri de executie

• criteriu de oprire

pasi executionali • Pas 0: generarea unei populatii initiale cu compozitie aleatoare– rularea iterativa
a subpasilor urmatori pana la satisfacerea criteriului de terminare

• Pas 1: crearea unei noi populatii de programe prin aplicarea pe baza fitness-ului a doua operatii
primare: – copierea in noua populatie a programelor existente

– crearea de noi programe prin recombinarea genetica a unor parti alese aleator din doua programe
existente
 • Pas 2: executarea fiecarui program din populatie si alocarea unei valori de fitness in
functie de cat de bine rezolva problema

• Pas 3: selectia celor mai buni indivizi din populatie

Curs 10 - IA – Algoritmi genetici

Problema de optimizare – decizia – o hotarare luata in urma examinarii unei probleme – este ea
optima?

– optimizare – ajustarea unei aplicatii in vederea obtinerii unor

performante mai bune

– problema de optimizare: dandu-se o serie de variabile de intrare, se

doreste gasirea acelei solutii care sa satisfaca obiectivul propus in mod optim, in conditiile impuse

Un algoritm de optimizare reprezinta o metoda numerica sau un algoritm pentru gasirea unei valori
x astfel incat pentru o functie data f – valoarea f(x) este cat de mica (sau mare) posibil, in prezenta
unor constrageri asupra lui x. (Obs. x poate fi scalar sau vector, cu valori continue sau discrete)

Scop: rezolvarea de probleme

Tehnici: • conventionale (de ex.: programare liniara)

• inteligente: cand problemele nu pot fi descrise prin modele complet formale, sau se cunosc
doar raspunsuri pentru cazuri particulare ale problemei

Tehnici inteligente de optimizare:

– calculul neuronal • rezolvarea problemelor de asociere

• bazat pe extragerea prin invatare a unui model pronind de la exemple

• sursa de inspiratie: functionarea creierului

– calculul evolutionist • rezolvarea problemelor bazate pe cautarea solutiei intr-un spatiu mare de
solutii potentiale

• sursa de inspiratie: principiile evolutionismului darwinist.

– calculul lingvistic • pentru probleme (sau obiecte de interes) ce nu poate fi descrise decat cu
anumite grade de incertitudine

• bazat pe inlocuirea valorilor parametrilor cu variabile lingvistice

• sursa de inspiratie: modul de rationare uman

Calcul evolutionist
– Principiu fundamental: dezvoltarea de sisteme de calcul inteligent pornind de la implementarea
unor reguli simple din a caror interactiune va deriva comportamentul complex dorit

– Specific: preluarea principiilor de rezolvare a problemelor din sistemele naturale

– Ofera mecanisme de cautare in spatiul solutiilor bazate pe principiile evolutiei naturale

– Utilizeaza o populatie de agenti de rezolvare a problemei, care este supusa unui proces de evolutie
caracterizat prin selectie, mutatie si incrucisare.

Mecanism – Dată fiind o populaţie formată din indivizi (cromozomi) care constituie posibile soluţii ale
problemei, aceştia sunt puşi în competiţie pentru supravieţuire. După evaluarea fiecărui individ, celor
puternici li se dă o şansă mai mare de a participa la procesul de reproducere decât cei mai putin
puternici, care pot chiar să nu contribuie deloc (selecţie a celor mai buni părinţi şi de eliminare a
celor slabi). Mecanismele prin care iau naştere copii se numesc recombinare (crossover) şi mutaţie.
La pasul următor, aceşti copii rivalizează între ei şi posibil şi cu părinţii lor.

Procedura:Start

Initializare P(t); {creeaza o populatie aleatoare P(t)}

Evaluare P(t); {evalueaza functia obiectiv pentru fiecare membru al populatiei}

Selectare o subpopulatie P'(t) din P(t);

Recombinare P'(t); {recombina genele parintilor selectati}

Evaluare P'(t); {evalueaza noua populatie si selecteaza pe cea mai buna}

Stop

Conditii de oprire – un numar fixat de generatii

– epuizarea resurselor disponibile de calcul, de exmplu timpul de rulare

– gasirea individului care satisface criteriul minim – pe parcursul ultimelor iteratii succesive nu s-au
inregistrat progrese semnicative in ceea ce priveste fitness-ul celui mai bun individ – verificare
manuala a calitatii populatiei

– combinatii ale conditiilor anterioare

Operatori – Selectia (survival of the fittest) • Scopul selectiei este de a asigura mai multe sanse de
reproducere celor mai performanti indivizi dintr-o populatie data.

– Operatorul de recombinare genetica

– Operatorul de mutatie • Prin mutatie se introduc in populatie indivizi care nu ar fi putut fi

obtinuti prin alte mecanisme

Selectia – Operator ce decide care dintre indivizii unei populaţii vor putea participa la formarea
populaţiei următoare.
 – Se urmăreşte maximizarea performanţei indivizilor.

– Cei mai "capabili" indivizi vor selectati pentru a trece in generatia urmatoare.

Tipuri de selectie dupa fitness: – selectia stabilizatoare, numita si normalizatoare - are ca scop
eliminarea indivizilor cu valori extreme ale fitness-ului;

– selectia directionala - urmareste cresterea sau descresterea mediei

fitness-ului intregii populatii;

– selectia separativa - are ca efect eliminarea indivizilor cu valori

medii ale tness-ului.

Tipuri de selectie dupa toleranta: – cu “toleranta zero” • numai indivizilor identici cu cel mai bun din
generatia curenta li se permite sa supravietuiasca

– cu “toleranta infinita” • toti indivizii supravietuiesc, indiferent de fitness

Selectia proportionala (roata de ruleta) – indivizii sunt alesi pentru reproducere proportional cu
fitness-ul acestora. Cromozomii cu un fitness foarte bun vor avea sanse mai mari de a-si propaga
caracteristicile in viitoarele populatii

Selectia Boltzman- metoda folosita pentru minimizarea sau maximizarea unei functii. Simuleaza
procesul de racire lenta a unui metal topit pentru a atinge minimul intr-o problema de minimizat

Selectia turneu – una dintre cele mai populare si mai eficiente scheme de selectie

– alegerea aleatoare a k indivizi, care vor concura intr-un “turneu”. Cea mai buna solutie actuala va
castiga toate intrecerile. Cel mai slab individ va pierde in fata tuturor celorlalti indivizi

Selectia bazata pe ordonare – similara selectiei proportionale

– aplicabila atunci cand valorile functiei de fitness au ordine de marime

foarte diferite

– lista sortata descrescator dupa fitness a indivizilor. Probabilitatea unui

individ de a fi selectat este proportionala cu locul ocupat in lista

Incrucisare (recombinare) – Operator aplicat asupra indivizilor din populatia intermediara (numita
multime de încrucişare) • sunt aleşi aleator doi indivizi din populaţia intermediară si anumite porţiuni
din cei doi indivizi sunt interschimbate

– Operatorul imită încrucişarea intercromozomială naturală. De regulă, se

utilizează operatori de încrucişare de tipul (2, 2) • doi părinţi dau nastere la doi descendenţi.
Incrucişarea realizează un schimb de informaţie între cei doi părinţi

– Descendenţii obţinuţi prin încrucişare vor avea caracteristici ale ambilor

părinţi.
• Incrucisarea intr-un singur punct – doi cromozomi sunt alesi din populatia intermediara. Se impart
in subcromozomi: stang si drept. Taierea se aplica intr-o pozitie aleatoare, netinandu-se cont de
impartirea cromozomului in gene sau de semnicatia acestora . Fiecare dintre copii primeste
subcromozomul stang al unuia dintre parinti si pe cel drept al celuilalt

Parinte1 110 - 01101 – Parinte2 011 - 10011 – Copil1 110 - 10011 – Copil2 011 - 01101

Incrucisarea in doua puncte – se aleg doua puncte de taiere aleatoare

– Parinte1: 11 - 001101 - 0110 – Parinte2: 01 - 11001 - 1000 – Copil1: 11

- 11001 - 0110 – Copil2: 01 - 001101 – 1000

Incrucisarea uniforma – Bitii sunt interschimbati aleator intre cei doi parinti, corespunzator unei
probabilitati uniforme. Pentru implementare se poate construi o masca, cu semnificatia, de exemplu,
a bitilor 1 de interschimbare, de exemplu:

Parinte1 01101000 – Parinte2 10010111 – Masca 01011101 – Copil1 00110101 – Copil2

11001010

Incrucisarea aritmetica – intre bitii celor doi parinti se efectueaza o operatie aritmetica (sau logica)

Parinte1 11111010 – Parinte2 10010110 – Copil 10010010

Incrucisarea cut and splice (taie si lipeste) – se alege cate un punct aleator de taiere, diferit pentru
fiecare parinte – descendentii primesc subcromozomul stang si drept de la parinti diferiti.

– poate folosita doar in cadrul codificarilor de lungime variabila

Parinte 1 110011010 - 110 – Parinte 2 0111 - 0011000 – Copil 1 110011010 - 0011000 – Copil
2 0111 – 110

Mutatia – Introduce în populaţie indivizi care nu ar fi putut fi obtinuţi prin alte mecanisme

– Acţionează asupra biţilor indiferent de poziţia lor în cromozom

– Orice bit al cromozomului poate suferi o mutaţie

– Într-un cromozom pot exista mai multe poziţii care suferă o mutaţie

– Rol: mentinerea diversitatii genetice a populatiei

- Mod de operare simplu: alterarea uneia sau mai multor gene dintr-un cromozom –
Fiecare pozitie (gena) poate suferi o mutatie devenind 0 din 1, sau invers

– Rata mutatiei: probabilitate de aplicare a operatorului • Prea mica: nu intretine diversitatea

• Prea mare: impiedica sau ingreuneaza convergenta catre solutia optima
 Curs 11 - AI - Sisteme Fuzzy
Metodă matematică de reprezentare

 Incertitudini
 Informaţii vagi
 Date neclare şi imprecise
 Prezente in viaţa de zi cu zi
 Dificil de modelat prin tehnici convenţionale

Aplicaţii:

 aproximarea deciziilor pe baza experienţei operatorilor

 conducerea euristică de mare complexitate

O mulţime fuzzy exprimă gradul în care un element aparţine unei anumite colecţii de obiecte

Definitie. Fie X o colecţie de obiecte x. O mulţime fuzzy A peste mulţimea X se defineşte printr-un set
de perechi ordonate de forma:

A = {(x,μA (x)) / x∈X},

– unde μA (x) se numeşte funcţie de apartenenţă a mulţimii fuzzy A

– iar mulţimea X se numeşte univers de discurs şi ea poate fi discretă sau continuă

Funcţii de apartenenţă = ataşează un grad de apartenenţa oricărui element la o mulţime;

Reprezentată numeric (cvasi-continuu : o funcţie matematică, discret: un vector). O mulţime fuzzy
este descrisă de gradul de apartenenţă a tuturor elementelor universului de interes.

Crisp vs fuzzy
 Incluziunea fuzzy μA (x) ≤ μB (x), ∀x∈X
adica: A ⊆ B⇔μA (x) ≤ μB (x)

Intersectia fuzzy μA∩B(x) =min{μA (x), μB

(x)} (SI/AND)

Reuniunea fuzzy μA∪B (x) =max{μA (x), μB

(x)} (SAU/OR)

In logica fuzzy, o propoziţie poate fi ori adevarată, ori falsă, ori poate avea o valoare intermediară, ca
de exemplu “poate adevarată”. Valorile de adevăr ale unei propoziţii in logica fuzzy pot fi exprimate
cu ajutorul unui tabel de adevăr.

Raţionamentul fuzzy este o procedură de inferenţă care furnizează concluzii pe baza unui set de
reguli fuzzy "dacă - atunci" ("if - then") şi a unui set de fapte cunoscute

"daca x este A si y este B atunci z este C" => Relatia fuzzy R: μR(x,y) =min{μA (x), μB (y)} sau
μR(x,y) = μA (x) μB (y) (SI/AND)

Rezultatul combina 2 multimi fuzzy printr-un operatie de tip produs cartezian: R: X x Y → [0, 1] unde
X si Y= universurile de discurs ale variabilelor lingvistice x si y

Premise: Intr-o regula fuzzy, premisele sunt propoz fuzzy cuprinse intre "daca" si "atunci". Acestea sn
si antecedente. Utilizare in inferenta (reasoning) prin combinare (utilizand relatii fuzzy intre acestea).

Concluzii: Intr-o regula fuzzy, concluziile sunt propozitiile fuzzy care urmeaza dupa "atunci". Acestea
se mai numesc si consecinte. Utilizare in inferenta (reasoning) prin agregarea regulilor.

Baze de reguli: Regulile fuzzy sunt incluse in tabele (baze de reguli) care descriu funct sistemului.

Baza de reguli in formulare comprimata:

• μR(x,y) =maxr {min{μPr(x1 , x2 ,…,xn ), μBr (y)}}

• μPr(x) este premisa regulii r
• μBr (y) este concluzia regulii r
• i.e. IF x1 is A1 AND x2 is A2 … AND xn is An THEN y is Br
 • min{μPr(x1 , x2 ,…,xn ) ↔ x1 is A1 AND x2 is A2 … AND xn is An
• maxr {min{μPr(x1 , x2 ,…,xn ), μBr (y)}} – r = 1 ↔ regula 1 in care concluzia e “y is
B1 ” – r = 2 ↔ regula 2 in care concluzia e “y is B2 ” – Se realizeaza operatia OR
intre ele ↔ maxr {min{μPr(x1 , x2 ,…,xn ), μBr (y)}}

• Compozitia fuzzy: T = R ◦ S

 R: X x Y → [0,1]  S: Y x Z → [0,1]
 T: X x Z → [0,1]  μT (x,z) =max y∈Y {min{μR(x,y), μS
(y,z)}}

Rezultatul compozitiei fuzzy reprezinta rezultatul mecanismului de inferenta. Prin compozitie se

realizeaza rationarea

Rationarea fuzzy se realizeaza prin compozitia dintre o baza de reguli si un fapt: B’ = A’ ◦ R

Fie o baza de reguli R: X x Y → [0,1] Atunci rationarea este reprez de: B’ = A’ ◦ R :

Y → [0,1]
Si un fapt descris printr-o multime fuzzy A’: X
→ [0,1] Si rezultatul acesteia este: μB’(y) =maxx∈X
{min{μA’(x), μR(x,y)}
Cu functia de apartenenta μA’(x)

Fuzzificarea reprezinta operatia de transf a var numerice (ferme, crisp) in var lingvistice (vagi, fuzzy).

Fuzzificarea var viteza in punctul x0 = 70km/h,

se considera cele doua functii de apartenenta
μA si μB , care codifica instantele lingvistice
„low” si „medium”. In punctul x0 , valorile
functiilor de apartenenta sunt μA (x0) = 0.75 si
μB (x0) = 0.25, ceea ce inseamna o apartenenta
a vitezei de 70km/h de 75% la valoarea
lingvistica „low”, si 25% la valoarea
lingvistica „medium”.

Mecanismul de inferenta Mamdani

Principala componenta a sistemelor fuzzy o reprezinta mecanismul de inferenta (engl. inference

machine), care combina faptele obtinute prin procesul de fuzzificare cu baza de reguli si realizeaza
rationamentul.

O modalitate de a realiza mecanismul Mamdani se numeste MAX/MIN si utilizeaza operatorii SI (pt

MIN - pt combinatia regulilor) si SAU (pt MAX - pt agregarea concluziilor). Rezultatul unui astfel de
rationament poate fi scris: μR(x,u) =maxr {min{μPr(x), μBr (u)} – unde μR(x,u) este rezultatul
inferentei, μP (x) sunt premisele si μB (u) sunt concluziile.
Defuzificarea reprezinta operatia de transformare a variabilelor lingvistice (vagi) in variabile
numerice (ferme).

Cele mai utilizate metode de defuzificare:

 centroid
 bisector
 largest of maximum (LOM)
 mean of maximum (MOM)
 smallest of maximum (SOM)

Mecanismul de inferenta Takagi-Sugeno

compozitia regulilor se obtine cu ajutorul unei functii, in loc de defuzzificare => nu contin
defuzificator. Structura premiselor este aceeasi ca in Mamdani.

O regula fuzzy Takagi-Sugeno are forma: "daca x este A si y este B atunci z =f(x,y)"

In acest caz nu este necesara definirea de termeni lingvistici pentru iesirea sistemului, iar functia f()
este, de cele mai multe ori, o functie neliniara. In cazul special al sistemelor liniare, functia f() este o
combinatie liniara a intrarilor sistemului fuzzy.
 Curs 12 - IA – Retele Neurale

Metodă de rezolvare pentru – probleme de asociere, extragere de modele pe baza de exemple

Sisteme inductive

Procesare paralela distribuita

Bazate pe invatare

Aplicaţii: – recunoastere de forme si imagini, clasificatori, conducere euristică – etc

O retea nerurala artificiala este un ansamblu de elemente (neuroni) relativ simple interconectate

McCullouch-Pitts – Intrarile binare (0, 1) Ii sunt ponderate de Wji (puterea legaturii sinaptice) si apoi
insumate pentru a genera nivelul de activare Aj (se mai noteaza netj ) Nivelul Aj este transformat cu
ajutorul functiei de activare pentru a genera iesirea neuronului Yj

– Wji 0 pentru sinapse inhibitoare – Intrarile Ii pot proveni de la semnale externe sau pot fi iesirile
altor neuroni – θ se numeste prag de activare

Perceptron – O generalizare a neuronului McCullouch-Pitts – Aceleasi elemente cheie: intrari,

ponderi, functie de activare, prag de activare

Prin invatare se realizeaza organizarea neuronilor • Invatare (instruire; training): procesul adaptării
ponderilor, printr-o stimulare din partea unui expert sau a mediului, sau nesupervizat, prin analiza
statistică a vectorilor de intrare (pe parcusul a n epoci)

Tipuri de invatare: – supervizata

– Nesupervizata

Invatarea utilizeaza doua seturi de date:

– Date de antrenare pentru ajustarea ponderilor

– Date de validare (diferite de cele de antrenare) pentru testarea capacitatii de invatare

– De obicei se aleg cele doua seturi in proportii relative la numarul total de seturi de date (de ex.
70% pentru antrenare, 30% pentru validare). O retea care raspunde corect la validare nu este o retea
care a fost supra-antrenata (fenomen ce se produce atunci cand reteaua este prea bine antrenata
pentru setul de date de antrenare)

- Utilizari ale retelelor neurale – Identificare de modele ale unor procese neliniare – Sisteme
clasificator – Controllere si regulatoare pentru roboti – Etc

Tipuri de neuroni si retele MLP

• Neuron cu o singura intrare– p intrare – a iesire – f functie de activare – b bias – w pondere

• Neuron cu mai multe intrari – pi intrari – p vector intrari – a iesire – f functie de activare – b bias –
wi ponderi • W vector ponderi

• Strat de neuroni – O retea cu un strat

O retea multi -strat (MLP) – Stratul al doilea: strat ascuns – Primul strat: strat de intrare – Al threilea
strat: de iesire